Μια εξαιρετικά ασυνήθιστη σύμπλευση βρίσκεται σε εξέλιξη στην κορυφή της παγκόσμιας βιομηχανίας τεχνητής νοημοσύνης. Άνθρωποι που μέχρι χθες ανταγωνίζονταν για το ποιος θα κατασκευάσει το ισχυρότερο μοντέλο AI εμφανίζονται τώρα να συμφωνούν σε κάτι που πριν από λίγο καιρό θα έμοιαζε σχεδόν αδιανόητο: η κούρσα ίσως χρειάζεται να επιβραδυνθεί, ώστε οι μηχανισμοί ασφαλείας να προλάβουν την τεχνολογία. Η συζήτηση δεν προέρχεται αυτή τη φορά από επικριτές της τεχνητής νοημοσύνης, ούτε αποκλειστικά από πολιτικούς που ζητούν αυστηρότερη νομοθεσία. Προέρχεται από την ίδια την καρδιά της βιομηχανίας. Ο Dario Amodei της Anthropic άνοιξε τη συζήτηση με την παρέμβασή του για την ανάγκη να «ρυθμιστεί ο ρυθμός» στο τεχνολογικό μέτωπο και μέσα σε λίγες ώρες βρήκε απροσδόκητους συμμάχους. Ο Sam Altman της OpenAI, ο Elon Musk και ο Demis Hassabis της Google DeepMind εξέφρασαν, με διαφορετικές διατυπώσεις και επιμέρους διαφοροποιήσεις, υποστήριξη στην κεντρική ιδέα ότι η ανάπτυξη των ισχυρότερων συστημάτων AI δεν μπορεί να συνεχίζεται χωρίς αντίστοιχη εξέλιξη των δικλίδων ασφαλείας. Πρόκειται για μια σπάνια δημόσια σύγκλιση ανθρώπων και εταιρειών που βρίσκονται σε σκληρό τεχνολογικό και επιχειρηματικό ανταγωνισμό. Η έννοια που βρίσκεται πλέον στο επίκεντρο της συζήτησης είναι το «pacing». Δεν πρόκειται κατ’ ανάγκη για σταμάτημα της ανάπτυξης της τεχνητής νοημοσύνης ούτε για εγκατάλειψη της έρευνας. Η λογική είναι διαφορετική: η εξέλιξη των λεγόμενων frontier models, των πιο προηγμένων δηλαδή συστημάτων που βρίσκονται στα όρια των σημερινών δυνατοτήτων της AI, να πραγματοποιείται με τέτοιο ρυθμό ώστε οι άνθρωποι που τα δημιουργούν να μπορούν παράλληλα να αξιολογούν τους κινδύνους και να κατασκευάζουν αποτελεσματικούς μηχανισμούς ελέγχου.
Από την κούρσα της ισχύος στην κούρσα της ασφάλειας
Επί χρόνια, ο άγραφος νόμος στη Silicon Valley ήταν απλός: ταχύτερα, ισχυρότερα, μεγαλύτερα μοντέλα και κυρίως πριν από τον ανταγωνιστή. Δισεκατομμύρια δολάρια επενδύθηκαν σε υπολογιστικές υποδομές, data centers και εξειδικευμένα chips, ενώ οι μεγαλύτερες εταιρείες τεχνολογίας επιδόθηκαν σε έναν πρωτοφανή αγώνα για την προσέλκυση κορυφαίων επιστημόνων και μηχανικών. Τώρα, όμως, το ερώτημα αλλάζει. Δεν είναι μόνο ποιος μπορεί να δημιουργήσει το επόμενο ισχυρότερο σύστημα, αλλά εάν οι μηχανισμοί ασφαλείας μπορούν να εξελίσσονται με την ίδια ταχύτητα. Ο Amodei έθεσε το ζήτημα με ιδιαίτερα έντονο τρόπο. Στο κείμενό του υποστηρίζει ότι η ανάπτυξη των πιο προηγμένων συστημάτων πρέπει να επιβραδυνθεί και προτείνει, μεταξύ άλλων, ισχυρότερη ανεξάρτητη αξιολόγηση των μοντέλων και μεγαλύτερο συντονισμό ανάμεσα στις εταιρείες και στις κυβερνήσεις. Η ανησυχία αφορά ιδιαίτερα την εμφάνιση πολύ πιο αυτόνομων AI agents, συστημάτων δηλαδή που δεν περιορίζονται στην απάντηση μιας ερώτησης αλλά μπορούν να εκτελούν ακολουθίες ενεργειών και να χρησιμοποιούν ψηφιακά εργαλεία με μικρότερη ανθρώπινη παρέμβαση. Η παρέμβασή του απέκτησε πολύ μεγαλύτερη σημασία όταν ο Sam Altman δήλωσε ότι συμμερίζεται την ανάγκη να «pace the frontier» και υποστήριξε την ιδέα ανεξάρτητων αξιολογητών με ουσιαστική πρόσβαση στο εσωτερικό των εταιρειών. Ο Elon Musk, παρά τις μακροχρόνιες συγκρούσεις του με άλλους πρωταγωνιστές του χώρου, συμφώνησε επίσης με τον πυρήνα της προειδοποίησης, ενώ ο Demis Hassabis συνέδεσε τη συζήτηση με την ανάγκη κοινών προτύπων ασφαλείας για τα προηγμένα συστήματα.
Γιατί φοβούνται τα AI agents
Ένα από τα ζητήματα που έχουν προκαλέσει τη μεγαλύτερη ανησυχία είναι η αυξανόμενη αυτονομία των συστημάτων AI. Τα μοντέλα παύουν σταδιακά να λειτουργούν μόνο ως εργαλεία που απαντούν στον άνθρωπο και αποκτούν τη δυνατότητα να εκτελούν πολύπλοκες εργασίες, να γράφουν κώδικα, να χειρίζονται προγράμματα και να συνεργάζονται με άλλα συστήματα. Η εξέλιξη αυτή μπορεί να προσφέρει τεράστια οφέλη στην επιστήμη, την ιατρική, την οικονομία και την παραγωγικότητα. Ταυτόχρονα, όμως, δημιουργεί ένα νέο είδος κινδύνου. Ένα πολύ ισχυρό σύστημα που λειτουργεί αυτόνομα και λαμβάνει λανθασμένες ή ανεπιθύμητες αποφάσεις θα μπορούσε θεωρητικά να προκαλέσει ζημιές με ταχύτητα και σε κλίμακα που δεν θα ήταν εύκολο να αντιμετωπιστούν από έναν άνθρωπο. Εδώ βρίσκεται και η ουσία της σημερινής ανησυχίας. Δεν υπάρχει βεβαιότητα ότι τα πλέον ακραία σενάρια θα πραγματοποιηθούν. Υπάρχει όμως αυξανόμενος προβληματισμός για το εάν είναι συνετό να περιμένει κανείς πρώτα να συμβεί ένα σοβαρό περιστατικό και μετά να δημιουργήσει τους κανόνες προστασίας.
Το μεγάλο πρόβλημα: Ποιος θα πατήσει πρώτος το φρένο;
Υπάρχει, ωστόσο, ένα σχεδόν αξεπέραστο πρόβλημα. Ακόμη και εάν οι μεγαλύτερες αμερικανικές εταιρείες συμφωνούσαν ότι πρέπει να επιβραδύνουν, ποιος μπορεί να εγγυηθεί ότι θα κάνουν το ίδιο όλοι οι υπόλοιποι; Η τεχνητή νοημοσύνη έχει πλέον μετατραπεί σε ζήτημα οικονομικής ισχύος και εθνικής ασφάλειας. Η αντιπαράθεση Ηνωμένων Πολιτειών και Κίνας βρίσκεται αναπόφευκτα στο κέντρο αυτής της συζήτησης. Για την Ουάσιγκτον, η διατήρηση του τεχνολογικού προβαδίσματος έναντι του Πεκίνου θεωρείται στρατηγικής σημασίας. Και εδώ γεννιέται ένα από τα μεγαλύτερα παράδοξα της εποχής της AI: μπορεί κάποιος να θεωρεί ότι η τεχνολογία εξελίσσεται επικίνδυνα γρήγορα και ταυτόχρονα να φοβάται ότι, αν επιβραδύνει, ο γεωπολιτικός ανταγωνιστής του θα τον ξεπεράσει. Η κυβέρνηση του Donald Trump έχει ταχθεί απέναντι στις εκκλήσεις για γενικευμένη επιβράδυνση, συνδέοντας το ζήτημα με τον ανταγωνισμό με την Κίνα. Η θέση αυτή εκφράζει ένα ευρύτερο στρατόπεδο στην Ουάσιγκτον που φοβάται ότι αυστηρότεροι περιορισμοί στις αμερικανικές εταιρείες μπορεί τελικά να λειτουργήσουν προς όφελος του Πεκίνου. Και κάπου εδώ το πρόβλημα παύει να είναι αποκλειστικά τεχνολογικό. Γίνεται γεωπολιτικό.
Η Ευρώπη μπαίνει στη συζήτηση
Οι τελευταίες εξελίξεις δείχνουν ότι η συζήτηση ξεπερνά ήδη τα σύνορα των Ηνωμένων Πολιτειών. Η πρόεδρος της Ευρωπαϊκής Επιτροπής Ούρσουλα φον ντερ Λάιεν τάχθηκε υπέρ της προσπάθειας αντιμετώπισης των κινδύνων από τα προηγμένα μοντέλα και ανακοίνωσε την πρόθεσή της να καλέσει κορυφαία εργαστήρια AI σε συνομιλίες. Η Ευρωπαϊκή Ένωση έχει ήδη επιλέξει έναν περισσότερο ρυθμιστικό δρόμο στην αντιμετώπιση της τεχνητής νοημοσύνης και η νέα διεθνής συζήτηση ενδέχεται να ενισχύσει ακόμη περισσότερο τις πιέσεις για κοινά πρότυπα ελέγχου και αξιολόγησης των πιο ισχυρών μοντέλων. Το δύσκολο ερώτημα είναι εάν μπορούν να υπάρξουν πραγματικά διεθνείς κανόνες σε μια τεχνολογία που θεωρείται πλέον τόσο κρίσιμη όσο η ενέργεια, οι ημιαγωγοί ή ακόμη και οι στρατηγικές αμυντικές δυνατότητες.
Ασφάλεια ή προσπάθεια αυτορρύθμισης;
Υπάρχει, βέβαια, και μια δεύτερη ανάγνωση της ξαφνικής σύμπλευσης των μεγάλων εταιρειών. Η δημόσια δέσμευση για περισσότερη ασφάλεια μπορεί να αποτελεί πραγματική ανησυχία για τις δυνατότητες των νέων μοντέλων, αλλά ταυτόχρονα μπορεί να λειτουργήσει ως προσπάθεια της βιομηχανίας να δημιουργήσει η ίδια τους κανόνες πριν το κάνουν οι κυβερνήσεις. Ανεξάρτητοι αναλυτές και επικριτές του κλάδου επισημαίνουν ότι η αυτορρύθμιση δεν είναι από μόνη της εγγύηση αποτελεσματικού ελέγχου. Οι ίδιες εταιρείες που καλούνται να περιορίσουν την ταχύτητα ανάπτυξης έχουν επενδύσει τεράστια κεφάλαια στην προσπάθεια να προηγηθούν του ανταγωνισμού. Έχουν επενδυτές, επιχειρηματικές δεσμεύσεις και ισχυρά οικονομικά κίνητρα για να συνεχίσουν. Αυτό δημιουργεί ένα θεμελιώδες ερώτημα αξιοπιστίας: μπορούν εταιρείες που βρίσκονται σε έναν αγώνα δισεκατομμυρίων να συμφωνήσουν πραγματικά ότι καμία δεν θα πατήσει περισσότερο το γκάζι; Η συμφωνία στις προειδοποιήσεις είναι σχετικά εύκολη. Η συμφωνία στους πραγματικούς περιορισμούς είναι πολύ δυσκολότερη.
Η κοινωνία αρχίζει να κοιτάζει διαφορετικά την AI
Την ίδια ώρα, η τεχνητή νοημοσύνη παύει να αποτελεί ένα ζήτημα που αφορά αποκλειστικά μηχανικούς και εταιρείες τεχνολογίας. Οι επιπτώσεις στην εργασία, η ενεργειακή κατανάλωση των τεράστιων data centers, η χρήση νερού, η παραπληροφόρηση, οι κυβερνοεπιθέσεις και η συγκέντρωση τεράστιας τεχνολογικής ισχύος σε έναν μικρό αριθμό εταιρειών έχουν μεταφέρει τη συζήτηση στην κοινωνία και στην πολιτική. Στις ΗΠΑ η AI έχει ήδη εισέλθει στην πολιτική αντιπαράθεση ενόψει των ενδιάμεσων εκλογών του Νοεμβρίου. Η κατασκευή data centers προκαλεί αντιδράσεις σε ορισμένες τοπικές κοινωνίες, ενώ η πιθανή επίδραση της αυτοματοποίησης στις θέσεις εργασίας προσθέτει ακόμη μία πηγή ανησυχίας. Η εικόνα είναι επομένως πολύ πιο σύνθετη από ένα απλό δίλημμα ανάμεσα στην «καλή» και την «επικίνδυνη» τεχνητή νοημοσύνη. Η AI μπορεί να δημιουργήσει τεράστιες επιστημονικές και οικονομικές δυνατότητες και, την ίδια στιγμή, να δημιουργήσει κινδύνους που μέχρι πριν από λίγα χρόνια υπήρχαν κυρίως στη θεωρητική συζήτηση.
Η πραγματική μάχη μόλις αρχίζει
Το γεγονός ότι οι άνθρωποι που βρίσκονται στην πρώτη γραμμή της ανάπτυξης της τεχνητής νοημοσύνης μιλούν πλέον ανοιχτά για την ανάγκη επιβράδυνσης αποτελεί από μόνο του μια σημαντική αλλαγή. Δεν σημαίνει ότι συμφωνούν σε όλα. Ούτε σημαίνει ότι η κούρσα της AI σταματά. Αντίθετα, πιθανότατα ανοίγει μια ακόμη μεγαλύτερη μάχη. Από τη μία βρίσκονται όσοι υποστηρίζουν ότι πρέπει να δοθεί χρόνος στους μηχανισμούς ασφαλείας πριν τα συστήματα αποκτήσουν δυνατότητες που θα είναι εξαιρετικά δύσκολο να ελεγχθούν. Από την άλλη βρίσκονται όσοι προειδοποιούν ότι οποιαδήποτε ουσιαστική επιβράδυνση μπορεί να στοιχίσει στις Ηνωμένες Πολιτείες την τεχνολογική πρωτοκαθεδρία απέναντι στην Κίνα. Και ανάμεσα στις δύο πλευρές βρίσκονται οι ίδιες οι εταιρείες, αντιμέτωπες με ένα δίλημμα που πριν από μερικά χρόνια έμοιαζε μακρινό: πόσο γρήγορα μπορείς να συνεχίσεις να κατασκευάζεις κάτι όταν δεν είσαι απολύτως βέβαιος ότι μπορείς να προβλέψεις όλες τις δυνατότητές του; Ίσως, τελικά, αυτό να είναι το σημαντικότερο στοιχείο των τελευταίων ημερών. Για πρώτη φορά εδώ και καιρό, η μεγάλη συζήτηση στη Silicon Valley δεν αφορά μόνο το πόσο πιο ισχυρό θα είναι το επόμενο μοντέλο τεχνητής νοημοσύνης. Αφορά το εάν πρέπει να του επιτρέψουμε να γίνει τόσο ισχυρό, τόσο γρήγορα.
