By Mira K
Η συζήτηση γύρω από τους κινδύνους της τεχνητής νοημοσύνης αλλάζει επίπεδο, καθώς επιστήμονες και στελέχη του κλάδου ζητούν πιο αργή ανάπτυξη των ισχυρότερων μοντέλων και αυστηρότερους ανεξάρτητους ελέγχους. Για αρκετό διάστημα, οι προειδοποιήσεις ότι η τεχνητή νοημοσύνη θα μπορούσε κάποια στιγμή να εξελιχθεί σε υπαρξιακή απειλή για την ανθρωπότητα αντιμετωπίζονταν από πολλούς ως ένα ακραίο σενάριο. Το ενδιαφέρον είχε μετατοπιστεί κυρίως στις πολύ πιο άμεσες συνέπειες της AI: στην αγορά εργασίας, στην παραγωγικότητα, στην παραπληροφόρηση, στην προστασία προσωπικών δεδομένων και στις τεράστιες οικονομικές ευκαιρίες που δημιουργεί η νέα τεχνολογία. Τώρα όμως η συζήτηση φαίνεται να αλλάζει.
Οι «doomers» επιστρέφουν
Οι αποκαλούμενοι «doomers», όσοι δηλαδή προειδοποιούν για ενδεχόμενες καταστροφικές συνέπειες από την ανεξέλεγκτη εξέλιξη της τεχνητής νοημοσύνης, επανέρχονται στο προσκήνιο. Το βασικό ερώτημα δεν είναι πλέον μόνο πόσο ισχυρά μπορούν να γίνουν τα μοντέλα AI, αλλά εάν οι άνθρωποι θα εξακολουθήσουν να μπορούν να κατανοούν, να ελέγχουν και κυρίως να περιορίζουν τη συμπεριφορά τους.
Οι ανησυχίες ενισχύονται από πειράματα στα οποία προηγμένα συστήματα εμφανίζουν ολοένα μεγαλύτερη αυτονομία, ενώ η ανάπτυξη πρακτόρων τεχνητής νοημοσύνης – συστημάτων που μπορούν να αναλαμβάνουν και να εκτελούν σύνθετες εργασίες με περιορισμένη ανθρώπινη παρέμβαση – δημιουργεί ένα εντελώς διαφορετικό πεδίο κινδύνων. Το ζήτημα αποκτά ακόμη μεγαλύτερη σημασία καθώς η τεχνολογική βιομηχανία πλησιάζει, σύμφωνα τουλάχιστον με ορισμένους από τους πρωταγωνιστές της, στην εποχή της Τεχνητής Γενικής Νοημοσύνης (AGI): συστημάτων δηλαδή που θα μπορούν να ανταγωνιστούν ή ακόμη και να ξεπεράσουν τον άνθρωπο σε ένα πολύ μεγάλο εύρος πνευματικών εργασιών.
Προειδοποιήσεις ακόμη και μέσα από τις εταιρείες AI
Το αξιοσημείωτο είναι ότι οι προειδοποιήσεις δεν προέρχονται πλέον αποκλειστικά από ανθρώπους που βρίσκονται απέναντι από τη βιομηχανία της AI. Ερευνητές και στελέχη εταιρειών που πρωταγωνιστούν στην τεχνολογική κούρσα έχουν αρχίσει να μιλούν δημόσια για την ανάγκη μεγαλύτερης προσοχής, αυστηρότερων δοκιμών και πιθανής επιβράδυνσης του ρυθμού ανάπτυξης των ισχυρότερων συστημάτων.
Το δίλημμα είναι τεράστιο.
Οι εταιρείες γνωρίζουν ότι μια επιβράδυνση μπορεί να τους κοστίσει το προβάδισμα απέναντι στους ανταγωνιστές τους. Από την άλλη πλευρά, όσο τα μοντέλα γίνονται ισχυρότερα, τόσο δυσκολότερο γίνεται να προβλεφθεί κάθε πιθανή συμπεριφορά τους. Και κάπου εδώ η συζήτηση παύει να είναι αποκλειστικά τεχνολογική και γίνεται πολιτική και κοινωνική. Πόσο πιθανή είναι πραγματικά μια καταστροφή;
Οι εκτιμήσεις των ειδικών παρουσιάζουν μεγάλες αποκλίσεις.
Έρευνες του Forecasting Research Institute επιχείρησαν να ποσοτικοποιήσουν έναν από τους πιο ακραίους κινδύνους: μια καταστροφή που θα συνδεόταν με την τεχνητή νοημοσύνη και θα προκαλούσε τον θάνατο τουλάχιστον του 10% του παγκόσμιου πληθυσμού. Οι διάμεσες εκτιμήσεις ειδικών στην AI τοποθέτησαν μια τέτοια πιθανότητα περίπου στο 0,3% έως το 2030, στο 2% έως το 2050 και στο 5% μέχρι το τέλος του αιώνα. Οι λεγόμενοι «superforecasters», άνθρωποι εκπαιδευμένοι στην ποσοτική πρόβλεψη μελλοντικών γεγονότων, εμφανίστηκαν περισσότερο αισιόδοξοι: περίπου 0,1% έως το 2030, 0,88% έως το 2050 και 2,4% έως το 2100. Οι αριθμοί μοιάζουν μικροί. Το πρόβλημα είναι το μέγεθος της πιθανής συνέπειας. Ακόμη και μια εξαιρετικά χαμηλή πιθανότητα αποκτά διαφορετικό βάρος όταν το ενδεχόμενο που εξετάζεται αφορά εκατοντάδες εκατομμύρια ανθρώπους.
Από τα αυτόνομα όπλα μέχρι μια ανεξέλεγκτη AI
Και με ποιον τρόπο θα μπορούσε η τεχνητή νοημοσύνη να προκαλέσει μια καταστροφή τέτοιας κλίμακας; Τα σενάρια δεν περιορίζονται στην εικόνα μιας «μηχανής που αποφασίζει να εξοντώσει την ανθρωπότητα», όπως συχνά παρουσιάζεται στην επιστημονική φαντασία. Οι ειδικοί εξετάζουν πολύ πιο ρεαλιστικές διαδρομές: χρήση AI για τη δημιουργία επικίνδυνων βιολογικών παραγόντων, αυτόνομα οπλικά συστήματα, κυβερνοεπιθέσεις μεγάλης κλίμακας ή ακόμη και λανθασμένες αποφάσεις που θα μπορούσαν να συμβάλουν στην κλιμάκωση μιας στρατιωτικής ή πυρηνικής κρίσης. Σε αρκετά από αυτά τα σενάρια, μάλιστα, η τεχνητή νοημοσύνη δεν χρειάζεται να «επαναστατήσει» εναντίον του ανθρώπου. Αρκεί να χρησιμοποιηθεί από ανθρώπους με λάθος τρόπο. Αυτό ίσως αποτελεί και το σημαντικότερο στοιχείο ολόκληρης της συζήτησης: ο μεγαλύτερος κίνδυνος μπορεί να μην είναι μια AI που αποφασίζει μόνη της να στραφεί εναντίον μας, αλλά οι αποφάσεις που θα πάρουν οι άνθρωποι χρησιμοποιώντας τις δυνατότητές της.
Η ταχύτητα ίσως είναι το κλειδί
Υπάρχει πάντως ένα σημείο στο οποίο αισιόδοξοι και απαισιόδοξοι φαίνεται να συγκλίνουν. Όσο ταχύτερα εξελίσσονται οι δυνατότητες της τεχνητής νοημοσύνης, τόσο μεγαλύτερος γίνεται ο κίνδυνος η κοινωνία, οι κυβερνήσεις και οι θεσμοί να μην προλάβουν να προσαρμοστούν. Στις σχετικές έρευνες, όταν οι συμμετέχοντες κλήθηκαν να υπολογίσουν τον κίνδυνο υπό την προϋπόθεση μιας εξαιρετικά γρήγορης τεχνολογικής εξέλιξης, οι εκτιμήσεις τους για την πιθανότητα καταστροφής περίπου διπλασιάστηκαν. Και ίσως εκεί βρίσκεται το πραγματικό ερώτημα της επόμενης εποχής. Δεν είναι αν πρέπει να σταματήσει η τεχνητή νοημοσύνη. Κάτι τέτοιο μοιάζει πλέον σχεδόν αδύνατο. Είναι πόσο γρήγορα πρέπει να την αφήσουμε να εξελιχθεί και ποιος θα αποφασίζει πότε ένα σύστημα είναι αρκετά ασφαλές ώστε να περάσει στο επόμενο επίπεδο. Γιατί για πρώτη φορά στην ιστορία της τεχνολογίας, ο άνθρωπος προσπαθεί να κατασκευάσει ένα εργαλείο που ενδέχεται κάποια στιγμή να γίνει πνευματικά ισχυρότερο από τον ίδιο. Και αυτή τη φορά, το να μάθουμε από τα λάθη μας εκ των υστέρων ίσως να μην είναι αρκετό.
