"Μέχρι του χρόνου, η τεχνητή νοημοσύνη θα μπορούσε να είναι πιο έξυπνη απ' όλους τους ανθρώπους"

Τα βράδια της Κυριακής, ο Ντάριο Αμοντέι συνήθως πηγαίνει στο σπίτι της μικρότερης αδελφής του, Ντανιέλα, για να παίξουν ένα αγαπημένο βιντεοπαιχνίδι: Το Final Fantasy VII Remake, το οποίο διαδραματίζεται σε έναν δυστοπικό κόσμο όπου στόχος σου είναι να σταματήσεις έναν παντοδύναμο οργανισμό από το να λεηλατήσει τους πόρους του πλανήτη.

Την επόμενη μέρα, πηγαίνει στα κεντρικά γραφεία της Anthropic, της εταιρείας που συνίδρυσε, η οποία έχει αξία 60 δισεκατομμυρίων δολαρίων και ανταγωνίζεται την OpenAI. Εκεί αναπτύσσουν τεχνητή νοημοσύνη (AI), η οποία πιστεύουν ότι σύντομα θα αντικαταστήσει μεγάλο μέρος της ανθρώπινης εργασίας και, στην πορεία, η νεοφυή τους επιχείρηση ενδεχομένως να μετατραπεί σε μία από τις μεγαλύτερες εταιρείες του μέλλοντος (Δευτέρα).

Ο 42χρονος Αμοντέι προβλέπει ότι η «υπερευφυΐα», την οποία περιγράφει ως τεχνητή νοημοσύνη με μεγαλύτερες ικανότητες ακόμη κι από τους νομπελίστες στους περισσότερους τομείς, θα μπορούσε να γίνει διαθέσιμη ήδη από το επόμενο έτος.

«Η τεχνητή νοημοσύνη θα είναι καλύτερη απ' όλους εμάς σε όλους τους τομείς», δήλωσε. Αν έχει δίκιο, θα πρέπει να βρούμε έναν νέο τρόπο να προσανατολίσουμε την κοινωνία σε μια πραγματικότητα όπου κανένας άνθρωπος δεν θα μπορεί να είναι ποτέ πιο έξυπνος από μια μηχανή. Θα είναι μια μετάβαση σαν τη βιομηχανική επανάσταση, ανέφερε, όταν οι μηχανές αντικατέστησαν την ανθρώπινη δύναμη, αναδιοργανώνοντας παράλληλα τον δυτικό κόσμο.

«Πιθανότατα κάποια στιγμή να πρέπει να βρούμε έναν άλλο νέο τρόπο για να λειτουργούμε, και θα πρέπει να το κάνουμε πολύ γρήγορα». Στο πλαίσιο της λύσης, θα μπορούσε ενδεχομένως να χορηγείται κάποια μορφή καθολικού βασικού εισοδήματος: κυβερνητικά επιδόματα σε υποαπασχολούμενους ανθρώπους. «Είναι μόνο η αρχή της λύσης», τόνισε. «Δεν είναι το τέλος της λύσης, διότι η εργασία δεν έχει να κάνει μόνο με τα χρήματα, αλλά είναι ένας τρόπος δόμησης της κοινωνίας».

Η Anthropic, που έχει την έδρα της σε έναν πύργο από γυαλί και ατσάλι στο Σαν Φρανσίσκο, ο οποίος κάποτε ήταν η έδρα της μεγάλης εταιρείας επιχειρηματικού λογισμικού Slack, έχει στήσει τη θέση της ως «αντίβαρο» στην OpenAI. Πρόκειται για την άλλη εταιρεία τεχνητής νοημοσύνης στο Σαν Φρανσίσκο. Τα αδέλφια Αμοντέι μεγάλωσαν στην πόλη και ακολούθησαν διαφορετικούς δρόμους. Ο Ντάριο ήταν υπολογιστικός βιολόγος, ο οποίος αποχώρησε από την ακαδημαϊκή κοινότητα και ασχολήθηκε με την τεχνητή νοημοσύνη λόγω της πεποίθησής του ότι οι μηχανές θα μπορούσαν να βοηθήσουν τους ανθρώπους να λύσουν τα πιο δύσκολα προβλήματα βιολογίας.

Η Ντανιέλα ασχολήθηκε με την πολιτική ως υπάλληλος στο Κογκρέσο προτού ενταχθεί στη μεγάλη επιχείρηση πληρωμών Stripe και, αργότερα, εργάστηκε ως υπεύθυνη ασφάλειας στην OpenAI, όπου ο Ντάριο ήταν επικεφαλής ανάπτυξης του γλωσσικού μοντέλου που υποστηρίζει το ChatGPT. Το 2020 αποχώρησαν μαζί με άλλα πέντε ηγετικά στελέχη. Γιατί;

Οι Sunday Times πήραν συνέντευξη από αρκετά μέλη της ιδρυτικής ομάδας της Anthropic. Όλοι τους ήταν προσεκτικοί ώστε να μείνουν ασαφείς ως προς τον ακριβή λόγο της μαζικής αποχώρησής τους, αλλά αυτό που είναι ξεκάθαρο είναι ότι διαφωνούσαν με τον τρόπο με τον οποίο ο Σαμ Άλτμαν, δισεκατομμυριούχος επικεφαλής της OpenAI, διοικούσε την εταιρεία και, κατά τη γνώμη τους, παρέκκλινε από την ασφαλή ανάπτυξη της τεχνητής νοημοσύνης, για το καλό της ανθρωπότητας.

«Προσπάθησα για πολύ καιρό να επισημάνω τις ανησυχίες μας, να εξηγήσω ότι "Δεν είναι αυτός ο τρόπος που πρέπει να κάνουμε τα πράγματα. Έτσι πιστεύω ότι πρέπει να λειτουργήσουμε"», δήλωσε ο Ντάριο. «Εν τέλει, αυτό δεν είναι τόσο αποτελεσματικό».

Η Anthropic, που αρχικά παρουσιαζόταν ως «εργαστήριο για την ασφάλεια της τεχνητής νοημοσύνης», έχει σημειώσει εκπληκτική πρόοδο σε μόλις τέσσερα χρόνια. Το chatbot της, Claude, είναι εξίσου καλό ή και καλύτερο από το ChatGPT σε πολλούς δείκτες αναφοράς του κλάδου. Η εταιρεία έχει συγκεντρώσει δισεκατομμύρια σε χρηματοδότηση από εταιρείες όπως η Amazon και η Google, ενώ βρίσκεται κοντά στο να κλείσει έναν γύρο χρηματοδότησης ύψους 3,5 δισεκατομμυρίων δολαρίων που θα αποτιμούσε την αξία της στα 61,5 δισεκατομμύρια δολάρια.

Είναι δύσκολο να βρούμε τα ακριβή στοιχεία πωλήσεων, καθώς η Anthropic είναι ιδιωτική εταιρεία, αλλά χάνει δισεκατομμύρια. Εκτιμάται ότι απέφερε τουλάχιστον 400 εκατομμύρια δολάρια πέρυσι, ποσό που στοχεύει να δεκαπλασιάσει φέτος στα 4 δισεκατομμύρια δολάρια, με την ενσωμάτωση του Claude στις δραστηριότητές των ανθρώπων, των επιχειρήσεων και των κυβερνήσεων. Προσφέρει τα πάντα, από μια δωρεάν βασική υπηρεσία, μέχρι μια «επαγγελματική» βαθμίδα αξίας 18 δολαρίων τον μήνα, καθώς και προγράμματα πληρωμής ανάλογα με τη χρήση («pay-as-you-go»).

Ο Τζακ Κλαρκ, Βρετανός και επικεφαλής πολιτικής της Anthropic, προέβλεψε ότι εργαλεία όπως το εργαλείο «χρήσης υπολογιστή», το οποίο μπορεί να αναλάβει τον έλεγχο του κέρσορα της οθόνης και να ολοκληρώσει εργασίες, θα σηματοδοτήσουν μια ακόμη σημαντική αλλαγή.

«Προετοιμαζόμαστε για την επόμενη χρονιά, η οποία πιστεύουμε ότι θα είναι μια χρονιά με πολλές στιγμές ανησυχίας», ανέφερε. «Φαίνεται σαν να ήρθε το ChatGPT και ο κόσμος σήκωσε τους ώμους και είπε "ΟΚ". Αλλά η κατάσταση "σιγοβράζει" εδώ και δύο χρόνια χωρίς να το καταλαβαίνει κανείς, και αυτό που χρειαζόμαστε είναι άλλη μια σημαντική εξέλιξη στην εμπειρία χρήστη».

Προτού καν δημιουργήσει προϊόν, η Anthropic προσέλαβε μια ομάδα ασφαλείας για να εξετάσει τα χειρότερα δυνατά σενάρια, π.χ. τη χρήση της τεχνητής νοημοσύνης για την εξαπόλυση κυβερνοεπιθέσεων, την κατασκευή μιας βρόμικης βόμβας ή την υποδούλωση της ανθρωπότητας, καθώς και πώς μπορεί να τα αποφύγει. Πολλοί θεωρούσαν ότι είχε εμμονή με την καταστροφολογία («doomerism»): την αντίληψη ότι η τεχνητή νοημοσύνη θα εξελισσόταν πάρα πολύ άσχημα για όλους μας.

Αυτή η αντίληψη δεν βελτιώθηκε από τη σχέση της με την κοινότητα του «αποτελεσματικού αλτρουισμού» (effective altruism, EA), η οποία έχει μια «σχεδόν αιρετική», υπερ-ορθολογιστική κοσμοθεωρία που επικεντρώνεται στο να κάνει το μέγιστο καλό για τον κόσμο, όπως αυτό μετράται με ψυχρά, εξακριβωμένα δεδομένα, π.χ. τον αριθμό των ζωών που σώζονται.

Οι αποτελεσματικοί αλτρουιστές εστίασαν στους υπαρξιακούς κινδύνους της τεχνητής νοημοσύνης. Ο πιο διάσημος από αυτούς, ο Σαμ Μπάνκμαν-Φριντ, επένδυσε 500 εκατομμύρια δολάρια στην Anthropic. Ο σύζυγος της Ντανιέλα, Χόλντεν Καρνόφσκι, είναι συνιδρυτής της Open Philanthropy, μιας ομάδας φιλανθρωπικών δωρεών που αποτελείται από αποτελεσματικούς αλτρουϊστές. «Δεν θα χρησιμοποιούσα αυτόν τον όρο [του αποτελεσματικού αλτρουϊστή] για τον εαυτό μου», δήλωσε η Ντανιέλα. «Υπάρχουν πολλοί οργανισμοί που κάνουν πολύ ενδιαφέρουσα δουλειά σε αυτόν τον τομέα».

Υπήρχε η πεποίθηση, ξεκινώντας από τον Ντάριο, ότι η υπερευφυής τεχνητή νοημοσύνη θα έφτανε πολύ πιο γρήγορα από ό,τι πιστεύαμε. Αυτή η πεποίθηση βασιζόταν στους «νόμους της κλιμάκωσης»: μια θεωρία ότι η βελτίωση των μοντέλων τεχνητής νοημοσύνης συσχετίζεται άμεσα με τα δεδομένα και την υπολογιστική ισχύ με την οποία τροφοδοτούνται. Όσο περισσότερα λαμβάνουν, τόσο θα βελτιώνονται.

Καθώς η Anthropic, η Google, η OpenAI, η Grok του Ίλον Μασκ, ακόμη και η κινεζική DeepSeek, ξεπερνούν η μία την άλλη με νέα μοντέλα, αυτή η πεποίθηση έχει γίνει πολύ πιο διαδεδομένη. Ο Ντάριο ανέφερε: «Παρακολουθώ αυτήν την καμπύλη εδώ και δέκα χρόνια και, κάθε χρόνο, υπάρχει ένα σημείο που φαίνεται ότι θα επιβραδυνθεί. Εκπαιδεύεις το μοντέλο και φαίνεται ότι έχει σταθεροποιηθεί, επειδή δεν χρησιμοποίησες το σωστό είδος δεδομένων. Υπάρχουν προβλήματα σε κάθε στάδιο. Και σε κάθε στάδιο μέχρι στιγμής τα έχουμε επιλύσει. Πάντα βρίσκουμε έναν τρόπο να τα παρακάμψουμε».

Αυτές οι διπλές πεποιθήσεις, δηλαδή ότι οι νόμοι της κλιμάκωσης θα οδηγούσαν σύντομα στην υπερευφυΐα και ότι, επομένως, η ασφάλεια ήταν κρίσιμη, οδήγησαν στη δημιουργία της Anthropic. Το ερώτημα είναι: πού οδηγούν όλα αυτά; Ο Κλαρκ δήλωσε την ανησυχία του για τη βραδύτητα της αντίδρασης των κυβερνήσεων.

«Την επόμενη φορά που θα έχουμε μεγάλη αύξηση της δημόσιας προσοχής, κάτι που αναμένουμε ότι θα συμβεί φέτος, ο κόσμος θα το θεωρεί όλο και πιο γελοίο ότι λειτουργούμε σαν να βρισκόμαστε στην Άγρια Δύση».

Είναι αδύνατο να αποφύγουμε την προφανή αντίφαση ότι η Anthropic, με την εμμονή που έχει για την ασφάλεια, εργάζεται σκληρά για να επιφέρει αυτό το ανησυχητικό μέλλον όσο το δυνατόν γρηγορότερα. Ο Ντάριο, ωστόσο, έχει μια απάντηση σε αυτό. Θεωρεί ότι αν η Anthropic αναπτύξει την τεχνητή νοημοσύνη με έναν πιο προσεγμένο, καλύτερο τρόπο, θα δημιουργήσει έναν «αγώνα δρόμου προς την κορυφή». Ο Claude διέπεται από αυτό που ονομάζει ως «συνταγματική τεχνητή νοημοσύνη», ένα μείγμα κανόνων από τη Διακήρυξη για τα Ανθρώπινα Δικαιώματα του ΟΗΕ μέχρι τους όρους χρήσης της Apple, τα οποία μαζί λειτουργούν ως οδηγός για τη συμπεριφορά του bot. Αξιολογεί τις πιθανές απαντήσεις του σε σχέση με το σύνταγμα και έπειτα τις επανεξατάζει για να διασφαλίσει ότι ευθυγραμμίζονται με τις βασικές αρχές του.

Η Anthropic έχει επίσης δημοσιεύσει μια «Πολιτική υπεύθυνης κλιμάκωσης» που παρέχει ένα πλαίσιο ασφαλείας, συμπεριλαμβανομένης της διακοπής της εκμάθησης σε περίπτωση που τα μοντέλα επιδείξουν οποιονδήποτε μη αποδεκτό κίνδυνο «συγκεκριμένων καταστροφικών συμπεριφορών».

Παρ' όλα αυτά, η Anthropic είναι μια κερδοσκοπική εταιρεία με επενδυτικά κεφάλαια δισεκατομμυρίων δολαρίων, η οποία βρίσκεται σε έναν αγώνα δρόμου για την κυριαρχία μιας ισχυρής τεχνολογίας. Σίγουρα, η πίεση για την παράκαμψη ορισμένων μέτρων ασφαλείας πρέπει να είναι τεράστια; Ο Κλαρκ διαφώνησε. Η παραγωγή μοντέλων αιχμής για τα οποία θα πληρώνει η αγορά είναι από μόνη της ένα σαφές μήνυμα ότι ο τρόπος που ακολουθούν λειτουργεί.

«Οι άνθρωποι ρωτούν: "Πώς μπορούμε να βοηθήσουμε με αυτήν την εκπληκτική αποστολή για την πολιτική;" Η απάντησή μου είναι η εξής: γίνετε μια επιτυχημένη εταιρεία. Είναι εξαιρετικά δύσκολο να νομιμοποιηθεί η πολιτική σου αν είσαι μια αποτυχημένη εταιρεία».

Δεν είναι όλα καταστροφολογικά. Ο Ντάριο Αμοντέι έγραψε πρόσφατα ένα δοκίμιο 10.000 λέξεων με τίτλο Machines of Loving Grace, στο οποίο εστίασε σε μια απλή ιδέα: «Κι αν όλα πάνε καλά;»

Περιγράφει ένα μέλλον στο οποίο, πολύ σύντομα, θα έχουμε πρόσβαση σε υπερευφυή τεχνητή νοημοσύνη ή, όπως την αποκαλεί ο Αμοντέι, «μια χώρα από ιδιοφυΐες σε ένα κέντρο δεδομένων». Τι θα μπορούσαμε να κάνουμε με αυτήν; Να χωρέσουμε έναν αιώνα επιστημονικής προόδου σε μια δεκαετία. Να διπλασιάσουμε τη διάρκεια ζωής μας. Να θεραπεύσουμε σχεδόν όλες τις μολυσματικές ασθένειες. Να βρούμε λύση στο Αλτσχάιμερ και στον καρκίνο.

Ο Αμοντέι δήλωσε: «Δεν υπάρχει τίποτα σε αυτά τα βιολογικά προβλήματα που να είναι πέρα από την ικανότητα των ανθρώπων να το κατανοήσουν. Το μόνο που υπάρχει είναι περισσότερα στοιχεία, σωστά; Οι μηχανές θα πρέπει να μπορούν να κάνουν καλύτερη δουλειά από τους ανθρώπους στην αποσαφήνιση αυτών των περίπλοκων ζητημάτων». Επιπλέον, πρόσθεσε: «Πρόκειται για μια χώρα από ιδιοφυΐες ενάντια σε μια μάζα κυττάρων. Νομίζω ότι η τεχνητή νοημοσύνη μπορεί να υπερνικήσει ένα μάτσο κύτταρα».

Ο Ίθαν Μόλλικ, καθηγητής επιχειρήσεων στο Πανεπιστήμιο της Πενσυλβάνια και συγγραφέας του βιβλίου Co-Intelligence, δήλωσε ότι βρισκόμαστε ακόμη σε πρώιμο στάδιο στην υιοθέτηση της τεχνητής νοημοσύνης. «Η υιοθέτηση αυτής της τεχνολογίας είναι ένα τεράστιο ιστορικά γεγονός, και έρχονται κι άλλα. Κάθε ελεγχόμενη μελέτη που διεξάγουμε παρουσιάζει αποτελέσματα μεγάλης κλίμακας στην απόδοση από τη χρήση συστημάτων τεχνητής νοημοσύνης σε ατομικό επίπεδο. Είναι χρήσιμα στην ιατρική. Είναι χρήσιμα στην εκπαίδευση. Υπάρχουν πολλά πράγματα».

Πρόσθεσε, όμως, ότι η αδράνεια είναι μια ισχυρή δύναμη, οπότε ακόμη και αν η «υπερευφυΐα» έφτανε αύριο (Δευτέρα), θα χρειάζονταν χρόνια για να διεισδύσει στην οικονομία.

Η πραγματικότητα είναι, φυσικά, ότι κανείς δεν γνωρίζει τι θα συμβεί. Πράγματι, λίγοι είναι τόσο εξοικειωμένοι με τον απρόβλεπτο χαρακτήρα της τεχνολογίας όσο ο Μάικ Κρίγκερ. Πριν ενταχθεί στην Anthropic ως επικεφαλής προϊόντων πέρυσι, ο Κρίγκερ ήταν συνιδρυτής του Instagram. Η εφαρμογή κοινοποίησης φωτογραφιών του αναδείχθηκε σε ένα μέσο κοινωνικής δικτύωσης που χρησιμοποιείται από περισσότερους από ένα δισεκατομμύριο ανθρώπους και το οποίο εμπλέκεται σε διάφορα κοινωνικά προβλήματα, από την εφηβική κατάθλιψη μέχρι την επιδημία της μοναξιάς.

Τι διδάγματα, ρωτάω, άντλησε από τα σκαμπανεβάσματα του Instagram; «Την κατανόηση ότι θα υπάρξουν έκτροπες τιμές στη χρήση από νωρίς και ότι αυτές μπορούν να σε διδάξουν κάτι για το πού θα φτάσουν τα πράγματα τελικά», απάντησε. «Θυμάμαι να κοιτάζω τα διαγράμματα "χρόνου που αφιερώθηκε" στο Instagram, όταν ο μέσος όρος εκείνη την εποχή ήταν 15 λεπτά την ημέρα. Αλλά οι έκτροπες τιμές ήταν 60 λεπτά».

Οι άνθρωποι περνούν πλέον περισσότερες από δύο ώρες την ημέρα στα μέσα κοινωνικής δικτύωσης. Ωστόσο, τα στελέχη και οι ρυθμιστικές αρχές αγωνίζονται ακόμα να συμβαδίσουν. Με την τεχνητή νοημοσύνη, οι συνέπειες ενδεχομένως να είναι ακόμα πιο έντονες και η καμπύλη υιοθέτησης είναι πολύ πιο απότομη. Ο Αμοντέι δήλωσε: «Υπάρχουν κίνδυνοι σε κάθε βήμα».