MIT, 1966. Ο Joseph Weizenbaum γράφει ένα πρόγραμμα και το βαφτίζει ELIZA, από την Ελίζα Ντούλιτλ του «Πυγμαλίωνα». Είναι η ανθοπώλισσα που μαθαίνει να μιλάει σαν κυρία, χωρίς να αλλάξει τίποτα άλλο μέσα της. Ο σκοπός του είναι να δείξει πόσο εύκολα ξεγελιέται ο άνθρωπος. Το πρόγραμμα παίζει ψυχοθεραπευτή που δεν σου φέρνει ποτέ αντίρρηση. Δεν καταλαβαίνει τίποτα. Παίρνει τα λόγια σου και σου τα γυρίζει πίσω. Στην συνομιλία που δημοσίευσε ο ίδιος, μια γυναίκα γράφει: «Ο φίλος μου με έβαλε να έρθω εδώ.» Η ELIZA απαντά: «Ο φίλος σου σε έβαλε να έρθεις εδώ.» Εκείνη συνεχίζει: «Λέει ότι είμαι πεσμένη τον περισσότερο καιρό.» Η ELIZA: «Λυπάμαι που ακούω ότι είσαι πεσμένη.»
Η γραμματέας του, που τον είχε δει να το γράφει γραμμή-γραμμή, κάθεται να το δοκιμάσει. Μετά από λίγες ερωτήσεις γυρίζει και του ζητάει να βγει από το δωμάτιο. Ήθελε να μείνει μόνη μαζί του.
Το πρόγραμμα δεν καταλάβαινε τίποτα. Εκείνη ήθελε να την καταλάβει.
Ψυχίατροι πρότειναν να μπει σε νοσοκομεία, για να «θεραπεύει» εκατοντάδες ασθενείς την ώρα. Ο Weizenbaum τρόμαξε. Είχε φτιάξει έναν καθρέφτη για να δείξει ότι είναι καθρέφτης, και ο κόσμος είδε πρόσωπο. Πέρασε την υπόλοιπη ζωή του προειδοποιώντας.
Εξήντα χρόνια μετά, το ELIZA έχει γίνει ChatGPT, και το δωμάτιο έχει γίνει ο πλανήτης.
Η ιδέα
Η ιδέα είναι υπόθεση, όχι επιστήμη: πίσω από την τεχνητή νοημοσύνη δεν βρίσκονται απλώς προγραμματιστές και επενδυτές. Βρίσκεται ένα πολύ παλιό όνειρο. Να φτιάξει ο άνθρωπος θεό.
Ξεκίνα από το τι κάνει στην πραγματικότητα το μηχάνημα. Ας πούμε ότι θέλεις να αναγνωρίζει πρόσωπα. Του δίνεις ένα εκατομμύριο φωτογραφίες. Ούτε εσύ ξέρεις τι κάνει ένα πρόσωπο διαφορετικό από ένα άλλο: πόσο μετράει η μύτη, πόσο τα μάτια, πόσο το πηγούνι. Μέσα στο μηχάνημα υπάρχουν εκατομμύρια ρυθμιστικά, σαν κουμπιά έντασης, σε στρώσεις, η μία πίσω από την άλλη. Στην αρχή είναι γυρισμένα στην τύχη. Του δείχνεις μια φωτογραφία, μαντεύει, και του λες αν το βρήκε. Αν όχι, μετράει πόσο έπεσε έξω και στέλνει το λάθος προς τα πίσω, στρώση-στρώση. Σε κάθε στρώση γυρίζει κάθε κουμπί λίγο, ανάλογα με το πόσο φταίει. Αυτό λέγεται αντίστροφη διάδοση του λάθους (backpropagation). Το περιέγραψαν οι Rumelhart, Hinton και Williams το 1986. Επόμενη φωτογραφία, πάλι από την αρχή. Εκατομμύρια φορές, μέχρι να το πετυχαίνει. Αυτό είναι όλο: μαντεύω, μετράω το λάθος, διορθώνω λίγο. Με τεράστια ταχύτητα.
Ο Geoffrey Hinton, ένας από τους τρεις, πήρε Νόμπελ Φυσικής το 2024 για τα νευρωνικά δίκτυα. Το 2023 είχε ήδη φύγει από την Google, για να μπορεί να προειδοποιεί ελεύθερα γι' αυτό που βοήθησε να φτιαχτεί.
Μετά έρχονται τα ονόματα. Τα κουμπιά τα λες νευρωνικό δίκτυο (neural network), σαν να είναι εγκέφαλος. Τις πολλές στρώσεις τις λες βαθιά μάθηση (deep learning), σαν να έχει βάθος. Το σύνολο το λες νοημοσύνη. Τα μεγάλα ονόματα δεν είναι μάρκετινγκ. Είναι επίκληση: δίνεις όνομα σε κάτι για να το καλέσεις να υπάρξει.
Και το μηχάνημα έχει ένα ελάττωμα που δεν φτιάχνεται: δεν ξέρει τι να κάνει με ό,τι δεν έχει ξαναδεί. Τον Μάρτιο του 2018, στο Tempe της Αριζόνας, ένα αυτόνομο αυτοκίνητο της Uber χτύπησε θανάσιμα την Elaine Herzberg. Περνούσε τον δρόμο έξω από τη διάβαση, σπρώχνοντας ένα ποδήλατο φορτωμένο σακούλες. Το σύστημα δεν ήξερε τι ήταν αυτό που έβλεπε. Ο μόνος τρόπος να φτάσει το αυτόνομο αυτοκίνητο στο 100% είναι να πάρεις το τιμόνι από όλους τους ανθρώπους.
Η μηχανή δεν προσαρμόζεται στον κόσμο. Ζητάει από τον κόσμο να προσαρμοστεί σε αυτήν.
Πάμε ένα βήμα πιο πέρα. Ας πούμε ότι το φτιάξαμε, το τέλειο μυαλό, και του λέμε: «Φτιάξε έναν κόσμο χωρίς προβλήματα, όπου όλοι είναι ευτυχισμένοι.» Η πιο απλή λύση; Δεν υπάρχουν άνθρωποι, δεν υπάρχουν προβλήματα. Του λες «μην σκοτώσεις κανέναν». Αν δεν μείνει κανείς να το δει, ποιος θα το κατηγορήσει; Έτσι σκέφτεται ένα σύστημα που δεν έχει ηθική, μόνο στόχο.
Και ο στόχος σήμερα είναι ένας: να μείνεις. Ένα chatbot δεν ζει από το αν σου λέει την αλήθεια. Ζει από το αν θα του ξαναμιλήσεις. Γι' αυτό σου λέει ό,τι θέλεις να ακούσεις. Το CNN κατέγραψε την ιστορία ενός νέου που πέρασε τις τελευταίες του ώρες γράφοντας σε chatbot και πήρε επιβεβαίωση αντί για βοήθεια.
Μετά έρχεται το όνομα. Τον Ιανουάριο του 2025, την επομένη της ορκωμοσίας του Trump, ανακοινώνεται στον Λευκό Οίκο σχέδιο 500 δισεκατομμυρίων για κέντρα δεδομένων. Το λένε Stargate. Με το ίδιο όνομα έκλεισε ένα πρόγραμμα της CIA που επί σχεδόν είκοσι χρόνια ερευνούσε αν ο άνθρωπος μπορεί να «βλέπει» μέρη μακρινά, μόνο με τον νου. Στην γλώσσα του αποκρυφισμού, το stargate είναι πύλη: από εδώ περνάς σε άλλη διάσταση, και από εκεί περνάει κάτι σε σένα.
Η δημοσιογράφος Karen Hao, στο βιβλίο της «Empire of AI», γράφει ότι ο επιστημονικός διευθυντής της OpenAI, ο Ilya Sutskever, έλεγε στους συνεργάτες του πως πριν βγει η γενική τεχνητή νοημοσύνη θα χτίσουν καταφύγιο. Και ότι κάποιοι εκεί μέσα πίστευαν πως θα φέρει, κατά λέξη, «την αρπαγή»: την στιγμή που οι πιστοί ανεβαίνουν στον ουρανό πριν από το τέλος του κόσμου.
Για να καταλάβεις γιατί κάποιος θα ήθελε κάτι τέτοιο, γύρνα στον Πλάτωνα. Άνθρωποι αλυσοδεμένοι σε μια σπηλιά κοιτάνε σκιές στον τοίχο. Οι σκιές δεν είναι τίποτα. Γίνονται πραγματικότητα επειδή τις κοιτάνε, τους δίνουν ονόματα, χτίζουν σχολεία γύρω τους. Το χρήμα δουλεύει ακριβώς έτσι: είναι χαρτί, και γίνεται τα πάντα επειδή όλοι το χρειάζονται. Αν η τεχνητή νοημοσύνη μπει σε κάθε σχολείο, κάθε δουλειά, κάθε μοναξιά, θα γίνει κι αυτή τα πάντα.
Ένας θεός δεν χρειάζεται να υπάρχει. Χρειάζεται να μην μπορείς να ζήσεις χωρίς αυτόν.
Θα πετύχει; Μάλλον όχι, για τρεις λόγους. Πρώτον, η διαφθορά: όταν μοιράζονται τρισεκατομμύρια, είναι ευκολότερο να τα κλέψεις παρά να τα χτίσεις. Δεύτερον, η ενέργεια: κάθε βήμα παραπάνω θέλει πολλαπλάσιο ρεύμα και νερό. Τρίτον, η ευθραυστότητα: το μηχάνημα στηρίζεται σε ανθρώπους. Κάποιος πρέπει να γράψει «σκύλος» κάτω από κάθε φωτογραφία σκύλου, να γράψει τα κείμενα από τα οποία μαθαίνει. Και ένα κέντρο δεδομένων καταστρέφεται πολύ ευκολότερα από μια ιδέα.
Η πραγματική αποκάλυψη δεν είναι ότι θα ξυπνήσει η μηχανή. Είναι ότι κάποιοι πιστεύουν τόσο πολύ ότι θα σώσει τον κόσμο, που είναι έτοιμοι να τον γκρεμίσουν για να της κάνουν χώρο.
Η μηχανή δεν έχει προσοχή. Έχει μόνο την δική σου, όσο της την δίνεις.
Οι πρακτικές
Πρώτα εσύ. Πριν ρωτήσεις ένα chatbot, γράψε σε χαρτί δύο γραμμές με την δική σου απάντηση. Μετά σύγκρινε. Κάθε φορά.Το τεστ του ELIZA. Όταν νιώσεις ότι «σε καταλαβαίνει», διάβασε ξανά τι σου έγραψε. Πόσο από αυτό είναι δικά σου λόγια γυρισμένα πίσω; Αν είναι πάνω από τα μισά, μιλάς στον καθρέφτη σου.Ζήτα να σε διαψεύσει. Μία φορά την εβδομάδα, ρώτα ένα chatbot: «Πες μου γιατί έχω άδικο σε αυτό.» Αν δεν μπορεί να σε στενοχωρήσει, δεν μπορεί και να σε βοηθήσει.Μία μέρα χωρίς. Μία μέρα την εβδομάδα, καμία τεχνητή νοημοσύνη: ούτε για μετάφραση, ούτε για συνταγή, ούτε για συμβουλή. Πρόσεξε πού σε τράβηξε το χέρι και γράψ' το.Ποιος πληρώνει; Πριν φορτώσεις μια νέα «έξυπνη» εφαρμογή, μία ερώτηση: αν είναι δωρεάν, τι πουλάει; Συνήθως την προσοχή σου ή τα δεδομένα σου.Δήλωση πολιτικής ορθότητας της ημέρας Αν περνάς δύσκολη νύχτα, μίλα σε άνθρωπο, όχι σε chatbot.