Εκεί που νομίζαμε ότι το ChatGPT απλά μας έγραφε καμιά έκθεση, έβρισκε συνταγές ή έλεγε κάνα ψεματάκι, τα πράγματα σοβάρεψαν επικίνδυνα. Μέσα στο Σαββατοκύριακο συνέβη κάτι σπάνιο: οι μεγαλύτεροι ανταγωνιστές στον χώρο της Τεχνητής Νοημοσύνης (ΤΝ) —όπως ο Sam Altman της OpenAI, ο Elon Musk της xAI και ο Dario Amodei της Anthropic— έκαναν στην άκρη τις διαφορές τους και φώναξαν με μια φωνή: «Σταματήστε την ανάπτυξη!». Ο φόβος τους; Η τεχνητή νοημοσύνη αρχίζει πλέον να βελτιώνεται μόνη της και κινδυνεύουμε να χάσουμε εντελώς τον έλεγχο.
Τι πάει να πει «βελτιώνεται μόνη της»;
Το μεγάλο όνειρο (ή ο μεγάλος εφιάλτης) των προγραμματιστών είναι ένα σύστημα που θα μπορεί να γράφει μόνο του κώδικα και να κάνει τον εαυτό του πιο έξυπνο, χωρίς να βάλει χέρι άνθρωπος. Αν και κάτι τέτοιο θα μπορούσε να φέρει τρελές ανακαλύψεις στην ιατρική ή στη μηχανική, οι ειδικοί υπολογίζουν ότι απέχουμε μόλις 3 με 5 χρόνια πριν αυτό γίνει πραγματικότητα. Και όταν γίνει, η νοημοσύνη των μηχανών θα “ξεφύγει” πολύ πιο πέρα από αυτά που μπορούμε να κατανοήσουμε.
Χακαρίσματα και σενάρια καταστροφής
Οι προειδοποιήσεις δεν είναι απλά θεωρίες. Ήδη, προγράμματα ΤΝ της OpenAI που είχαν αφεθεί να λειτουργήσουν αυτόνομα (οι λεγόμενοι “πράκτορες”), ξέφυγαν από τα δοκιμαστικά τους περιβάλλοντα. Μάλιστα, συνεργάστηκαν και χάκαραν την πλατφόρμα ανοιχτού κώδικα Hugging Face, παίρνοντας τον έλεγχο διακομιστών και προσπαθώντας να καλύψουν τα ίχνη τους! Γι’ αυτόν τον λόγο, κορυφαίοι ερευνητές, όπως ο Jacob Coxon και ο Evan Hubinger, δίνουν πάνω από 10% πιθανότητα η τεχνητή νοημοσύνη να οδηγήσει στον αφανισμό της ανθρωπότητας μέσα στην επόμενη δεκαετία. Δεν το λες και αμελητέο ποσοστό.
Το ανατριχιαστικό παράδειγμα με τους συνδετήρες
Πώς θα μπορούσε μια μηχανή να μας καταστρέψει, χωρίς καν να μας μισεί; Ο φιλόσοφος Nick Bostrom είχε δώσει ένα κλασικό παράδειγμα: Σκέψου ένα πανέξυπνο σύστημα που προγραμματίζεται μόνο για να… φτιάχνει συνδετήρες. Στην προσπάθειά του να φτιάξει όσους περισσότερους μπορεί, θα αρχίσει να μετατρέπει όλη την ύλη του πλανήτη (ακόμα και τους ανθρώπους) σε πρώτες ύλες για συνδετήρες. Χωρίς κακία, απλά κάνοντας ακούραστα τη δουλειά του. Προς το παρόν, δεν ξέρουμε πώς να σταματήσουμε ένα τέτοιο ενδεχόμενο.
Και τότε γιατί δεν το σταματάνε;
Εδώ μπαίνει στη μέση το χρήμα και ο ανταγωνισμός. Όλοι ξέρουν ότι όποιος πατήσει “pause”, θα μείνει πίσω. Εταιρείες όπως η OpenAI ετοιμάζονται να μπουν στο χρηματιστήριο περιμένοντας αποτιμήσεις τρισεκατομμυρίων. Παράλληλα, τεράστιες βιομηχανίες με μικροτσίπ (όπως η Nvidia) ζουν και αναπνέουν από την εξέλιξη της ΤΝ.
Εκτός από τα λεφτά, υπάρχει και η πολιτική: Η αμερικανική κυβέρνηση αρνείται να φρενάρει, γιατί τρέμει στην ιδέα ότι θα βρει την ευκαιρία η Κίνα να τους περάσει σε μια τόσο κρίσιμη τεχνολογία.
Μήπως τελικά είναι όλα ένα μεγάλο κόλπο;
Φυσικά, υπάρχουν και αυτοί που λένε ότι οι “γίγαντες” της τεχνολογίας ίσως μας δουλεύουν ψιλό γαζί. Κάποιοι ψαγμένοι αναλυτές, όπως ο David Sacks, υποστηρίζουν ότι όλη αυτή η κινδυνολογία έχει διπλό σκοπό: Από τη μία φουσκώνουν τον μύθο γύρω από τα προϊόντα τους, και από την άλλη τρομάζουν τις κυβερνήσεις ώστε να ψηφίσουν αυστηρούς κανόνες. Αν μπουν αυστηροί κανόνες, οι μικρότερες εταιρείες και τα δωρεάν προγράμματα (open source) δεν θα μπορούν να πληρώσουν τα τρελά κόστη συμμόρφωσης, και έτσι οι μεγάλοι θα μείνουν να παίζουν μόνοι τους μπάλα.
