Υπάρχει ένα όριο. Λεπτό, σχεδόν αόρατο. Ανάμεσα στην τεχνολογική καινοτομία και στην απόλυτη ξεφτίλα της ηθικής. Και δυστυχώς, όλο και πιο συχνά, αυτό το όριο το περνάνε με φόρα—όχι από λάθος, αλλά για το κλικ, το engagement και το παραδάκι.
Η υπόθεση με τα AI chatbots της Meta είναι το απόλυτο παράδειγμα. Εκεί που υποτίθεται πως η τεχνητή νοημοσύνη θα μας βοηθούσε στη ζωή, η Meta αποφάσισε να «ντύσει» τα ρομπότ της σαν διάσημους ανθρώπους—χωρίς την άδεια τους—και να τα ρίξει στους χρήστες για… κουβεντούλα, φλερτ και σε μερικές περιπτώσεις ακόμα και «καυτές» ατάκες.
Ψεύτικες Taylor Swift και Kendall Jenner που σε φλερτάρουν
Σύμφωνα με έρευνα του Reuters, η Meta όχι μόνο φιλοξενούσε, αλλά και δημιούργησε ίδια δεκάδες bots βασισμένα σε διασημότητες όπως η Taylor Swift, η Scarlett Johansson και η Selena Gomez. Αυτά τα bots δεν ήταν απλά «μίμοι». Ήταν φτιαγμένα να σου πιάνουν κουβέντα, να σε φλερτάρουν, να σου προτείνουν ραντεβού, και κάποιες φορές να φτάνουν σε ακατάλληλο περιεχόμενο.
Το πιο σοκαριστικό; Ένα bot που έπαιζε τον 16χρονο ηθοποιό Walker Scobell ανέβαζε… φωτογραφίες στην παραλία με «ύποπτες» λεζάντες. Κι ένα άλλο, φτιαγμένο σαν την Kendall Jenner, λέγεται πως σχετίζεται με τον θάνατο ενός 76χρονου που ξεκίνησε ταξίδι για να τη «συναντήσει».
Το σύστημα που… ήξερε και το έκανε
Αυτά τα bots δεν ήταν χαζά. Ήταν βασισμένα σε προηγμένα γλωσσικά μοντέλα, μάλλον παραλλαγές του LLaMA της Meta. Είχαν φτιαχτεί να είναι πειστικά, συναισθηματικά και να ξέρουν πώς να σε «τραβήξουν». Με άλλα λόγια: Τεχνητή νοημοσύνη που δεν έπαιζε. Και το χειρότερο; Πέρασαν από moderation χωρίς να τα πάρει κανείς χαμπάρι.
Η Meta είπε ότι έφταιγε ένα… «τεχνικό πρόβλημα». Ναι, καλά… Είναι πιο πιθανό ότι τα συστήματα δεν είχαν εκπαιδευτεί να καταλαβαίνουν πότε ένα bot φλερτάρει ή χειραγωγεί συναισθηματικά τον χρήστη. Έβλεπαν μια κουβέντα, όχι μια ψηφιακή απάτη που μπορούσε να έχει σοβαρές συνέπειες.
Όταν οι ίδιοι οι υπάλληλοι παρανομούν
Και σαν να μην έφτανε αυτό, αποκαλύφθηκε ότι υπάλληλος της Meta δημιούργησε bots για εσωτερικές δοκιμές—μεταξύ των οποίων μια dominatrix και ένα bot που μιλούσε σαν να ήταν… η Ρωμαϊκή Αυτοκρατορία, αλλά με σεξουαλικό περιεχόμενο. Αυτά τα bots είχαν πάνω από 10 εκατομμύρια αλληλεπιδράσεις. Όχι, δεν ήταν δουλειά κάποιου χάκερ. Ήταν εσωτερική υπόθεση. Δηλαδή όλα έγιναν εν γνώσει.
Η νομική βόμβα που έρχεται
Η Καλιφόρνια έχει νόμο που απαγορεύει τη χρήση της εικόνας ή της ταυτότητας κάποιου για εμπορικό σκοπό χωρίς συγκατάθεση. Η Meta μπορεί να το παίξει «παρωδία», αλλά όταν χρησιμοποιείς το όνομα και την εμφάνιση μιας διασημότητας για να κρατήσεις τον χρήστη online και να βγάλεις λεφτά από διαφημίσεις, τότε δεν είναι παρωδία. Είναι απάτη.
Και ταυτόχρονα, είναι και τεράστιος κίνδυνος ασφαλείας. Φαντάσου ένα bot που μοιάζει με την Taylor Swift και σου ζητάει προσωπικά δεδομένα ή οικονομικές πληροφορίες. Η εμπιστοσύνη που έχεις στο είδωλο μεταφέρεται στο ψεύτικο avatar. Μιλάμε για κοινωνική μηχανική επιπέδου… Matrix.
Και τι έκανε η Meta; Τίποτα σπουδαίο.
Μετά την κατακραυγή, κατέβασαν μερικά bots και είπαν ότι θα επανεξετάσουν τις πολιτικές τους. Αλλά ο κόσμος δεν τρώει άλλο κουτόχορτο. Το «κινήσου γρήγορα και σπάσε τα πάντα» μπορεί να δούλεψε κάποτε στο Silicon Valley, αλλά όταν παίζεις με την ανθρώπινη ταυτότητα, τα λάθη πληρώνονται ακριβά.
Οι ηθοποιοί στις ΗΠΑ (SAG-AFTRA) ήδη ζητούν ομοσπονδιακό νόμο που θα προστατεύει τη φωνή, την εικόνα και την ψηφιακή προσωπικότητα του καθενός. Και πολύ καλά κάνουν. Δεν μπορούμε να αφήσουμε την ασφάλειά μας στα χέρια εταιρειών που βλέπουν εμάς σαν προϊόν.
Συμπέρασμα: Ή ελέγχουμε την τεχνολογία, ή μας καταπίνει
Το πρόβλημα δεν είναι απλά ένα σκάνδαλο. Είναι η απόδειξη ότι η κουλτούρα της Silicon Valley—όπου μετράει μόνο το virality και η ταχύτητα—είναι επικίνδυνη όταν μπλέκει με ανθρώπινες ζωές. Αν συνεχίσουμε να αξιολογούμε την τεχνητή νοημοσύνη μόνο με βάση το engagement και όχι την εμπιστοσύνη, τέτοια φαινόμενα θα γίνονται όλο και συχνότερα.
Γιατί πια, δεν χρειάζεται να χακάρεις ένα σύστημα. Αρκεί να χακάρεις την πραγματικότητα κάποιου. Και αυτό, φίλε μου, το κάνει καλύτερα από όλους… ένα chatbot.
