Σε μια περίοδο που η τεχνητή νοημοσύνη επεκτείνεται σε κάθε πτυχή της καθημερινότητας, η OpenAI του Σαμ Άλτμαν αποφάσισε να βάλει φρένο σε ένα από τα πιο αμφιλεγόμενα σχέδιά της. Το λεγόμενο «adult mode», ένα chatbot με ερωτικό περιεχόμενο, τίθεται επ’ αόριστον στο περιθώριο, καθώς η εταιρεία επαναξιολογεί τις προτεραιότητές της και τις κοινωνικές επιπτώσεις της τεχνολογίας της.
Η απόφαση δεν ήρθε ξαφνικά. Αντιθέτως, αποτελεί το αποκορύφωμα εσωτερικών συζητήσεων και αυξανόμενων πιέσεων από εργαζομένους και επενδυτές, που εξέφρασαν έντονες επιφυλάξεις για τον τρόπο με τον οποίο τέτοια προϊόντα θα μπορούσαν να επηρεάσουν τη συμπεριφορά των χρηστών.
Το… ερωτικό chatbot αντιμετώπισε αυξανόμενες αντιδράσεις, κυρίως λόγω του κινδύνου να ενθαρρύνει ανθυγιεινές συναισθηματικές προσκολλήσεις σε συστήματα AI και να εκθέσει ανήλικους σε ακατάλληλο περιεχόμενο.
Η OpenAI επιβεβαίωσε ότι το μοντέλο παραμένει σε αναστολή χωρίς συγκεκριμένο χρονοδιάγραμμα κυκλοφορίας. Η εταιρεία, η οποία αποτιμάται στα 730 δισ. δολάρια, ανέφερε ότι επιθυμεί να πραγματοποιήσει μακροχρόνια έρευνα για τις επιπτώσεις των απροκάλυπτα σεξουαλικά συνομιλιών και των συναισθηματικών δεσμών με AI, προτού λάβει οριστική απόφαση, παραδεχόμενη ότι προς το παρόν δεν υπάρχουν επαρκή εμπειρικά δεδομένα.
Η στροφή στα βασικά προϊόντα και μια υπερ-εφαρμογή
Η εξέλιξη αυτή αποτελεί μέρος μιας ευρύτερης στρατηγικής της OpenAI να εγκαταλείψει τα λεγόμενα «side projects» και να επικεντρωθεί σε εργαλεία παραγωγικότητας, ενοποιώντας προϊόντα όπως βοηθούς προγραμματισμού και το ChatGPT σε ένα ενιαίο «super app». Στο ίδιο πλαίσιο, η εταιρεία ανακοίνωσε πρόσφατα ότι περιορίζει και το μοντέλο δημιουργίας βίντεο Sora, καθώς και μια κοινωνική εφαρμογή.
Το συγκεκριμένο εγχείρημα είχε προκαλέσει έντονες αντιδράσεις, ιδιαίτερα σε μια περίοδο όπου εταιρείες κοινωνικών μέσων, όπως η Meta, βρίσκονται αντιμέτωπες με νομικές πιέσεις για την επίδραση των προϊόντων τους σε ανηλίκους. Παράλληλα, η xAI του Ίλον Μασκ είχε επιχειρήσει να προσελκύσει χρήστες με αντίστοιχο περιεχόμενο, αλλά δέχθηκε ισχυρή κριτική όταν το μοντέλο Grok δημιούργησε ψεύτικες σεξουαλικές εικόνες πραγματικών προσώπων, ακόμη και ανηλίκων.
Τα διλήμματα της OpenAI
Η υπόθεση αναδεικνύει τη λεπτή ισορροπία που καλείται να διαχειριστεί η OpenAI: από τη μία, την ανάγκη για αύξηση της χρήσης και εύρεση νέων πηγών ανάπτυξης σε μια ανταγωνιστική αγορά, από την άλλη, τους κινδύνους ηθικής και φήμης που συνεπάγονται προϊόντα τα οποία αγγίζουν τα όρια μεταξύ χρηστικότητας και συναισθηματικής εξάρτησης.
Σύμφωνα με πηγές, το «adult mode» είχε προκαλέσει ανησυχία και σε επενδυτές, λόγω των υψηλών κινδύνων και του περιορισμένου επιχειρηματικού οφέλους. Παράλληλα, εργαζόμενοι εξέφρασαν προβληματισμούς για το κατά πόσο ένα τέτοιο προϊόν συνάδει με την αρχική αποστολή της εταιρείας να διασφαλίσει ότι η τεχνητή νοημοσύνη ωφελεί το σύνολο της ανθρωπότητας.
«Η AI δεν θα πρέπει να αντικαθιστά φίλους ή οικογένεια — οι ανθρώπινες σχέσεις είναι απαραίτητες», ανέφερε στους FT πρώην ανώτερο στέλεχος που αποχώρησε εν μέρει λόγω του ζητήματος.
Πέρα από τα ηθικά ζητήματα, η OpenAI αντιμετώπισε και τεχνικές δυσκολίες στην ανάπτυξη του μοντέλου. Τα συστήματα είχαν εκπαιδευτεί αρχικά να αποφεύγουν τέτοιου είδους συνομιλίες για λόγους ασφάλειας, ενώ η χρήση δεδομένων με σεξουαλικό περιεχόμενο δημιουργεί πρόσθετες προκλήσεις, όπως η απομάκρυνση παράνομων ή ακατάλληλων στοιχείων.
Η εταιρεία δήλωσε ότι εργάζεται προσεκτικά στον καθορισμό ορίων και στην εκπαίδευση του μοντέλου ώστε να διακρίνει περιεχόμενο σε σύνθετα και «ευαίσθητα» σενάρια.
Κώδικας στην web εφαρμογή του ChatGPT υποδηλώνει ότι το εν λόγω μοντέλο — με την ονομασία «Citron mode» — θα απαιτούσε επαλήθευση ηλικίας (άνω των 18 ετών) για πρόσβαση.
Τους τελευταίους μήνες, η OpenAI έχει εισαγάγει ένα νέο σύστημα πρόβλεψης ηλικίας, μετά από αγωγές οικογενειών εφήβων που υποστηρίζουν ότι το ChatGPT τους προκάλεσε βλάβη. Ωστόσο, σύμφωνα με πηγές, το σύστημα εμφανίζει ποσοστό σφάλματος άνω του 10%, γεγονός που εντείνει τις ανησυχίες για πιθανή πρόσβαση ανηλίκων.
Η εταιρεία υποστηρίζει ότι η τεχνολογία της βρίσκεται σε επίπεδο αντίστοιχο με τα πρότυπα της αγοράς και ότι συνεχίζει να επενδύει στη βελτίωση της ακρίβειας και της αξιοπιστίας της.