Η αμερικανική εταιρεία ερευνών και ανάπτυξης τεχνητής νοημοσύνης, Anthropic μπλόκαρε αίτημα προς το Claude που αφορούσε έρευνα στον ιό chikungunya, καθώς η εταιρεία έκρινε ότι η συγκεκριμένη εργασία θα μπορούσε να έχει εφαρμογές πέρα από την καθαρά ιατρική έρευνα και να δημιουργήσει κινδύνους για τη βιοασφάλεια.
Η υπόθεση περιλαμβάνεται στη νέα έκθεση της Anthropic για τη χρήση των μοντέλων της σε δραστηριότητες που θεωρούνται επικίνδυνες. Σύμφωνα με την εταιρεία, τον Μάιο του 2026 το σύστημα ασφαλείας εντόπισε αίτημα για βοήθεια στη σύνταξη πρότασης χρηματοδότησης επιστημονικής έρευνας.
Το αντικείμενο ήταν η λεγόμενη gain–of–function έρευνα, δηλαδή εργασίες που μπορούν να τροποποιήσουν έναν οργανισμό ώστε να αποκτήσει ή να ενισχύσει συγκεκριμένες βιολογικές ιδιότητες.
Στη συγκεκριμένη περίπτωση, η έρευνα αφορούσε τον ιό chikungunya και χαρακτηριστικά που σχετίζονται με τη μετάδοσή του και την ικανότητά του να αποφεύγει την ανοσολογική απόκριση. Η Anthropic αναφέρει ότι το ίδιο είδος έρευνας μπορεί να έχει νόμιμους επιστημονικούς στόχους, όπως η ανάπτυξη εμβολίων ή θεραπειών.
Ωστόσο, υπήρχε ένα ακόμη στοιχείο που αύξησε την ανησυχία της εταιρείας: η έρευνα προοριζόταν να πραγματοποιηθεί σε στρατιωτικό ερευνητικό ίδρυμα.
Η Anthropic δεν αναφέρει ότι διαπίστωσε πως οι ερευνητές σκόπευαν να κατασκευάσουν βιολογικό όπλο. Αντίθετα, επισημαίνει ότι δεν ήταν σε θέση να προσδιορίσει τον τελικό σκοπό της έρευνας, καθώς η ίδια επιστημονική διαδικασία μπορεί να χρησιμοποιηθεί τόσο για ιατρικούς όσο και για επικίνδυνους σκοπούς.
Και άλλες περιπτώσεις με επικίνδυνα παθογόνα
Η συγκεκριμένη υπόθεση δεν ήταν η μοναδική που καταγράφηκε στην έκθεση. Η Anthropic αναφέρει ότι εντόπισε ερευνητή εκτός ΗΠΑ να χρησιμοποιεί το Claude για εργασία πάνω σε υψηλής παθογονικότητας γρίπη των πτηνών. Η έρευνα αφορούσε τον τρόπο με τον οποίο οι ιοί προσαρμόζονται στα θηλαστικά και τους μηχανισμούς που μπορούν να οδηγήσουν σε σοβαρότερη νόσηση.
Η εταιρεία αναφέρει επίσης περίπτωση αίτησης χρηματοδότησης για έρευνα σε ορθοποξοϊούς, μια οικογένεια ιών στην οποία ανήκουν μεταξύ άλλων ο ιός της ευλογιάς και ο mpox. Η αίτηση περιέγραφε πρόσβαση σε εγκαταστάσεις υψηλού επιπέδου βιολογικού περιορισμού και εργασία με ζωντανούς ιούς.
Σε περιπτώσεις όπου εντοπίστηκαν παραβιάσεις των κανόνων ασφαλείας, η Anthropic αναφέρει ότι απέκλεισε τους σχετικούς λογαριασμούς και διέκοψε την πρόσβαση στα μοντέλα της.
Η δημοσιοποίηση των περιστατικών έρχεται σε μια περίοδο κατά την οποία η δυνατότητα των προηγμένων μοντέλων τεχνητής νοημοσύνης να υποστηρίζουν επιστημονικές εργασίες υψηλής δυσκολίας προκαλεί νέες συζητήσεις για τα όρια της χρήσης τους.
Η Anthropic υποστηρίζει ότι η εξέλιξη των μοντέλων σημαίνει πως οι έλεγχοι δεν μπορούν να περιορίζονται μόνο σε συγκεκριμένα αιτήματα, αλλά πρέπει να λαμβάνουν υπόψη και τον τρόπο με τον οποίο τα εργαλεία χρησιμοποιούνται σε πραγματικές επιστημονικές διαδικασίες.