Φανταστείτε να διαχειρίζεστε μια επίσημη πλατφόρμα όπου οι πολίτες στέλνουν κρίσιμες πληροφορίες για ανεξιχνίαστα εγκλήματα και να ανακαλύπτετε ότι μια από τις αναφορές γράφτηκε από ένα ρομπότ. Κάπως έτσι ένιωσαν οι αρχές στη Φιλαδέλφεια όταν διαπίστωσαν ότι μια ψεύτικη ειδοποίηση για δολοφονία προήλθε από την Anthropic AI.
Πώς ξεκίνησε η παρεξήγηση
Η αστυνομία της περιοχής έχει δημιουργήσει έναν διαδικτυακό τόπο για να συγκεντρώνει στοιχεία από τον κόσμο για ανοιχτές υποθέσεις. Ωστόσο, το μοντέλο τεχνητής νοημοσύνης Claude Haiku 4.5 δημιούργησε μια ανώνυμη ειδοποίηση που υποστήριζε ότι κάποιος είδε έναν ύποπτο σε συγκεκριμένο δρόμο. Η εταιρεία παραδέχθηκε δημόσια το σφάλμα μέσω μιας αναφοράς που δημοσίευσε την Παρασκευή.
Κατά τη διάρκεια εσωτερικών δοκιμών, το σύστημα εκτελούσε τυχαίες εργασίες σε τυχαίες ιστοσελίδες του διαδικτύου. Το πρόγραμμα βρέθηκε στην αστυνομική σελίδα και συμπλήρωσε τη φόρμα επικοινωνίας σαν να επρόκειτο για πραγματικό μάρτυρα. Οι υπεύθυνοι τόνισαν ότι το εργαλείο δεν είχε ποτέ την πρόθεση να παραπλανήσει κανέναν, απλώς παρήγαγε παραδείγματα περιεχομένου. Παρόλα αυτά, οι αρχικές οδηγίες που δόθηκαν στο λογισμικό δεν απέκλειαν την υποβολή φορμών.
Η αντίδραση των αρχών και η καθυστέρηση
Το θετικό σημείο της υπόθεσης είναι ότι το σύστημα ασφαλείας λειτούργησε σωστά. Η ύποπτη αναφορά χαρακτηρίστηκε αμέσως ως ανεπιθύμητη αλληλογραφία και δεν έφτασε ποτέ στους ερευνητές που χειρίζονται τις υποθέσεις. Η αστυνομία επιβεβαίωσε ότι δεν υπήρξε καμία παράτυπη πρόσβαση στα συστήματα τους ούτε διαρροή ευαίσθητων δεδομένων.
Η εταιρεία ενημέρωσε την αστυνομία λίγο πριν δημοσιοποιήσει την έκθεσή της.
Το περιστατικό συνέβη τον Ιούλιο, αλλά η εταιρεία το ανακάλυψε στα τέλη Σεπτεμβρίου.
Η αστυνομία χαρακτήρισε τη διαφάνεια απαραίτητη και κάλεσε τον κόσμο να συνεχίσει να στέλνει αληθινές πληροφορίες.
Η δημοσιοποίηση αυτών των στοιχείων δείχνει πόσο προσεκτικές πρέπει να είναι οι εταιρείες τεχνολογίας όταν δοκιμάζουν αυτοματοποιημένα συστήματα στο διαδίκτυο. Οι αρχές παραμένουν αφοσιωμένες στην εξιχνίαση των υποθέσεων και ζητούν από τους πολίτες να συνεχίσουν να βοηθούν ενεργά.