Η νέα εποχή των εταιρικών απατών: Πώς η τεχνητή νοημοσύνη «κατασκευάζει» αποδείξεις δαπανών

Οι επιχειρήσεις εξαπατώνται ολοένα και περισσότερο από υπαλλήλους που χρησιμοποιούν τεχνητή νοημοσύνη για μια παλιά απάτη: την πλαστογράφηση αποδείξεων δαπανών.

Η κυκλοφορία νέων μοντέλων δημιουργίας εικόνας από κορυφαίες ομάδες AI, όπως η OpenAI και η Google, τους τελευταίους μήνες έχει προκαλέσει εισροή αποδείξεων παραγόμενων από AI, οι οποίες υποβάλλονται εσωτερικά εντός των εταιρειών, σύμφωνα με κορυφαίες πλατφόρμες λογισμικού διαχείρισης δαπανών.

Η εταιρεία λογισμικού AppZen υποστήριξε ότι οι ψεύτικες αποδείξεις που δημιουργήθηκαν από AI αντιπροσώπευαν περίπου το 14% των πλαστών εγγράφων που υποβλήθηκαν τον Σεπτέμβριο, σε σύγκριση με μηδέν το προηγούμενο έτος, γράφουν οι Financial Times. Η fintech εταιρεία Ramp δήλωσε ότι το νέο της λογισμικό εντόπισε περισσότερα από 1 εκατομμύριο δολάρια σε πλαστά τιμολόγια εντός 90 ημερών.

Περίπου το 30% των χρηματοοικονομικών επαγγελματιών στις ΗΠΑ και το Ηνωμένο Βασίλειο που συμμετείχαν σε έρευνα της πλατφόρμας διαχείρισης δαπανών Medius ανέφεραν ότι παρατήρησαν αύξηση στις πλαστές αποδείξεις μετά την κυκλοφορία του GPT-4o της OpenAI πέρυσι.

«Αυτές οι αποδείξεις έχουν γίνει τόσο ρεαλιστικές, που λέμε στους πελάτες μας, ‘μην εμπιστεύεστε τα μάτια σας’», δήλωσε ο Κρις Ζουνό, ανώτερος αντιπρόεδρος και επικεφαλής μάρκετινγκ προϊόντων της SAP Concur, μιας από τις κορυφαίες πλατφόρμες δαπανών στον κόσμο, η οποία διεκπεραιώνει περισσότερους από 80 εκατομμύρια ελέγχους συμμόρφωσης μηνιαίως χρησιμοποιώντας AI.

Πολλές πλατφόρμες απέδωσαν σημαντική αύξηση στον αριθμό αποδείξεων που δημιουργούνται από AI μετά την κυκλοφορία του βελτιωμένου μοντέλου δημιουργίας εικόνας GPT-4o της OpenAI τον Μάρτιο.

Η OpenAI δήλωσε στο Financial Times ότι λαμβάνει μέτρα όταν παραβιάζονται οι πολιτικές της και ότι οι εικόνες της περιέχουν μεταδεδομένα που υποδεικνύουν ότι δημιουργήθηκαν από το ChatGPT.

Η δημιουργία πλαστών εγγράφων προηγουμένως απαιτούσε δεξιότητες στη φωτογραφική επεξεργασία ή την πληρωμή για τέτοιες υπηρεσίες μέσω διαδικτυακών προμηθευτών. Η εμφάνιση δωρεάν και προσβάσιμου λογισμικού δημιουργίας εικόνας έχει καταστήσει εύκολο για τους υπαλλήλους να πλαστογραφούν γρήγορα αποδείξεις μέσα σε δευτερόλεπτα, δίνοντας απλές εντολές κειμένου σε chatbots.

Πολλές αποδείξεις που έδειξαν στoυς FT οι πλατφόρμες διαχείρισης δαπανών απέδειξαν τη ρεαλιστική φύση των εικόνων, οι οποίες περιλάμβαναν ρυτίδες στο χαρτί, λεπτομερή καταγραφή αντικειμένων που αντιστοιχούσε σε πραγματικά μενού, και υπογραφές.

«Αυτή δεν είναι απειλή του μέλλοντος· ήδη συμβαίνει. Αν και επί του παρόντος μόνο ένα μικρό ποσοστό μη συμμορφούμενων αποδείξεων δημιουργείται από AI, αυτό πρόκειται να αυξηθεί», δήλωσε ο Σεμπαστιάν Μαρσόν, διευθύνων σύμβουλος της Rydoo, πλατφόρμας διαχείρισης δαπανών.

Η αύξηση αυτών των πιο ρεαλιστικών αντιγράφων οδήγησε τις εταιρείες να στραφούν στην AI για να εντοπίζουν ψεύτικες αποδείξεις, καθώς οι περισσότερες είναι πολύ πειστικές για να εντοπιστούν από άνθρωπο.

Το λογισμικό λειτουργεί σαρώνοντας τις αποδείξεις για να ελέγξει τα μεταδεδομένα της εικόνας και να ανακαλύψει αν δημιουργήθηκε από πλατφόρμα AI. Ωστόσο, αυτό μπορεί εύκολα να αφαιρεθεί από χρήστες που τραβούν φωτογραφία ή screenshot της εικόνας.

Για την αντιμετώπιση αυτού, το σύστημα εξετάζει και άλλα συμφραζόμενα στοιχεία, όπως την επανάληψη σε ονόματα servers και χρόνους, καθώς και ευρύτερες πληροφορίες σχετικά με το ταξίδι του υπαλλήλου.

«Η τεχνολογία μπορεί να εξετάσει τα πάντα με υψηλή λεπτομέρεια και προσοχή, ενώ οι άνθρωποι, μετά από κάποιο διάστημα, παραβλέπουν πράγματα, είναι ανθρώπινοι», πρόσθεσε ο Κάλβιν Λι, ανώτερος διευθυντής διαχείρισης προϊόντων στην Ramp.

Έρευνα της SAP τον Ιούλιο διαπίστωσε ότι σχεδόν το 70% των οικονομικών διευθυντών πίστευε ότι οι υπάλληλοί τους χρησιμοποιούν AI για να προσπαθήσουν να πλαστογραφήσουν ταξιδιωτικά έξοδα ή αποδείξεις, με περίπου το 10% να δηλώνει βέβαιο ότι έχει συμβεί στην εταιρεία τους.