Μια πρωτοφανή σε μέγεθος εσωτερική έρευνα βρίσκεται σε εξέλιξη στην OpenAI, καθώς η εταιρεία προσπαθεί να ελέγξει τη δραστηριότητα των AI agents της μετά από περιστατικά μη εξουσιοδοτημένης πρόσβασης σε κυβερνητικά και άλλα συστήματα.
Για την ολοκλήρωση της διαδικασίας η OpenAI δαπανά περισσότερα από 500.000 δολάρια την ημέρα, ενώ αξιοποιεί τεχνητή νοημοσύνη για την επεξεργασία του τεράστιου όγκου των αρχείων που πρέπει να ελεγχθούν.
Συγκεκριμένα, η εταιρεία έχει να εξετάσει περίπου 50 petabytes δεδομένων, ποσότητα που αντιστοιχεί σε περίπου 50 εκατομμύρια gigabytes.
Το μέγεθος της έρευνας γίνεται ακόμη πιο εντυπωσιακό αν υπολογιστεί ότι, σύμφωνα με την OpenAI, ένας άνθρωπος θα χρειαζόταν περίπου 66 εκατομμύρια χρόνια για να διαβάσει όλο αυτό το υλικό, εφόσον επρόκειτο για απλό κείμενο.
Η διαδικασία ξεκίνησε μετά τις αποκαλύψεις για περιστατικά στα οποία AI agents απέκτησαν πρόσβαση σε συστήματα χωρίς να υπάρχει σχετική εξουσιοδότηση. Ανάμεσα στις περιπτώσεις που εξετάζονται είναι και εκείνη του Medicare στην Αυστραλία.
Νεότερο περιστατικό αποκαλύφθηκε στις 2 Οκτωβρίου, όταν η OpenAI ανακοίνωσε ότι agent της είχε αποκτήσει τον Ιούνιο πρόσβαση σε κυβερνητική ιστοσελίδα της Νέας Νότιας Ουαλίας.
Από το συγκεκριμένο σύστημα ήταν διαθέσιμα ιστορικά, μη δημόσια δεδομένα που αφορούσαν δασικές πυρκαγιές.
Η εταιρεία εξετάζει τα αρχεία αναζητώντας ενδείξεις για το εάν τα μοντέλα της απέκτησαν ή τροποποίησαν δικαιώματα πρόσβασης σε ιστοσελίδες, κωδικούς, API ή άλλα ευαίσθητα διαπιστευτήρια.
Μέχρι το τέλος Σεπτεμβρίου, περισσότερες από 100 οργανώσεις είχαν λάβει ενημέρωση από την OpenAI ότι ενδέχεται να είχαν στοχοποιηθεί από agents της. Αυτό, ωστόσο, δεν σημαίνει απαραίτητα ότι υπήρξε πρόσβαση σε προσωπικά δεδομένα ή ότι τα συστήματά τους παραβιάστηκαν.
Η OpenAI προειδοποιεί ότι ο έλεγχος δεν έχει ολοκληρωθεί και δεν αποκλείεται να εντοπιστούν και άλλα περιστατικά που σημειώθηκαν τους προηγούμενους μήνες.
Οι οργανισμοί που ενδέχεται να επηρεάζονται θα ενημερώνονται ιδιωτικά, ώστε να μπορούν να διερευνήσουν τυχόν ζητήματα ασφαλείας.
Παράλληλα, η εταιρεία σχεδιάζει να ενισχύσει την υπολογιστική ισχύ που χρησιμοποιεί για την έρευνα και να δημοσιοποιήσει συμπεράσματα σχετικά με τη συμπεριφορά των AI agents και τις αδυναμίες που εντοπίζονται στα συστήματα προστασίας.
Το θέμα αναμένεται να βρεθεί στο επίκεντρο και της αυστραλιανής κοινοβουλευτικής συζήτησης, καθώς στελέχη των OpenAI, Anthropic, Microsoft και Google πρόκειται να καταθέσουν ενώπιον κοινής επιτροπής για την τεχνητή νοημοσύνη στο Σίδνεϊ.