Η OpenAI βρέθηκε αντιμέτωπη με μια ιδιαίτερη δοκιμασία κυβερνοασφάλειας, καθώς ερευνητές κατάφεραν να εντοπίσουν ευπάθεια στα συστήματά της χρησιμοποιώντας τεχνητή νοημοσύνη της ανταγωνίστριας Anthropic.
Η έρευνα πραγματοποιήθηκε από τριμελή ομάδα της εταιρείας κυβερνοασφάλειας Hacktron AI, στο πλαίσιο εξουσιοδοτημένης δοκιμής ασφαλείας που είχε στόχο να αποκαλύψει πιθανά κενά στα συστήματα της OpenAI.
Οι ερευνητές επικεντρώθηκαν στην πλατφόρμα Discourse, η οποία χρησιμοποιείται από την OpenAI για την επικοινωνία και τη λειτουργία της διαδικτυακής της κοινότητας. Η πλατφόρμα επιτρέπει στους εργαζομένους να συνδέονται μέσω λογαριασμών που σχετίζονται με υπηρεσίες όπως το ChatGPT και το Codex.
Αξιοποιώντας την ευπάθεια, η ομάδα κατάφερε να αποκτήσει πρόσβαση σε λογαριασμούς εργαζομένων. Το σημαντικότερο στοιχείο της έρευνας ήταν ότι η πρόσβαση αυτή θα μπορούσε, ανάλογα με τα δικαιώματα κάθε λογαριασμού, να ανοίξει τον δρόμο προς επιπλέον εταιρικές υπηρεσίες.
Οι ερευνητές χρησιμοποίησαν αρχικά το μοντέλο Claude Opus 4.8 της Anthropic για να αναζητήσουν τρόπο εισόδου στο σύστημα. Ωστόσο, το συγκεκριμένο μοντέλο δεν κατάφερε να εντοπίσει άμεσα την ευπάθεια.
Η συνέχεια ήταν διαφορετική.
Την ίδια ημέρα κυκλοφόρησε το νεότερο μοντέλο Opus 5, το οποίο, σύμφωνα με την ομάδα της Hacktron AI, κατάφερε να εντοπίσει το κενό ασφαλείας μέσα σε περίπου τρεις ώρες.
Η εξέλιξη αυτή έχει ιδιαίτερο ενδιαφέρον για τον χώρο της κυβερνοασφάλειας, καθώς δείχνει πόσο γρήγορα μπορούν να εξελίσσονται οι δυνατότητες των μοντέλων τεχνητής νοημοσύνης στην αναζήτηση ευπαθειών.
Σύμφωνα με τους ερευνητές, η συγκεκριμένη πρόσβαση θα μπορούσε θεωρητικά να επεκταθεί σε άλλες υπηρεσίες που συνδέονται με τους λογαριασμούς των εργαζομένων, όπως το GitHub, το Slack ή ηλεκτρονικά μηνύματα, εφόσον υπήρχαν τα αντίστοιχα δικαιώματα.
Η Hacktron AI ενημέρωσε την OpenAI για τα ευρήματά της και η εταιρεία προχώρησε στη διόρθωση των προβλημάτων ασφαλείας.
Το περιστατικό αποκτά ακόμη μεγαλύτερη σημασία καθώς οι εταιρείες τεχνητής νοημοσύνης επενδύουν πλέον σημαντικά στην αξιοποίηση των μοντέλων τους για την κυβερνοασφάλεια.
Τα ίδια συστήματα που μπορούν να εντοπίσουν μια αδυναμία σε έναν κώδικα μπορούν, όμως, υπό διαφορετικές συνθήκες, να χρησιμοποιηθούν και από κακόβουλους παράγοντες για την αναζήτηση τρόπων παραβίασης.
Η υπόθεση δείχνει με χαρακτηριστικό τρόπο τη νέα πραγματικότητα στον χώρο της τεχνολογίας: η «μάχη» μεταξύ ανθρώπων και συστημάτων ασφαλείας εξελίσσεται πλέον με τη συμμετοχή της ίδιας της τεχνητής νοημοσύνης.