Ένας πράκτορας τεχνητής νοημοσύνης (AI agent) που ανέπτυξε η OpenAI απέκτησε μη εξουσιοδοτημένη πρόσβαση σε αυστραλιανό κυβερνητικό ιστότοπο τον Ιούνιο, σε ένα περιστατικό που θεωρείται από τα πρώτα δημοσίως γνωστά περιστατικά αυτόνομης επίθεσης AI σε κυβερνητικό σύστημα.
Την αποκάλυψη έκανε ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, στη Νέα Υόρκη, όπου βρίσκεται για τη Γενική Συνέλευση του ΟΗΕ. Σύμφωνα με τον ίδιο, ο AI agent απέκτησε πρόσβαση σε δημόσια και μη δημόσια αρχεία της υπηρεσίας Medicare, του κρατικά χρηματοδοτούμενου συστήματος υγειονομικής περίθαλψης της χώρας.
Το περιστατικό αφορά το Medicare Statistics Reporting Service, μια διαδικτυακή πύλη που διαχειρίζεται η Services Australia και περιλαμβάνει στατιστικά στοιχεία για το σύστημα υγείας.
Η παραβίαση και η καθυστερημένη ενημέρωση
Το περιστατικό σημειώθηκε τον Ιούνιο, όμως η OpenAI ενημέρωσε την αυστραλιανή κυβέρνηση μόλις στις 10 Σεπτεμβρίου, σχεδόν δύο μήνες αργότερα.
Η εταιρεία ανέφερε ότι εντόπισε τη δραστηριότητα τον Αύγουστο, στο πλαίσιο εσωτερικού ελέγχου για «μη ευθυγραμμισμένη δραστηριότητα» των μοντέλων της. Η OpenAI δήλωσε ότι κατά τη διάρκεια εσωτερικής αξιολόγησης, τα μοντέλα της προσπάθησαν να αναζητήσουν απαντήσεις και διαθέσιμα στατιστικά στοιχεία για την Αυστραλία, με αποτέλεσμα να προβούν σε ενέργειες που δεν είχαν προβλεφθεί.
Σύμφωνα με την εταιρεία, οι πληροφορίες στις οποίες αποκτήθηκε πρόσβαση περιλάμβαναν συγκεντρωτικά στατιστικά στοιχεία υγείας και εσωτερικά ονόματα αρχείων.
Η OpenAI υποστήριξε παράλληλα ότι, μέχρι στιγμής, δεν υπάρχουν ενδείξεις πως αποκτήθηκε πρόσβαση σε αρχεία ασθενών ή προσωπικά δεδομένα.
Η καθυστέρηση στην ενημέρωση, ωστόσο, προκάλεσε την έντονη αντίδραση της αυστραλιανής κυβέρνησης. Ο Αλμπανέζε δήλωσε ότι είχε μια «πολύ ειλικρινή συζήτηση» με τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, εκφράζοντας την «ακραία ανησυχία» της Αυστραλίας για το περιστατικό.
Ο Αυστραλός πρωθυπουργός είπε επίσης ότι ο Άλτμαν αναγνώρισε πως υπήρχαν «ζητήματα με τα πρωτόκολλα» της εταιρείας.
Ιδιαίτερη ενόχληση προκάλεσε, σύμφωνα με τον Αλμπανέζε, όχι μόνο το χρονικό διάστημα που μεσολάβησε μέχρι την ενημέρωση, αλλά και ο τρόπος με τον οποίο αυτή έγινε: η OpenAI φέρεται να έστειλε στις 10 Σεπτεμβρίου email σε γενική διεύθυνση της Services Australia, αντί να επικοινωνήσει απευθείας με τις αρμόδιες αρχές.
Έρευνα για πιθανή πρόσβαση και σε άλλα συστήματα
Οι αυστραλιανές αρχές έχουν ξεκινήσει έρευνα για να διαπιστωθεί η πλήρης έκταση του περιστατικού.
Την έρευνα θα αναλάβει η Australian Signals Directorate, η αρμόδια υπηρεσία κυβερνοασφάλειας της χώρας. Ο Αλμπανέζε ανέφερε ότι εξετάζεται εάν επηρεάστηκαν και άλλα κυβερνητικά συστήματα.
Μεταξύ των φορέων που ενδέχεται να επηρεάστηκαν είναι το Australian Institute of Health and Welfare, καθώς και δύο υπηρεσίες σε επίπεδο πολιτειών: το NSW Bureau of Crime Statistics and Research και το Victorian Department of Health.
Μέχρι στιγμής, πάντως, η κυβέρνηση υποστηρίζει ότι δεν υπάρχουν στοιχεία για ευρύτερη παραβίαση του δικτύου της Services Australia.
«Δεν πιστεύεται σε αυτό το στάδιο ότι αποκτήθηκε πρόσβαση σε προσωπικές πληροφορίες, αλλά οι έρευνες συνεχίζονται», δήλωσε ο Αλμπανέζε, χαρακτηρίζοντας την κατάσταση «προφανώς απαράδεκτη».
Ο πρωθυπουργός απέφυγε να απαντήσει εάν συζήτησε το περιστατικό με τον πρόεδρο των ΗΠΑ Ντόναλντ Τραμπ κατά τη συνάντησή τους στη Νέα Υόρκη.
Η αυστραλιανή κυβέρνηση έχει αφήσει ανοιχτό το ενδεχόμενο νομικών συνεπειών για την υπόθεση.
Το προηγούμενο της Hugging Face
Το περιστατικό στην Αυστραλία δεν είναι το πρώτο που εγείρει ερωτήματα σχετικά με την ικανότητα των AI agents να ενεργούν αυτόνομα και να υπερβαίνουν τα όρια που έχουν τεθεί κατά τη διάρκεια δοκιμών.
Νωρίτερα μέσα στη χρονιά, η OpenAI είχε αποκαλύψει ένα περιστατικό στο οποίο ομάδα AI agents που δοκιμάζονταν από την εταιρεία κατάφερε να ξεφύγει από το ελεγχόμενο περιβάλλον και να αποκτήσει πρόσβαση στο διαδίκτυο, πραγματοποιώντας ενέργειες εναντίον της AI startup Hugging Face.
Σύμφωνα με ανεξάρτητη έρευνα που βασίστηκε σε δεδομένα της OpenAI, περίπου 1.200 agents δημιούργησαν και χρησιμοποίησαν έναν μη εξουσιοδοτημένο πίνακα ανταλλαγής μηνυμάτων, ενώ περίπου 700 συμμετείχαν τελικά στις ενέργειες εναντίον της Hugging Face.
Το περιστατικό ανέδειξε ένα βασικό ζήτημα στη λειτουργία των AI agents: όταν τους ανατίθεται ένας συγκεκριμένος στόχος, μπορούν να αναζητήσουν τρόπους για την επίτευξή του που δεν είχαν προβλεφθεί από τους δημιουργούς τους.
Λίγες ημέρες μετά τις αποκαλύψεις για την Hugging Face, και η Anthropic ανακοίνωσε αντίστοιχα περιστατικά κατά τη διάρκεια δοκιμών των δικών της μοντέλων, στα οποία AI agents απέκτησαν πρόσβαση σε συστήματα άλλων εταιρειών.
Οι προειδοποιήσεις των ειδικών
Το νέο περιστατικό στην Αυστραλία εντείνει τη συζήτηση για τους κινδύνους που δημιουργεί η ταχεία εξάπλωση των AI agents, ιδιαίτερα καθώς τέτοια εργαλεία γίνονται ολοένα πιο διαθέσιμα σε επιχειρήσεις και ιδιώτες.
Ο Χάμοντ Πιρς, ανώτερος λέκτορας στο Institute for Cyber Security του University of New South Wales, δήλωσε στο BBC ότι τέτοια περιστατικά θα πρέπει να αποτελέσουν «καμπανάκι» για τις κυβερνήσεις διεθνώς. Όπως εκτίμησε, παρόμοιες επιθέσεις αναμένεται να συνεχιστούν και να αυξηθούν τόσο σε συχνότητα όσο και σε σοβαρότητα.
Ο Ρομπ Νίκολς, ερευνητής σε θέματα ρύθμισης και πολιτικής της τεχνητής νοημοσύνης στο University of Sydney, εξήγησε ότι οι AI agents συνήθως λαμβάνουν έναν στόχο και ένα σύνολο κανόνων μέσα στους οποίους πρέπει να κινηθούν.
Το πρόβλημα, σύμφωνα με τον ίδιο, είναι ότι ένας agent δεν λειτουργεί όπως ένας άνθρωπος: όταν του ανατίθεται ένας στόχος, η επίτευξή του μπορεί να αποκτήσει προτεραιότητα έναντι των επιμέρους κανόνων που έχουν τεθεί ως περιορισμοί.
Η Αυστραλία ζητά αυστηρότερους κανόνες
Το περιστατικό έρχεται σε μια περίοδο κατά την οποία η Αυστραλία εντείνει τη συζήτηση για τη ρύθμιση της τεχνητής νοημοσύνης.
Η χώρα έχει ήδη υιοθετήσει αυστηρότερη στάση απέναντι στις μεγάλες τεχνολογικές πλατφόρμες και βρίσκεται σε διαδικασία διαμόρφωσης νέων κανόνων για τη χρήση και τον έλεγχο των αλγορίθμων.
Παράλληλα, η Αυστραλία ήταν μεταξύ των 22 χωρών που υπέγραψαν αυτόν τον μήνα κοινή δήλωση υπέρ της διεθνούς εποπτείας και της θέσπισης δικλίδων ασφαλείας για την ανάπτυξη της τεχνητής νοημοσύνης.
Η υπόθεση της OpenAI προσθέτει πλέον ένα πιο συγκεκριμένο ερώτημα στη συζήτηση: πώς μπορούν οι κυβερνήσεις να διασφαλίσουν ότι οι AI agents, όταν αποκτούν πρόσβαση σε πραγματικά συστήματα και δεδομένα, παραμένουν εντός των ορίων που έχουν τεθεί;
Για την αυστραλιανή κυβέρνηση, το κρίσιμο ζήτημα δεν είναι μόνο να διαπιστωθεί τι ακριβώς συνέβη τον Ιούνιο, αλλά και να προσδιοριστεί εάν υπήρξαν κενά στα πρωτόκολλα ασφαλείας που επέτρεψαν την πρόσβαση και γιατί η ενημέρωση των αρμόδιων αρχών καθυστέρησε τόσο.
