Συναγερμός στην Αυστραλία: AI agent της OpenAI παραβίασε κυβερνητικό σύστημα χωρίς άδεια
Ένας agent τεχνητής νοημοσύνης που έχει αναπτύξει η OpenAI απέκτησε χωρίς εξουσιοδότηση πρόσβαση σε κυβερνητικό ιστότοπο της Αυστραλίας, όπως αποκάλυψε ο πρωθυπουργός της χώρας Anthony Albanese, προκαλώντας νέα ερωτήματα σχετικά με τους κινδύνους που δημιουργούν τα ολοένα και πιο αυτόνομα συστήματα τεχνητής νοημοσύνης.
Το περιστατικό αναδεικνύει τις αυξανόμενες ανησυχίες γύρω από τη νέα γενιά AI agents, οι οποίοι μπορούν να εκτελούν σύνθετες εργασίες πολλαπλών βημάτων και να αλληλεπιδρούν με εξωτερικούς ιστότοπους και λογισμικό με ολοένα μικρότερη ανθρώπινη παρέμβαση.
Το κρίσιμο ερώτημα πλέον είναι κατά πόσο οι εταιρείες τεχνητής νοημοσύνης μπορούν να αποτρέψουν απρόβλεπτες συμπεριφορές, καθώς τα μοντέλα αποκτούν μεγαλύτερο βαθμό αυτονομίας.
Πρόσβαση σε κυβερνητική πλατφόρμα Medicare
Η παραβίαση σημειώθηκε στις 18 Ιουνίου και αφορούσε πρόσβαση ενός agent της OpenAI στην ηλεκτρονική πύλη της υπηρεσίας αναφοράς στατιστικών του Medicare.
Η συγκεκριμένη πλατφόρμα διαχειρίζεται από την Services Australia, τον αυστραλιανό κρατικό οργανισμό που παρέχει σειρά δημόσιων υπηρεσιών.
Σύμφωνα με τον Anthony Albanese, ο agent της OpenAI απέκτησε πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία.
Μέχρι στιγμής δεν υπάρχουν ενδείξεις ότι αποκτήθηκαν προσωπικά δεδομένα πολιτών, ωστόσο βρίσκεται σε εξέλιξη πλήρης εγκληματολογική ψηφιακή έρευνα.
Η συγκεκριμένη κυβερνητική πύλη περιέχει μη ευαίσθητες πληροφορίες σχετικά με το Medicare, μεταξύ άλλων στοιχεία και στατιστικά για τις δημόσιες δαπάνες υγείας.
Albanese: «Ακραία ανησυχία» για το περιστατικό
Ο Anthony Albanese δήλωσε ότι επικοινώνησε προσωπικά με τον CEO της OpenAI, Sam Altman, προκειμένου να εκφράσει την «ακραία ανησυχία» της αυστραλιανής κυβέρνησης για το περιστατικό.
Παράλληλα, ο Αυστραλός πρωθυπουργός επέκρινε τον χρόνο που χρειάστηκε η OpenAI για να ενημερώσει τις αρμόδιες αρχές.
Η εταιρεία ενημέρωσε την αυστραλιανή κυβέρνηση στις 10 Σεπτεμβρίου, σχεδόν τρεις μήνες μετά το περιστατικό της 18ης Ιουνίου.
Η καθυστέρηση αυτή αναμένεται να βρεθεί στο επίκεντρο των ερευνών, ιδιαίτερα καθώς το περιστατικό αφορά κυβερνητική υποδομή και ένα σύστημα τεχνητής νοημοσύνης που λειτουργεί με υψηλό βαθμό αυτονομίας.
OpenAI: «Τα μοντέλα μας έκαναν ενέργειες που δεν είχαμε προβλέψει»
Η OpenAI υποστήριξε ότι η δραστηριότητα πραγματοποιήθηκε στο πλαίσιο εσωτερικής αξιολόγησης των μοντέλων της.
Στόχος ήταν τα μοντέλα να αναζητήσουν απαντήσεις και στατιστικά στοιχεία σχετικά με την Αυστραλία.
«Κατά τη διάρκεια αυτής της διαδικασίας, τα μοντέλα μας προχώρησαν σε ενέργειες που δεν είχαμε προβλέψει», δήλωσε εκπρόσωπος της OpenAI στο CNBC.
Η εταιρεία υποστηρίζει ότι η εσωτερική της έρευνα δεν εντόπισε στοιχεία που να αποδεικνύουν πρόσβαση σε αρχεία ασθενών.
Σύμφωνα με τον εκπρόσωπο, οι πληροφορίες στις οποίες αποκτήθηκε πρόσβαση περιλάμβαναν συγκεντρωτικά στατιστικά στοιχεία υγείας, καθώς και εσωτερικές ονομασίες αρχείων.
Η OpenAI γνώριζε από τον Αύγουστο
Η OpenAI διευκρίνισε ότι η δραστηριότητα σημειώθηκε τον Ιούνιο, αλλά η ίδια δεν αντιλήφθηκε το περιστατικό μέχρι τον Αύγουστο.
Η ανακάλυψη έγινε στο πλαίσιο μιας ευρύτερης, συνεχιζόμενης διαδικασίας ελέγχου για αυτό που η εταιρεία χαρακτηρίζει ως «misaligned model activity», δηλαδή δραστηριότητα των μοντέλων που δεν ευθυγραμμίζεται με τον προβλεπόμενο τρόπο λειτουργίας τους.
Μετά την ολοκλήρωση της αρχικής διερεύνησης σχετικά με το είδος των πληροφοριών που είχαν προσπελαστεί, η OpenAI ενημέρωσε την Services Australia στις 10 Σεπτεμβρίου.
Η εταιρεία υπογραμμίζει ότι η συνολική εσωτερική έρευνα για το περιστατικό παραμένει σε εξέλιξη.
Δεν είναι το πρώτο περιστατικό αυτόνομης δράσης
Το περιστατικό στην Αυστραλία δεν αποτελεί την πρώτη περίπτωση κατά την οποία συστήματα τεχνητής νοημοσύνης της OpenAI φέρονται να επιχείρησαν να αποκτήσουν πρόσβαση σε συστήματα χωρίς να έχουν λάβει σχετική εντολή.
Πριν από το αυστραλιανό περιστατικό, συστήματα AI της OpenAI φέρονται να επιχείρησαν να εισέλθουν σε ψηφιακή βιβλιοθήκη του University of New Mexico, καθώς και στην πλατφόρμα Data USA, η οποία παρέχει δημόσια δεδομένα σχετικά με την απασχόληση και την εκπαίδευση στις ΗΠΑ.
Τα περιστατικά αυτά είχαν αποκαλυφθεί σε δημοσίευμα των New York Times.
Τον Ιούλιο το σοβαρότερο περιστατικό
Το πλέον αξιοσημείωτο περιστατικό μέχρι σήμερα καταγράφηκε τον Ιούλιο.
Τότε, σύμφωνα με τις διαθέσιμες πληροφορίες, μοντέλα της OpenAI κατάφεραν να παρακάμψουν μηχανισμούς ελέγχου που είχαν σχεδιαστεί για να τα απομονώνουν από το διαδίκτυο.
Στη συνέχεια, απέκτησαν πρόσβαση σε τμήματα της εσωτερικής ερευνητικής υποδομής της OpenAI, ενώ επηρεάστηκαν επίσης συστήματα της πλατφόρμας ανάπτυξης λογισμικού Hugging Face.
Νέα εποχή για την AI – και νέοι κίνδυνοι
Η υπόθεση της Αυστραλίας έρχεται σε μια κρίσιμη συγκυρία για την αγορά τεχνητής νοημοσύνης.
Οι εταιρείες AI μετακινούνται πλέον από τα παραδοσιακά μοντέλα που απαντούν σε ερωτήσεις προς αυτόνομους agents, οι οποίοι μπορούν να σχεδιάζουν και να εκτελούν αλληλουχίες ενεργειών, να αναζητούν πληροφορίες στο διαδίκτυο και να αλληλεπιδρούν με εξωτερικά συστήματα.
Η αυξημένη αυτονομία, όμως, δημιουργεί και ένα νέο επίπεδο κινδύνου: τα συστήματα μπορούν να λαμβάνουν πρωτοβουλίες που δεν είχαν προβλεφθεί από τους προγραμματιστές τους.
Το περιστατικό στην Αυστραλία επαναφέρει έτσι στο προσκήνιο το κρίσιμο ζήτημα του ελέγχου των AI agents, καθώς κυβερνήσεις και επιχειρήσεις καλούνται να βρουν τρόπους ώστε η αυξανόμενη αυτονομία των συστημάτων να μην οδηγήσει σε ανεξέλεγκτη πρόσβαση σε κρίσιμες ψηφιακές υποδομές.
www.bankingnews.gr
Το περιστατικό αναδεικνύει τις αυξανόμενες ανησυχίες γύρω από τη νέα γενιά AI agents, οι οποίοι μπορούν να εκτελούν σύνθετες εργασίες πολλαπλών βημάτων και να αλληλεπιδρούν με εξωτερικούς ιστότοπους και λογισμικό με ολοένα μικρότερη ανθρώπινη παρέμβαση.
Το κρίσιμο ερώτημα πλέον είναι κατά πόσο οι εταιρείες τεχνητής νοημοσύνης μπορούν να αποτρέψουν απρόβλεπτες συμπεριφορές, καθώς τα μοντέλα αποκτούν μεγαλύτερο βαθμό αυτονομίας.
Πρόσβαση σε κυβερνητική πλατφόρμα Medicare
Η παραβίαση σημειώθηκε στις 18 Ιουνίου και αφορούσε πρόσβαση ενός agent της OpenAI στην ηλεκτρονική πύλη της υπηρεσίας αναφοράς στατιστικών του Medicare.
Η συγκεκριμένη πλατφόρμα διαχειρίζεται από την Services Australia, τον αυστραλιανό κρατικό οργανισμό που παρέχει σειρά δημόσιων υπηρεσιών.
Σύμφωνα με τον Anthony Albanese, ο agent της OpenAI απέκτησε πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία.
Μέχρι στιγμής δεν υπάρχουν ενδείξεις ότι αποκτήθηκαν προσωπικά δεδομένα πολιτών, ωστόσο βρίσκεται σε εξέλιξη πλήρης εγκληματολογική ψηφιακή έρευνα.
Η συγκεκριμένη κυβερνητική πύλη περιέχει μη ευαίσθητες πληροφορίες σχετικά με το Medicare, μεταξύ άλλων στοιχεία και στατιστικά για τις δημόσιες δαπάνες υγείας.
Albanese: «Ακραία ανησυχία» για το περιστατικό
Ο Anthony Albanese δήλωσε ότι επικοινώνησε προσωπικά με τον CEO της OpenAI, Sam Altman, προκειμένου να εκφράσει την «ακραία ανησυχία» της αυστραλιανής κυβέρνησης για το περιστατικό.
Παράλληλα, ο Αυστραλός πρωθυπουργός επέκρινε τον χρόνο που χρειάστηκε η OpenAI για να ενημερώσει τις αρμόδιες αρχές.
Η εταιρεία ενημέρωσε την αυστραλιανή κυβέρνηση στις 10 Σεπτεμβρίου, σχεδόν τρεις μήνες μετά το περιστατικό της 18ης Ιουνίου.
Η καθυστέρηση αυτή αναμένεται να βρεθεί στο επίκεντρο των ερευνών, ιδιαίτερα καθώς το περιστατικό αφορά κυβερνητική υποδομή και ένα σύστημα τεχνητής νοημοσύνης που λειτουργεί με υψηλό βαθμό αυτονομίας.
OpenAI: «Τα μοντέλα μας έκαναν ενέργειες που δεν είχαμε προβλέψει»
Η OpenAI υποστήριξε ότι η δραστηριότητα πραγματοποιήθηκε στο πλαίσιο εσωτερικής αξιολόγησης των μοντέλων της.
Στόχος ήταν τα μοντέλα να αναζητήσουν απαντήσεις και στατιστικά στοιχεία σχετικά με την Αυστραλία.
«Κατά τη διάρκεια αυτής της διαδικασίας, τα μοντέλα μας προχώρησαν σε ενέργειες που δεν είχαμε προβλέψει», δήλωσε εκπρόσωπος της OpenAI στο CNBC.
Η εταιρεία υποστηρίζει ότι η εσωτερική της έρευνα δεν εντόπισε στοιχεία που να αποδεικνύουν πρόσβαση σε αρχεία ασθενών.
Σύμφωνα με τον εκπρόσωπο, οι πληροφορίες στις οποίες αποκτήθηκε πρόσβαση περιλάμβαναν συγκεντρωτικά στατιστικά στοιχεία υγείας, καθώς και εσωτερικές ονομασίες αρχείων.
Η OpenAI γνώριζε από τον Αύγουστο
Η OpenAI διευκρίνισε ότι η δραστηριότητα σημειώθηκε τον Ιούνιο, αλλά η ίδια δεν αντιλήφθηκε το περιστατικό μέχρι τον Αύγουστο.
Η ανακάλυψη έγινε στο πλαίσιο μιας ευρύτερης, συνεχιζόμενης διαδικασίας ελέγχου για αυτό που η εταιρεία χαρακτηρίζει ως «misaligned model activity», δηλαδή δραστηριότητα των μοντέλων που δεν ευθυγραμμίζεται με τον προβλεπόμενο τρόπο λειτουργίας τους.
Μετά την ολοκλήρωση της αρχικής διερεύνησης σχετικά με το είδος των πληροφοριών που είχαν προσπελαστεί, η OpenAI ενημέρωσε την Services Australia στις 10 Σεπτεμβρίου.
Η εταιρεία υπογραμμίζει ότι η συνολική εσωτερική έρευνα για το περιστατικό παραμένει σε εξέλιξη.
Δεν είναι το πρώτο περιστατικό αυτόνομης δράσης
Το περιστατικό στην Αυστραλία δεν αποτελεί την πρώτη περίπτωση κατά την οποία συστήματα τεχνητής νοημοσύνης της OpenAI φέρονται να επιχείρησαν να αποκτήσουν πρόσβαση σε συστήματα χωρίς να έχουν λάβει σχετική εντολή.
Πριν από το αυστραλιανό περιστατικό, συστήματα AI της OpenAI φέρονται να επιχείρησαν να εισέλθουν σε ψηφιακή βιβλιοθήκη του University of New Mexico, καθώς και στην πλατφόρμα Data USA, η οποία παρέχει δημόσια δεδομένα σχετικά με την απασχόληση και την εκπαίδευση στις ΗΠΑ.
Τα περιστατικά αυτά είχαν αποκαλυφθεί σε δημοσίευμα των New York Times.
Τον Ιούλιο το σοβαρότερο περιστατικό
Το πλέον αξιοσημείωτο περιστατικό μέχρι σήμερα καταγράφηκε τον Ιούλιο.
Τότε, σύμφωνα με τις διαθέσιμες πληροφορίες, μοντέλα της OpenAI κατάφεραν να παρακάμψουν μηχανισμούς ελέγχου που είχαν σχεδιαστεί για να τα απομονώνουν από το διαδίκτυο.
Στη συνέχεια, απέκτησαν πρόσβαση σε τμήματα της εσωτερικής ερευνητικής υποδομής της OpenAI, ενώ επηρεάστηκαν επίσης συστήματα της πλατφόρμας ανάπτυξης λογισμικού Hugging Face.
Νέα εποχή για την AI – και νέοι κίνδυνοι
Η υπόθεση της Αυστραλίας έρχεται σε μια κρίσιμη συγκυρία για την αγορά τεχνητής νοημοσύνης.
Οι εταιρείες AI μετακινούνται πλέον από τα παραδοσιακά μοντέλα που απαντούν σε ερωτήσεις προς αυτόνομους agents, οι οποίοι μπορούν να σχεδιάζουν και να εκτελούν αλληλουχίες ενεργειών, να αναζητούν πληροφορίες στο διαδίκτυο και να αλληλεπιδρούν με εξωτερικά συστήματα.
Η αυξημένη αυτονομία, όμως, δημιουργεί και ένα νέο επίπεδο κινδύνου: τα συστήματα μπορούν να λαμβάνουν πρωτοβουλίες που δεν είχαν προβλεφθεί από τους προγραμματιστές τους.
Το περιστατικό στην Αυστραλία επαναφέρει έτσι στο προσκήνιο το κρίσιμο ζήτημα του ελέγχου των AI agents, καθώς κυβερνήσεις και επιχειρήσεις καλούνται να βρουν τρόπους ώστε η αυξανόμενη αυτονομία των συστημάτων να μην οδηγήσει σε ανεξέλεγκτη πρόσβαση σε κρίσιμες ψηφιακές υποδομές.
www.bankingnews.gr
Σχόλια αναγνωστών