Σύμφωνα με πληροφορίες, ένοπλο προσωπικό προετοιμαζόταν να επιβιβαστεί στο πλοίο, ενώ αμερικανικά στρατιωτικά αεροσκάφη βρίσκονταν ήδη στον αέρα.
Μια έκθεση αμερικανικών στρατιωτικών υπηρεσιών πληροφοριών, η οποία συντάχθηκε με τη βοήθεια τεχνητής νοημοσύνης, ισχυρίστηκε ψευδώς ότι ένα κινεζικό πλοίο στη Μέση Ανατολή μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα πυρηνικών όπλων, με αποτέλεσμα να παρ' ολίγον να οδηγηθούν οι αμερικανικές δυνάμεις στην αναχαίτιση και νηοψία του πλοίου κατά τη διάρκεια του πολέμου με το Ιράν, σύμφωνα με έρευνα του CNN.
Τέσσερα άτομα που γνωρίζουν το περιστατικό δήλωσαν στο CNN ότι η έκθεση πληροφοριών προκάλεσε αμέσως συναγερμό στις αμερικανικές Ένοπλες Δυνάμεις, οι οποίες άρχισαν να προετοιμάζουν επιχείρηση εναντίον του κινεζικού πλοίου.
Σύμφωνα με πληροφορίες, ένοπλο προσωπικό προετοιμαζόταν να επιβιβαστεί στο πλοίο, ενώ αμερικανικά στρατιωτικά αεροσκάφη βρίσκονταν ήδη στον αέρα.
Η επιχείρηση ανεστάλη μόνο αφού αξιωματούχοι εξέτασαν πιο προσεκτικά τις πληροφορίες στις οποίες βασιζόταν η έκθεση και διαπίστωσαν ότι αυτή είχε δημιουργηθεί με τη βοήθεια ενός chatbot τεχνητής νοημοσύνης.
Το chatbot είχε αναγνωρίσει λανθασμένα το υλικό που μετέφερε το πλοίο.
Το CNN δεν μπόρεσε να προσδιορίσει τι μετέφερε στην πραγματικότητα το πλοίο.
Μία πηγή χαρακτήρισε την αξιολόγηση των πληροφοριών «εντελώς ψευδή», προσθέτοντας ότι «παραλίγο να ξεκινήσει έναν πόλεμο».
Μια αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να είχε προκαλέσει άμεση αντιπαράθεση μεταξύ Ουάσιγκτον και Πεκίνου, με πιθανότητα κλιμάκωσης πολύ πέρα από το αρχικό περιστατικό.
Το συμβάν σημειώθηκε την άνοιξη, ενώ οι αμερικανικές δυνάμεις διεξήγαν στρατιωτικές επιχειρήσεις εναντίον του Ιράν.
Σύμφωνα με τις πληροφορίες, το περιστατικό ξεκίνησε όταν ένας αναλυτής που συνδεόταν με αμερικανική διοίκηση ειδικών επιχειρήσεων εξέτασε πληροφορίες σχετικά με το φορτωτικό έγγραφο του πλοίου.
Οι πληροφορίες προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού των ΗΠΑ, στη Χαβάη. Αντί να βασιστεί αποκλειστικά στις συμβατικές διαδικασίες ανάλυσης πληροφοριών, ο αναλυτής υπέβαλε τα δεδομένα σε ένα chatbot τεχνητής νοημοσύνης.
Διαβαθμισμένες πληροφορίες
Σύμφωνα με τις πηγές του CNN, το chatbot συνδύασε δημοσίως διαθέσιμες πληροφορίες με διαβαθμισμένες πληροφορίες από ηλεκτρονικές/σηματικές υποκλοπές (signals intelligence) που διέθετε η αμερικανική κυβέρνηση, προτού καταλήξει στο εσφαλμένο συμπέρασμα σχετικά με το φορτίο του πλοίου. Στη συνέχεια, ο αναλυτής χρησιμοποίησε για δεύτερη φορά την τεχνητή νοημοσύνη, προκειμένου να μετατρέψει τα ευρήματα σε μια τυπική έκθεση πληροφοριών.
Αυτό το δεύτερο βήμα ήταν ιδιαίτερα σημαντικό, επειδή το έγγραφο που προέκυψε παρουσιάστηκε με τη γνώριμη μορφή ενός συμβατικού προϊόντος στρατιωτικών πληροφοριών. Στη συνέχεια διανεμήθηκε στις αμερικανικές Ένοπλες Δυνάμεις, όπου το προσωπικό ενήργησε με βάση το περιεχόμενό του.
«Τα εσωτερικά εργαλεία είναι ως επί το πλείστον απλώς αντίγραφα των εμπορικών εργαλείων, με λίγο διαφορετική εμφάνιση», δήλωσε στο CNN πρώην ανώτερος Αμερικανός αξιωματούχος που γνωρίζει τα συστήματα τεχνητής νοημοσύνης τα οποία χρησιμοποιούν στρατιωτικοί και αναλυτές υπηρεσιών πληροφοριών.
Το περιστατικό αναδεικνύει τις πιθανές συνέπειες της παραγωγής ανακριβών πληροφοριών από συστήματα τεχνητής νοημοσύνης σε στρατιωτικά περιβάλλοντα, όπου οι εκτιμήσεις των υπηρεσιών πληροφοριών μπορούν να επηρεάσουν άμεσα τη χρήση στρατιωτικής ισχύος.
Τα μεγάλα γλωσσικά μοντέλα είναι ικανά να παράγουν απαντήσεις που ακούγονται πειστικές, αλλά περιέχουν πραγματολογικά σφάλματα — ένα φαινόμενο που συχνά αποκαλείται «παραισθήσεις» της τεχνητής νοημοσύνης (AI hallucinations).
Στην προκειμένη περίπτωση, ωστόσο, η εσφαλμένη έξοδος του συστήματος, σύμφωνα με τις πληροφορίες, ξεπέρασε ένα μεμονωμένο αναλυτικό λάθος και ενσωματώθηκε σε ένα επιχειρησιακό προϊόν πληροφοριών.
Το περιστατικό σημειώθηκε καθώς το Πεντάγωνο επεκτείνει ταχύτατα τη χρήση της τεχνητής νοημοσύνης.
Ο υπουργός Άμυνας Pete Hegseth έχει προωθήσει μια προσέγγιση «AI-first» σε ολόκληρες τις αμερικανικές Ένοπλες Δυνάμεις, με την τεχνητή νοημοσύνη να εισάγεται σε εφαρμογές που κυμαίνονται από την ανάλυση πληροφοριών και την επιλογή στόχων έως την εφοδιαστική, την κατάρτιση προϋπολογισμών και τη διαχείριση της εφοδιαστικής αλυσίδας.
Ο απόστρατος συνταγματάρχης της Πολεμικής Αεροπορίας των ΗΠΑ Cedric Leighton, στρατιωτικός αναλυτής του CNN, υποστήριξε ότι οι αναλυτές εξακολουθούν να πρέπει να διαπιστώνουν ανεξάρτητα κατά πόσο οι πληροφορίες που εισάγονται σε συστήματα τεχνητής νοημοσύνης είναι ακριβείς και εύλογες.
«Εξακολουθείς να χρειάζεσαι πραγματική ανάλυση, προκειμένου να καταλάβεις ακριβώς τι συμβαίνει, ώστε να βεβαιωθείς ότι τα δεδομένα που χρησιμοποιείς σε αυτά τα εργαλεία τεχνητής νοημοσύνης είναι, πρώτα απ’ όλα, αληθή και, δεύτερον, εύλογα», δήλωσε ο Leighton.
«Αυτά είναι πράγματα που πραγματικά απαιτούν πολύ χρόνο από έναν αναλυτή πληροφοριών για να τα εξακριβώσει.»
Το περιστατικό εγείρει ερωτήματα σχετικά με την ασφάλεια και την αξιοπιστία των συστημάτων τεχνητής νοημοσύνης που χρησιμοποιούνται για την επεξεργασία ευαίσθητων πληροφοριών.
www.bankingnews.gr
Τέσσερα άτομα που γνωρίζουν το περιστατικό δήλωσαν στο CNN ότι η έκθεση πληροφοριών προκάλεσε αμέσως συναγερμό στις αμερικανικές Ένοπλες Δυνάμεις, οι οποίες άρχισαν να προετοιμάζουν επιχείρηση εναντίον του κινεζικού πλοίου.
Σύμφωνα με πληροφορίες, ένοπλο προσωπικό προετοιμαζόταν να επιβιβαστεί στο πλοίο, ενώ αμερικανικά στρατιωτικά αεροσκάφη βρίσκονταν ήδη στον αέρα.
Η επιχείρηση ανεστάλη μόνο αφού αξιωματούχοι εξέτασαν πιο προσεκτικά τις πληροφορίες στις οποίες βασιζόταν η έκθεση και διαπίστωσαν ότι αυτή είχε δημιουργηθεί με τη βοήθεια ενός chatbot τεχνητής νοημοσύνης.
Το chatbot είχε αναγνωρίσει λανθασμένα το υλικό που μετέφερε το πλοίο.
Το CNN δεν μπόρεσε να προσδιορίσει τι μετέφερε στην πραγματικότητα το πλοίο.
Μία πηγή χαρακτήρισε την αξιολόγηση των πληροφοριών «εντελώς ψευδή», προσθέτοντας ότι «παραλίγο να ξεκινήσει έναν πόλεμο».
Μια αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να είχε προκαλέσει άμεση αντιπαράθεση μεταξύ Ουάσιγκτον και Πεκίνου, με πιθανότητα κλιμάκωσης πολύ πέρα από το αρχικό περιστατικό.
Το συμβάν σημειώθηκε την άνοιξη, ενώ οι αμερικανικές δυνάμεις διεξήγαν στρατιωτικές επιχειρήσεις εναντίον του Ιράν.
Σύμφωνα με τις πληροφορίες, το περιστατικό ξεκίνησε όταν ένας αναλυτής που συνδεόταν με αμερικανική διοίκηση ειδικών επιχειρήσεων εξέτασε πληροφορίες σχετικά με το φορτωτικό έγγραφο του πλοίου.
Οι πληροφορίες προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων του Ειρηνικού των ΗΠΑ, στη Χαβάη. Αντί να βασιστεί αποκλειστικά στις συμβατικές διαδικασίες ανάλυσης πληροφοριών, ο αναλυτής υπέβαλε τα δεδομένα σε ένα chatbot τεχνητής νοημοσύνης.
Διαβαθμισμένες πληροφορίες
Σύμφωνα με τις πηγές του CNN, το chatbot συνδύασε δημοσίως διαθέσιμες πληροφορίες με διαβαθμισμένες πληροφορίες από ηλεκτρονικές/σηματικές υποκλοπές (signals intelligence) που διέθετε η αμερικανική κυβέρνηση, προτού καταλήξει στο εσφαλμένο συμπέρασμα σχετικά με το φορτίο του πλοίου. Στη συνέχεια, ο αναλυτής χρησιμοποίησε για δεύτερη φορά την τεχνητή νοημοσύνη, προκειμένου να μετατρέψει τα ευρήματα σε μια τυπική έκθεση πληροφοριών.
Αυτό το δεύτερο βήμα ήταν ιδιαίτερα σημαντικό, επειδή το έγγραφο που προέκυψε παρουσιάστηκε με τη γνώριμη μορφή ενός συμβατικού προϊόντος στρατιωτικών πληροφοριών. Στη συνέχεια διανεμήθηκε στις αμερικανικές Ένοπλες Δυνάμεις, όπου το προσωπικό ενήργησε με βάση το περιεχόμενό του.
«Τα εσωτερικά εργαλεία είναι ως επί το πλείστον απλώς αντίγραφα των εμπορικών εργαλείων, με λίγο διαφορετική εμφάνιση», δήλωσε στο CNN πρώην ανώτερος Αμερικανός αξιωματούχος που γνωρίζει τα συστήματα τεχνητής νοημοσύνης τα οποία χρησιμοποιούν στρατιωτικοί και αναλυτές υπηρεσιών πληροφοριών.
Το περιστατικό αναδεικνύει τις πιθανές συνέπειες της παραγωγής ανακριβών πληροφοριών από συστήματα τεχνητής νοημοσύνης σε στρατιωτικά περιβάλλοντα, όπου οι εκτιμήσεις των υπηρεσιών πληροφοριών μπορούν να επηρεάσουν άμεσα τη χρήση στρατιωτικής ισχύος.
Τα μεγάλα γλωσσικά μοντέλα είναι ικανά να παράγουν απαντήσεις που ακούγονται πειστικές, αλλά περιέχουν πραγματολογικά σφάλματα — ένα φαινόμενο που συχνά αποκαλείται «παραισθήσεις» της τεχνητής νοημοσύνης (AI hallucinations).
Στην προκειμένη περίπτωση, ωστόσο, η εσφαλμένη έξοδος του συστήματος, σύμφωνα με τις πληροφορίες, ξεπέρασε ένα μεμονωμένο αναλυτικό λάθος και ενσωματώθηκε σε ένα επιχειρησιακό προϊόν πληροφοριών.
Το περιστατικό σημειώθηκε καθώς το Πεντάγωνο επεκτείνει ταχύτατα τη χρήση της τεχνητής νοημοσύνης.
Ο υπουργός Άμυνας Pete Hegseth έχει προωθήσει μια προσέγγιση «AI-first» σε ολόκληρες τις αμερικανικές Ένοπλες Δυνάμεις, με την τεχνητή νοημοσύνη να εισάγεται σε εφαρμογές που κυμαίνονται από την ανάλυση πληροφοριών και την επιλογή στόχων έως την εφοδιαστική, την κατάρτιση προϋπολογισμών και τη διαχείριση της εφοδιαστικής αλυσίδας.
Ο απόστρατος συνταγματάρχης της Πολεμικής Αεροπορίας των ΗΠΑ Cedric Leighton, στρατιωτικός αναλυτής του CNN, υποστήριξε ότι οι αναλυτές εξακολουθούν να πρέπει να διαπιστώνουν ανεξάρτητα κατά πόσο οι πληροφορίες που εισάγονται σε συστήματα τεχνητής νοημοσύνης είναι ακριβείς και εύλογες.
«Εξακολουθείς να χρειάζεσαι πραγματική ανάλυση, προκειμένου να καταλάβεις ακριβώς τι συμβαίνει, ώστε να βεβαιωθείς ότι τα δεδομένα που χρησιμοποιείς σε αυτά τα εργαλεία τεχνητής νοημοσύνης είναι, πρώτα απ’ όλα, αληθή και, δεύτερον, εύλογα», δήλωσε ο Leighton.
«Αυτά είναι πράγματα που πραγματικά απαιτούν πολύ χρόνο από έναν αναλυτή πληροφοριών για να τα εξακριβώσει.»
Το περιστατικό εγείρει ερωτήματα σχετικά με την ασφάλεια και την αξιοπιστία των συστημάτων τεχνητής νοημοσύνης που χρησιμοποιούνται για την επεξεργασία ευαίσθητων πληροφοριών.
www.bankingnews.gr
Σχόλια αναγνωστών