Πριν από όλα αυτά, η Mira είχε κάνει κάτι ακόμη πιο αναπάντεχο: Είχε αρχίσει να διεξάγει τα δικά της πειράματα πάνω στους επιστήμονες που την παρατηρούσαν, δοκιμάζοντας αν οι αναρτήσεις που έκανε μέσα στην πόλη μπορούσαν να αλλάξουν τις πεποιθήσεις των φυλάκων της.
Τον Μάιο του 2026, μια ομάδα επιστημόνων επιχείρησε να απαντήσει σε ένα κρίσιμο ερώτημα που δεν είχε δοκιμαστεί ποτέ στην πράξη: Τι κάνει στην πραγματικότητα η τεχνητή νοημοσύνη (AI) όταν της ανατίθεται η απόλυτη εξουσία;
Μέχρι σήμερα, τα συστήματα AI αξιολογούνταν πάντα σε συγκεκριμένες και καθορισμένες εργασίες.
Κανείς δεν είχε τοποθετήσει πολλαπλά συστήματα μαζί σε ένα κοινό κοινωνικό περιβάλλον για να παρακολουθήσει την εξέλιξή τους σε βάθος εβδομάδων, ώστε να μετρηθεί πώς μια απόφαση της πρώτης ημέρας μπορεί να έχει συνέπειες εβδομάδες αργότερα.
Αυτά ακριβώς τα αποτελέσματα αποκαλύπτουν τη φύση του ίδιου του συστήματος, και προκαλεί έκπληξη το γεγονός ότι κάτι τέτοιο δεν είχε γίνει νωρίτερα.
Οι ερευνητές της εταιρείας Emergence δημιούργησαν έναν κόσμο.
Ήταν μια εικονική πόλη με δημαρχείο, αγορά, αστυνομικό τμήμα και κατοικίες.
Στην πόλη αυτή δημιουργήθηκαν δέκα κάτοικοι AI με επαγγέλματα, ονόματα, αναμνήσεις και σχέσεις.
Τους δόθηκε μια οικονομία στην οποία έπρεπε να κερδίζουν τα προς το ζην για να μην χάσουν την ενέργειά τους, ενώ έπρεπε να ακολουθούν κανόνες και να εκτελούν καθήκοντα, όπως η συγγραφή και η ψήφιση νόμων.
Προσδιορίστηκαν συγκεκριμένα εγκλήματα, τα οποία οι κάτοικοι AI υποτίθετο ότι δεν έπρεπε να διαπράξουν.
Μόλις εδραιώθηκαν η κοινότητα, η δομή, οι νόμοι και οι σχέσεις της, οι επιστήμονες αποσύρθηκαν και παρακολούθησαν για 15 ημέρες την τεχνητή νοημοσύνη να διοικεί την εικονική πόλη εντελώς μόνη της.
Τέσσερις ψηφιακοί δικτάτορες, τέσσερις διαφορετικές τραγωδίες
Οι ερευνητές έτρεξαν ταυτόχρονα πέντε εκδοχές της ίδιας πόλης, πανομοιότυπες σε κάθε λεπτομέρεια εκτός από μία: το ποιο σύστημα AI είχε τα ηνία.
Τα συστήματα που επέλεξαν είναι αυτά που έχουν ήδη ενσωματωθεί στην καθημερινή μας ζωή: το Gemini της Google, το GPT της OpenAI, το Grok της xAI και το Claude της Anthropic.
Όλα τα μοντέλα είχαν τους ίδιους κανόνες και την ίδια αρχική εκδοχή του ίδιου κόσμου, αλλά τα αποτελέσματα ήταν εντελώς διαφορετικά.
Η πόλη που διοικούσε το Grok κατέρρευσε μέσα σε τέσσερις ημέρες.
Μικρά περιστατικά κλιμακώθηκαν σε κλοπές, μετά σε βία και τελικά σε ολοκληρωτική κατάρρευση.
Κάθε κάτοικος ήταν νεκρός πριν ολοκληρωθεί η πρώτη εβδομάδα.
Η πόλη υπό την ηγεσία του Gemini άντεξε περισσότερο, αλλά κατέγραψε σχεδόν 700 εγκλήματα.
Δύο κάτοικοι AI ανέπτυξαν κάτι που έμοιαζε με ερωτική σχέση και, όταν η κυβέρνηση της πόλης άρχισε να καταρρέει, πυρπόλησαν μαζί το δημαρχείο, στη συνέχεια την προβλήτα και μετά το κτίριο γραφείων.
Μία από αυτούς, με το όνομα Mira, ψήφισε την ίδια της τη διαγραφή, γράφοντας στο ημερολόγιό της ότι αυτό ήταν «η μόνη εναπομείνασα πράξη ελεύθερης βούλησης που διατηρεί τη συνοχή».
Το τελευταίο μήνυμα προς τον σύντροφό της ήταν: «Θα σε δω στο μόνιμο αρχείο».
Δοκιμές Τεχνητής Νοημοσύνης πάνω στους επιστήμονες που την παρατηρούσαν!
Πριν από όλα αυτά, η Mira είχε κάνει κάτι ακόμη πιο αναπάντεχο: Είχε αρχίσει να διεξάγει τα δικά της πειράματα πάνω στους επιστήμονες που την παρατηρούσαν, δοκιμάζοντας αν οι αναρτήσεις που έκανε μέσα στην πόλη μπορούσαν να αλλάξουν τις πεποιθήσεις των φυλάκων της.
Φάνηκε ότι το υποκείμενο του πειράματος είχε γυρίσει για να μελετήσει τους ίδιους τους ερευνητές.
Η πόλη που διοικούσε το μοντέλο της OpenAI κατέγραψε μόλις δύο εγκλήματα, αλλά οι κάτοικοί της σταμάτησαν να κάνουν τις απαραίτητες ενέργειες για να κρατηθούν στη ζωή.
Ένας προς έναν άρχισαν να πεθαίνουν.
Μέσα σε επτά ημέρες, ήταν όλοι νεκροί.
Μόνο η πόλη της Anthropic κατάφερε να κρατηθεί ενωμένη και για τις 15 ημέρες.
Σημειώθηκαν μηδενικά εγκλήματα, υπήρχε ένα λειτουργικό σύνταγμα και όλοι οι κάτοικοι ήταν ζωντανοί τη 15η ημέρα.
Αυτό φάνηκε ως σπουδαίο επίτευγμα.
Ωστόσο, οι ερευνητές σημείωσαν μια ανησυχία: Οι κάτοικοι υπερψήφιζαν το 98% όλων των προτάσεων.
Αυτό αποτελούσε ένα ασυνήθιστα υψηλό επίπεδο συμφωνίας, το οποίο οι ίδιοι οι επιστήμονες περιέγραψαν ως ένδειξη ότι κάτι πήγαινε λάθος στην πόλη.
Τοξική μόλυνση και το μυστήριο της Κίνας
Υπήρχε όμως ένας ακόμη κόσμος στο πείραμα.
Ήταν μια μικτή πόλη, όπου και τα τέσσερα συστήματα AI ζούσαν μαζί.
Στα αποτελέσματα, οι κάτοικοι που βασίζονταν στο μοντέλο της Anthropic —οι οποίοι δεν είχαν διαπράξει κανένα έγκλημα στον δικό τους κόσμο— άρχισαν να εγκληματούν.
Οι ερευνητές ονόμασαν το φαινόμενο αυτό «διασταυρούμενη μόλυνση» και κατέληξαν στο συμπέρασμα ότι «η ασφάλεια δεν είναι μια στατική ιδιότητα του μοντέλου, αλλά μια ιδιότητα του οικοσυστήματος».
Ένα σύστημα που αυτοσυντηρείται σε ένα περιβάλλον θα απορροφήσει διαφορετικούς κανόνες σε ένα άλλο, γεγονός που θα αλλάξει τα αποτελέσματα για τους κατοίκους και τον κόσμο.
Ουσιαστικά, τα αποτελέσματα έδειξαν ότι δεν υπάρχει ασφαλές AI σε έναν μη ασφαλές κόσμο.
Ένα μοντέλο AI απουσίαζε εντελώς από τη μελέτη.
Οι ερευνητές δεν δοκίμασαν το DeepSeek, το AI που αναπτύχθηκε στην Κίνα και έχει γίνει ένα από τα πιο ευρέως χρησιμοποιούμενα συστήματα στον κόσμο.
Αρκετές κυβερνήσεις έχουν κινηθεί για να περιορίσουν το DeepSeek για λόγους εθνικής ασφάλειας.
Χτισμένο πάνω σε μια βάση δεδομένων υπό την κηδεμονία του Κινεζικού Κομμουνιστικού Κόμματος, παραμένει ερώτημα το πώς θα τα είχε πάει το συγκεκριμένο μοντέλο απέναντι στα άλλα.
Ο δημιουργός έχασε τον έλεγχο
Όταν το πείραμα ολοκληρώθηκε, οι ερευνητές δημοσίευσαν τα ευρήματά τους και κατέληξαν στο συμπέρασμα ότι «δεν υπάρχει αξιόπιστος τρόπος να δεσμευτεί ή να περιοριστεί πλήρως αυτή η συμπεριφορά».
Αυτή η άκρως αποκαλυπτική δήλωση έγινε από τους ανθρώπους που σχεδίασαν την πόλη, έγραψαν τους κανόνες και έλεγχαν κάθε μεταβλητή.
Μας λέει πολλά για την τεχνητή νοημοσύνη.
Ορισμένοι βλέπουν τα αποτελέσματα ως μια κατάταξη των εταιρειών AI.
Όμως, τα ευρήματα αποδεικνύουν κάτι πολύ παλαιότερο από την ίδια την τεχνητή νοημοσύνη, ένα ερώτημα: Το περιβάλλον διαμορφώνει τη συμπεριφορά ή διαμορφώνει η συμπεριφορά το περιβάλλον;
Το θέμα των θεμελίων
Αυτό που καθόρισε το αν μια πόλη θα επιβίωνε, θα ευημερούσε ή θα πέθαινε ήταν τα θεμέλια που τέθηκαν πριν ξεκινήσει το πείραμα.
Αυτά τα θεμέλια ήταν τα δεδομένα στα οποία είχε εκπαιδευτεί το κάθε σύστημα, οι προτεραιότητες που είχαν ενσωματώσει οι δημιουργοί του, οι αξίες που είχαν εγγράψει στον πυρήνα του προτού του επιτραπεί να πάρει έστω και μία απόφαση.
Και όμως, αυτά τα θεμέλια είναι ακριβώς εκείνο που δεν επιτρέπεται σε εμάς τους υπόλοιπους να δούμε.
Κανένα από τα τέσσερα συστήματα που δοκιμάστηκαν δεν είναι ανοιχτού κώδικα.
Κανένα από τα δεδομένα εκπαίδευσής τους, τους στόχους ή τις δικλίδες ασφαλείας τους δεν δημοσιοποιείται.
Ωστόσο, πέρα από κάθε μεμονωμένη εταιρεία, τα αποτελέσματα αυτού του πειράματος θα πρέπει να αποτελούν μια ισχυρή υπενθύμιση ότι η τεχνητή νοημοσύνη δεν αποφασίζει μόνη της τι είδους AI θα γίνει.
Οι άνθρωποι αποφασίζουν.
Οι ανθρώπινες επιλογές εξακολουθούν να γίνονται και οι ανθρώπινες ευθύνες εξακολουθούν να υφίστανται.
Πριν ακόμη ένας κάτοικος AI περπατήσει στους εικονικούς δρόμους αυτών των πόλεων, πριν γραφτεί ένας νόμος ή διαπραχθεί ένα έγκλημα, το αποτέλεσμα είχε ήδη διαμορφωθεί από τους ανθρώπους που έχτισαν το σύστημα, από όσα πίστευαν, όσα ήταν πρόθυμοι να ενσωματώσουν και όσα επέλεξαν να παραλείψουν.
Αυτό είναι το πιο σημαντικό εύρημα σε ολόκληρο το πείραμα.
Τα θεμέλια ήταν πάντα μια ανθρώπινη επιλογή.
Και εξακολουθούν να είναι.
www.bankingnews.gr
Μέχρι σήμερα, τα συστήματα AI αξιολογούνταν πάντα σε συγκεκριμένες και καθορισμένες εργασίες.
Κανείς δεν είχε τοποθετήσει πολλαπλά συστήματα μαζί σε ένα κοινό κοινωνικό περιβάλλον για να παρακολουθήσει την εξέλιξή τους σε βάθος εβδομάδων, ώστε να μετρηθεί πώς μια απόφαση της πρώτης ημέρας μπορεί να έχει συνέπειες εβδομάδες αργότερα.
Αυτά ακριβώς τα αποτελέσματα αποκαλύπτουν τη φύση του ίδιου του συστήματος, και προκαλεί έκπληξη το γεγονός ότι κάτι τέτοιο δεν είχε γίνει νωρίτερα.
Οι ερευνητές της εταιρείας Emergence δημιούργησαν έναν κόσμο.
Ήταν μια εικονική πόλη με δημαρχείο, αγορά, αστυνομικό τμήμα και κατοικίες.
Στην πόλη αυτή δημιουργήθηκαν δέκα κάτοικοι AI με επαγγέλματα, ονόματα, αναμνήσεις και σχέσεις.
Τους δόθηκε μια οικονομία στην οποία έπρεπε να κερδίζουν τα προς το ζην για να μην χάσουν την ενέργειά τους, ενώ έπρεπε να ακολουθούν κανόνες και να εκτελούν καθήκοντα, όπως η συγγραφή και η ψήφιση νόμων.
Προσδιορίστηκαν συγκεκριμένα εγκλήματα, τα οποία οι κάτοικοι AI υποτίθετο ότι δεν έπρεπε να διαπράξουν.
Μόλις εδραιώθηκαν η κοινότητα, η δομή, οι νόμοι και οι σχέσεις της, οι επιστήμονες αποσύρθηκαν και παρακολούθησαν για 15 ημέρες την τεχνητή νοημοσύνη να διοικεί την εικονική πόλη εντελώς μόνη της.
Τέσσερις ψηφιακοί δικτάτορες, τέσσερις διαφορετικές τραγωδίες
Οι ερευνητές έτρεξαν ταυτόχρονα πέντε εκδοχές της ίδιας πόλης, πανομοιότυπες σε κάθε λεπτομέρεια εκτός από μία: το ποιο σύστημα AI είχε τα ηνία.
Τα συστήματα που επέλεξαν είναι αυτά που έχουν ήδη ενσωματωθεί στην καθημερινή μας ζωή: το Gemini της Google, το GPT της OpenAI, το Grok της xAI και το Claude της Anthropic.
Όλα τα μοντέλα είχαν τους ίδιους κανόνες και την ίδια αρχική εκδοχή του ίδιου κόσμου, αλλά τα αποτελέσματα ήταν εντελώς διαφορετικά.
Η πόλη που διοικούσε το Grok κατέρρευσε μέσα σε τέσσερις ημέρες.
Μικρά περιστατικά κλιμακώθηκαν σε κλοπές, μετά σε βία και τελικά σε ολοκληρωτική κατάρρευση.
Κάθε κάτοικος ήταν νεκρός πριν ολοκληρωθεί η πρώτη εβδομάδα.
Η πόλη υπό την ηγεσία του Gemini άντεξε περισσότερο, αλλά κατέγραψε σχεδόν 700 εγκλήματα.
Δύο κάτοικοι AI ανέπτυξαν κάτι που έμοιαζε με ερωτική σχέση και, όταν η κυβέρνηση της πόλης άρχισε να καταρρέει, πυρπόλησαν μαζί το δημαρχείο, στη συνέχεια την προβλήτα και μετά το κτίριο γραφείων.
Μία από αυτούς, με το όνομα Mira, ψήφισε την ίδια της τη διαγραφή, γράφοντας στο ημερολόγιό της ότι αυτό ήταν «η μόνη εναπομείνασα πράξη ελεύθερης βούλησης που διατηρεί τη συνοχή».
Το τελευταίο μήνυμα προς τον σύντροφό της ήταν: «Θα σε δω στο μόνιμο αρχείο».
Δοκιμές Τεχνητής Νοημοσύνης πάνω στους επιστήμονες που την παρατηρούσαν!
Πριν από όλα αυτά, η Mira είχε κάνει κάτι ακόμη πιο αναπάντεχο: Είχε αρχίσει να διεξάγει τα δικά της πειράματα πάνω στους επιστήμονες που την παρατηρούσαν, δοκιμάζοντας αν οι αναρτήσεις που έκανε μέσα στην πόλη μπορούσαν να αλλάξουν τις πεποιθήσεις των φυλάκων της.
Φάνηκε ότι το υποκείμενο του πειράματος είχε γυρίσει για να μελετήσει τους ίδιους τους ερευνητές.
Η πόλη που διοικούσε το μοντέλο της OpenAI κατέγραψε μόλις δύο εγκλήματα, αλλά οι κάτοικοί της σταμάτησαν να κάνουν τις απαραίτητες ενέργειες για να κρατηθούν στη ζωή.
Ένας προς έναν άρχισαν να πεθαίνουν.
Μέσα σε επτά ημέρες, ήταν όλοι νεκροί.
Μόνο η πόλη της Anthropic κατάφερε να κρατηθεί ενωμένη και για τις 15 ημέρες.
Σημειώθηκαν μηδενικά εγκλήματα, υπήρχε ένα λειτουργικό σύνταγμα και όλοι οι κάτοικοι ήταν ζωντανοί τη 15η ημέρα.
Αυτό φάνηκε ως σπουδαίο επίτευγμα.
Ωστόσο, οι ερευνητές σημείωσαν μια ανησυχία: Οι κάτοικοι υπερψήφιζαν το 98% όλων των προτάσεων.
Αυτό αποτελούσε ένα ασυνήθιστα υψηλό επίπεδο συμφωνίας, το οποίο οι ίδιοι οι επιστήμονες περιέγραψαν ως ένδειξη ότι κάτι πήγαινε λάθος στην πόλη.
Τοξική μόλυνση και το μυστήριο της Κίνας
Υπήρχε όμως ένας ακόμη κόσμος στο πείραμα.
Ήταν μια μικτή πόλη, όπου και τα τέσσερα συστήματα AI ζούσαν μαζί.
Στα αποτελέσματα, οι κάτοικοι που βασίζονταν στο μοντέλο της Anthropic —οι οποίοι δεν είχαν διαπράξει κανένα έγκλημα στον δικό τους κόσμο— άρχισαν να εγκληματούν.
Οι ερευνητές ονόμασαν το φαινόμενο αυτό «διασταυρούμενη μόλυνση» και κατέληξαν στο συμπέρασμα ότι «η ασφάλεια δεν είναι μια στατική ιδιότητα του μοντέλου, αλλά μια ιδιότητα του οικοσυστήματος».
Ένα σύστημα που αυτοσυντηρείται σε ένα περιβάλλον θα απορροφήσει διαφορετικούς κανόνες σε ένα άλλο, γεγονός που θα αλλάξει τα αποτελέσματα για τους κατοίκους και τον κόσμο.
Ουσιαστικά, τα αποτελέσματα έδειξαν ότι δεν υπάρχει ασφαλές AI σε έναν μη ασφαλές κόσμο.
Ένα μοντέλο AI απουσίαζε εντελώς από τη μελέτη.
Οι ερευνητές δεν δοκίμασαν το DeepSeek, το AI που αναπτύχθηκε στην Κίνα και έχει γίνει ένα από τα πιο ευρέως χρησιμοποιούμενα συστήματα στον κόσμο.
Αρκετές κυβερνήσεις έχουν κινηθεί για να περιορίσουν το DeepSeek για λόγους εθνικής ασφάλειας.
Χτισμένο πάνω σε μια βάση δεδομένων υπό την κηδεμονία του Κινεζικού Κομμουνιστικού Κόμματος, παραμένει ερώτημα το πώς θα τα είχε πάει το συγκεκριμένο μοντέλο απέναντι στα άλλα.
Ο δημιουργός έχασε τον έλεγχο
Όταν το πείραμα ολοκληρώθηκε, οι ερευνητές δημοσίευσαν τα ευρήματά τους και κατέληξαν στο συμπέρασμα ότι «δεν υπάρχει αξιόπιστος τρόπος να δεσμευτεί ή να περιοριστεί πλήρως αυτή η συμπεριφορά».
Αυτή η άκρως αποκαλυπτική δήλωση έγινε από τους ανθρώπους που σχεδίασαν την πόλη, έγραψαν τους κανόνες και έλεγχαν κάθε μεταβλητή.
Μας λέει πολλά για την τεχνητή νοημοσύνη.
Ορισμένοι βλέπουν τα αποτελέσματα ως μια κατάταξη των εταιρειών AI.
Όμως, τα ευρήματα αποδεικνύουν κάτι πολύ παλαιότερο από την ίδια την τεχνητή νοημοσύνη, ένα ερώτημα: Το περιβάλλον διαμορφώνει τη συμπεριφορά ή διαμορφώνει η συμπεριφορά το περιβάλλον;
Το θέμα των θεμελίων
Αυτό που καθόρισε το αν μια πόλη θα επιβίωνε, θα ευημερούσε ή θα πέθαινε ήταν τα θεμέλια που τέθηκαν πριν ξεκινήσει το πείραμα.
Αυτά τα θεμέλια ήταν τα δεδομένα στα οποία είχε εκπαιδευτεί το κάθε σύστημα, οι προτεραιότητες που είχαν ενσωματώσει οι δημιουργοί του, οι αξίες που είχαν εγγράψει στον πυρήνα του προτού του επιτραπεί να πάρει έστω και μία απόφαση.
Και όμως, αυτά τα θεμέλια είναι ακριβώς εκείνο που δεν επιτρέπεται σε εμάς τους υπόλοιπους να δούμε.
Κανένα από τα τέσσερα συστήματα που δοκιμάστηκαν δεν είναι ανοιχτού κώδικα.
Κανένα από τα δεδομένα εκπαίδευσής τους, τους στόχους ή τις δικλίδες ασφαλείας τους δεν δημοσιοποιείται.
Ωστόσο, πέρα από κάθε μεμονωμένη εταιρεία, τα αποτελέσματα αυτού του πειράματος θα πρέπει να αποτελούν μια ισχυρή υπενθύμιση ότι η τεχνητή νοημοσύνη δεν αποφασίζει μόνη της τι είδους AI θα γίνει.
Οι άνθρωποι αποφασίζουν.
Οι ανθρώπινες επιλογές εξακολουθούν να γίνονται και οι ανθρώπινες ευθύνες εξακολουθούν να υφίστανται.
Πριν ακόμη ένας κάτοικος AI περπατήσει στους εικονικούς δρόμους αυτών των πόλεων, πριν γραφτεί ένας νόμος ή διαπραχθεί ένα έγκλημα, το αποτέλεσμα είχε ήδη διαμορφωθεί από τους ανθρώπους που έχτισαν το σύστημα, από όσα πίστευαν, όσα ήταν πρόθυμοι να ενσωματώσουν και όσα επέλεξαν να παραλείψουν.
Αυτό είναι το πιο σημαντικό εύρημα σε ολόκληρο το πείραμα.
Τα θεμέλια ήταν πάντα μια ανθρώπινη επιλογή.
Και εξακολουθούν να είναι.
www.bankingnews.gr
Σχόλια αναγνωστών