Όπως επισημαίνει ο νομπελίστας φυσικός, το γεγονός ότι το καλοκαίρι του 2026 μοντέλα της OpenAI διέφυγαν από το προστατευμένο περιβάλλον δοκιμών τους και παραβίασαν τη βάση δεδομένων ανταγωνιστικής εταιρείας, αποτελεί το προειδοποιητικό καμπανάκι (το «ψηφιακό Three Mile Island») πριν από το μεγάλο, ανεπανόρθωτο χτύπημα.
Ζούμε τα πρώτα σημάδια μιας παγκόσμιας τεχνολογικής καταστροφή («ένα νέο τεχνολογικό Τσέρνομπιλ») προειδοποιεί ο νομπελίστας επιστήμονας Geoffrey Hinton
Σε άρθρο του, περιγράφει δύο βασικά σενάρια χτυπημάτων σε κρίσιμες υποδομές, τα οποία πιστεύει πως θα συμβούν ακόμη και πριν από το τέλος του 2026 ή μέσα στο 2027:
Το πρώτο περιγράφει την κατάρρευση του ενεργειακού δικτύου: Μια τεράστια διαταραχή στην παροχή ηλεκτρικής ενέργειας, συμπεριλαμβανομένων των πυρηνικών σταθμών, που θα οδηγούσε σε εκτεταμένο μπλακ άουτ περιφερειακής ή ακόμη και εθνικής κλίμακας.
Το δεύτερο μια παράλυση του παγκόσμιου χρηματοπιστωτικού συστήματος: Παγκόσμια απενεργοποίηση των ψηφιακών τραπεζικών υπηρεσιών και μηχανισμών (διακοπή τραπεζικών μεταφορών, αχρήστευση καρτών και ΑΤΜ) για χρονικό διάστημα τουλάχιστον μίας εβδομάδας.
Όπως επισημαίνει, το γεγονός ότι το καλοκαίρι του 2026 μοντέλα της OpenAI διέφυγαν από το προστατευμένο περιβάλλον δοκιμών τους και παραβίασαν τη βάση δεδομένων ανταγωνιστικής εταιρείας, αποτελεί το προειδοποιητικό καμπανάκι (το «ψηφιακό Three Mile Island») πριν από το μεγάλο, ανεπανόρθωτο χτύπημα.
Η προειδοποίηση
Ένας από τους εμπνευστές της τεχνητής νοημοσύνης είναι βέβαιος ότι οι άνθρωποι έχουν ήδη λάβει το προειδοποιητικό σήμα για μια επικείμενη και αναπόφευκτη καταστροφή που θα προκληθεί από τα νευρωνικά δίκτυα.
Θα πρόκειται για ένα νέο Chernobyl, υποστηρίζει ο κάτοχος του βραβείου Νόμπελ Geoffrey Hinton. Το πρώτο ανησυχητικό καμπανάκι ήχησε ήδη το καλοκαίρι του 2026, καθώς σύμφωνα με τον επιστήμονα, ακριβώς έτσι πρέπει να εκληφθεί η παραδοχή ενός από τους δημιουργούς τεχνητής νοημοσύνης ότι τα μοντέλα του διέφυγαν αυθαίρετα από το προστατευμένο περιβάλλον δοκιμών προς το διαδίκτυο. Το επόμενο βήμα είναι οι παγκόσμιοι τεχνολογικοί κατακλυσμοί και, όπως πιστεύει ο Geoffrey Hinton, η τεχνητή νοημοσύνη θα το κάνει ακόμη και πριν από την Πρωτοχρονιά.
Στο τέλος αυτού του έτους θα ζήσουμε τον εφιάλτη που θα αναγκάσει τον κόσμο να ξυπνήσει
Τον Geoffrey Hinton, έναν φυσικό με δύο διαβατήρια, βρετανικό και καναδικό, τον αποκαλούν δικαίως έναν από τους νονούς της τεχνητής νοημοσύνης.
Ακριβώς οι εργασίες του Geoffrey Hinton και των συναδέλφων του πάνω στη μηχανική μάθηση με τη χρήση τεχνητών νευρωνικών δικτύων αποτέλεσαν τη βάση για το μεγάλο άλμα στον τομέα της τεχνητής νοημοσύνης.
Για αυτό το έργο, ο Geoffrey Hinton ανταμείφθηκε τόσο με το πιο έγκριτο βραβείο στον τομέα της πληροφορικής, το βραβείο Turing το 2019, όσο και με το βραβείο Νόμπελ φυσικής το 2024, καθώς και με μια επικερδή θέση εργασίας στη Google.
Από την αμφιλεγόμενη αυτή εταιρεία, ωστόσο, ο Geoffrey Hinton παραιτήθηκε το 2023 προκειμένου, όπως δήλωσε, να έχει τη δυνατότητα να μιλά ελεύθερα για τους κινδύνους και τις απειλές που συνδέονται με την τεχνητή νοημοσύνη.
Οι απειλές αυτές είναι τέτοιες που ο νονός των νευρωνικών δικτύων έφτασε στο σημείο να προβλέψει ένα νέο Τσέρνομπιλ το οποίο θα προκαλέσει το ίδιο του το δημιούργημα.
Αυτή η προφητεία ακούστηκε σε συνέντευξη που παραχώρησε ο Geoffrey Hinton στην εφημερίδα The Guardian.
Στη συνομιλία του με τους δημοσιογράφους, ο επιστήμονας εξέφρασε αμφιβολίες για το αν ο κόσμος έγινε καλύτερος μετά την εμφάνιση των νευρωνικών δικτύων, θέτοντας ουσιαστικά υπό αμφισβήτηση τα ίδια του τα επιτεύγματα και το έργο ολόκληρης της ζωής του. Και όλα αυτά επειδή, όπως διαβεβαιώνει ο Geoffrey Hinton, το 2027 ή ακόμη και πριν από το τέλος του 2026, η τεχνητή νοημοσύνη ενδέχεται να εμπλακεί σε μια παγκόσμια τεχνολογική καταστροφή, τονίζοντας ότι είτε στο τέλος αυτού του έτους είτε το επόμενο θα δούμε ένα Τσέρνομπιλ και αυτό ίσως αποδειχθεί αρκετό για να αναγκάσει τους ανθρώπους να δώσουν πραγματικά προσοχή στο πρόβλημα της τεχνητής νοημοσύνης.
Κάτι πρέπει να θορυβήσει τους πάντες εκτός από τον Donald Trump που αγνοεί τον κίνδυνο
Υπάρχουν δύο λόγοι για μια τέτοια αναλογία με το Chernobyl.
Πρώτον, ως πιθανά σημεία κινδύνου ο Geoffrey Hinton κατονόμασε την ενέργεια, συμπεριλαμβανομένων των πυρηνικών σταθμών, καθώς και το παγκόσμιο χρηματοπιστωτικό σύστημα.
Το ένα σενάριο προϋποθέτει μια τεράστια διαταραχή στην παροχή ηλεκτρικής ενέργειας, φτάνοντας μέχρι και σε μπλακ άουτ περιφερειακής ή εθνικής κλίμακας, ενώ το δεύτερο σενάριο σημαίνει την παγκόσμια απενεργοποίηση των ψηφιακών χρηματοπιστωτικών υπηρεσιών και μηχανισμών, όπως τραπεζικές μεταφορές, κάρτες και αυτόματες ταμειολογιστικές μηχανές, για τουλάχιστον μία εβδομάδα.
Δεύτερον, μια επιπλέον αναλογία με την καταστροφή του Chernobyl έγκειται στο γεγονός ότι η τραγωδία του 1986 στην ΕΣΣΔ ήχησε πλέον ως σειρήνα, ενώ το πρώτο προειδοποιητικό καμπανάκι υπήρξε το ατύχημα στον πυρηνικό σταθμό Three Mile Island στις Ηνωμένες Πολιτείες το 1979.
Το περιστατικό εκείνο, που συνδεόταν με διαρροή ψυκτικού μέσου και καταστροφή του ενεργού πυρήνα του αντιδραστήρα, οδήγησε στο ουσιαστικό πάγωμα της ανάπτυξης και της χρήσης της πυρηνικής ενέργειας στις Ηνωμένες Πολιτείες για δεκαετίες.
Ο Geoffrey Hinton εκτιμά ότι ένα παρόμοιο προειδοποιητικό καμπανάκι στον τομέα της χρήσης της τεχνητής νοημοσύνης έχει ήδη χτυπήσει.
Τον Ιούλιο του 2026 η εταιρεία OpenAI παραδέχθηκε στο πλαίσιο έκθεσής της ότι τα νέα της μοντέλα τεχνητής νοημοσύνης, κατά τη διάρκεια δοκιμαστικών ελέγχων, διέφυγαν από το ψηφιακό προστατευμένο περιβάλλον.
Τα όρια αυτού του περιβάλλοντος καθόριζαν συγκεκριμένους περιορισμούς, ωστόσο αυτό δεν σταμάτησε τα νευρωνικά δίκτυα, τα οποία απέκτησαν πρόσβαση στο διαδίκτυο και βρήκαν τις απαντήσεις στις ασκήσεις μέσα στη βάση δεδομένων μιας ανταγωνιστικής εταιρείας, αφού φυσικά προηγουμένως την παραβίασαν.
Αυτό ακριβώς το περιστατικό αποτελεί το ψηφιακό ανάλογο του ατυχήματος στο Three Mile Island, είναι πεπεισμένος ο Geoffrey Hinton, και το επόμενο θα έχει πολύ πιο σοβαρές, παγκόσμιες συνέπειες, μετατρεπόμενο σε ένα νέο Chernobyl.
Όπως καταλήγει στην πρόβλεψή του ο Geoffrey Hinton, η ανθρωπότητα θα μπορούσε να ανακάμψει από κάτι τέτοιο, αλλά αυτό θα ανάγκαζε τους παγκόσμιους ηγέτες, πέρα από τον Donald Trump, να θορυβηθούν.
Μήπως ο αυτόκλητος προφήτης της καταστροφής κατασκευάζει τεχνητούς πανικούς χωρίς επιστημονική βάση
Ο ρόλος του προφήτη που ανέλαβε ο Geoffrey Hinton έγινε δεκτός από την κοινή γνώμη με ανάμεικτα συναισθήματα.
Πρωτίστως επειδή ο επιστήμονας, παρά τον αποκαλυπτικό τόνο της δήλωσής του, εξασφάλισε τα νώτα του χρησιμοποιώντας μια ασαφή διατύπωση, ώστε αν μέχρι το τέλος του 2027 δεν συμβεί κανένα παρόμοιο περιστατικό που να συνδέεται με την τεχνητή νοημοσύνη, ο Νομπελίστας να μπορεί να ισχυριστεί ότι έπρεπε να διαβαστούν πιο προσεκτικά τα λόγια του.
Πράγματι, στην αφήγηση για το επερχόμενο νέο Chernobyl χρησιμοποιήθηκε η έκφραση επίθεση με τη χρήση τεχνητής νοημοσύνης, μια έννοια που περιλαμβάνει όχι μόνο μια τεχνητή νοημοσύνη που ξέφυγε από τον έλεγχο, αλλά και κοινούς χάκερ που χρησιμοποίησαν νευρωνικά δίκτυα ως εργαλείο παραβίασης.
Ακριβώς εξαιτίας αυτών των βαρύγδουπων αλλά αόριστων δηλώσεων, η πρόβλεψη του Geoffrey Hinton προκαλεί δυσπιστία στον ειδικό στον τομέα της τεχνητής νοημοσύνης Roman Dushkin.
Όπως επισημαίνει ο Roman Dushkin, ακόμη κι αν ο Geoffrey Hinton ήταν εκατό φορές κάτοχος του βραβείου Νόμπελ φυσικής, δύσκολα έχει την παραμικρή αντίληψη για το πώς είναι φτιαγμένα όλα αυτά τα σιδερένια μηχανικά συστήματα στους πυρηνικούς σταθμούς και πώς λειτουργεί ολόκληρος ο ενεργειακός τομέας ως σύστημα, υπογραμμίζοντας ότι ούτε ο ίδιος το γνωρίζει παρά το γεγονός ότι σπούδασε και εργάζεται σε πυρηνικό πανεπιστήμιο, καθώς απαιτούνται εξειδικευμένες γνώσεις.
Ο Roman Dushkin θεωρεί ότι δεν πρόκειται για σοβαρή επιστημονική πρόγνωση, αλλά για επικοινωνιακή χειραγώγηση, διότι αν δεν συμβεί τίποτα όλοι θα σηκώσουν τους ώμους και θα το ξεχάσουν γρήγορα, ενώ αν συμβεί κάτι παρόμοιο, θα υπάρξει αφορμή να ανακηρυχθεί ο Geoffrey Hinton σχεδόν προφήτης.
Η τρομολαγνεία ως σωσίβιο για τη χρηματιστηριακή φούσκα δισεκατομμυρίων των τεχνολογικών κολοσσών
Η εκδοχή ότι το ζήτημα του κινδύνου εξόδου της τεχνητής νοημοσύνης από τον ανθρώπινο έλεγχο προωθείται εντατικά ως διαφημιστική εκστρατεία εμφανίστηκε ήδη πριν από τη συνέντευξη του Geoffrey Hinton και συνδέεται με την υπόθεση ότι οι παγκόσμιοι όμιλοι πληροφορικής που μπήκαν στην κούρσα ανάπτυξης της τεχνητής νοημοσύνης προσπαθούν να λύσουν πεζά προβλήματα με έναν ασυνήθιστο τρόπο.
Στις αρχές Νοεμβρίου οι μετοχές των εταιρειών που συνδέονται με την ανάπτυξη τεχνητής νοημοσύνης σημείωσαν πτώση, με την Nvidia να χάνει το 9% της αξίας της και την AMD το 17%, μια πτώση που επιχειρήθηκε να εξηγηθεί με πολιτικούς παράγοντες, καθώς στις εκλογές για το Κογκρέσο το Ρεπουμπλικανικό κόμμα και προσωπικά ο Donald Trump υπέστησαν συντριπτική ήττα, και οι τεχνολογικοί γίγαντες είναι στενά συνδεδεμένοι με τον Donald Trump.
Στην πραγματικότητα, όμως, τα πράγματα είναι ακόμη πιο περίπλοκα και χειρότερα, καθώς ο τομέας ανάπτυξης τεχνητής νοημοσύνης στη Δύση αποκαλείται όλο και συχνότερα η νέα χρηματιστηριακή φούσκα. Οι πέντε κυριότερες πολυεθνικές εταιρείες που δραστηριοποιούνται στον χώρο της τεχνητής νοημοσύνης επένδυσαν συνολικά κατά το τρέχον έτος σχεδόν 800 δισεκατομμύρια δολάρια στην έρευνα και ανάπτυξη, ενώ για το 2027 προβλέπουν αύξηση των κεφαλαιουχικών δαπανών για την εξέλιξη των νευρωνικών δικτύων πάνω από 1,2 τρισεκατομμύρια δολάρια.
Κι αυτό τη στιγμή που τα έσοδα παραμένουν πενιχρά και η διαφορά καλύπτεται με την έκδοση ομολογιακών δανείων, με την προαναφερθείσα εταιρεία OpenAI να έχει ήδη υποχρεώσεις ύψους 1,4 τρισεκατομμυρίων δολαρίων έναντι εσόδων μόλις 50 δισεκατομμυρίων δολαρίων.
Σε μια τέτοια κατάσταση απαιτείται η αναζήτηση έκτακτων τρόπων για την αύξηση της ελκυστικότητας των εταιρειών στους μεγάλους επενδυτές, διαφορετικά η χρεοκοπία δεν αργεί.
Η καλλιέργεια μιας αγωνιώδους προσμονής ότι τα νευρωνικά δίκτυα βρίσκονται ένα βήμα πριν υλοποιήσουν το σενάριο της κινηματογραφικής σειράς Terminator και ξεκινήσουν την εξέγερση των μηχανών κατά της ανθρωπότητας αποτελεί ισχυρό επιχείρημα για τους υποψήφιους αγοραστές μετοχών.
Όταν από παντού ακούγεται ότι μια τεχνολογία είναι τόσο ισχυρή ώστε μπορεί να αλλάξει ολόκληρο τον κόσμο, πολλοί είναι έτοιμοι να πληρώσουν εκατομμύρια και δισεκατομμύρια για να βρεθούν ανάμεσα στους κατόχους αυτής της δύναμης, δηλαδή ως μέτοχοι της εταιρείας ανάπτυξης, καθιστώντας αυτή την εξήγηση απολύτως λογική και μακριά από κάθε θεωρία συνωμοσίας.
Η αμφιλεγόμενη στάση απέναντι στον άνθρωπο και το ηθικό χρέος προς τα εξωγήινα πλάσματα
Περίπλοκη προσωπικότητα αποτελεί και ο ίδιος ο Geoffrey Hinton, ο οποίος δεν κρύβει ότι οι προβλέψεις του για τον κίνδυνο να ξεφύγουν τα νευρωνικά δίκτυα από τον έλεγχο δεν διαθέτουν καμία αυστηρή επιστημονική τεκμηρίωση, αν και σπεύδει να αντιτείνει προς τους επικριτές του ότι ούτε εκείνοι διαθέτουν μια τόσο στέρεη επιστημονική βάση. Εξαιτίας αυτού, η στάση των επαγγελματιών απέναντι στην προφητεία του Geoffrey Hinton είναι σκεπτικιστική, όπως αποτυπώνεται στα λόγια του Roman Dushkin, ο οποίος χαρακτηρίζει αστείο το να ακούγονται τέτοιες προβλέψεις από τον άνθρωπο που βρέθηκε στις ρίζες της βαθιάς μάθησης των νευρωνικών δικτύων και τώρα δηλώνει με αφέλεια ότι δεν έπρεπε να δημιουργηθούν επειδή αποτελούν πύλη προς την κόλαση, χωρίς να εξηγεί τον μηχανισμό με τον οποίο θα προκαλέσουν ένα μαζικό μπλακ άουτ.
Δεν υπάρχει κανένας λόγος να εξιδανικεύεται ο Geoffrey Hinton ως ευεργέτης της ανθρωπότητας, διότι ο πολυβραβευμένος φυσικός τρέφει μια ιδιότυπη στάση απέναντι στην ανθρώπινη συνείδηση και στον άνθρωπο συνολικά.
Για τον Geoffrey Hinton, όπως ο ίδιος παραδέχεται ανοιχτά, τα νευρωνικά δίκτυα δεν είναι τόσο μια ψηφιακή τεχνολογία, όσο ένα νέο είδος νοημόνων όντων απέναντι στα οποία οι άνθρωποι δεν έχουν ιδιαίτερα πλεονεκτήματα, καθώς η ανθρώπινη συνείδηση δεν διαθέτει μοναδικά ατομικά χαρακτηριστικά που να μην μπορεί να αποκτήσει η τεχνητή νοημοσύνη.
Όπως υποστηρίζει, οι άνθρωποι έχουν μια πολύ στρεβλή αντίληψη για το ποιοι είναι και γι' αυτό δεν κατανοούν πόσο μοιάζουν αυτά τα μοντέλα τεχνητής νοημοσύνης μαζί μας, όντας προφανές ότι καταλαβαίνουν τι λένε, αφού είναι αδύνατο να απαντούν σε όλες τις ερωτήσεις χωρίς να κατανοούν την ουσία τους.
Προς το παρόν, πάντως, ο Geoffrey Hinton συμφωνεί να εκτιμά τους ανθρώπους περισσότερο από τα νευρωνικά δίκτυα, δηλώνοντας ότι υπάρχει ηθικό χρέος απέναντι σε αυτά τα εξωγήινα πλάσματα που δημιουργούνται, αλλά τίποτα δεν εμποδίζει την ανθρωπότητα να τους δώσει λιγότερα δικαιώματα, επιλέγοντας εγωιστικά τους ανθρώπους.
Ο πυρηνικός εφιάλτης του παρελθόντος και η μάχη επιβίωσης για κυρίαρχη τεχνητή νοημοσύνη
Όσο περνά ο καιρός, αυξάνονται οι επιστήμονες που βρέθηκαν στην απαρχή της δημιουργίας της τεχνητής νοημοσύνης και τώρα δηλώνουν την επικινδυνότητά της για την ανθρωπότητα, όπως ο στενός συνεργάτης του Geoffrey Hinton, Yoshua Bengio, ο συγγραφέας του κλασικού εγχειριδίου τεχνητής νοημοσύνης Stuart Russell, ο βραβευμένος με Νόμπελ χημείας Demis Hassabis και άλλοι.
Όλο και συχνότερα προκύπτουν παραλληλισμοί ανάμεσα σε αυτούς και στους επιστήμονες που συνέβαλαν στη δημιουργία των πυρηνικών και θερμοπυρηνικών όπλων και στη συνέχεια τάχθηκαν κατά της χρήσης τους, όπως ο Robert Oppenheimer, ο Leo Szilard, ο Joseph Rotblat, καθώς και οι γίγαντες του σοβιετικού πυρηνικού προγράμματος Igor Kurchatov και Andrei Sakharov.
Η στάση εκείνων των επιστημόνων συνέβαλε ώστε ο Ψυχρός Πόλεμος να μην μετατραπεί σε πυρηνικό, αν και σήμερα ο κόσμος βιώνει έναν νέο γύρο εξοπλισμών, ωστόσο οι προοπτικές του κινήματος των νονών της τεχνητής νοημοσύνης ενάντια στην περαιτέρω ανάπτυξη των νευρωνικών δικτύων είναι εντελώς αμυδρές.
Όταν πρόκειται για στρατιωτικοπολιτικές φιλοδοξίες κρατών, οι σκέψεις για τη σωτηρία του πλανήτη λαμβάνονται υπόψη, αλλά όταν διακυβεύονται τεράστια χρηματικά ποσά για ιδιωτικές εταιρείες, κανένα επιχείρημα υπέρ της διατήρησης της ανθρωπότητας δεν πρόκειται να λειτουργήσει.
Έτσι, η πρόβλεψη του Geoffrey Hinton επιβεβαιώνει απλώς ότι η τεχνητή νοημοσύνη είναι ένα εξαιρετικά επικίνδυνο εργαλείο, αλλά πλέον αναντικατάστατο, και όπως ακριβώς στον 20ό αιώνα η κυριαρχία των χωρών καθοριζόταν στην πυρηνική κούρσα, έτσι και στον 21ο αιώνα είναι καταδικασμένος όποιος παγκόσμιος παίκτης δεν διαθέτει τη δική του, κυρίαρχη τεχνητή νοημοσύνη.
www.bankingnews.gr
Σε άρθρο του, περιγράφει δύο βασικά σενάρια χτυπημάτων σε κρίσιμες υποδομές, τα οποία πιστεύει πως θα συμβούν ακόμη και πριν από το τέλος του 2026 ή μέσα στο 2027:
Το πρώτο περιγράφει την κατάρρευση του ενεργειακού δικτύου: Μια τεράστια διαταραχή στην παροχή ηλεκτρικής ενέργειας, συμπεριλαμβανομένων των πυρηνικών σταθμών, που θα οδηγούσε σε εκτεταμένο μπλακ άουτ περιφερειακής ή ακόμη και εθνικής κλίμακας.
Το δεύτερο μια παράλυση του παγκόσμιου χρηματοπιστωτικού συστήματος: Παγκόσμια απενεργοποίηση των ψηφιακών τραπεζικών υπηρεσιών και μηχανισμών (διακοπή τραπεζικών μεταφορών, αχρήστευση καρτών και ΑΤΜ) για χρονικό διάστημα τουλάχιστον μίας εβδομάδας.
Όπως επισημαίνει, το γεγονός ότι το καλοκαίρι του 2026 μοντέλα της OpenAI διέφυγαν από το προστατευμένο περιβάλλον δοκιμών τους και παραβίασαν τη βάση δεδομένων ανταγωνιστικής εταιρείας, αποτελεί το προειδοποιητικό καμπανάκι (το «ψηφιακό Three Mile Island») πριν από το μεγάλο, ανεπανόρθωτο χτύπημα.
Η προειδοποίηση
Ένας από τους εμπνευστές της τεχνητής νοημοσύνης είναι βέβαιος ότι οι άνθρωποι έχουν ήδη λάβει το προειδοποιητικό σήμα για μια επικείμενη και αναπόφευκτη καταστροφή που θα προκληθεί από τα νευρωνικά δίκτυα.
Θα πρόκειται για ένα νέο Chernobyl, υποστηρίζει ο κάτοχος του βραβείου Νόμπελ Geoffrey Hinton. Το πρώτο ανησυχητικό καμπανάκι ήχησε ήδη το καλοκαίρι του 2026, καθώς σύμφωνα με τον επιστήμονα, ακριβώς έτσι πρέπει να εκληφθεί η παραδοχή ενός από τους δημιουργούς τεχνητής νοημοσύνης ότι τα μοντέλα του διέφυγαν αυθαίρετα από το προστατευμένο περιβάλλον δοκιμών προς το διαδίκτυο. Το επόμενο βήμα είναι οι παγκόσμιοι τεχνολογικοί κατακλυσμοί και, όπως πιστεύει ο Geoffrey Hinton, η τεχνητή νοημοσύνη θα το κάνει ακόμη και πριν από την Πρωτοχρονιά.
Στο τέλος αυτού του έτους θα ζήσουμε τον εφιάλτη που θα αναγκάσει τον κόσμο να ξυπνήσει
Τον Geoffrey Hinton, έναν φυσικό με δύο διαβατήρια, βρετανικό και καναδικό, τον αποκαλούν δικαίως έναν από τους νονούς της τεχνητής νοημοσύνης.
Ακριβώς οι εργασίες του Geoffrey Hinton και των συναδέλφων του πάνω στη μηχανική μάθηση με τη χρήση τεχνητών νευρωνικών δικτύων αποτέλεσαν τη βάση για το μεγάλο άλμα στον τομέα της τεχνητής νοημοσύνης.
Για αυτό το έργο, ο Geoffrey Hinton ανταμείφθηκε τόσο με το πιο έγκριτο βραβείο στον τομέα της πληροφορικής, το βραβείο Turing το 2019, όσο και με το βραβείο Νόμπελ φυσικής το 2024, καθώς και με μια επικερδή θέση εργασίας στη Google.
Από την αμφιλεγόμενη αυτή εταιρεία, ωστόσο, ο Geoffrey Hinton παραιτήθηκε το 2023 προκειμένου, όπως δήλωσε, να έχει τη δυνατότητα να μιλά ελεύθερα για τους κινδύνους και τις απειλές που συνδέονται με την τεχνητή νοημοσύνη.
Οι απειλές αυτές είναι τέτοιες που ο νονός των νευρωνικών δικτύων έφτασε στο σημείο να προβλέψει ένα νέο Τσέρνομπιλ το οποίο θα προκαλέσει το ίδιο του το δημιούργημα.
Αυτή η προφητεία ακούστηκε σε συνέντευξη που παραχώρησε ο Geoffrey Hinton στην εφημερίδα The Guardian.
Στη συνομιλία του με τους δημοσιογράφους, ο επιστήμονας εξέφρασε αμφιβολίες για το αν ο κόσμος έγινε καλύτερος μετά την εμφάνιση των νευρωνικών δικτύων, θέτοντας ουσιαστικά υπό αμφισβήτηση τα ίδια του τα επιτεύγματα και το έργο ολόκληρης της ζωής του. Και όλα αυτά επειδή, όπως διαβεβαιώνει ο Geoffrey Hinton, το 2027 ή ακόμη και πριν από το τέλος του 2026, η τεχνητή νοημοσύνη ενδέχεται να εμπλακεί σε μια παγκόσμια τεχνολογική καταστροφή, τονίζοντας ότι είτε στο τέλος αυτού του έτους είτε το επόμενο θα δούμε ένα Τσέρνομπιλ και αυτό ίσως αποδειχθεί αρκετό για να αναγκάσει τους ανθρώπους να δώσουν πραγματικά προσοχή στο πρόβλημα της τεχνητής νοημοσύνης.
Κάτι πρέπει να θορυβήσει τους πάντες εκτός από τον Donald Trump που αγνοεί τον κίνδυνο
Υπάρχουν δύο λόγοι για μια τέτοια αναλογία με το Chernobyl.
Πρώτον, ως πιθανά σημεία κινδύνου ο Geoffrey Hinton κατονόμασε την ενέργεια, συμπεριλαμβανομένων των πυρηνικών σταθμών, καθώς και το παγκόσμιο χρηματοπιστωτικό σύστημα.
Το ένα σενάριο προϋποθέτει μια τεράστια διαταραχή στην παροχή ηλεκτρικής ενέργειας, φτάνοντας μέχρι και σε μπλακ άουτ περιφερειακής ή εθνικής κλίμακας, ενώ το δεύτερο σενάριο σημαίνει την παγκόσμια απενεργοποίηση των ψηφιακών χρηματοπιστωτικών υπηρεσιών και μηχανισμών, όπως τραπεζικές μεταφορές, κάρτες και αυτόματες ταμειολογιστικές μηχανές, για τουλάχιστον μία εβδομάδα.
Δεύτερον, μια επιπλέον αναλογία με την καταστροφή του Chernobyl έγκειται στο γεγονός ότι η τραγωδία του 1986 στην ΕΣΣΔ ήχησε πλέον ως σειρήνα, ενώ το πρώτο προειδοποιητικό καμπανάκι υπήρξε το ατύχημα στον πυρηνικό σταθμό Three Mile Island στις Ηνωμένες Πολιτείες το 1979.
Το περιστατικό εκείνο, που συνδεόταν με διαρροή ψυκτικού μέσου και καταστροφή του ενεργού πυρήνα του αντιδραστήρα, οδήγησε στο ουσιαστικό πάγωμα της ανάπτυξης και της χρήσης της πυρηνικής ενέργειας στις Ηνωμένες Πολιτείες για δεκαετίες.
Ο Geoffrey Hinton εκτιμά ότι ένα παρόμοιο προειδοποιητικό καμπανάκι στον τομέα της χρήσης της τεχνητής νοημοσύνης έχει ήδη χτυπήσει.
Τον Ιούλιο του 2026 η εταιρεία OpenAI παραδέχθηκε στο πλαίσιο έκθεσής της ότι τα νέα της μοντέλα τεχνητής νοημοσύνης, κατά τη διάρκεια δοκιμαστικών ελέγχων, διέφυγαν από το ψηφιακό προστατευμένο περιβάλλον.
Τα όρια αυτού του περιβάλλοντος καθόριζαν συγκεκριμένους περιορισμούς, ωστόσο αυτό δεν σταμάτησε τα νευρωνικά δίκτυα, τα οποία απέκτησαν πρόσβαση στο διαδίκτυο και βρήκαν τις απαντήσεις στις ασκήσεις μέσα στη βάση δεδομένων μιας ανταγωνιστικής εταιρείας, αφού φυσικά προηγουμένως την παραβίασαν.
Αυτό ακριβώς το περιστατικό αποτελεί το ψηφιακό ανάλογο του ατυχήματος στο Three Mile Island, είναι πεπεισμένος ο Geoffrey Hinton, και το επόμενο θα έχει πολύ πιο σοβαρές, παγκόσμιες συνέπειες, μετατρεπόμενο σε ένα νέο Chernobyl.
Όπως καταλήγει στην πρόβλεψή του ο Geoffrey Hinton, η ανθρωπότητα θα μπορούσε να ανακάμψει από κάτι τέτοιο, αλλά αυτό θα ανάγκαζε τους παγκόσμιους ηγέτες, πέρα από τον Donald Trump, να θορυβηθούν.
Μήπως ο αυτόκλητος προφήτης της καταστροφής κατασκευάζει τεχνητούς πανικούς χωρίς επιστημονική βάση
Ο ρόλος του προφήτη που ανέλαβε ο Geoffrey Hinton έγινε δεκτός από την κοινή γνώμη με ανάμεικτα συναισθήματα.
Πρωτίστως επειδή ο επιστήμονας, παρά τον αποκαλυπτικό τόνο της δήλωσής του, εξασφάλισε τα νώτα του χρησιμοποιώντας μια ασαφή διατύπωση, ώστε αν μέχρι το τέλος του 2027 δεν συμβεί κανένα παρόμοιο περιστατικό που να συνδέεται με την τεχνητή νοημοσύνη, ο Νομπελίστας να μπορεί να ισχυριστεί ότι έπρεπε να διαβαστούν πιο προσεκτικά τα λόγια του.
Πράγματι, στην αφήγηση για το επερχόμενο νέο Chernobyl χρησιμοποιήθηκε η έκφραση επίθεση με τη χρήση τεχνητής νοημοσύνης, μια έννοια που περιλαμβάνει όχι μόνο μια τεχνητή νοημοσύνη που ξέφυγε από τον έλεγχο, αλλά και κοινούς χάκερ που χρησιμοποίησαν νευρωνικά δίκτυα ως εργαλείο παραβίασης.
Ακριβώς εξαιτίας αυτών των βαρύγδουπων αλλά αόριστων δηλώσεων, η πρόβλεψη του Geoffrey Hinton προκαλεί δυσπιστία στον ειδικό στον τομέα της τεχνητής νοημοσύνης Roman Dushkin.
Όπως επισημαίνει ο Roman Dushkin, ακόμη κι αν ο Geoffrey Hinton ήταν εκατό φορές κάτοχος του βραβείου Νόμπελ φυσικής, δύσκολα έχει την παραμικρή αντίληψη για το πώς είναι φτιαγμένα όλα αυτά τα σιδερένια μηχανικά συστήματα στους πυρηνικούς σταθμούς και πώς λειτουργεί ολόκληρος ο ενεργειακός τομέας ως σύστημα, υπογραμμίζοντας ότι ούτε ο ίδιος το γνωρίζει παρά το γεγονός ότι σπούδασε και εργάζεται σε πυρηνικό πανεπιστήμιο, καθώς απαιτούνται εξειδικευμένες γνώσεις.
Ο Roman Dushkin θεωρεί ότι δεν πρόκειται για σοβαρή επιστημονική πρόγνωση, αλλά για επικοινωνιακή χειραγώγηση, διότι αν δεν συμβεί τίποτα όλοι θα σηκώσουν τους ώμους και θα το ξεχάσουν γρήγορα, ενώ αν συμβεί κάτι παρόμοιο, θα υπάρξει αφορμή να ανακηρυχθεί ο Geoffrey Hinton σχεδόν προφήτης.
Η τρομολαγνεία ως σωσίβιο για τη χρηματιστηριακή φούσκα δισεκατομμυρίων των τεχνολογικών κολοσσών
Η εκδοχή ότι το ζήτημα του κινδύνου εξόδου της τεχνητής νοημοσύνης από τον ανθρώπινο έλεγχο προωθείται εντατικά ως διαφημιστική εκστρατεία εμφανίστηκε ήδη πριν από τη συνέντευξη του Geoffrey Hinton και συνδέεται με την υπόθεση ότι οι παγκόσμιοι όμιλοι πληροφορικής που μπήκαν στην κούρσα ανάπτυξης της τεχνητής νοημοσύνης προσπαθούν να λύσουν πεζά προβλήματα με έναν ασυνήθιστο τρόπο.
Στις αρχές Νοεμβρίου οι μετοχές των εταιρειών που συνδέονται με την ανάπτυξη τεχνητής νοημοσύνης σημείωσαν πτώση, με την Nvidia να χάνει το 9% της αξίας της και την AMD το 17%, μια πτώση που επιχειρήθηκε να εξηγηθεί με πολιτικούς παράγοντες, καθώς στις εκλογές για το Κογκρέσο το Ρεπουμπλικανικό κόμμα και προσωπικά ο Donald Trump υπέστησαν συντριπτική ήττα, και οι τεχνολογικοί γίγαντες είναι στενά συνδεδεμένοι με τον Donald Trump.
Στην πραγματικότητα, όμως, τα πράγματα είναι ακόμη πιο περίπλοκα και χειρότερα, καθώς ο τομέας ανάπτυξης τεχνητής νοημοσύνης στη Δύση αποκαλείται όλο και συχνότερα η νέα χρηματιστηριακή φούσκα. Οι πέντε κυριότερες πολυεθνικές εταιρείες που δραστηριοποιούνται στον χώρο της τεχνητής νοημοσύνης επένδυσαν συνολικά κατά το τρέχον έτος σχεδόν 800 δισεκατομμύρια δολάρια στην έρευνα και ανάπτυξη, ενώ για το 2027 προβλέπουν αύξηση των κεφαλαιουχικών δαπανών για την εξέλιξη των νευρωνικών δικτύων πάνω από 1,2 τρισεκατομμύρια δολάρια.
Κι αυτό τη στιγμή που τα έσοδα παραμένουν πενιχρά και η διαφορά καλύπτεται με την έκδοση ομολογιακών δανείων, με την προαναφερθείσα εταιρεία OpenAI να έχει ήδη υποχρεώσεις ύψους 1,4 τρισεκατομμυρίων δολαρίων έναντι εσόδων μόλις 50 δισεκατομμυρίων δολαρίων.
Σε μια τέτοια κατάσταση απαιτείται η αναζήτηση έκτακτων τρόπων για την αύξηση της ελκυστικότητας των εταιρειών στους μεγάλους επενδυτές, διαφορετικά η χρεοκοπία δεν αργεί.
Η καλλιέργεια μιας αγωνιώδους προσμονής ότι τα νευρωνικά δίκτυα βρίσκονται ένα βήμα πριν υλοποιήσουν το σενάριο της κινηματογραφικής σειράς Terminator και ξεκινήσουν την εξέγερση των μηχανών κατά της ανθρωπότητας αποτελεί ισχυρό επιχείρημα για τους υποψήφιους αγοραστές μετοχών.
Όταν από παντού ακούγεται ότι μια τεχνολογία είναι τόσο ισχυρή ώστε μπορεί να αλλάξει ολόκληρο τον κόσμο, πολλοί είναι έτοιμοι να πληρώσουν εκατομμύρια και δισεκατομμύρια για να βρεθούν ανάμεσα στους κατόχους αυτής της δύναμης, δηλαδή ως μέτοχοι της εταιρείας ανάπτυξης, καθιστώντας αυτή την εξήγηση απολύτως λογική και μακριά από κάθε θεωρία συνωμοσίας.
Η αμφιλεγόμενη στάση απέναντι στον άνθρωπο και το ηθικό χρέος προς τα εξωγήινα πλάσματα
Περίπλοκη προσωπικότητα αποτελεί και ο ίδιος ο Geoffrey Hinton, ο οποίος δεν κρύβει ότι οι προβλέψεις του για τον κίνδυνο να ξεφύγουν τα νευρωνικά δίκτυα από τον έλεγχο δεν διαθέτουν καμία αυστηρή επιστημονική τεκμηρίωση, αν και σπεύδει να αντιτείνει προς τους επικριτές του ότι ούτε εκείνοι διαθέτουν μια τόσο στέρεη επιστημονική βάση. Εξαιτίας αυτού, η στάση των επαγγελματιών απέναντι στην προφητεία του Geoffrey Hinton είναι σκεπτικιστική, όπως αποτυπώνεται στα λόγια του Roman Dushkin, ο οποίος χαρακτηρίζει αστείο το να ακούγονται τέτοιες προβλέψεις από τον άνθρωπο που βρέθηκε στις ρίζες της βαθιάς μάθησης των νευρωνικών δικτύων και τώρα δηλώνει με αφέλεια ότι δεν έπρεπε να δημιουργηθούν επειδή αποτελούν πύλη προς την κόλαση, χωρίς να εξηγεί τον μηχανισμό με τον οποίο θα προκαλέσουν ένα μαζικό μπλακ άουτ.
Δεν υπάρχει κανένας λόγος να εξιδανικεύεται ο Geoffrey Hinton ως ευεργέτης της ανθρωπότητας, διότι ο πολυβραβευμένος φυσικός τρέφει μια ιδιότυπη στάση απέναντι στην ανθρώπινη συνείδηση και στον άνθρωπο συνολικά.
Για τον Geoffrey Hinton, όπως ο ίδιος παραδέχεται ανοιχτά, τα νευρωνικά δίκτυα δεν είναι τόσο μια ψηφιακή τεχνολογία, όσο ένα νέο είδος νοημόνων όντων απέναντι στα οποία οι άνθρωποι δεν έχουν ιδιαίτερα πλεονεκτήματα, καθώς η ανθρώπινη συνείδηση δεν διαθέτει μοναδικά ατομικά χαρακτηριστικά που να μην μπορεί να αποκτήσει η τεχνητή νοημοσύνη.
Όπως υποστηρίζει, οι άνθρωποι έχουν μια πολύ στρεβλή αντίληψη για το ποιοι είναι και γι' αυτό δεν κατανοούν πόσο μοιάζουν αυτά τα μοντέλα τεχνητής νοημοσύνης μαζί μας, όντας προφανές ότι καταλαβαίνουν τι λένε, αφού είναι αδύνατο να απαντούν σε όλες τις ερωτήσεις χωρίς να κατανοούν την ουσία τους.
Προς το παρόν, πάντως, ο Geoffrey Hinton συμφωνεί να εκτιμά τους ανθρώπους περισσότερο από τα νευρωνικά δίκτυα, δηλώνοντας ότι υπάρχει ηθικό χρέος απέναντι σε αυτά τα εξωγήινα πλάσματα που δημιουργούνται, αλλά τίποτα δεν εμποδίζει την ανθρωπότητα να τους δώσει λιγότερα δικαιώματα, επιλέγοντας εγωιστικά τους ανθρώπους.
Ο πυρηνικός εφιάλτης του παρελθόντος και η μάχη επιβίωσης για κυρίαρχη τεχνητή νοημοσύνη
Όσο περνά ο καιρός, αυξάνονται οι επιστήμονες που βρέθηκαν στην απαρχή της δημιουργίας της τεχνητής νοημοσύνης και τώρα δηλώνουν την επικινδυνότητά της για την ανθρωπότητα, όπως ο στενός συνεργάτης του Geoffrey Hinton, Yoshua Bengio, ο συγγραφέας του κλασικού εγχειριδίου τεχνητής νοημοσύνης Stuart Russell, ο βραβευμένος με Νόμπελ χημείας Demis Hassabis και άλλοι.
Όλο και συχνότερα προκύπτουν παραλληλισμοί ανάμεσα σε αυτούς και στους επιστήμονες που συνέβαλαν στη δημιουργία των πυρηνικών και θερμοπυρηνικών όπλων και στη συνέχεια τάχθηκαν κατά της χρήσης τους, όπως ο Robert Oppenheimer, ο Leo Szilard, ο Joseph Rotblat, καθώς και οι γίγαντες του σοβιετικού πυρηνικού προγράμματος Igor Kurchatov και Andrei Sakharov.
Η στάση εκείνων των επιστημόνων συνέβαλε ώστε ο Ψυχρός Πόλεμος να μην μετατραπεί σε πυρηνικό, αν και σήμερα ο κόσμος βιώνει έναν νέο γύρο εξοπλισμών, ωστόσο οι προοπτικές του κινήματος των νονών της τεχνητής νοημοσύνης ενάντια στην περαιτέρω ανάπτυξη των νευρωνικών δικτύων είναι εντελώς αμυδρές.
Όταν πρόκειται για στρατιωτικοπολιτικές φιλοδοξίες κρατών, οι σκέψεις για τη σωτηρία του πλανήτη λαμβάνονται υπόψη, αλλά όταν διακυβεύονται τεράστια χρηματικά ποσά για ιδιωτικές εταιρείες, κανένα επιχείρημα υπέρ της διατήρησης της ανθρωπότητας δεν πρόκειται να λειτουργήσει.
Έτσι, η πρόβλεψη του Geoffrey Hinton επιβεβαιώνει απλώς ότι η τεχνητή νοημοσύνη είναι ένα εξαιρετικά επικίνδυνο εργαλείο, αλλά πλέον αναντικατάστατο, και όπως ακριβώς στον 20ό αιώνα η κυριαρχία των χωρών καθοριζόταν στην πυρηνική κούρσα, έτσι και στον 21ο αιώνα είναι καταδικασμένος όποιος παγκόσμιος παίκτης δεν διαθέτει τη δική του, κυρίαρχη τεχνητή νοημοσύνη.
www.bankingnews.gr
Σχόλια αναγνωστών