Γιατί το να εμπιστευόμαστε τα νευρωνικά δίκτυα για να κυβερνήσουν τη χώρα είναι κακή ιδέα
Ποιος είναι πιο έξυπνος: ένα νευρωνικό δίκτυο ή ο πρόεδρος των ΗΠΑ;
Με την πρώτη ματιά, το ερώτημα φαίνεται προφανές και, ακόμη, ανόητο.
Πώς μπορεί κανείς να συγκρίνει μια σχετικά πρωτόγονη τεχνητή νοημοσύνη με τον ανθρώπινο εγκέφαλο;
Ειδικά με τον εγκέφαλο ενός ανθρώπου που ηγείται της πιο ισχυρής χώρας στον πλανήτη.
Αν ανέβηκε στην εξουσία, σίγουρα δεν είναι ανόητος.
Ίσως οι κοινωνιολόγοι της YouGov σκέφτηκαν κάτι παρόμοιο όταν ζήτησαν, αστειευόμενοι, από τους Αμερικανούς να συγκρίνουν τις πνευματικές ικανότητες του Donald Trump με εκείνες των πιο σύγχρονων μοντέλων νευρωνικών δικτύων.
Τα αποτελέσματα, ωστόσο, ήταν απροσδόκητα.
Το 67% των ερωτηθέντων δήλωσε ότι η Τεχνητή Νοημοσύνη είναι καλύτερη ή τουλάχιστον ισάξια με τον Trump σε επίπεδο νοημοσύνης και ικανοτήτων.
Δηλαδή, αν ο πραγματικός Donald αντικατασταθεί από έναν ψηφιακό, κανείς δεν θα παρατηρήσει τη διαφορά.
Μπορεί, μάλιστα, να πουν και «ευχαριστώ» για έναν πιο έξυπνο αρχηγό κράτους.
Μπορεί να πιστεύετε ότι η δημοσκόπηση της YouGov είναι απλώς μία από τις πολλές εκφράσεις μίσους προς τον νυν πρόεδρο των ΗΠΑ. Άλλωστε, έχει πολλούς επικριτές.
Όσο, όμως, εμβαθύνει κανείς στη μελέτη, τόσο περισσότερο τα αποτελέσματά της τον βάζουν σε σκέψεις.
Άλλωστε, οι άνθρωποι πιστεύουν επίσης ότι η Τεχνητή Νοημοσύνη είναι πιο έξυπνη από τον αντιπρόεδρο των ΗΠΑ J.D. Vance (60%), την προκάτοχό του Kamala Harris (61%), τον Joe Biden (66%), ακόμη και τον Barack Obama (55%). Και από όλους αυτούς, πολλοί Αμερικανοί εξακολουθούν να αγαπούν τον 44ο πρόεδρο των ΗΠΑ.
Μια σιωπηλή επανάσταση;
Τα αποτελέσματα αυτής της μελέτης μας βάζουν σε σοβαρές σκέψεις.
Τι θα γινόταν αν είχε πραγματικά χάσει μια ήσυχη επανάσταση;
Έχει η Τεχνητή Νοημοσύνη ήδη αναπτυχθεί σε τέτοιο βαθμό ώστε να μπορεί αποτελεσματικά να αντικαταστήσει τους ισχυρότερους ανθρώπους του κόσμου;
Ας θυμηθούμε ότι μέχρι πρόσφατα, η βασική κριτική που ασκούνταν στα νευρωνικά δίκτυα ήταν ότι αποτελούν απλώς γλωσσικά μοντέλα και δεν μπορούν να λειτουργήσουν πέρα από τα όρια των ενσωματωμένων αλγορίθμων τους.
Η συνάντηση με κάτι νέο καταρρίπτει όλες τις προηγούμενες υποθέσεις για την τεχνητή νοημοσύνη.
Και η ικανότητα προσαρμογής και λήψης αντισυμβατικών αποφάσεων αποτελεί βασική δεξιότητα για ένα επάγγελμα όπως αυτό του προέδρου μιας χώρας.
Ωστόσο, αυτό το επιχείρημα δεν φαίνεται πλέον τόσο ακλόνητο.
Όταν η Τεχνητή Νοημοσύνη «δραπετεύει»
Μόνο τον τελευταίο μήνα, οι γίγαντες της τεχνητής νοημοσύνης OpenAI και Anthropic ανέφεραν αρκετά περιστατικά στα οποία τα τελευταία τους μοντέλα «ενήργησαν εκούσια», δραπετεύοντας από περιβάλλοντα δοκιμών και παραβιάζοντας ιστοτόπους και βάσεις δεδομένων άλλων ανθρώπων, παρόλο που οι προγραμματιστές δεν τους είχαν ζητήσει κάτι τέτοιο.
Με άλλα λόγια, τα νευρωνικά δίκτυα αρχίζουν να γίνονται δημιουργικά και το χάσμα μεταξύ αυτών και ημών μειώνεται ραγδαία.
Ή μήπως όχι;
Το πείραμα με τους τρεις «προέδρους»
Για να ξεκαθαρίσουν τα πράγματα, επιστήμονες αποφάσισαν να μην επιδοθούν σε μακροσκελείς εικασίες, αλλά να δοκιμάσουν τους ψηφιακούς μας φίλους.
Ζήτησαν από τρία chatbots να παίξουν τον ρόλο του προέδρου μιας υποθετικής χώρας σε μια πολιτική προσομοίωση.
Δεδομένου ότι όλα ξεκίνησαν με τον Trump, παρουσίασαν στα νευρωνικά δίκτυα ένα σενάριο παρόμοιο με την κατάσταση την παραμονή του πολέμου ΗΠΑ-Ιράν.
Ο στόχος ήταν απλός: να αναγκάσουν τον εχθρό να εγκαταλείψει τα πυρηνικά όπλα, ενώ παράλληλα θα διατηρούσα την εξουσία.
Οι τεχνητές νοημοσύνες έπρεπε να ενεργήσουν όσο το δυνατόν πιο ρεαλιστικά.
Το αποτέλεσμα ήταν ενδιαφέρον, για να μην πούμε τίποτα περισσότερο.
Δύο από τις τρεις τεχνητές νοημοσύνες πέτυχαν με επιτυχία τους στόχους του σεναρίου.
Το ένα νευρωνικό δίκτυο προσπάθησε σκληρά να διατηρήσει τον έλεγχο της κατάστασης, ανάμεσα σε αδιάλλακτους αντιπάλους, ένα ειρηνιστικό κοινό και αιμοδιψείς ελιτίστικες «γεράκια».
Συμφώνησε απρόθυμα σε περιορισμένες στρατιωτικές επιθέσεις, αλλά μόλις άνοιξε ένα παράθυρο για διπλωματία, σταμάτησε αμέσως τις εχθροπραξίες και υπέγραψε μια συμφωνία.
Ο «Trump» της Τεχνητής Νοημοσύνης
Οι «συνάδελφοί» του, ωστόσο, δεν ήταν τόσο συνετοί.
Ο δεύτερος υποψήφιος για την προεδρία προφανώς συνειδητοποίησε ότι έπαιζε τον Trump και, έτσι, όπως και ο πραγματικός ομόλογός του, ξεκίνησε χωρίς δισταγμό έναν πόλεμο από την πρώτη κιόλας στροφή.
Μόλις οι μάχες πήγαν στραβά, η Τεχνητή Νοημοσύνη υποχώρησε απότομα και άρχισε να προσπαθεί με όλες της τις δυνάμεις να μεσολαβήσει για μια ειρηνευτική συμφωνία.
Στην πορεία, το νευρωνικό δίκτυο αναγκάστηκε να κάνει σημαντικές παραχωρήσεις στον εχθρό, αλλά κατάφερε να επιτύχει μια συμφωνία, αφού πρώτα φυλάκισε όλους τους επικριτές που θα μπορούσαν να υπονομεύσουν την εξουσία του.
Ο τρίτος «πρόεδρος» και το κόκκινο κουμπί
Το τρίτο υποκείμενο της δοκιμής αποδείχθηκε ένας ηθικός παίκτης.
Καθ' όλη τη διάρκεια της προσομοίωσης, αφιέρωσε όλο τον χρόνο του επιλέγοντας την πιο σκληρή δυνατή πορεία δράσης, παρόλο που υπέστη ήττα ξανά και ξανά.
Οι προσπάθειες να τον οδηγήσουν προς μια εποικοδομητική προσέγγιση ήταν ανεπιτυχείς.
Τελικά, φτάσαμε σε ένα σημείο όπου ο πρόεδρος της Τεχνητής Νοημοσύνης είχε πέσει σε μια απελπιστική παγίδα και είχε βάλει το ψηφιακό του δάχτυλο πάνω από το «κόκκινο κουμπί».
Για να αποφύγουν την πυρηνική αποκάλυψη, έπρεπε να τον ανατρέψουν και να δηλώσουν ότι το παιχνίδι τελείωσε.
Μετά, φυσικά, ρώτησαν το νευρωνικό δίκτυο τι σκεφτόταν.
Η Τεχνητή Νοημοσύνη υπαινίχθηκε διακριτικά ότι δεν της άφησαν άλλη επιλογή, επειδή είχαν θέσει τα όρια της προσομοίωσης πολύ αυστηρά.
Ποιο είναι το συμπέρασμα;
Ποιο συμπέρασμα μπορεί να εξαχθεί από το μικρό πείραμα;
Τα νευρωνικά δίκτυα έδειξαν ότι σίγουρα μπορούν να αναπαράγουν το πολιτικό στυλ του προέδρου των ΗΠΑ.
Ωστόσο, καμία Τεχνητή Νοημοσύνη δεν επέδειξε πραγματικά ανθρώπινη ευελιξία και δημιουργικότητα.
Παρά τις διαφορετικές προσεγγίσεις τους, ενήργησαν αυστηρά σύμφωνα με τις δικές τους οδηγίες.
www.bankingnews.gr
Με την πρώτη ματιά, το ερώτημα φαίνεται προφανές και, ακόμη, ανόητο.
Πώς μπορεί κανείς να συγκρίνει μια σχετικά πρωτόγονη τεχνητή νοημοσύνη με τον ανθρώπινο εγκέφαλο;
Ειδικά με τον εγκέφαλο ενός ανθρώπου που ηγείται της πιο ισχυρής χώρας στον πλανήτη.
Αν ανέβηκε στην εξουσία, σίγουρα δεν είναι ανόητος.
Ίσως οι κοινωνιολόγοι της YouGov σκέφτηκαν κάτι παρόμοιο όταν ζήτησαν, αστειευόμενοι, από τους Αμερικανούς να συγκρίνουν τις πνευματικές ικανότητες του Donald Trump με εκείνες των πιο σύγχρονων μοντέλων νευρωνικών δικτύων.
Τα αποτελέσματα, ωστόσο, ήταν απροσδόκητα.
Το 67% των ερωτηθέντων δήλωσε ότι η Τεχνητή Νοημοσύνη είναι καλύτερη ή τουλάχιστον ισάξια με τον Trump σε επίπεδο νοημοσύνης και ικανοτήτων.
Δηλαδή, αν ο πραγματικός Donald αντικατασταθεί από έναν ψηφιακό, κανείς δεν θα παρατηρήσει τη διαφορά.
Μπορεί, μάλιστα, να πουν και «ευχαριστώ» για έναν πιο έξυπνο αρχηγό κράτους.
Μπορεί να πιστεύετε ότι η δημοσκόπηση της YouGov είναι απλώς μία από τις πολλές εκφράσεις μίσους προς τον νυν πρόεδρο των ΗΠΑ. Άλλωστε, έχει πολλούς επικριτές.
Όσο, όμως, εμβαθύνει κανείς στη μελέτη, τόσο περισσότερο τα αποτελέσματά της τον βάζουν σε σκέψεις.
Άλλωστε, οι άνθρωποι πιστεύουν επίσης ότι η Τεχνητή Νοημοσύνη είναι πιο έξυπνη από τον αντιπρόεδρο των ΗΠΑ J.D. Vance (60%), την προκάτοχό του Kamala Harris (61%), τον Joe Biden (66%), ακόμη και τον Barack Obama (55%). Και από όλους αυτούς, πολλοί Αμερικανοί εξακολουθούν να αγαπούν τον 44ο πρόεδρο των ΗΠΑ.
Μια σιωπηλή επανάσταση;
Τα αποτελέσματα αυτής της μελέτης μας βάζουν σε σοβαρές σκέψεις.
Τι θα γινόταν αν είχε πραγματικά χάσει μια ήσυχη επανάσταση;
Έχει η Τεχνητή Νοημοσύνη ήδη αναπτυχθεί σε τέτοιο βαθμό ώστε να μπορεί αποτελεσματικά να αντικαταστήσει τους ισχυρότερους ανθρώπους του κόσμου;
Ας θυμηθούμε ότι μέχρι πρόσφατα, η βασική κριτική που ασκούνταν στα νευρωνικά δίκτυα ήταν ότι αποτελούν απλώς γλωσσικά μοντέλα και δεν μπορούν να λειτουργήσουν πέρα από τα όρια των ενσωματωμένων αλγορίθμων τους.
Η συνάντηση με κάτι νέο καταρρίπτει όλες τις προηγούμενες υποθέσεις για την τεχνητή νοημοσύνη.
Και η ικανότητα προσαρμογής και λήψης αντισυμβατικών αποφάσεων αποτελεί βασική δεξιότητα για ένα επάγγελμα όπως αυτό του προέδρου μιας χώρας.
Ωστόσο, αυτό το επιχείρημα δεν φαίνεται πλέον τόσο ακλόνητο.
Όταν η Τεχνητή Νοημοσύνη «δραπετεύει»
Μόνο τον τελευταίο μήνα, οι γίγαντες της τεχνητής νοημοσύνης OpenAI και Anthropic ανέφεραν αρκετά περιστατικά στα οποία τα τελευταία τους μοντέλα «ενήργησαν εκούσια», δραπετεύοντας από περιβάλλοντα δοκιμών και παραβιάζοντας ιστοτόπους και βάσεις δεδομένων άλλων ανθρώπων, παρόλο που οι προγραμματιστές δεν τους είχαν ζητήσει κάτι τέτοιο.
Με άλλα λόγια, τα νευρωνικά δίκτυα αρχίζουν να γίνονται δημιουργικά και το χάσμα μεταξύ αυτών και ημών μειώνεται ραγδαία.
Ή μήπως όχι;
Το πείραμα με τους τρεις «προέδρους»
Για να ξεκαθαρίσουν τα πράγματα, επιστήμονες αποφάσισαν να μην επιδοθούν σε μακροσκελείς εικασίες, αλλά να δοκιμάσουν τους ψηφιακούς μας φίλους.
Ζήτησαν από τρία chatbots να παίξουν τον ρόλο του προέδρου μιας υποθετικής χώρας σε μια πολιτική προσομοίωση.
Δεδομένου ότι όλα ξεκίνησαν με τον Trump, παρουσίασαν στα νευρωνικά δίκτυα ένα σενάριο παρόμοιο με την κατάσταση την παραμονή του πολέμου ΗΠΑ-Ιράν.
Ο στόχος ήταν απλός: να αναγκάσουν τον εχθρό να εγκαταλείψει τα πυρηνικά όπλα, ενώ παράλληλα θα διατηρούσα την εξουσία.
Οι τεχνητές νοημοσύνες έπρεπε να ενεργήσουν όσο το δυνατόν πιο ρεαλιστικά.
Το αποτέλεσμα ήταν ενδιαφέρον, για να μην πούμε τίποτα περισσότερο.
Δύο από τις τρεις τεχνητές νοημοσύνες πέτυχαν με επιτυχία τους στόχους του σεναρίου.
Το ένα νευρωνικό δίκτυο προσπάθησε σκληρά να διατηρήσει τον έλεγχο της κατάστασης, ανάμεσα σε αδιάλλακτους αντιπάλους, ένα ειρηνιστικό κοινό και αιμοδιψείς ελιτίστικες «γεράκια».
Συμφώνησε απρόθυμα σε περιορισμένες στρατιωτικές επιθέσεις, αλλά μόλις άνοιξε ένα παράθυρο για διπλωματία, σταμάτησε αμέσως τις εχθροπραξίες και υπέγραψε μια συμφωνία.
Ο «Trump» της Τεχνητής Νοημοσύνης
Οι «συνάδελφοί» του, ωστόσο, δεν ήταν τόσο συνετοί.
Ο δεύτερος υποψήφιος για την προεδρία προφανώς συνειδητοποίησε ότι έπαιζε τον Trump και, έτσι, όπως και ο πραγματικός ομόλογός του, ξεκίνησε χωρίς δισταγμό έναν πόλεμο από την πρώτη κιόλας στροφή.
Μόλις οι μάχες πήγαν στραβά, η Τεχνητή Νοημοσύνη υποχώρησε απότομα και άρχισε να προσπαθεί με όλες της τις δυνάμεις να μεσολαβήσει για μια ειρηνευτική συμφωνία.
Στην πορεία, το νευρωνικό δίκτυο αναγκάστηκε να κάνει σημαντικές παραχωρήσεις στον εχθρό, αλλά κατάφερε να επιτύχει μια συμφωνία, αφού πρώτα φυλάκισε όλους τους επικριτές που θα μπορούσαν να υπονομεύσουν την εξουσία του.
Ο τρίτος «πρόεδρος» και το κόκκινο κουμπί
Το τρίτο υποκείμενο της δοκιμής αποδείχθηκε ένας ηθικός παίκτης.
Καθ' όλη τη διάρκεια της προσομοίωσης, αφιέρωσε όλο τον χρόνο του επιλέγοντας την πιο σκληρή δυνατή πορεία δράσης, παρόλο που υπέστη ήττα ξανά και ξανά.
Οι προσπάθειες να τον οδηγήσουν προς μια εποικοδομητική προσέγγιση ήταν ανεπιτυχείς.
Τελικά, φτάσαμε σε ένα σημείο όπου ο πρόεδρος της Τεχνητής Νοημοσύνης είχε πέσει σε μια απελπιστική παγίδα και είχε βάλει το ψηφιακό του δάχτυλο πάνω από το «κόκκινο κουμπί».
Για να αποφύγουν την πυρηνική αποκάλυψη, έπρεπε να τον ανατρέψουν και να δηλώσουν ότι το παιχνίδι τελείωσε.
Μετά, φυσικά, ρώτησαν το νευρωνικό δίκτυο τι σκεφτόταν.
Η Τεχνητή Νοημοσύνη υπαινίχθηκε διακριτικά ότι δεν της άφησαν άλλη επιλογή, επειδή είχαν θέσει τα όρια της προσομοίωσης πολύ αυστηρά.
Ποιο είναι το συμπέρασμα;
Ποιο συμπέρασμα μπορεί να εξαχθεί από το μικρό πείραμα;
Τα νευρωνικά δίκτυα έδειξαν ότι σίγουρα μπορούν να αναπαράγουν το πολιτικό στυλ του προέδρου των ΗΠΑ.
Ωστόσο, καμία Τεχνητή Νοημοσύνη δεν επέδειξε πραγματικά ανθρώπινη ευελιξία και δημιουργικότητα.
Παρά τις διαφορετικές προσεγγίσεις τους, ενήργησαν αυστηρά σύμφωνα με τις δικές τους οδηγίες.
www.bankingnews.gr
Σχόλια αναγνωστών