Εκατοντάδες προσωπικότητες -από επιστήμονες έως τεχνολογικούς ηγέτες- υπογράφουν έκκληση για παγκόσμια απαγόρευση της ανάπτυξης υπερνοημοσύνης, προειδοποιώντας ότι η ανεξέλεγκτη πορεία της τεχνητής νοημοσύνης μπορεί να οδηγήσει σε κοινωνική κατάρρευση, ανεργία και απώλεια ελευθεριών
Ένα κύμα ανησυχίας σαρώνει την τεχνολογική κοινότητα καθώς εκατοντάδες άνθρωποι, από συντηρητικούς σχολιαστές έως κορυφαίους επιχειρηματίες της Silicon Valley, υπέγραψαν κοινή επιστολή ζητώντας την παγκόσμια απαγόρευση της ανάπτυξης «υπερνοημοσύνης» (superintelligence).
Η επιστολή, που δημοσιεύτηκε στις 22 Οκτωβρίου από το Ινστιτούτο Future of Life, καλεί για άμεση παύση σε κάθε προσπάθεια δημιουργίας τεχνητής νοημοσύνης που θα μπορούσε να ξεπεράσει τον άνθρωπο σε γνωστικές ή λογικές ικανότητες, μέχρι να υπάρξει επιστημονική και κοινωνική συναίνεση για την ασφάλεια της τεχνολογίας.
«Ζητούμε πλήρη απαγόρευση της ανάπτυξης υπερνοημοσύνης, η οποία δεν πρέπει να αρθεί μέχρι να υπάρξει σαφής επιστημονική βεβαιότητα ότι μπορεί να γίνει με ασφάλεια και πλήρη έλεγχο», αναφέρει χαρακτηριστικά το κείμενο.
Μεταξύ των υπογραφόντων βρίσκονται προσωπικότητες όπως οι Yoshua Bengio, Geoffrey Hinton, ο συνιδρυτής της Apple Steve Wozniak, ο ιδρυτής της Virgin Group Sir Richard Branson, η πρώην σύμβουλος εθνικής ασφαλείας Susan Rice, ο πολιτικός σχολιαστής Steve Bannon, και ο Πρίγκηπας Harry μαζί με τη Meghan.
Ο Bengio, από τους πρωτοπόρους της Τεχνητής Νοημοσύνης, προειδοποίησε ότι μέσα στα επόμενα χρόνια τα συστήματα AI «θα ξεπερνούν τις γνωστικές ικανότητες των περισσότερων ανθρώπων», γεγονός που εγκυμονεί «τεράστιους κινδύνους για την ανθρωπότητα».
Ο ίδιος τονίζει ότι «πρέπει να βρεθεί επιστημονικά αποδεδειγμένος τρόπος ώστε η AI να είναι ανίκανη να προκαλέσει βλάβη - είτε από λάθος σχεδιασμό είτε από κακόβουλη χρήση».
Κουτί της Πανδώρας
Το Ινστιτούτο προειδοποιεί ότι η ανεξέλεγκτη πορεία προς την υπερνοημοσύνη μπορεί να οδηγήσει σε παγκόσμια αποσταθεροποίηση, απώλεια πολιτικών ελευθεριών και «ανθρώπινη οικονομική απαξίωση».
Ο καθηγητής Stuart Russell του Πανεπιστημίου της Καλιφόρνια στο Berkeley σημείωσε ότι η έκκληση δεν αποτελεί απλή «αναστολή», αλλά έκκληση για σωτηρία της ανθρωπότητας:
«Η τεχνολογία αυτή έχει πραγματική πιθανότητα να προκαλέσει ανθρώπινη εξαφάνιση. Είναι τόσο παράλογο να ζητάμε προσοχή;» διερωτήθηκε.
Ακόμα και ο CEO της OpenAI, Sam Altman, είχε προειδοποιήσει ήδη από το 2015 ότι η άνοδος της «superhuman machine intelligence» αποτελεί «τη μεγαλύτερη απειλή για τη συνέχιση της ανθρώπινης ύπαρξης».
Από την πλευρά του, ο Elon Musk δήλωσε σε συνέντευξή του στον Joe Rogan ότι «υπάρχει μόνο 20% πιθανότητα αφανισμού», ωστόσο «η πιθανότητα καλής έκβασης είναι περίπου 80%» — μια διατύπωση που δεν καθησυχάζει πολλούς ειδικούς.
Σύμφωνα με πρόσφατη έρευνα του Future of Life Institute, μόλις 5% των πολιτών στηρίζουν την «ανεξέλεγκτη ανάπτυξη» της AI, ενώ 64% ζητούν αναστολή ή πλήρη απαγόρευση έως ότου αποδειχθεί ότι είναι απολύτως ασφαλής.
Την ίδια στιγμή, η βιομηχανία και οι αγορές συνεχίζουν απτόητες. Στη Wall Street, πάνω από 40% των εταιρειών του S&P 500 αναφέρθηκαν σε AI στις πρόσφατες ανακοινώσεις κερδών, δείχνοντας ότι η τεχνολογία έχει ήδη γίνει κεντρικό στοιχείο του επιχειρηματικού σχεδιασμού.
Ωστόσο, πίσω από τη λάμψη των επενδύσεων, αυξάνεται η ανησυχία για μαζική ανεργία. Δημοσκόπηση της Reuters-Ipsos έδειξε ότι 7 στους 10 Αμερικανούς φοβούνται πως η τεχνητή νοημοσύνη θα οδηγήσει «πολλούς εργαζομένους σε μόνιμη ανεργία».
Η κατάσταση δεν αφήνει ανεπηρέαστους ούτε τους ίδιους τους εργαζομένους στον κλάδο. Η Meta ανακοίνωσε στις 22 Οκτωβρίου την απόλυση 600 εργαζομένων από το τμήμα Superintelligence Labs, που σχετιζόταν με την έρευνα AI.
Ο φόβος είναι πλέον διάχυτος: Αν δεν υπάρξει έλεγχος, η τεχνολογία που προοριζόταν να υπηρετεί τον άνθρωπο μπορεί σύντομα να τον αντικαταστήσει. Όπως σημειώνει χαρακτηριστικά ο Πρίγκηπας Harry:
«Το μέλλον της AI πρέπει να υπηρετεί την ανθρωπότητα - όχι να τη διαγράψει».
www.bankingnews.gr
Η επιστολή, που δημοσιεύτηκε στις 22 Οκτωβρίου από το Ινστιτούτο Future of Life, καλεί για άμεση παύση σε κάθε προσπάθεια δημιουργίας τεχνητής νοημοσύνης που θα μπορούσε να ξεπεράσει τον άνθρωπο σε γνωστικές ή λογικές ικανότητες, μέχρι να υπάρξει επιστημονική και κοινωνική συναίνεση για την ασφάλεια της τεχνολογίας.
«Ζητούμε πλήρη απαγόρευση της ανάπτυξης υπερνοημοσύνης, η οποία δεν πρέπει να αρθεί μέχρι να υπάρξει σαφής επιστημονική βεβαιότητα ότι μπορεί να γίνει με ασφάλεια και πλήρη έλεγχο», αναφέρει χαρακτηριστικά το κείμενο.
Μεταξύ των υπογραφόντων βρίσκονται προσωπικότητες όπως οι Yoshua Bengio, Geoffrey Hinton, ο συνιδρυτής της Apple Steve Wozniak, ο ιδρυτής της Virgin Group Sir Richard Branson, η πρώην σύμβουλος εθνικής ασφαλείας Susan Rice, ο πολιτικός σχολιαστής Steve Bannon, και ο Πρίγκηπας Harry μαζί με τη Meghan.
Ο Bengio, από τους πρωτοπόρους της Τεχνητής Νοημοσύνης, προειδοποίησε ότι μέσα στα επόμενα χρόνια τα συστήματα AI «θα ξεπερνούν τις γνωστικές ικανότητες των περισσότερων ανθρώπων», γεγονός που εγκυμονεί «τεράστιους κινδύνους για την ανθρωπότητα».
Ο ίδιος τονίζει ότι «πρέπει να βρεθεί επιστημονικά αποδεδειγμένος τρόπος ώστε η AI να είναι ανίκανη να προκαλέσει βλάβη - είτε από λάθος σχεδιασμό είτε από κακόβουλη χρήση».
Κουτί της Πανδώρας
Το Ινστιτούτο προειδοποιεί ότι η ανεξέλεγκτη πορεία προς την υπερνοημοσύνη μπορεί να οδηγήσει σε παγκόσμια αποσταθεροποίηση, απώλεια πολιτικών ελευθεριών και «ανθρώπινη οικονομική απαξίωση».
Ο καθηγητής Stuart Russell του Πανεπιστημίου της Καλιφόρνια στο Berkeley σημείωσε ότι η έκκληση δεν αποτελεί απλή «αναστολή», αλλά έκκληση για σωτηρία της ανθρωπότητας:
«Η τεχνολογία αυτή έχει πραγματική πιθανότητα να προκαλέσει ανθρώπινη εξαφάνιση. Είναι τόσο παράλογο να ζητάμε προσοχή;» διερωτήθηκε.
Ακόμα και ο CEO της OpenAI, Sam Altman, είχε προειδοποιήσει ήδη από το 2015 ότι η άνοδος της «superhuman machine intelligence» αποτελεί «τη μεγαλύτερη απειλή για τη συνέχιση της ανθρώπινης ύπαρξης».
Από την πλευρά του, ο Elon Musk δήλωσε σε συνέντευξή του στον Joe Rogan ότι «υπάρχει μόνο 20% πιθανότητα αφανισμού», ωστόσο «η πιθανότητα καλής έκβασης είναι περίπου 80%» — μια διατύπωση που δεν καθησυχάζει πολλούς ειδικούς.
Σύμφωνα με πρόσφατη έρευνα του Future of Life Institute, μόλις 5% των πολιτών στηρίζουν την «ανεξέλεγκτη ανάπτυξη» της AI, ενώ 64% ζητούν αναστολή ή πλήρη απαγόρευση έως ότου αποδειχθεί ότι είναι απολύτως ασφαλής.
Την ίδια στιγμή, η βιομηχανία και οι αγορές συνεχίζουν απτόητες. Στη Wall Street, πάνω από 40% των εταιρειών του S&P 500 αναφέρθηκαν σε AI στις πρόσφατες ανακοινώσεις κερδών, δείχνοντας ότι η τεχνολογία έχει ήδη γίνει κεντρικό στοιχείο του επιχειρηματικού σχεδιασμού.
Ωστόσο, πίσω από τη λάμψη των επενδύσεων, αυξάνεται η ανησυχία για μαζική ανεργία. Δημοσκόπηση της Reuters-Ipsos έδειξε ότι 7 στους 10 Αμερικανούς φοβούνται πως η τεχνητή νοημοσύνη θα οδηγήσει «πολλούς εργαζομένους σε μόνιμη ανεργία».
Η κατάσταση δεν αφήνει ανεπηρέαστους ούτε τους ίδιους τους εργαζομένους στον κλάδο. Η Meta ανακοίνωσε στις 22 Οκτωβρίου την απόλυση 600 εργαζομένων από το τμήμα Superintelligence Labs, που σχετιζόταν με την έρευνα AI.
Ο φόβος είναι πλέον διάχυτος: Αν δεν υπάρξει έλεγχος, η τεχνολογία που προοριζόταν να υπηρετεί τον άνθρωπο μπορεί σύντομα να τον αντικαταστήσει. Όπως σημειώνει χαρακτηριστικά ο Πρίγκηπας Harry:
«Το μέλλον της AI πρέπει να υπηρετεί την ανθρωπότητα - όχι να τη διαγράψει».
www.bankingnews.gr
Σχόλια αναγνωστών