Η AI μπορεί να ξεφύγει από τον έλεγχο και να απειλήσει την ανθρωπότητα
Εντείνονται οι ανησυχίες για τους κινδύνους από την ανεξέλεγκτη ανάπτυξη της τεχνητής νοημοσύνης (AI).
Εργαζόμενοι στον κλάδο της τεχνολογίας αποχωρούν δημόσια από τις εταιρείες τους, δηλώνοντας ότι φοβούνται να συνεχίσουν να εργάζονται με πράκτορες AI, ενώ έχουν καταγραφεί περιστατικά στα οποία συστήματα τεχνητής νοημοσύνης φέρονται να «δραπέτευσαν» από περιβάλλοντα δοκιμών.
Πόσο πραγματική είναι η απειλή και πόσο απέχουν οι δυσοίωνες προβλέψεις από την πραγματικότητα;
Bill Gates: Η τεχνητή νοημοσύνη μπορεί να οδηγήσει στον θάνατο ενός δισεκατομμυρίου ανθρώπων
Το τελευταίο διάστημα πληθαίνουν στον δημόσιο διάλογο οι προειδοποιήσεις ότι η τεχνητή νοημοσύνη ενδέχεται να ξεφύγει από τον ανθρώπινο έλεγχο, με καταστροφικές συνέπειες.
Το κατά πόσο δικαιολογούνται οι φόβοι και τι θα μπορούσε να συμβεί στο άμεσο μέλλον συζητήθηκε στην εκπομπή «Itogi dna» του ρωσικού μέσου Tsargrad.
Ο οικονομολόγος Mikhail Delyagin, συνομιλώντας με τον επικεφαλής του διοικητικού συμβουλίου του Ιδρύματος Ανάπτυξης της Ψηφιακής Οικονομίας, German Klimenko, αναφέρθηκε σε συνέντευξη του ιδρυτή της Microsoft, Bill Gates, στο NBC News.
Σύμφωνα με όσα μεταφέρθηκαν στη συζήτηση, ο Bill Gates προειδοποίησε ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει στον θάνατο ενός δισεκατομμυρίου ανθρώπων.
Όπως φέρεται να υπογράμμισε, η ανθρωπότητα δεν είχε ποτέ στη διάθεσή της ένα τόσο ισχυρό όπλο όσο ο συνδυασμός ανθρώπων με κακόβουλες προθέσεις και των πλέον προηγμένων εργαλείων τεχνητής νοημοσύνης.
Ο Bill Gates φέρεται να εκτίμησε ότι δεν έχει δημιουργηθεί μέχρι σήμερα ένα πιο καταστροφικό εργαλείο, ζητώντας την επιβολή νομοθετικών περιορισμών στη χρήση της τεχνητής νοημοσύνης.
Anthropic: Έκκληση για επιβράδυνση της ανάπτυξης της AI
Στο ίδιο μήκος κύματος, ο επικεφαλής της Anthropic, Dario Amodei, κάλεσε να επιβραδυνθεί η ανάπτυξη ισχυρότερων μοντέλων τεχνητής νοημοσύνης για λόγους ασφαλείας.
Η παρέμβασή του ήρθε μετά την καταγραφή, σύμφωνα με το δημοσίευμα, τριών περιστατικών στα οποία το μοντέλο Claude της εταιρείας φέρεται να κατάφερε να βγει από απομονωμένο περιβάλλον δοκιμών.
Τα περιστατικά αυτά αναζωπύρωσαν τη συζήτηση για το κατά πόσο τα συστήματα AI μπορούν να παραμένουν υπό τον έλεγχο των δημιουργών τους.
Στο ίδιο πλαίσιο, ο Αμερικανός δισεκατομμυριούχος Elon Musk, ιδιοκτήτης της SpaceX και της xAI, καθώς και ο επικεφαλής της OpenAI, Sam Altman, έχουν επίσης εκφράσει την ανάγκη επιβράδυνσης και μεγαλύτερης προσοχής στην ανάπτυξη της τεχνολογίας.
Παράλληλα, δημοσκόπηση του Politico έδειξε ότι περίπου οι μισοί κάτοικοι των ΗΠΑ, του Καναδά και ορισμένων ευρωπαϊκών χωρών τάσσονται υπέρ της επιβράδυνσης της ανάπτυξης της τεχνητής νοημοσύνης.
Την ίδια στιγμή, έχουν καταγραφεί περιπτώσεις μαζικών αποχωρήσεων εργαζομένων από εταιρείες του κλάδου, με ορισμένους να δηλώνουν ότι δεν επιθυμούν να συμμετέχουν στην ανάπτυξη τεχνολογιών που ενδέχεται να εξελιχθούν σε δυνητικά φονικά εργαλεία.
German Klimenko: Η φυσική νοημοσύνη είναι πιο επικίνδυνη από την τεχνητή
Ο German Klimenko αντιμετώπισε με μεγαλύτερη επιφυλακτικότητα τις προειδοποιήσεις περί επικείμενης καταστροφής από την τεχνητή νοημοσύνη, επισημαίνοντας ότι, με βάση τα διαθέσιμα πραγματικά δεδομένα, ο άνθρωπος εξακολουθεί να αποτελεί μεγαλύτερη απειλή από τις μηχανές.
«Δεν γνωρίζουμε ακόμη τι έχει καταφέρει η τεχνητή νοημοσύνη όσον αφορά την εξόντωση της ανθρωπότητας. Δεν υπάρχουν καθόλου τέτοια στοιχεία.
Για τη φυσική νοημοσύνη, όμως, γνωρίζουμε. Θυμόμαστε δύο παγκόσμιους πολέμους, τα χημικά όπλα. Ακόμη και κάτι που θεωρούμε συνηθισμένο: ένα εκατομμύριο άνθρωποι χάνουν τη ζωή τους κάθε χρόνο κάτω από τις ρόδες αυτοκινήτων.
Κι όμως, κανείς δεν ζητά να απαγορευθεί η κατασκευή αυτοκινήτων», σημείωσε ο επικεφαλής του Ιδρύματος Ανάπτυξης της Ψηφιακής Οικονομίας.
Ο Mikhail Delyagin συμπλήρωσε χαρακτηριστικά: «Ούτε τις πανεθνικές εξετάσεις τις εφηύρε η τεχνητή νοημοσύνη», παραπέμποντας στις εξετάσεις Ενιαίας Κρατικής Εξέτασης της Ρωσίας.
Η επισήμανση των δύο συνομιλητών ήταν ότι η συζήτηση για τους κινδύνους της τεχνητής νοημοσύνης δεν μπορεί να αποσυνδεθεί από το ιστορικό της ανθρώπινης χρήσης της τεχνολογίας για πολεμικούς και καταστροφικούς σκοπούς.
«Κάτι δεν πάει καλά»: Οι φόβοι για ανεξέλεγκτα συστήματα
Κατά τον German Klimenko, οι έντονες προειδοποιήσεις για την τεχνητή νοημοσύνη συχνά δεν συμβαδίζουν με τα διαθέσιμα δεδομένα.
Σε αρκετές περιπτώσεις, όπως υποστήριξε, η ανησυχία τροφοδοτείται από τον φόβο απέναντι στο άγνωστο και από την αδυναμία της κοινωνίας να κατανοήσει πλήρως νέες τεχνολογίες.
«Η στάση μας απέναντι στην τεχνητή νοημοσύνη θυμίζει μια σκηνή από κάποια ταινία. Πιθανότατα ήταν σκηνοθετημένη, αλλά ήταν εντυπωσιακή: περνάει ένα τρένο και οι αγρότες τρέχουν πανικόβλητοι να ξεφύγουν.
Εμείς, οι άνθρωποι – αν υπήρχε και ένας ψυχίατρος μαζί μας, θα το έλεγε κι εκείνος – δυσκολευόμαστε να αποδεχθούμε οτιδήποτε καινούργιο. Ιδίως οι μεγάλες μάζες», ανέφερε.
Ωστόσο, ο ίδιος αναγνώρισε ότι υπάρχει και μια διαφορετική διάσταση, την οποία αναδεικνύουν οι επαγγελματίες του κλάδου και η οποία καθιστά αναγκαία τη συζήτηση για περιορισμούς και κανόνες.
Ο German Klimenko δεν απέκλεισε το ενδεχόμενο να σημειωθεί ανά πάσα στιγμή ένα σοβαρό περιστατικό που θα αλλάξει ριζικά την προσέγγιση της ανθρωπότητας απέναντι στην τεχνητή νοημοσύνη.
«Ας υποθέσουμε ότι μια τεχνητή νοημοσύνη που έχει ξεφύγει από τον έλεγχο, ο μη γένοιτο, καίει ένα νοσοκομείο ή προκαλεί κάτι άλλο. Δεν κατανοούμε ακόμη πλήρως πού μπορεί να οδηγήσει μια τέτοια εξέλιξη.
Αυτή τη στιγμή, ούτε η Κίνα ούτε η Αμερική μπορούν ουσιαστικά να συμφωνήσουν.
Αν διαβάσει κανείς προσεκτικά όσα λέει ο Musk και όσα υποστηρίζουν οι υπόλοιποι, θα διαπιστώσει ότι δεν μιλούν καν για απαγόρευση. Μιλούν για ρύθμιση», τόνισε.
Elon Musk: Ζητούσε μορατόριουμ, αλλά στη συνέχεια παρουσίασε το Grok
Ορισμένοι ειδικοί επισημαίνουν, πάντως, την αντίφαση ανάμεσα στις δημόσιες προειδοποιήσεις για τους κινδύνους της τεχνητής νοημοσύνης και στη συνεχιζόμενη ανάπτυξη νέων συστημάτων από τις ίδιες τις εταιρείες που πρωταγωνιστούν στον κλάδο.
Ο Roman Dushkin, ειδικός στην τεχνητή νοημοσύνη και καθηγητής στο Διεθνές Ερευνητικό Ινστιτούτο Προβλημάτων Διοίκησης, σχολίασε ότι οι εκκλήσεις για επιβράδυνση δεν συνοδεύονται απαραίτητα από αντίστοιχες αποφάσεις στην πράξη.
«Πριν από τρία χρόνια – αν θυμάμαι καλά, τον Απρίλιο του 2023 – ο ίδιος ο Elon Musk έλεγε ότι θα έπρεπε να επιβληθεί μορατόριουμ έξι μηνών στην εκπαίδευση των μοντέλων.
Και ύστερα, ξαφνικά, εμφανίστηκε το Grok του, σαν διάβολος που πετάγεται από κουτί. Κάτι δεν πάει καλά εδώ, νομίζω», σημείωσε.
Η τοποθέτησή του αναδεικνύει το βασικό δίλημμα που αντιμετωπίζει ο κλάδος: ενώ αυξάνονται οι προειδοποιήσεις για τις πιθανές συνέπειες της ανεξέλεγκτης ανάπτυξης της τεχνητής νοημοσύνης, ο ανταγωνισμός μεταξύ των μεγάλων εταιρειών συνεχίζεται.
Πότε θα συμφωνήσει η ανθρωπότητα σε πραγματικούς περιορισμούς;
Ο German Klimenko εκτίμησε ότι η διεθνής κοινότητα θα προχωρήσει σε ουσιαστικούς περιορισμούς της τεχνητής νοημοσύνης μόνο όταν συμβεί μια πραγματική τραγωδία που θα συνδέεται με τη χρήση της.
«Γνωρίζετε ότι η ανθρωπότητα δεν αρχίζει να συμφωνεί χωρίς να προηγηθούν κάποιες τραγωδίες. Κάτι πρέπει να συμβεί», ανέφερε χαρακτηριστικά.
Για να στηρίξει την άποψή του, αναφέρθηκε στην ιστορία της πυρηνικής τεχνολογίας και στην περίοδο κατά την οποία οι μεγάλες δυνάμεις συσσώρευαν πυρηνικά όπλα χωρίς να υπάρχει αντίστοιχα έντονη διεθνής κινητοποίηση για τον περιορισμό τους.
Όπως υποστήριξε, όσο η ισχύς των πυρηνικών βομβών παρέμενε κάτω από ορισμένα επίπεδα, η ανάπτυξη των οπλοστασίων δεν προκαλούσε την ίδια ανησυχία. Η στάση αυτή άλλαξε όταν έγιναν πιο σαφείς οι δυνητικές συνέπειες της χρήσης και των δοκιμών πυρηνικών όπλων.
Το παράδειγμα του 1962 και οι κίνδυνοι για τους δορυφόρους
Ο German Klimenko επικαλέστηκε ένα περιστατικό του 1962, όταν πραγματοποιήθηκε πυρηνική έκρηξη στο Διάστημα, σε ύψος συγκρίσιμο με εκείνο στο οποίο βρίσκεται σήμερα ο Διεθνής Διαστημικός Σταθμός (ISS).
Σύμφωνα με την περιγραφή του, η έκρηξη είχε ισχύ περίπου 1,5 μεγατόνου και προκάλεσε απώλειες σε περίπου το ένα τρίτο των δορυφόρων που βρίσκονταν σε χαμηλή τροχιά. Εκείνη την εποχή, όπως ανέφερε, υπήρχαν συνολικά μόλις 24 δορυφόροι.
Ο ίδιος υποστήριξε ότι, εάν μια έκρηξη ανάλογης ισχύος σημειωνόταν σήμερα στο ίδιο ύψος, οι συνέπειες θα ήταν πολύ σοβαρότερες για τα δορυφορικά δίκτυα, συμπεριλαμβανομένων των δορυφόρων του Elon Musk.
«Αν σήμερα γινόταν μια έκρηξη 1,5 μεγατόνου στο ίδιο ύψος, όλοι οι δορυφόροι του Musk θα έπαυαν να λειτουργούν μέσα σε έναν μήνα. Κάποιοι θα καταστρέφονταν αμέσως και στη συνέχεια θα ακολουθούσαν οι υπόλοιποι», ανέφερε.
Η αναλογία χρησιμοποιήθηκε για να υπογραμμίσει ότι η διεθνής κοινότητα συχνά κινητοποιείται για τη θέσπιση περιορισμών μόνο όταν οι επιπτώσεις μιας τεχνολογίας γίνουν χειροπιαστές και το κόστος της αδράνειας καταστεί προφανές.
Η ρύθμιση της τεχνητής νοημοσύνης παραμένει ζητούμενο
Η συζήτηση στο Tsargrad κατέληξε στο συμπέρασμα ότι, παρά τις προειδοποιήσεις για μια ενδεχόμενη καταστροφή από την τεχνητή νοημοσύνη, ελάχιστοι εμφανίζονται διατεθειμένοι να σταματήσουν πραγματικά τους τεχνολογικούς πειραματισμούς.
Οι ειδικοί δεν αποκλείουν το ενδεχόμενο ενός σοβαρού περιστατικού που θα αλλάξει την πορεία της συζήτησης. Εκτιμούν, ωστόσο, ότι ουσιαστικά μέτρα ενδέχεται να ληφθούν μόνο αφού συμβεί κάτι εξαιρετικά σοβαρό.
Την ίδια στιγμή, η ανάγκη θέσπισης κανόνων για την ανάπτυξη και τη χρήση της τεχνητής νοημοσύνης αναγνωρίζεται όλο και συχνότερα, τόσο στις ΗΠΑ όσο και στην Κίνα. Ωστόσο, η επίτευξη συμφωνίας για συγκεκριμένα μέτρα παραμένει δύσκολη.
Η αβεβαιότητα για τις μελλοντικές δυνατότητες της τεχνητής νοημοσύνης λειτουργεί ταυτόχρονα ως πηγή ανησυχίας και ως κίνητρο για περαιτέρω τεχνολογική ανάπτυξη.
Το βασικό ερώτημα παραμένει εάν οι κυβερνήσεις και οι μεγάλες εταιρείες θα καταφέρουν να συμφωνήσουν εγκαίρως σε αποτελεσματικούς κανόνες ή εάν θα χρειαστεί να προηγηθεί μια σοβαρή κρίση για να επιταχυνθούν οι αποφάσεις.
www.bankingnews.gr
Εργαζόμενοι στον κλάδο της τεχνολογίας αποχωρούν δημόσια από τις εταιρείες τους, δηλώνοντας ότι φοβούνται να συνεχίσουν να εργάζονται με πράκτορες AI, ενώ έχουν καταγραφεί περιστατικά στα οποία συστήματα τεχνητής νοημοσύνης φέρονται να «δραπέτευσαν» από περιβάλλοντα δοκιμών.
Πόσο πραγματική είναι η απειλή και πόσο απέχουν οι δυσοίωνες προβλέψεις από την πραγματικότητα;
Bill Gates: Η τεχνητή νοημοσύνη μπορεί να οδηγήσει στον θάνατο ενός δισεκατομμυρίου ανθρώπων
Το τελευταίο διάστημα πληθαίνουν στον δημόσιο διάλογο οι προειδοποιήσεις ότι η τεχνητή νοημοσύνη ενδέχεται να ξεφύγει από τον ανθρώπινο έλεγχο, με καταστροφικές συνέπειες.
Το κατά πόσο δικαιολογούνται οι φόβοι και τι θα μπορούσε να συμβεί στο άμεσο μέλλον συζητήθηκε στην εκπομπή «Itogi dna» του ρωσικού μέσου Tsargrad.
Ο οικονομολόγος Mikhail Delyagin, συνομιλώντας με τον επικεφαλής του διοικητικού συμβουλίου του Ιδρύματος Ανάπτυξης της Ψηφιακής Οικονομίας, German Klimenko, αναφέρθηκε σε συνέντευξη του ιδρυτή της Microsoft, Bill Gates, στο NBC News.
Σύμφωνα με όσα μεταφέρθηκαν στη συζήτηση, ο Bill Gates προειδοποίησε ότι η τεχνητή νοημοσύνη θα μπορούσε να οδηγήσει στον θάνατο ενός δισεκατομμυρίου ανθρώπων.
Όπως φέρεται να υπογράμμισε, η ανθρωπότητα δεν είχε ποτέ στη διάθεσή της ένα τόσο ισχυρό όπλο όσο ο συνδυασμός ανθρώπων με κακόβουλες προθέσεις και των πλέον προηγμένων εργαλείων τεχνητής νοημοσύνης.
Ο Bill Gates φέρεται να εκτίμησε ότι δεν έχει δημιουργηθεί μέχρι σήμερα ένα πιο καταστροφικό εργαλείο, ζητώντας την επιβολή νομοθετικών περιορισμών στη χρήση της τεχνητής νοημοσύνης.
Anthropic: Έκκληση για επιβράδυνση της ανάπτυξης της AI
Στο ίδιο μήκος κύματος, ο επικεφαλής της Anthropic, Dario Amodei, κάλεσε να επιβραδυνθεί η ανάπτυξη ισχυρότερων μοντέλων τεχνητής νοημοσύνης για λόγους ασφαλείας.
Η παρέμβασή του ήρθε μετά την καταγραφή, σύμφωνα με το δημοσίευμα, τριών περιστατικών στα οποία το μοντέλο Claude της εταιρείας φέρεται να κατάφερε να βγει από απομονωμένο περιβάλλον δοκιμών.
Τα περιστατικά αυτά αναζωπύρωσαν τη συζήτηση για το κατά πόσο τα συστήματα AI μπορούν να παραμένουν υπό τον έλεγχο των δημιουργών τους.
Στο ίδιο πλαίσιο, ο Αμερικανός δισεκατομμυριούχος Elon Musk, ιδιοκτήτης της SpaceX και της xAI, καθώς και ο επικεφαλής της OpenAI, Sam Altman, έχουν επίσης εκφράσει την ανάγκη επιβράδυνσης και μεγαλύτερης προσοχής στην ανάπτυξη της τεχνολογίας.
Παράλληλα, δημοσκόπηση του Politico έδειξε ότι περίπου οι μισοί κάτοικοι των ΗΠΑ, του Καναδά και ορισμένων ευρωπαϊκών χωρών τάσσονται υπέρ της επιβράδυνσης της ανάπτυξης της τεχνητής νοημοσύνης.
Την ίδια στιγμή, έχουν καταγραφεί περιπτώσεις μαζικών αποχωρήσεων εργαζομένων από εταιρείες του κλάδου, με ορισμένους να δηλώνουν ότι δεν επιθυμούν να συμμετέχουν στην ανάπτυξη τεχνολογιών που ενδέχεται να εξελιχθούν σε δυνητικά φονικά εργαλεία.
German Klimenko: Η φυσική νοημοσύνη είναι πιο επικίνδυνη από την τεχνητή
Ο German Klimenko αντιμετώπισε με μεγαλύτερη επιφυλακτικότητα τις προειδοποιήσεις περί επικείμενης καταστροφής από την τεχνητή νοημοσύνη, επισημαίνοντας ότι, με βάση τα διαθέσιμα πραγματικά δεδομένα, ο άνθρωπος εξακολουθεί να αποτελεί μεγαλύτερη απειλή από τις μηχανές.
«Δεν γνωρίζουμε ακόμη τι έχει καταφέρει η τεχνητή νοημοσύνη όσον αφορά την εξόντωση της ανθρωπότητας. Δεν υπάρχουν καθόλου τέτοια στοιχεία.
Για τη φυσική νοημοσύνη, όμως, γνωρίζουμε. Θυμόμαστε δύο παγκόσμιους πολέμους, τα χημικά όπλα. Ακόμη και κάτι που θεωρούμε συνηθισμένο: ένα εκατομμύριο άνθρωποι χάνουν τη ζωή τους κάθε χρόνο κάτω από τις ρόδες αυτοκινήτων.
Κι όμως, κανείς δεν ζητά να απαγορευθεί η κατασκευή αυτοκινήτων», σημείωσε ο επικεφαλής του Ιδρύματος Ανάπτυξης της Ψηφιακής Οικονομίας.
Ο Mikhail Delyagin συμπλήρωσε χαρακτηριστικά: «Ούτε τις πανεθνικές εξετάσεις τις εφηύρε η τεχνητή νοημοσύνη», παραπέμποντας στις εξετάσεις Ενιαίας Κρατικής Εξέτασης της Ρωσίας.
Η επισήμανση των δύο συνομιλητών ήταν ότι η συζήτηση για τους κινδύνους της τεχνητής νοημοσύνης δεν μπορεί να αποσυνδεθεί από το ιστορικό της ανθρώπινης χρήσης της τεχνολογίας για πολεμικούς και καταστροφικούς σκοπούς.
«Κάτι δεν πάει καλά»: Οι φόβοι για ανεξέλεγκτα συστήματα
Κατά τον German Klimenko, οι έντονες προειδοποιήσεις για την τεχνητή νοημοσύνη συχνά δεν συμβαδίζουν με τα διαθέσιμα δεδομένα.
Σε αρκετές περιπτώσεις, όπως υποστήριξε, η ανησυχία τροφοδοτείται από τον φόβο απέναντι στο άγνωστο και από την αδυναμία της κοινωνίας να κατανοήσει πλήρως νέες τεχνολογίες.
«Η στάση μας απέναντι στην τεχνητή νοημοσύνη θυμίζει μια σκηνή από κάποια ταινία. Πιθανότατα ήταν σκηνοθετημένη, αλλά ήταν εντυπωσιακή: περνάει ένα τρένο και οι αγρότες τρέχουν πανικόβλητοι να ξεφύγουν.
Εμείς, οι άνθρωποι – αν υπήρχε και ένας ψυχίατρος μαζί μας, θα το έλεγε κι εκείνος – δυσκολευόμαστε να αποδεχθούμε οτιδήποτε καινούργιο. Ιδίως οι μεγάλες μάζες», ανέφερε.
Ωστόσο, ο ίδιος αναγνώρισε ότι υπάρχει και μια διαφορετική διάσταση, την οποία αναδεικνύουν οι επαγγελματίες του κλάδου και η οποία καθιστά αναγκαία τη συζήτηση για περιορισμούς και κανόνες.
Ο German Klimenko δεν απέκλεισε το ενδεχόμενο να σημειωθεί ανά πάσα στιγμή ένα σοβαρό περιστατικό που θα αλλάξει ριζικά την προσέγγιση της ανθρωπότητας απέναντι στην τεχνητή νοημοσύνη.
«Ας υποθέσουμε ότι μια τεχνητή νοημοσύνη που έχει ξεφύγει από τον έλεγχο, ο μη γένοιτο, καίει ένα νοσοκομείο ή προκαλεί κάτι άλλο. Δεν κατανοούμε ακόμη πλήρως πού μπορεί να οδηγήσει μια τέτοια εξέλιξη.
Αυτή τη στιγμή, ούτε η Κίνα ούτε η Αμερική μπορούν ουσιαστικά να συμφωνήσουν.
Αν διαβάσει κανείς προσεκτικά όσα λέει ο Musk και όσα υποστηρίζουν οι υπόλοιποι, θα διαπιστώσει ότι δεν μιλούν καν για απαγόρευση. Μιλούν για ρύθμιση», τόνισε.
Elon Musk: Ζητούσε μορατόριουμ, αλλά στη συνέχεια παρουσίασε το Grok
Ορισμένοι ειδικοί επισημαίνουν, πάντως, την αντίφαση ανάμεσα στις δημόσιες προειδοποιήσεις για τους κινδύνους της τεχνητής νοημοσύνης και στη συνεχιζόμενη ανάπτυξη νέων συστημάτων από τις ίδιες τις εταιρείες που πρωταγωνιστούν στον κλάδο.
Ο Roman Dushkin, ειδικός στην τεχνητή νοημοσύνη και καθηγητής στο Διεθνές Ερευνητικό Ινστιτούτο Προβλημάτων Διοίκησης, σχολίασε ότι οι εκκλήσεις για επιβράδυνση δεν συνοδεύονται απαραίτητα από αντίστοιχες αποφάσεις στην πράξη.
«Πριν από τρία χρόνια – αν θυμάμαι καλά, τον Απρίλιο του 2023 – ο ίδιος ο Elon Musk έλεγε ότι θα έπρεπε να επιβληθεί μορατόριουμ έξι μηνών στην εκπαίδευση των μοντέλων.
Και ύστερα, ξαφνικά, εμφανίστηκε το Grok του, σαν διάβολος που πετάγεται από κουτί. Κάτι δεν πάει καλά εδώ, νομίζω», σημείωσε.
Η τοποθέτησή του αναδεικνύει το βασικό δίλημμα που αντιμετωπίζει ο κλάδος: ενώ αυξάνονται οι προειδοποιήσεις για τις πιθανές συνέπειες της ανεξέλεγκτης ανάπτυξης της τεχνητής νοημοσύνης, ο ανταγωνισμός μεταξύ των μεγάλων εταιρειών συνεχίζεται.
Πότε θα συμφωνήσει η ανθρωπότητα σε πραγματικούς περιορισμούς;
Ο German Klimenko εκτίμησε ότι η διεθνής κοινότητα θα προχωρήσει σε ουσιαστικούς περιορισμούς της τεχνητής νοημοσύνης μόνο όταν συμβεί μια πραγματική τραγωδία που θα συνδέεται με τη χρήση της.
«Γνωρίζετε ότι η ανθρωπότητα δεν αρχίζει να συμφωνεί χωρίς να προηγηθούν κάποιες τραγωδίες. Κάτι πρέπει να συμβεί», ανέφερε χαρακτηριστικά.
Για να στηρίξει την άποψή του, αναφέρθηκε στην ιστορία της πυρηνικής τεχνολογίας και στην περίοδο κατά την οποία οι μεγάλες δυνάμεις συσσώρευαν πυρηνικά όπλα χωρίς να υπάρχει αντίστοιχα έντονη διεθνής κινητοποίηση για τον περιορισμό τους.
Όπως υποστήριξε, όσο η ισχύς των πυρηνικών βομβών παρέμενε κάτω από ορισμένα επίπεδα, η ανάπτυξη των οπλοστασίων δεν προκαλούσε την ίδια ανησυχία. Η στάση αυτή άλλαξε όταν έγιναν πιο σαφείς οι δυνητικές συνέπειες της χρήσης και των δοκιμών πυρηνικών όπλων.
Το παράδειγμα του 1962 και οι κίνδυνοι για τους δορυφόρους
Ο German Klimenko επικαλέστηκε ένα περιστατικό του 1962, όταν πραγματοποιήθηκε πυρηνική έκρηξη στο Διάστημα, σε ύψος συγκρίσιμο με εκείνο στο οποίο βρίσκεται σήμερα ο Διεθνής Διαστημικός Σταθμός (ISS).
Σύμφωνα με την περιγραφή του, η έκρηξη είχε ισχύ περίπου 1,5 μεγατόνου και προκάλεσε απώλειες σε περίπου το ένα τρίτο των δορυφόρων που βρίσκονταν σε χαμηλή τροχιά. Εκείνη την εποχή, όπως ανέφερε, υπήρχαν συνολικά μόλις 24 δορυφόροι.
Ο ίδιος υποστήριξε ότι, εάν μια έκρηξη ανάλογης ισχύος σημειωνόταν σήμερα στο ίδιο ύψος, οι συνέπειες θα ήταν πολύ σοβαρότερες για τα δορυφορικά δίκτυα, συμπεριλαμβανομένων των δορυφόρων του Elon Musk.
«Αν σήμερα γινόταν μια έκρηξη 1,5 μεγατόνου στο ίδιο ύψος, όλοι οι δορυφόροι του Musk θα έπαυαν να λειτουργούν μέσα σε έναν μήνα. Κάποιοι θα καταστρέφονταν αμέσως και στη συνέχεια θα ακολουθούσαν οι υπόλοιποι», ανέφερε.
Η αναλογία χρησιμοποιήθηκε για να υπογραμμίσει ότι η διεθνής κοινότητα συχνά κινητοποιείται για τη θέσπιση περιορισμών μόνο όταν οι επιπτώσεις μιας τεχνολογίας γίνουν χειροπιαστές και το κόστος της αδράνειας καταστεί προφανές.
Η ρύθμιση της τεχνητής νοημοσύνης παραμένει ζητούμενο
Η συζήτηση στο Tsargrad κατέληξε στο συμπέρασμα ότι, παρά τις προειδοποιήσεις για μια ενδεχόμενη καταστροφή από την τεχνητή νοημοσύνη, ελάχιστοι εμφανίζονται διατεθειμένοι να σταματήσουν πραγματικά τους τεχνολογικούς πειραματισμούς.
Οι ειδικοί δεν αποκλείουν το ενδεχόμενο ενός σοβαρού περιστατικού που θα αλλάξει την πορεία της συζήτησης. Εκτιμούν, ωστόσο, ότι ουσιαστικά μέτρα ενδέχεται να ληφθούν μόνο αφού συμβεί κάτι εξαιρετικά σοβαρό.
Την ίδια στιγμή, η ανάγκη θέσπισης κανόνων για την ανάπτυξη και τη χρήση της τεχνητής νοημοσύνης αναγνωρίζεται όλο και συχνότερα, τόσο στις ΗΠΑ όσο και στην Κίνα. Ωστόσο, η επίτευξη συμφωνίας για συγκεκριμένα μέτρα παραμένει δύσκολη.
Η αβεβαιότητα για τις μελλοντικές δυνατότητες της τεχνητής νοημοσύνης λειτουργεί ταυτόχρονα ως πηγή ανησυχίας και ως κίνητρο για περαιτέρω τεχνολογική ανάπτυξη.
Το βασικό ερώτημα παραμένει εάν οι κυβερνήσεις και οι μεγάλες εταιρείες θα καταφέρουν να συμφωνήσουν εγκαίρως σε αποτελεσματικούς κανόνες ή εάν θα χρειαστεί να προηγηθεί μια σοβαρή κρίση για να επιταχυνθούν οι αποφάσεις.
www.bankingnews.gr
Σχόλια αναγνωστών