Νέες προειδοποιήσεις για την Τεχνητή Νοημοσύνη, ενώ η Ουάσιγκτον παραμένει διχασμένη για το πλαίσιο ελέγχου
Ο δισεκατομμυριούχος Bill Gates προειδοποίησε ότι η Τεχνητή Νοημοσύνη είναι ήδη «αρκετά ισχυρή» ώστε, εάν χρησιμοποιηθεί κακόβουλα, να οδηγήσει ακόμη και σε γεγονότα που θα μπορούσαν να προκαλέσουν ένα δισεκατομμύριο θανάτους.
Μιλώντας στην εκπομπή «Meet the Press», ο Bill Gates υποστήριξε ότι η αυτορρύθμιση από τις ίδιες τις εταιρείες τεχνολογίας δεν επαρκεί και ότι απαιτείται κρατική παρέμβαση, νομοθεσία και ουσιαστική εποπτεία.
Οι δηλώσεις του έρχονται σε μια περίοδο κατά την οποία η Ουάσιγκτον και η βιομηχανία της AI επιχειρούν να αποφασίσουν ποια θα πρέπει να είναι η επόμενη ημέρα για έναν κλάδο που αναπτύσσεται με πρωτοφανείς ρυθμούς, ενώ παράλληλα αυξάνονται οι προειδοποιήσεις για δυνητικά ακραίες συνέπειες.
«Δεν υπήρξε ποτέ ισχυρότερο όπλο»
Το NBC News έδωσε στη δημοσιότητα την Παρασκευή απόσπασμα από τη συνέντευξη του Bill Gates στο «Meet the Press», κατά την οποία ο δισεκατομμυριούχος και φιλάνθρωπος κλήθηκε να σχολιάσει τις προειδοποιήσεις στελεχών της βιομηχανίας ότι η AI θα μπορούσε, υπό ακραίες συνθήκες, να απειλήσει ακόμη και την ίδια την ανθρωπότητα.
«Η AI είναι σίγουρα αρκετά ισχυρή ώστε να οδηγήσει σε γεγονότα που θα μπορούσαν να προκαλέσουν ένα δισεκατομμύριο θανάτους», δήλωσε ο Bill Gates.
Όπως σημείωσε, «ποτέ δεν υπήρξε όπλο τόσο ισχυρό όσο ο συνδυασμός ανθρώπων με κακόβουλες προθέσεις που χρησιμοποιούν τα πιο προηγμένα εργαλεία AI».
Η προειδοποίηση εντάσσεται σε μια ολοένα εντονότερη συζήτηση για το κατά πόσο τα πιο εξελιγμένα συστήματα Τεχνητής Νοημοσύνης μπορούν να καταστούν επικίνδυνα όταν χρησιμοποιούνται από κυβερνήσεις, εγκληματικές οργανώσεις ή μεμονωμένους δράστες.
Η παρέμβαση του Dario Amodei και η συζήτηση για «φρένο» στην AI
Ο Bill Gates ρωτήθηκε επίσης για πρόσφατο δοκίμιο του CEO της Anthropic, Dario Amodei, ο οποίος έχει καλέσει σε επιβράδυνση της ανάπτυξης των πιο προηγμένων μοντέλων AI.
Ο Dario Amodei υποστήριξε ότι τα κορυφαία εργαστήρια τεχνητής νοημοσύνης θα πρέπει να μειώσουν τον ρυθμό προόδου και να «συνεργαστούν εθελοντικά για τη θέσπιση προτύπων» γύρω από την AI.
Ο Bill Gates ήταν κατηγορηματικός ότι αυτό δεν αρκεί.
«Κανείς δεν πιστεύει ότι η αυτορρύθμιση είναι αρκετή», ανέφερε, σχολιάζοντας το ενδεχόμενο οι ίδιες οι εταιρείες AI να αναλάβουν τον κύριο ρόλο στον περιορισμό των κινδύνων.
Σύμφωνα με τον ίδιο, απαιτείται «οπωσδήποτε» νομοθεσία για τη ρύθμιση της Τεχνητής Νοημοσύνης.
«Χρειάζεσαι τις αρχές επιβολής του νόμου και τους πολιτικούς μέσα στη συζήτηση για το πώς θα πρέπει να διαμορφωθούν οι δικλίδες ασφαλείας και οι μηχανισμοί παρακολούθησης», ανέφερε.
Η AI κινείται ταχύτερα από τις κυβερνήσεις
Ο Dario Amodei έχει επίσης ταχθεί υπέρ της κρατικής παρέμβασης στον χώρο της AI.
Ωστόσο, έχει επισημάνει το βασικό πρόβλημα: οι κυβερνήσεις κινούνται πολύ πιο αργά από την τεχνολογία.
«Δυστυχώς, η ψήφιση νόμων μπορεί να χρειαστεί χρόνο, ενώ η AI εξελίσσεται πολύ γρήγορα», έχει σημειώσει.
Το ερώτημα παραμένει τι ακριβώς θα πράξει η ομοσπονδιακή κυβέρνηση των ΗΠΑ.
Μέχρι στιγμής, η στάση στην Ουάσιγκτον χαρακτηρίζεται από έντονες διαφωνίες, με Ρεπουμπλικανούς ηγέτες στο Κογκρέσο να εμφανίζονται επιφυλακτικοί απέναντι στην ανάγκη αυστηρής ρύθμισης.
Ο Donald Trump έχει επίσης τοποθετηθεί έντονα κατά των αυστηρών περιορισμών στην AI και έχει χαρακτηρίσει εκκλήσεις για αυστηρότερο ρυθμιστικό πλαίσιο ως «απάτη».
Τι αναμένεται στη συνέχεια
Οι δηλώσεις του αποκτούν ιδιαίτερη βαρύτητα καθώς, σύμφωνα με πολλαπλά δημοσιεύματα, έχει προγραμματιστεί για την Τρίτη συνάντηση μεταξύ του προέδρου Donald Trump, του Προέδρου της Βουλής των Αντιπροσώπων Mike Johnson και κορυφαίων στελεχών της βιομηχανίας Τεχνητής Νοημοσύνης.
Μέχρι στιγμής, πάντως, δεν έχει γίνει σαφές ποιο ακριβώς θα είναι το αντικείμενο της συνάντησης.
Mike Johnson: «Να κλειστούν σε ένα δωμάτιο και να το λύσουν»
Ο Mike Johnson έχει δηλώσει στο παρελθόν ότι θα ήθελε ο Donald Trump και οι CEOs των εταιρειών AI να «μπουν σε ένα μεγάλο δωμάτιο, να κλείσουν την πόρτα και να βρουν λύση».
Την προηγούμενη εβδομάδα είχε επίσης δηλώσει σε δημοσιογράφους ότι θα πρέπει να υπάρξει «σκόπιμη και σοβαρή συζήτηση για την ευθύνη των εταιρειών όσον αφορά τη διατήρηση της ασφάλειας και για το ποιος ρόλος, εάν υπάρχει, πρέπει να ανατεθεί στην κυβέρνηση».
Παραμένει άγνωστο ποιοι ακριβώς επικεφαλής εταιρειών AI θα συμμετάσχουν στη συνάντηση.
Η συνάντηση πραγματοποιείται λίγες ημέρες μετά την παρουσία σημαντικών προσωπικοτήτων της βιομηχανίας, όπως ο Elon Musk και ο επικεφαλής της OpenAI Sam Altman, στον Λευκό Οίκο για επίσημο δείπνο την Πέμπτη.
Θα νομοθετήσει τελικά το Κογκρέσο για την AI;
Χαμηλές ταχύτητες στην Ουάσιγκτον παρά τις προειδοποιήσεις
Ο Mike Johnson και ο επικεφαλής της πλειοψηφίας στη Γερουσία John Thune δεν έχουν μέχρι στιγμής επιδείξει ιδιαίτερη βιασύνη για την ψήφιση νομοθεσίας που θα ρυθμίζει την AI.
Ο Mike Johnson έχει υποβαθμίσει τους φόβους ότι η τεχνολογία θα μπορούσε να οδηγήσει ακόμη και στην εξαφάνιση της ανθρωπότητας, χαρακτηρίζοντάς τους «απάτη».
Ο John Thune, αντίθετα, έχει εδώ και χρόνια ταχθεί υπέρ κάποιου είδους ρύθμισης της AI και είχε παρουσιάσει σχετικό νομοσχέδιο το 2023.
Ωστόσο, το τελευταίο διάστημα εμφανίζεται λιγότερο πρόθυμος να θέσει το θέμα στην κορυφή της νομοθετικής ατζέντας.
Στα μέσα Σεπτεμβρίου, ο John Thune δήλωσε σε δημοσιογράφους ότι παραμένει «μάλλον ανοιχτό» το κατά πόσο η Γερουσία θα μπορέσει να εγκρίνει νομοθεσία για την AI μέχρι το τέλος του έτους.
«Το να πετύχουμε οτιδήποτε βραχυπρόθεσμα θα είναι δύσκολο, δεδομένων όλων των άλλων θεμάτων που έχουμε να αντιμετωπίσουμε», είπε.
Νέα προσπάθεια για διακομματική στήριξη
Παρά τις επιφυλάξεις, ο John Thune φαίνεται να συνεχίζει να εξετάζει το θέμα.
Μιλώντας στο Axios την Τετάρτη, ανέφερε ότι η Sen. Amy Klobuchar, η οποία είχε συνυπογράψει το προηγούμενο νομοσχέδιό του για την AI, εργάζεται ώστε να εξασφαλίσει μεγαλύτερη στήριξη από τους Δημοκρατικούς πριν το νομοσχέδιο επανεισαχθεί στο Κογκρέσο.
Με βάση την εκδοχή που είχε παρουσιαστεί το 2023, η νομοθεσία θα προέβλεπε μεταξύ άλλων:
πιστοποίηση κρίσιμων συστημάτων AI,
αυξημένες απαιτήσεις διαφάνειας για περιεχόμενο που παράγεται μέσω generative AI,
υποχρέωση των εταιρειών να πραγματοποιούν αξιολογήσεις κινδύνου για συστήματα Τεχνητής Νοημοσύνης,
περαιτέρω κρατική έρευνα για την ανίχνευση περιεχομένου που έχει δημιουργηθεί από AI,
μελέτη των δικλίδων ασφαλείας που θα πρέπει να εφαρμοστούν στον κλάδο.
Παραμένει, ωστόσο, αβέβαιο αν το συγκεκριμένο ή οποιοδήποτε άλλο νομοσχέδιο μπορεί να εξασφαλίσει επαρκή στήριξη στο Κογκρέσο και, ακόμη περισσότερο, να αποφύγει ενδεχόμενο veto από τον Donald Trump.
Ο John Thune έχει πάντως δηλώσει στο Axios ότι θεωρεί πως ο Donald Trump ενδέχεται να είναι περισσότερο ανοικτός σε ορισμένες δικλίδες ασφαλείας για την AI απ' όσο αφήνει να φανεί δημόσια.
Η μεγάλη συζήτηση για την ασφάλεια της AI φουντώνει
Η παραίτηση του Jacob Coxon άνοιξε νέο κύκλο αντιδράσεων
Η συζήτηση γύρω από την ασφάλεια και τη ρύθμιση της Τεχνητής Νοημοσύνης έχει ενταθεί σημαντικά τις τελευταίες εβδομάδες.
Στις 9 Σεπτεμβρίου, ο πρώην ερευνητής της Anthropic Jacob Coxon ανακοίνωσε δημόσια ότι παραιτήθηκε από την εταιρεία.
Παράλληλα, προχώρησε σε μια ιδιαίτερα ανησυχητική δήλωση:
«Οι άνθρωποι που κατασκευάζουν την AI πιστεύουν πραγματικά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Η τοποθέτησή του προκάλεσε νέο κύμα συζητήσεων και ανησυχίας γύρω από τα όρια ανάπτυξης των προηγμένων μοντέλων AI.
Evan Hubinger: Πάνω από 10% η πιθανότητα καταστροφικού σεναρίου
Την προειδοποίηση ενίσχυσε ο Evan Hubinger, επικεφαλής alignment science της Anthropic.
Ο Evan Hubinger δήλωσε ότι ο Jacob Coxon είναι «σωστός» και ότι στελέχη της AI «πραγματικά πιστεύουν ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους».
Ο ίδιος ανέφερε ότι θεωρεί πως υπάρχει πιθανότητα «άνω του 10%» η AI να οδηγήσει στην εξαφάνιση της ανθρωπότητας «μέσα στην επόμενη δεκαετία».
Παράλληλα, προειδοποίησε ότι η Anthropic «δεν διαθέτει ακόμη σχέδιο για την επίλυση του προβλήματος alignment στην περίπτωση υπερνοημοσύνης και δεν βρίσκεται ξεκάθαρα σε πορεία που να οδηγεί σε λύση».
Οι δηλώσεις αυτές ενίσχυσαν τις δημόσιες αντιδράσεις και αύξησαν τις πιέσεις για δημιουργία ρυθμιστικού πλαισίου.
Google, Anthropic και OpenAI συζητούν κοινό μέτωπο για την ασφάλεια
Μέσα σε αυτό το κλίμα, Google, Anthropic και OpenAI έχουν αρχίσει να συντονίζουν τις κινήσεις τους και να επεξεργάζονται σχέδια για τη δημιουργία ομάδας που θα εστιάζει στην ασφάλεια της AI.
Την ίδια ώρα, ο Sam Altman και ο Dario Amodei έδωσαν ιδιαίτερη έμφαση αυτή την εβδομάδα στην ανάγκη παγκόσμιας συνεργασίας και διεθνών προτύπων για την Τεχνητή Νοημοσύνη, στο πλαίσιο τοποθετήσεών τους στα Ηνωμένα Έθνη.
Ο Dario Amodei υποστήριξε ότι οι αποφάσεις για την τεχνολογία «πρέπει να διαμορφώνονται μέσα από δημοκρατικές διαδικασίες και από κυβερνήσεις που λογοδοτούν στους ανθρώπους τους οποίους υπηρετούν».
Deloitte: Τριπλό μοντέλο για επιχειρησιακή αξιοποίηση της AI
Σε χορηγούμενο περιεχόμενο, η Deloitte παρουσιάζει ένα μοντέλο τριών σταδίων για την αξιοποίηση της Τεχνητής Νοημοσύνης στις επιχειρησιακές λειτουργίες των ασφαλιστικών οργανισμών υγείας.
Η προσέγγιση βασίζεται σε τρεις άξονες: βελτιστοποίηση, ανασύνθεση και επανεφεύρεση, με στόχο την αξιοποίηση σημαντικής προστιθέμενης αξίας από την AI.
www.bankingnews.gr
Μιλώντας στην εκπομπή «Meet the Press», ο Bill Gates υποστήριξε ότι η αυτορρύθμιση από τις ίδιες τις εταιρείες τεχνολογίας δεν επαρκεί και ότι απαιτείται κρατική παρέμβαση, νομοθεσία και ουσιαστική εποπτεία.
Οι δηλώσεις του έρχονται σε μια περίοδο κατά την οποία η Ουάσιγκτον και η βιομηχανία της AI επιχειρούν να αποφασίσουν ποια θα πρέπει να είναι η επόμενη ημέρα για έναν κλάδο που αναπτύσσεται με πρωτοφανείς ρυθμούς, ενώ παράλληλα αυξάνονται οι προειδοποιήσεις για δυνητικά ακραίες συνέπειες.
«Δεν υπήρξε ποτέ ισχυρότερο όπλο»
Το NBC News έδωσε στη δημοσιότητα την Παρασκευή απόσπασμα από τη συνέντευξη του Bill Gates στο «Meet the Press», κατά την οποία ο δισεκατομμυριούχος και φιλάνθρωπος κλήθηκε να σχολιάσει τις προειδοποιήσεις στελεχών της βιομηχανίας ότι η AI θα μπορούσε, υπό ακραίες συνθήκες, να απειλήσει ακόμη και την ίδια την ανθρωπότητα.
«Η AI είναι σίγουρα αρκετά ισχυρή ώστε να οδηγήσει σε γεγονότα που θα μπορούσαν να προκαλέσουν ένα δισεκατομμύριο θανάτους», δήλωσε ο Bill Gates.
Όπως σημείωσε, «ποτέ δεν υπήρξε όπλο τόσο ισχυρό όσο ο συνδυασμός ανθρώπων με κακόβουλες προθέσεις που χρησιμοποιούν τα πιο προηγμένα εργαλεία AI».
Η προειδοποίηση εντάσσεται σε μια ολοένα εντονότερη συζήτηση για το κατά πόσο τα πιο εξελιγμένα συστήματα Τεχνητής Νοημοσύνης μπορούν να καταστούν επικίνδυνα όταν χρησιμοποιούνται από κυβερνήσεις, εγκληματικές οργανώσεις ή μεμονωμένους δράστες.
Η παρέμβαση του Dario Amodei και η συζήτηση για «φρένο» στην AI
Ο Bill Gates ρωτήθηκε επίσης για πρόσφατο δοκίμιο του CEO της Anthropic, Dario Amodei, ο οποίος έχει καλέσει σε επιβράδυνση της ανάπτυξης των πιο προηγμένων μοντέλων AI.
Ο Dario Amodei υποστήριξε ότι τα κορυφαία εργαστήρια τεχνητής νοημοσύνης θα πρέπει να μειώσουν τον ρυθμό προόδου και να «συνεργαστούν εθελοντικά για τη θέσπιση προτύπων» γύρω από την AI.
Ο Bill Gates ήταν κατηγορηματικός ότι αυτό δεν αρκεί.
«Κανείς δεν πιστεύει ότι η αυτορρύθμιση είναι αρκετή», ανέφερε, σχολιάζοντας το ενδεχόμενο οι ίδιες οι εταιρείες AI να αναλάβουν τον κύριο ρόλο στον περιορισμό των κινδύνων.
Σύμφωνα με τον ίδιο, απαιτείται «οπωσδήποτε» νομοθεσία για τη ρύθμιση της Τεχνητής Νοημοσύνης.
«Χρειάζεσαι τις αρχές επιβολής του νόμου και τους πολιτικούς μέσα στη συζήτηση για το πώς θα πρέπει να διαμορφωθούν οι δικλίδες ασφαλείας και οι μηχανισμοί παρακολούθησης», ανέφερε.
Η AI κινείται ταχύτερα από τις κυβερνήσεις
Ο Dario Amodei έχει επίσης ταχθεί υπέρ της κρατικής παρέμβασης στον χώρο της AI.
Ωστόσο, έχει επισημάνει το βασικό πρόβλημα: οι κυβερνήσεις κινούνται πολύ πιο αργά από την τεχνολογία.
«Δυστυχώς, η ψήφιση νόμων μπορεί να χρειαστεί χρόνο, ενώ η AI εξελίσσεται πολύ γρήγορα», έχει σημειώσει.
Το ερώτημα παραμένει τι ακριβώς θα πράξει η ομοσπονδιακή κυβέρνηση των ΗΠΑ.
Μέχρι στιγμής, η στάση στην Ουάσιγκτον χαρακτηρίζεται από έντονες διαφωνίες, με Ρεπουμπλικανούς ηγέτες στο Κογκρέσο να εμφανίζονται επιφυλακτικοί απέναντι στην ανάγκη αυστηρής ρύθμισης.
Ο Donald Trump έχει επίσης τοποθετηθεί έντονα κατά των αυστηρών περιορισμών στην AI και έχει χαρακτηρίσει εκκλήσεις για αυστηρότερο ρυθμιστικό πλαίσιο ως «απάτη».
Τι αναμένεται στη συνέχεια
Οι δηλώσεις του αποκτούν ιδιαίτερη βαρύτητα καθώς, σύμφωνα με πολλαπλά δημοσιεύματα, έχει προγραμματιστεί για την Τρίτη συνάντηση μεταξύ του προέδρου Donald Trump, του Προέδρου της Βουλής των Αντιπροσώπων Mike Johnson και κορυφαίων στελεχών της βιομηχανίας Τεχνητής Νοημοσύνης.
Μέχρι στιγμής, πάντως, δεν έχει γίνει σαφές ποιο ακριβώς θα είναι το αντικείμενο της συνάντησης.
Mike Johnson: «Να κλειστούν σε ένα δωμάτιο και να το λύσουν»
Ο Mike Johnson έχει δηλώσει στο παρελθόν ότι θα ήθελε ο Donald Trump και οι CEOs των εταιρειών AI να «μπουν σε ένα μεγάλο δωμάτιο, να κλείσουν την πόρτα και να βρουν λύση».
Την προηγούμενη εβδομάδα είχε επίσης δηλώσει σε δημοσιογράφους ότι θα πρέπει να υπάρξει «σκόπιμη και σοβαρή συζήτηση για την ευθύνη των εταιρειών όσον αφορά τη διατήρηση της ασφάλειας και για το ποιος ρόλος, εάν υπάρχει, πρέπει να ανατεθεί στην κυβέρνηση».
Παραμένει άγνωστο ποιοι ακριβώς επικεφαλής εταιρειών AI θα συμμετάσχουν στη συνάντηση.
Η συνάντηση πραγματοποιείται λίγες ημέρες μετά την παρουσία σημαντικών προσωπικοτήτων της βιομηχανίας, όπως ο Elon Musk και ο επικεφαλής της OpenAI Sam Altman, στον Λευκό Οίκο για επίσημο δείπνο την Πέμπτη.
Θα νομοθετήσει τελικά το Κογκρέσο για την AI;
Χαμηλές ταχύτητες στην Ουάσιγκτον παρά τις προειδοποιήσεις
Ο Mike Johnson και ο επικεφαλής της πλειοψηφίας στη Γερουσία John Thune δεν έχουν μέχρι στιγμής επιδείξει ιδιαίτερη βιασύνη για την ψήφιση νομοθεσίας που θα ρυθμίζει την AI.
Ο Mike Johnson έχει υποβαθμίσει τους φόβους ότι η τεχνολογία θα μπορούσε να οδηγήσει ακόμη και στην εξαφάνιση της ανθρωπότητας, χαρακτηρίζοντάς τους «απάτη».
Ο John Thune, αντίθετα, έχει εδώ και χρόνια ταχθεί υπέρ κάποιου είδους ρύθμισης της AI και είχε παρουσιάσει σχετικό νομοσχέδιο το 2023.
Ωστόσο, το τελευταίο διάστημα εμφανίζεται λιγότερο πρόθυμος να θέσει το θέμα στην κορυφή της νομοθετικής ατζέντας.
Στα μέσα Σεπτεμβρίου, ο John Thune δήλωσε σε δημοσιογράφους ότι παραμένει «μάλλον ανοιχτό» το κατά πόσο η Γερουσία θα μπορέσει να εγκρίνει νομοθεσία για την AI μέχρι το τέλος του έτους.
«Το να πετύχουμε οτιδήποτε βραχυπρόθεσμα θα είναι δύσκολο, δεδομένων όλων των άλλων θεμάτων που έχουμε να αντιμετωπίσουμε», είπε.
Νέα προσπάθεια για διακομματική στήριξη
Παρά τις επιφυλάξεις, ο John Thune φαίνεται να συνεχίζει να εξετάζει το θέμα.
Μιλώντας στο Axios την Τετάρτη, ανέφερε ότι η Sen. Amy Klobuchar, η οποία είχε συνυπογράψει το προηγούμενο νομοσχέδιό του για την AI, εργάζεται ώστε να εξασφαλίσει μεγαλύτερη στήριξη από τους Δημοκρατικούς πριν το νομοσχέδιο επανεισαχθεί στο Κογκρέσο.
Με βάση την εκδοχή που είχε παρουσιαστεί το 2023, η νομοθεσία θα προέβλεπε μεταξύ άλλων:
πιστοποίηση κρίσιμων συστημάτων AI,
αυξημένες απαιτήσεις διαφάνειας για περιεχόμενο που παράγεται μέσω generative AI,
υποχρέωση των εταιρειών να πραγματοποιούν αξιολογήσεις κινδύνου για συστήματα Τεχνητής Νοημοσύνης,
περαιτέρω κρατική έρευνα για την ανίχνευση περιεχομένου που έχει δημιουργηθεί από AI,
μελέτη των δικλίδων ασφαλείας που θα πρέπει να εφαρμοστούν στον κλάδο.
Παραμένει, ωστόσο, αβέβαιο αν το συγκεκριμένο ή οποιοδήποτε άλλο νομοσχέδιο μπορεί να εξασφαλίσει επαρκή στήριξη στο Κογκρέσο και, ακόμη περισσότερο, να αποφύγει ενδεχόμενο veto από τον Donald Trump.
Ο John Thune έχει πάντως δηλώσει στο Axios ότι θεωρεί πως ο Donald Trump ενδέχεται να είναι περισσότερο ανοικτός σε ορισμένες δικλίδες ασφαλείας για την AI απ' όσο αφήνει να φανεί δημόσια.
Η μεγάλη συζήτηση για την ασφάλεια της AI φουντώνει
Η παραίτηση του Jacob Coxon άνοιξε νέο κύκλο αντιδράσεων
Η συζήτηση γύρω από την ασφάλεια και τη ρύθμιση της Τεχνητής Νοημοσύνης έχει ενταθεί σημαντικά τις τελευταίες εβδομάδες.
Στις 9 Σεπτεμβρίου, ο πρώην ερευνητής της Anthropic Jacob Coxon ανακοίνωσε δημόσια ότι παραιτήθηκε από την εταιρεία.
Παράλληλα, προχώρησε σε μια ιδιαίτερα ανησυχητική δήλωση:
«Οι άνθρωποι που κατασκευάζουν την AI πιστεύουν πραγματικά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Η τοποθέτησή του προκάλεσε νέο κύμα συζητήσεων και ανησυχίας γύρω από τα όρια ανάπτυξης των προηγμένων μοντέλων AI.
Evan Hubinger: Πάνω από 10% η πιθανότητα καταστροφικού σεναρίου
Την προειδοποίηση ενίσχυσε ο Evan Hubinger, επικεφαλής alignment science της Anthropic.
Ο Evan Hubinger δήλωσε ότι ο Jacob Coxon είναι «σωστός» και ότι στελέχη της AI «πραγματικά πιστεύουν ότι η AI θα μπορούσε να σκοτώσει όλους τους ανθρώπους».
Ο ίδιος ανέφερε ότι θεωρεί πως υπάρχει πιθανότητα «άνω του 10%» η AI να οδηγήσει στην εξαφάνιση της ανθρωπότητας «μέσα στην επόμενη δεκαετία».
Παράλληλα, προειδοποίησε ότι η Anthropic «δεν διαθέτει ακόμη σχέδιο για την επίλυση του προβλήματος alignment στην περίπτωση υπερνοημοσύνης και δεν βρίσκεται ξεκάθαρα σε πορεία που να οδηγεί σε λύση».
Οι δηλώσεις αυτές ενίσχυσαν τις δημόσιες αντιδράσεις και αύξησαν τις πιέσεις για δημιουργία ρυθμιστικού πλαισίου.
Google, Anthropic και OpenAI συζητούν κοινό μέτωπο για την ασφάλεια
Μέσα σε αυτό το κλίμα, Google, Anthropic και OpenAI έχουν αρχίσει να συντονίζουν τις κινήσεις τους και να επεξεργάζονται σχέδια για τη δημιουργία ομάδας που θα εστιάζει στην ασφάλεια της AI.
Την ίδια ώρα, ο Sam Altman και ο Dario Amodei έδωσαν ιδιαίτερη έμφαση αυτή την εβδομάδα στην ανάγκη παγκόσμιας συνεργασίας και διεθνών προτύπων για την Τεχνητή Νοημοσύνη, στο πλαίσιο τοποθετήσεών τους στα Ηνωμένα Έθνη.
Ο Dario Amodei υποστήριξε ότι οι αποφάσεις για την τεχνολογία «πρέπει να διαμορφώνονται μέσα από δημοκρατικές διαδικασίες και από κυβερνήσεις που λογοδοτούν στους ανθρώπους τους οποίους υπηρετούν».
Deloitte: Τριπλό μοντέλο για επιχειρησιακή αξιοποίηση της AI
Σε χορηγούμενο περιεχόμενο, η Deloitte παρουσιάζει ένα μοντέλο τριών σταδίων για την αξιοποίηση της Τεχνητής Νοημοσύνης στις επιχειρησιακές λειτουργίες των ασφαλιστικών οργανισμών υγείας.
Η προσέγγιση βασίζεται σε τρεις άξονες: βελτιστοποίηση, ανασύνθεση και επανεφεύρεση, με στόχο την αξιοποίηση σημαντικής προστιθέμενης αξίας από την AI.
www.bankingnews.gr
Σχόλια αναγνωστών