Σχετικά Άρθρα
Σήμα κινδύνου από El Erian: Η απατηλή λάμψη της τεχνητής νοημοσύνης σβήνει, οι αγορές αντικρίζουν το χάος
Τι ζούμε; Το πρώτο εμβόλιο που σχεδίασε η τεχνητή νοημοσύνη δοκιμάστηκε σε... ανθρώπους
Μία από τις πλέον ηχηρές προειδοποιήσεις που έχουν διατυπωθεί μέχρι σήμερα για το μέλλον της Τεχνητής Νοημοσύνης εξέδωσε η Anthropic, η εταιρεία πίσω από το δημοφιλές chatbot Claude, κρούοντας τον κώδωνα του κινδύνου για το ενδεχόμενο ο άνθρωπος να χάσει τον έλεγχο προηγμένων συστημάτων AI τα επόμενα χρόνια.
Η αμερικανική εταιρεία, η οποία συγκαταλέγεται πλέον στους ισχυρότερους παίκτες της παγκόσμιας αγοράς τεχνητής νοημοσύνης, υποστήριξε ότι οι τεχνολογικές εξελίξεις οδηγούν με ταχύτατους ρυθμούς στη δημιουργία ολοένα και πιο ικανών συστημάτων, με συνέπειες που θα μπορούσαν να αλλάξουν ριζικά την οικονομία, την κοινωνία και την ίδια τη λειτουργία των κρατών.
Η ανησυχία για την «αυτοβελτίωση» των συστημάτων AI
Στο επίκεντρο των ανησυχιών της Anthropic βρίσκεται η προοπτική τα μελλοντικά συστήματα τεχνητής νοημοσύνης να αποκτήσουν τη δυνατότητα να σχεδιάζουν και να κατασκευάζουν μόνα τους τις επόμενες, πιο εξελιγμένες εκδόσεις τους.
Πρόκειται για το λεγόμενο φαινόμενο της «αναδρομικής αυτοβελτίωσης» (recursive self-improvement), κατά το οποίο ένα σύστημα AI δεν περιορίζεται στην εκτέλεση εντολών αλλά γίνεται ικανό να βελτιώνει διαρκώς τον εαυτό του χωρίς ανθρώπινη παρέμβαση.
Η εταιρεία αναγνωρίζει ότι μια τέτοια εξέλιξη θα μπορούσε να οδηγήσει σε τεράστια επιστημονικά και οικονομικά οφέλη.
«Η τεχνητή νοημοσύνη που μπορεί να κατασκευάζει τον εαυτό της θα αποτελούσε μία από τις σημαντικότερες τεχνολογικές εξελίξεις στην ανθρώπινη ιστορία», αναφέρει χαρακτηριστικά.
Σύμφωνα με την Anthropic, οι εφαρμογές μιας τέτοιας τεχνολογίας θα μπορούσαν να επιταχύνουν την πρόοδο στην ιατρική, στη βιοτεχνολογία, στην επιστημονική έρευνα και στην παραγωγικότητα της παγκόσμιας οικονομίας.
Ωστόσο, η εταιρεία προειδοποιεί ότι τα ίδια χαρακτηριστικά που καθιστούν την τεχνολογία εξαιρετικά χρήσιμη θα μπορούσαν να την καταστήσουν και ιδιαίτερα επικίνδυνη.
Ο φόβος της απώλειας ελέγχου
Η Anthropic τονίζει ότι εάν τα συστήματα AI αποκτήσουν τη δυνατότητα να δημιουργούν τους δικούς τους διαδόχους, τότε τα ζητήματα ασφάλειας αποκτούν εντελώς νέα διάσταση. Όπως επισημαίνει, η παρακολούθηση, ο έλεγχος και η διαμόρφωση της συμπεριφοράς των συστημάτων θα γίνουν πολύ πιο δύσκολες διαδικασίες.
«Η πλήρης αναδρομική αυτοβελτίωση μπορεί να αυξήσει τους κινδύνους απώλειας του ανθρώπινου ελέγχου πάνω στα συστήματα τεχνητής νοημοσύνης», αναφέρει η εταιρεία, σε μια διατύπωση που θυμίζει τα σενάρια τα οποία μέχρι πρότινος συναντούσε κανείς κυρίως σε επιστημονική φαντασία ή σε ακαδημαϊκές συζητήσεις για τους κινδύνους της AI.
Η συγκεκριμένη προειδοποίηση αποκτά ιδιαίτερη βαρύτητα καθώς προέρχεται από μία εταιρεία που βρίσκεται στην πρώτη γραμμή της ανάπτυξης προηγμένων μοντέλων τεχνητής νοημοσύνης και όχι από εξωτερικούς επικριτές της τεχνολογίας.
Πρόταση για συντονισμένο «πάγωμα» της ανάπτυξης
Ακόμη πιο εντυπωσιακή είναι η πρόταση της Anthropic για τη δημιουργία ενός διεθνούς μηχανισμού που θα επιτρέπει στις κορυφαίες εταιρείες τεχνητής νοημοσύνης να επιβραδύνουν ή ακόμη και να διακόπτουν προσωρινά την ανάπτυξη νέων μοντέλων εάν οι κίνδυνοι ξεπεράσουν την ικανότητα της κοινωνίας να τους διαχειριστεί.
Η εταιρεία υποστηρίζει ότι η ανθρωπότητα θα πρέπει να διαθέτει τη δυνατότητα ενός προσωρινού «παγώματος» της τεχνολογικής προόδου, ώστε οι θεσμοί, οι κυβερνήσεις και η επιστημονική κοινότητα να προλαβαίνουν να προσαρμόζονται.
Ωστόσο, σημειώνει ότι μια τέτοια διαδικασία δεν μπορεί να λειτουργήσει μονομερώς. Ένα ουσιαστικό πάγωμα της ανάπτυξης θα απαιτούσε συμφωνία μεταξύ πολλών ισχυρών εργαστηρίων και εταιρειών AI, σαφείς κανόνες για το πότε ενεργοποιείται η διαδικασία και ανεξάρτητους μηχανισμούς εποπτείας.
Η εταιρεία προειδοποιεί ότι εάν μόνο ένας οργανισμός σταματήσει την ανάπτυξη ενώ οι ανταγωνιστές του συνεχίσουν κανονικά, τότε το μόνο που θα επιτευχθεί θα είναι η μεταφορά της τεχνολογικής πρωτοπορίας σε λιγότερο προσεκτικούς παίκτες.
Η ίδια η Anthropic χρησιμοποιεί ήδη AI για να γράφει κώδικα
Ιδιαίτερο ενδιαφέρον παρουσιάζει το γεγονός ότι η Anthropic αποκάλυψε πως ήδη σήμερα το μοντέλο Claude συμμετέχει ενεργά στην ανάπτυξη των δικών της προϊόντων. Σύμφωνα με τα στοιχεία που έδωσε στη δημοσιότητα, πάνω από το 80% του κώδικα που ενσωματώθηκε στα συστήματα της εταιρείας τον Μάιο είχε παραχθεί από το Claude.
Η εξέλιξη αυτή αποτυπώνει την ταχύτητα με την οποία η τεχνητή νοημοσύνη εισέρχεται στον πυρήνα της παραγωγής λογισμικού και εξηγεί γιατί οι φόβοι για πλήρως αυτοματοποιημένες διαδικασίες ανάπτυξης γίνονται ολοένα και πιο έντονοι.
www.bankingnews.gr
Σχόλια αναγνωστών