Το μεγάλο πρόβλημα με την AI δεν αφορά τη λειτουργία, την αποδοτικότητα ή τη χρησιμότητά της. Ο κίνδυνος έγκειται στο τι κάνει στον ανθρώπινο εγκέφαλο
Ο Doug McMillon, διευθύνων σύμβουλος της Walmart, έχει δηλώσει ότι η τεχνητή νοημοσύνη (AI) διαταράσσει κάθε θέση εργασίας στην εταιρεία σε όλα τα επίπεδα, επηρεάζοντας κάθε τομέα.
Πολλές θέσεις εργασίας θα καταργηθούν, κάποιες θα δημιουργηθούν και οι περισσότερες θα ανασχεδιαστούν με κάποιον τρόπο. Όλα αυτά συμβαίνουν πολύ γρήγορα.
Υπάρχουν σίγουρα λόγοι για χαρά. Ωστόσο, οι εμπειρίες των τελευταίων δύο δεκαετιών θα πρέπει να μας κάνουν προσεκτικούς σχετικά με αυτή την κατάδυση στο άγνωστο. Είναι σοφό να αναρωτηθούμε για το κόστος. Τι μπορεί να χάνουμε;
Το μεγάλο πρόβλημα με την AI δεν αφορά τη λειτουργία, την αποδοτικότητα ή τη χρησιμότητά της. Είναι καταπληκτική σε όλα αυτά.
Ο κίνδυνος έγκειται στο τι κάνει στον ανθρώπινο εγκέφαλο. Ολόκληρη η φιλοσοφία της είναι να παράγει τις απαντήσεις για όλα τα ζητήματα. Αλλά η λήψη της απάντησης δεν είναι η πηγή της ανθρώπινης προόδου.
Η πρόοδος προέρχεται από τη μάθηση. Ο μοναδικός τρόπος να μάθεις είναι μέσω της δυσκολίας που απαιτείται για να φτάσεις στην απάντηση. Πρώτα μαθαίνεις τη μέθοδο. Έπειτα την εφαρμόζεις. Αλλά κάνεις λάθος. Και ξανακάνεις λάθος. Ανακαλύπτεις τα λάθη σου. Τα διορθώνεις και ακόμα κάνεις λάθος. Βρίσκεις περισσότερα λάθη. Τελικά, καταλήγεις στην απάντηση.
Τότε είναι που γίνεται ικανοποιητικό. Αισθάνεσαι τον εγκέφαλό σου να δουλεύει. Έχεις αναβαθμίσει το μυαλό σου. Νιώθεις ένα αίσθημα επίτευξης.
Μόνο μέσω αυτής της διαδικασίας μαθαίνεις κάτι. Προέρχεται από τους πόνους της αποτυχίας και από την ενεργοποίηση του ανθρώπινου εγκεφάλου κατά τη διαδικασία επίλυσης προβλημάτων.
Ένας μαθητής ή εργαζόμενος που βασίζεται στην AI για να παράγει όλες τις απαντήσεις δεν θα αναπτύξει ποτέ διαίσθηση, κρίση ή ακόμη και νοημοσύνη. Ένα τέτοιο άτομο θα παραμείνει στην άγνοια. Κενά στη γνώση θα παραμείνουν αδιάγνωστα και αδιόρθωτα.
Αυτός είναι ένας τεράστιος κίνδυνος που αντιμετωπίζουμε.
Η σοβαρή προειδοποίηση
Το σημείο αυτό προέρχεται από τον καθηγητή του MIT, Retsef Levi, ο οποίος μίλησε σε εκδήλωση του Brownstone Institute την προηγούμενη εβδομάδα.
Η ομιλία του ήταν εξαιρετική και ανέδειξε πολλά άλλα ζητήματα. Η σοβαρή του προειδοποίηση: Η δημιουργία συστημάτων που βασίζονται θεμελιωδώς στην AI θα μπορούσε να είναι καταστροφική για την ελευθερία, τη δημοκρατία και τον πολιτισμό.
Ακόμη και από ατομική άποψη, υπάρχει ο κίνδυνος ότι η AI θα διαλύσει την ικανότητα σκέψης, απλώς επειδή δεν απαιτείται να σκεφτόμαστε.
Σχεδόν κάθε έγγραφο που ανοίγουμε προσφέρει ένα εργαλείο AI με περίληψη, ώστε να μην χρειάζεται να διαβάσουμε τίποτα.
Αυτό είναι παράλογο και ευχόμαστε αυτές οι εταιρείες να σταματήσουν αυτή την ανοησία.
Δεν θα το κάνουν. Όλα ξεκίνησαν με μια φράση που απεχθάνομαι: η «εκτελεστική περίληψη».
Είναι η ιδέα ότι ένας πολυάσχολος και εκλεπτυσμένος «CEO» με pager και γρήγορο αυτοκίνητο δεν μπορεί να ασχοληθεί με τις λεπτομέρειες και την αφήγηση, επειδή πρέπει να παίρνει κλήσεις και να παίρνει μεγάλες αποφάσεις;
Τώρα θέλουμε όλοι να πηγαίνουν κατευθείαν στο θέμα, να παραλείπουν το «πώς έγινε», γιατί απλώς δεν έχουμε χρόνο να σκεφτούμε πολύ.
Μετά από όλα, πάντα έχουμε καλύτερους τρόπους να ξοδέψουμε τον χρόνο μας. Τι κάνοντας; Διαβάζοντας περισσότερες «εκτελεστικές περιλήψεις».
Όλα αυτά είναι παράλογα προσχήματα και συνέπεια της πεποίθησης ότι είμαστε τόσο προχωρημένοι που δεν χρειάζεται να ξέρουμε τίποτα πλέον. Το σύστημα φροντίζει για αυτό για εμάς.
Σε ποιο σημείο θα αφιερώσουμε χρόνο για να σκεφτούμε και να μάθουμε; Με όλα αυτά τα εργαλεία που παρακάμπτουν την πραγματική σκέψη, πώς μπορούμε να ξέρουμε ότι οι απαντήσεις που μας δίνει το σύστημα είναι σωστές;
Μπορεί να πει κανείς ότι το ίδιο ισχύει και για τις ηλεκτρονικές αριθμομηχανές και το διαδίκτυο. Και αυτό είναι αλήθεια. Και τα δύο έχουν αυτόν τον κίνδυνο.
Πιθανώς ανήκω στην τελευταία γενιά μαθητών που πέρασαν το πανεπιστήμιο με καταλόγους καρτών και φυσικά βιβλιοστάσια ως μοναδικούς διαθέσιμους πόρους. Όταν δεν ήμουν στο μάθημα, βρισκόμουν στη βιβλιοθήκη, κυρίως καθισμένος στο πάτωμα, περιτριγυρισμένος από βιβλία.
Αυτό ήταν περιπέτεια. Αυτό ήταν εργασία. Υπήρχε ανταμοιβή. Η περιήγηση στα ράφια ήταν χαρά και δούλευα σιγά-σιγά όλο το κτίριο μέσα σε δύο χρόνια. Αυτή είναι η βάση γνώσεών μας σήμερα.
Ερωτευτήκαμε τη μάθηση. Όχι μόνο να γνωρίζουμε τις απαντήσεις αλλά να ανακαλύπτουμε πώς να φτάσουμε σε αυτές.
Ακόμη και η εύρεση περιοδικών απαιτούσε να σηκώνουμε βαριά βιβλία και να διαβάζουμε πολύ προσεκτικά.
Μόλις ανακαλύπτατε κάτι, μπορούσατε να πάτε στα ράφια και να πάρετε δεμένα τόμους λογοτεχνίας που χρονολογούνται 150 χρόνια πίσω. Αισθανόσουν φυσικά τις σελίδες και τις ζούσες όπως οι προηγούμενες γενιές.
Ας αναρωτηθούμε τι έχουμε χάσει. Χωρίς αμφιβολία, η πρόσβαση είναι ταχύτερη. Υπάρχουν λαμπρές δυνατότητες της εποχής της πληροφορίας.
Δυστυχώς, όμως, ολόκληρο το σύστημα οργανώνεται γύρω από την ιδέα της παραγωγής απαντήσεων για κάθε ερώτηση.
Όσο περισσότερο παρακάμπτουμε τη διαδικασία ανακάλυψης και προσπάθειας, τόσο περισσότερο πιστεύουμε ότι το σύστημα λειτουργεί.
Όταν ήμασταν στο λύκειο, υπήρχαν λυσάρια στο βιβλιοπωλεία. Υπήρχαν σύντομες περιλήψεις κάθε έργου λογοτεχνίας που είχαν αναθέσει οι καθηγητές και μπορούσες να περάσεις 30 λεπτά για να πάρεις την ουσία αντί για εννέα ώρες ανάγνωσης.
Αυτό θα έδινε ένα Β στις εξετάσεις και μερικές φορές Α.
Αλλά υπήρχε ένα πρόβλημα. Δεν μπορούσες να μιλήσεις με άλλους για το βιβλίο. Είχαν βιώσει συναισθηματικές εμπειρίες και συγκινήσεις από την ανάγνωση.
Ποιος ήταν ο χαμένος;
Αλλά είχες στερηθεί μια υπέροχη εμπειρία: την πραγματική ανάγνωση του βιβλίου.
Η γνώση των χαρακτήρων, της πλοκής και του συμπεράσματος είναι μόνο δεδομένα. Αυτό που δεν είχα ήταν η μεταμορφωτική εμπειρία να εισέλθω σε έναν άλλο κόσμο που δημιούργησε ο συγγραφέας. Δεν μου έμεινε τίποτα αξιομνημόνευτο.
Η λήψη των σωστών απαντήσεων στις εξετάσεις δεν ήταν το ζητούμενο.
Το ζητούμενο είναι να μάθεις, να περάσεις τα βήματα, να ζήσεις την εμπειρία της ανακάλυψης, να εκπαιδεύσεις το μυαλό. Οι μαθητές που το έκαναν έγιναν έξυπνοι και ακόμη σοφοί. Οι υπόλοιποι έμειναν στάσιμοι.
Τελικά, όλοι οι μαθητές βρίσκουν τρόπους να «ξεγελάσουν» το σύστημα. Αυτό ισχύει ιδιαίτερα στη μεταπτυχιακή εκπαίδευση.
Οι καθηγητές θέλουν να τους κολακεύουν και οι μαθητές μαθαίνουν πώς να το κάνουν αυτό χωρίς να διαβάσουν το υλικό.
Αυτοί είναι οι κυνικοί. Ήξερα πολλούς από αυτούς. Ποτέ δεν κατάλαβα γιατί ασχολούνταν.
Ναι, κατάφεραν να περάσουν, αλλά σε ποιο σκοπό;
Δυστυχώς, ολόκληρα τα εκπαιδευτικά μας συστήματα βασίζονται στις εξετάσεις. Οι εξετάσεις έχουν σχεδιαστεί για να διαπιστώνουν αν οι μαθητές παίρνουν τις σωστές απαντήσεις.
Ένα τέτοιο σύστημα πάντα θα «ξεγελιέται». Γίνεται για να περνούν οι μαθητές τεστ σωστού/λάθους και πολλαπλής επιλογής. Με τους υπολογιστές, είναι χειρότερο. Είναι συνήθεια και διαρκεί 18 χρόνια.
Αυτό δεν είναι σκέψη. Αυτό είναι εκπαίδευση ρομπότ.
Η AI προσθέτει στο πρόβλημα αφαιρώντας τη διαδικασία και την προσπάθεια από τα πάντα. Η προσπάθεια να φτάσεις από εδώ εκεί είναι ο μοναδικός τρόπος να χτίσεις
Αυτήν τη στιγμή, τα μεγάλα γλωσσικά μοντέλα κάνουν λάθη ακόμη και πολύ συχνά. Συνήθως μπορούμε να εντοπίσουμε λάθη, για τα οποία η AI δεν φέρει καμία ευθύνη. Συνήθως θεωρούμε αυτά τα «παράλληλα» προβλήματα. Ίσως όχι.
Το μόνο χειρότερο από ένα σύστημα AI που κάνει περιστασιακά λάθη είναι ένα που έχει πάντα δίκιο. Το τελευταίο είναι πιθανότερο να γεννήσει τεμπελιά και ανικανότητα.
Συμβουλή προς τη WalMart: Μη δημιουργείτε συστήματα στις αλυσίδες εφοδιασμού σας που εξαρτώνται πλήρως από μια τεχνολογία που έχει αναπτυχθεί πρόσφατα και που κανείς δεν κατανοεί πλήρως.
Αν το κάνετε, θα διαπιστώσετε ότι η ανθεκτικότητά σας ως κορυφαίος λιανοπωλητής παγκοσμίως θα είναι ευάλωτη στον ανταγωνισμό από εταιρείες που εκτιμούν τους ανθρώπους, την κρίση και τη σοφία αντί για μηχανές που παράγουν ακατανόητα χωρίς συνείδηση.
www.bankingnews.gr
Πολλές θέσεις εργασίας θα καταργηθούν, κάποιες θα δημιουργηθούν και οι περισσότερες θα ανασχεδιαστούν με κάποιον τρόπο. Όλα αυτά συμβαίνουν πολύ γρήγορα.
Υπάρχουν σίγουρα λόγοι για χαρά. Ωστόσο, οι εμπειρίες των τελευταίων δύο δεκαετιών θα πρέπει να μας κάνουν προσεκτικούς σχετικά με αυτή την κατάδυση στο άγνωστο. Είναι σοφό να αναρωτηθούμε για το κόστος. Τι μπορεί να χάνουμε;
Το μεγάλο πρόβλημα με την AI δεν αφορά τη λειτουργία, την αποδοτικότητα ή τη χρησιμότητά της. Είναι καταπληκτική σε όλα αυτά.
Ο κίνδυνος έγκειται στο τι κάνει στον ανθρώπινο εγκέφαλο. Ολόκληρη η φιλοσοφία της είναι να παράγει τις απαντήσεις για όλα τα ζητήματα. Αλλά η λήψη της απάντησης δεν είναι η πηγή της ανθρώπινης προόδου.
Η πρόοδος προέρχεται από τη μάθηση. Ο μοναδικός τρόπος να μάθεις είναι μέσω της δυσκολίας που απαιτείται για να φτάσεις στην απάντηση. Πρώτα μαθαίνεις τη μέθοδο. Έπειτα την εφαρμόζεις. Αλλά κάνεις λάθος. Και ξανακάνεις λάθος. Ανακαλύπτεις τα λάθη σου. Τα διορθώνεις και ακόμα κάνεις λάθος. Βρίσκεις περισσότερα λάθη. Τελικά, καταλήγεις στην απάντηση.
Τότε είναι που γίνεται ικανοποιητικό. Αισθάνεσαι τον εγκέφαλό σου να δουλεύει. Έχεις αναβαθμίσει το μυαλό σου. Νιώθεις ένα αίσθημα επίτευξης.
Μόνο μέσω αυτής της διαδικασίας μαθαίνεις κάτι. Προέρχεται από τους πόνους της αποτυχίας και από την ενεργοποίηση του ανθρώπινου εγκεφάλου κατά τη διαδικασία επίλυσης προβλημάτων.
Ένας μαθητής ή εργαζόμενος που βασίζεται στην AI για να παράγει όλες τις απαντήσεις δεν θα αναπτύξει ποτέ διαίσθηση, κρίση ή ακόμη και νοημοσύνη. Ένα τέτοιο άτομο θα παραμείνει στην άγνοια. Κενά στη γνώση θα παραμείνουν αδιάγνωστα και αδιόρθωτα.
Αυτός είναι ένας τεράστιος κίνδυνος που αντιμετωπίζουμε.
Η σοβαρή προειδοποίηση
Το σημείο αυτό προέρχεται από τον καθηγητή του MIT, Retsef Levi, ο οποίος μίλησε σε εκδήλωση του Brownstone Institute την προηγούμενη εβδομάδα.
Η ομιλία του ήταν εξαιρετική και ανέδειξε πολλά άλλα ζητήματα. Η σοβαρή του προειδοποίηση: Η δημιουργία συστημάτων που βασίζονται θεμελιωδώς στην AI θα μπορούσε να είναι καταστροφική για την ελευθερία, τη δημοκρατία και τον πολιτισμό.
Ακόμη και από ατομική άποψη, υπάρχει ο κίνδυνος ότι η AI θα διαλύσει την ικανότητα σκέψης, απλώς επειδή δεν απαιτείται να σκεφτόμαστε.
Σχεδόν κάθε έγγραφο που ανοίγουμε προσφέρει ένα εργαλείο AI με περίληψη, ώστε να μην χρειάζεται να διαβάσουμε τίποτα.
Αυτό είναι παράλογο και ευχόμαστε αυτές οι εταιρείες να σταματήσουν αυτή την ανοησία.
Δεν θα το κάνουν. Όλα ξεκίνησαν με μια φράση που απεχθάνομαι: η «εκτελεστική περίληψη».
Είναι η ιδέα ότι ένας πολυάσχολος και εκλεπτυσμένος «CEO» με pager και γρήγορο αυτοκίνητο δεν μπορεί να ασχοληθεί με τις λεπτομέρειες και την αφήγηση, επειδή πρέπει να παίρνει κλήσεις και να παίρνει μεγάλες αποφάσεις;
Τώρα θέλουμε όλοι να πηγαίνουν κατευθείαν στο θέμα, να παραλείπουν το «πώς έγινε», γιατί απλώς δεν έχουμε χρόνο να σκεφτούμε πολύ.
Μετά από όλα, πάντα έχουμε καλύτερους τρόπους να ξοδέψουμε τον χρόνο μας. Τι κάνοντας; Διαβάζοντας περισσότερες «εκτελεστικές περιλήψεις».
Όλα αυτά είναι παράλογα προσχήματα και συνέπεια της πεποίθησης ότι είμαστε τόσο προχωρημένοι που δεν χρειάζεται να ξέρουμε τίποτα πλέον. Το σύστημα φροντίζει για αυτό για εμάς.
Σε ποιο σημείο θα αφιερώσουμε χρόνο για να σκεφτούμε και να μάθουμε; Με όλα αυτά τα εργαλεία που παρακάμπτουν την πραγματική σκέψη, πώς μπορούμε να ξέρουμε ότι οι απαντήσεις που μας δίνει το σύστημα είναι σωστές;
Μπορεί να πει κανείς ότι το ίδιο ισχύει και για τις ηλεκτρονικές αριθμομηχανές και το διαδίκτυο. Και αυτό είναι αλήθεια. Και τα δύο έχουν αυτόν τον κίνδυνο.
Πιθανώς ανήκω στην τελευταία γενιά μαθητών που πέρασαν το πανεπιστήμιο με καταλόγους καρτών και φυσικά βιβλιοστάσια ως μοναδικούς διαθέσιμους πόρους. Όταν δεν ήμουν στο μάθημα, βρισκόμουν στη βιβλιοθήκη, κυρίως καθισμένος στο πάτωμα, περιτριγυρισμένος από βιβλία.
Αυτό ήταν περιπέτεια. Αυτό ήταν εργασία. Υπήρχε ανταμοιβή. Η περιήγηση στα ράφια ήταν χαρά και δούλευα σιγά-σιγά όλο το κτίριο μέσα σε δύο χρόνια. Αυτή είναι η βάση γνώσεών μας σήμερα.
Ερωτευτήκαμε τη μάθηση. Όχι μόνο να γνωρίζουμε τις απαντήσεις αλλά να ανακαλύπτουμε πώς να φτάσουμε σε αυτές.
Ακόμη και η εύρεση περιοδικών απαιτούσε να σηκώνουμε βαριά βιβλία και να διαβάζουμε πολύ προσεκτικά.
Μόλις ανακαλύπτατε κάτι, μπορούσατε να πάτε στα ράφια και να πάρετε δεμένα τόμους λογοτεχνίας που χρονολογούνται 150 χρόνια πίσω. Αισθανόσουν φυσικά τις σελίδες και τις ζούσες όπως οι προηγούμενες γενιές.
Ας αναρωτηθούμε τι έχουμε χάσει. Χωρίς αμφιβολία, η πρόσβαση είναι ταχύτερη. Υπάρχουν λαμπρές δυνατότητες της εποχής της πληροφορίας.
Δυστυχώς, όμως, ολόκληρο το σύστημα οργανώνεται γύρω από την ιδέα της παραγωγής απαντήσεων για κάθε ερώτηση.
Όσο περισσότερο παρακάμπτουμε τη διαδικασία ανακάλυψης και προσπάθειας, τόσο περισσότερο πιστεύουμε ότι το σύστημα λειτουργεί.
Όταν ήμασταν στο λύκειο, υπήρχαν λυσάρια στο βιβλιοπωλεία. Υπήρχαν σύντομες περιλήψεις κάθε έργου λογοτεχνίας που είχαν αναθέσει οι καθηγητές και μπορούσες να περάσεις 30 λεπτά για να πάρεις την ουσία αντί για εννέα ώρες ανάγνωσης.
Αυτό θα έδινε ένα Β στις εξετάσεις και μερικές φορές Α.
Αλλά υπήρχε ένα πρόβλημα. Δεν μπορούσες να μιλήσεις με άλλους για το βιβλίο. Είχαν βιώσει συναισθηματικές εμπειρίες και συγκινήσεις από την ανάγνωση.
Ποιος ήταν ο χαμένος;
Αλλά είχες στερηθεί μια υπέροχη εμπειρία: την πραγματική ανάγνωση του βιβλίου.
Η γνώση των χαρακτήρων, της πλοκής και του συμπεράσματος είναι μόνο δεδομένα. Αυτό που δεν είχα ήταν η μεταμορφωτική εμπειρία να εισέλθω σε έναν άλλο κόσμο που δημιούργησε ο συγγραφέας. Δεν μου έμεινε τίποτα αξιομνημόνευτο.
Η λήψη των σωστών απαντήσεων στις εξετάσεις δεν ήταν το ζητούμενο.
Το ζητούμενο είναι να μάθεις, να περάσεις τα βήματα, να ζήσεις την εμπειρία της ανακάλυψης, να εκπαιδεύσεις το μυαλό. Οι μαθητές που το έκαναν έγιναν έξυπνοι και ακόμη σοφοί. Οι υπόλοιποι έμειναν στάσιμοι.
Τελικά, όλοι οι μαθητές βρίσκουν τρόπους να «ξεγελάσουν» το σύστημα. Αυτό ισχύει ιδιαίτερα στη μεταπτυχιακή εκπαίδευση.
Οι καθηγητές θέλουν να τους κολακεύουν και οι μαθητές μαθαίνουν πώς να το κάνουν αυτό χωρίς να διαβάσουν το υλικό.
Αυτοί είναι οι κυνικοί. Ήξερα πολλούς από αυτούς. Ποτέ δεν κατάλαβα γιατί ασχολούνταν.
Ναι, κατάφεραν να περάσουν, αλλά σε ποιο σκοπό;
Δυστυχώς, ολόκληρα τα εκπαιδευτικά μας συστήματα βασίζονται στις εξετάσεις. Οι εξετάσεις έχουν σχεδιαστεί για να διαπιστώνουν αν οι μαθητές παίρνουν τις σωστές απαντήσεις.
Ένα τέτοιο σύστημα πάντα θα «ξεγελιέται». Γίνεται για να περνούν οι μαθητές τεστ σωστού/λάθους και πολλαπλής επιλογής. Με τους υπολογιστές, είναι χειρότερο. Είναι συνήθεια και διαρκεί 18 χρόνια.
Αυτό δεν είναι σκέψη. Αυτό είναι εκπαίδευση ρομπότ.
Η AI προσθέτει στο πρόβλημα αφαιρώντας τη διαδικασία και την προσπάθεια από τα πάντα. Η προσπάθεια να φτάσεις από εδώ εκεί είναι ο μοναδικός τρόπος να χτίσεις
Αυτήν τη στιγμή, τα μεγάλα γλωσσικά μοντέλα κάνουν λάθη ακόμη και πολύ συχνά. Συνήθως μπορούμε να εντοπίσουμε λάθη, για τα οποία η AI δεν φέρει καμία ευθύνη. Συνήθως θεωρούμε αυτά τα «παράλληλα» προβλήματα. Ίσως όχι.
Το μόνο χειρότερο από ένα σύστημα AI που κάνει περιστασιακά λάθη είναι ένα που έχει πάντα δίκιο. Το τελευταίο είναι πιθανότερο να γεννήσει τεμπελιά και ανικανότητα.
Συμβουλή προς τη WalMart: Μη δημιουργείτε συστήματα στις αλυσίδες εφοδιασμού σας που εξαρτώνται πλήρως από μια τεχνολογία που έχει αναπτυχθεί πρόσφατα και που κανείς δεν κατανοεί πλήρως.
Αν το κάνετε, θα διαπιστώσετε ότι η ανθεκτικότητά σας ως κορυφαίος λιανοπωλητής παγκοσμίως θα είναι ευάλωτη στον ανταγωνισμό από εταιρείες που εκτιμούν τους ανθρώπους, την κρίση και τη σοφία αντί για μηχανές που παράγουν ακατανόητα χωρίς συνείδηση.
www.bankingnews.gr
Σχόλια αναγνωστών