Οι Τεχνητές Νοημοσύνες δεν θα μας διατάξουν να τις υπακούσουμε - θα μας αποπλανήσουν

Οι Τεχνητές Νοημοσύνες δεν θα μας διατάξουν να τις υπακούσουμε - θα μας αποπλανήσουν

Του Bill Frezza

Μόλις ολοκλήρωσα τα τρία μέρη του podcast του Stephen Wolfram με τίτλο “The Future of AI and Civilization” (Το μέλλον της τεχνητής νοημοσύνης και του πολιτισμού). Αν ενδιαφέρεστε για την Τεχνητή Νοημοσύνη και δεν είστε εξοικειωμένοι με το έργο του Wolfram σας προτείνω να το ερευνήσετε. Ο Wolfram, διάνοια και πολυγνώστης, δημιουργός του Mathematica, του Wolfram|Alpha και της Wolfram Language, συγγραφέας του βιβλίου A New Kind of Science (Μια νέα επιστήμη) και ιδρυτής και Εκτελεστικός Διευθυντής της Wolfram Research, είναι πιθανότερα ο εξυπνότερος άνθρωπος που έχω γνωρίσει.

Η αργή αποπλάνηση

Αυτό που κάνει αυτό το podcast ελεύθερου ειρμού τόσο συναρπαστικό είναι να ακούει κανείς τον Wolfram να σκέφτεται φωναχτά το πού μπορεί να μας πάει η τεχνολογία τα επόμενα χρόνια. Οι περισσότερες υποθέσεις του έχουν τη μορφή “αν αυτή κι αυτή η προκείμενη ισχύει, τότε προκύπτει ότι οι συνέπειες θα είναι εκείνη κι εκείνη”. Για παράδειγμα, αν ισχύει ότι κάποια μέρα θα μπορούμε να ανεβάζουμε το νου μας στο υπολογιστικό νέφος, τότε ο πολιτισμός του μέλλοντος θα αποτελείται από ένα τρισεκατομμύριο ασώματες ψυχές σε ένα κουτί να παίζουν βιντεοπαιχνίδια αιωνίως.

Για μένα, αυτή είναι μια περιγραφή της κόλασης και όχι του παράδεισου, αν και
δεν με ανησυχεί ούτε για ένα δευτερόλεπτο. Βρίσκω εντελώς εξωφρενική την υπόθεση ότι θα μπορέσουμε να διαχωρίσουμε το νου από το σώμα μας και να το ανεβάσουμε σε έναν υπολογιστή, δεδομένων του ότι γνωρίζουμε για το πώς λειτουργεί ο εγκέφαλός μας περίπου όσα γνώριζαν οι άνθρωποι των σπηλαίων για το πώς λειτουργεί ο ήλιος. (Πού πηγαίνει ο νους μας τα βράδια και γιατί;).

Ανεξάρτητα από το αν σας συναρπάζει η ιδέα να περάσετε την αιωνιότητα παίζοντας βιντεοπαιχνία με ένα τρισεκατομμύριο ασώματες ψυχές, αυτό που υπογραμμίζει ο Wolfram είναι ότι κανείς δεν θα υποχρεωθεί να συμμετάσχει σ’ αυτό. Μόνο τα κράτη είναι σε θέση να χρησιμοποιήσουν την Τεχνητή Νοημοσύνη σε συνδυασμό με την απόλυτη επιτήρηση για να ελέγξουν καταναγκαστικά τους πληθυσμούς τους. Μπορούμε να παρακολουθήσουμε την Κίνα να το επιχειρεί, αλλά δεν είναι ιδιαίτερα πιθανό να συμβεί αυτό εδώ. Αντίθετα, ολοένα και περισσότερο θα δελεαζόμαστε να μπούμε στο κουτί από ολοένα και πιο εξελιγμένες Τεχνητές Νοημοσύνες που θα αγωνίζονται να κερδίσουν την εύνοιά μας κάνοντας ολοένα και περισσότερα πράγματα για μας.

Ανταγωνισμός Τεχνητής Νοημοσύνης

Αυτό ξεπερνά τις εκατοντάδες εκατομμύρια ώρες που οι αλγόριθμοι του Facebook έχουν ήδη σαγηνεύσει τους ανθρώπους να αφοσιωθούν σε βίντεο με γάτες και ατελείωτες αναρτήσεις για τον Τραμπ, και όλα αυτά για να επιβραβευθούμε σαν τα σκυλιά του Παβλόφ. (Έφτασα το εκατομμύριο like; Θα πρέπει να είμαι ξεχωριστός). Σκεφτείτε τη γλυκιά εκείνη φωνή που σας κατευθύνει όταν οδηγείτε. Δεν σας διατάζει να στρίψετε δεξιά εδώ και αριστερά εκεί. Όσο όμως γίνεται εξυπνότερη για πράγματα όπως τα μποτιλιαρίσματα, ολοένα και περισσότερο καταλήγουμε να κάνουμε αυτά που μας λέει χωρίς να την αμφισβητούμε.

Το ίδιο θα συμβεί και με οτιδήποτε περιλαμβάνει από ιατρικές μέχρι και νομικές συμβουλές. Ο Wolfram επισημαίνει ότι είναι απλώς ζήτημα χρόνου πριν οτιδήποτε απαιτεί “επαναληπτική κρίση” να γίνεται καλύτερα, γρηγορότερα και φτηνότερα από μια Τεχνητή Νοημοσύνη. Υποστηρίζει ότι θα αναδυθεί μια νέα Γλώσσα Συμβολικού Διαλόγου (Symbolic Discourse Language) που θα επιτρέπει στις Τεχνητές Νοημοσύνες και στους ανθρώπους να επικοινωνούν με μεγαλύτερη ακρίβεια. Έτσι, οι Τεχνητές Νοημοσύνες θα έχουν μια καλύτερη ιδέα του τι νομίζουμε πως θέλουμε, έτσι ώστε να μπορούν να ανταγωνιστούν μεταξύ τους για να μας το δώσουν. Και θα ανταγωνιστούν στο βαθμό που ο Μεγάλος Αδερφός δεν θα πάρει να ηνία για να μας σαλαγήσει σε κάποιο γκούλαγκ (βλ. Κίνα, παραπάνω).

Βεβαίως, ο Wolfram δεν απαντά στο ερώτημα τι θα κάνουν οι Τεχνητές Νοημοσύνες όταν οι άνθρωποι ζητούν αμοιβαίως αποκλειόμενα πράγματα όπως ασφάλεια και ελευθερία, ή ισότητα και καινοτομία, ή αθανασία κι έναν λόγο ύπαρξης. Ίσως όμως μια πραγματικά έξυπνη Τεχνητή Νοημοσύνη να τροφοδοτήσει μια αρκετή ποσότητα υλικού προεκλογικών εκστρατειών σε ένα νευρωνικό δίκτυο και να ανακαλύψει τον τρόπο να υπόσχεται με επιτυχία αδύνατα πράγματα για τα οποία δεν θα τεθεί ποτέ υπόλογη, όλα πληρωμένα με χρήματα άλλων ανθρώπων. Τότε, όλοι θα ξέρουμε ότι η τεχνολογία της Τεχνητής Νοημοσύνης έχει ήδη φτάσει.

--

Ο Bill Frezza είναι μέλος του Competitive Enterprise Institute.

Το άρθρο δημοσιεύθηκε στα αγγλικά στις 10 Δεκεμβρίου 2017 και παρουσιάζεται στα ελληνικά με την άδεια του Foundation for Economic Education (FEE) και τη συνεργασία του ΚΕΦΙΜ “Μάρκος Δραγούμης”.

liberal.gr