Dr. Marcello Ienca: Το Α.Ι. δεν έχει ποτέ ερωτευτεί, δεν έχει βιώσει την απώλεια, δεν κατέχει τη βιωμένη εμπειρία

Καθηγητής Ηθικής της Τεχνητής Νοημοσύνης και των Νευροεπιστημών στο Technical University of Munich και Αναπληρωτής Διευθυντής του Ινστιτούτου Ηθικής και Ιστορίας της Ιατρικής, o Marcello Ienca επικεντρώνει την έρευνά του στις ηθικές, νομικές και κοινωνικές επιπτώσεις της τεχνητής νοημοσύνης, της νευροτεχνολογίας και της ψηφιακής καινοτομίας, με ιδιαίτερη έμφαση στη γνωστική ελευθερία, την ιδιωτικότητα της σκέψης και τα ανθρώπινα δικαιώματα στην ψηφιακή εποχή.

Είναι διεθνώς γνωστός για το πρωτοποριακό του έργο σχετικά με τα «νευροδικαιώματα» (neurorights), ενώ, μεταξύ άλλων, είναι επικεφαλής Νευροηθικής της International Brain Initiative και πρόεδρος της International Neuroethics Society.

Ο κορυφαίος επιστήμονας θα βρεθεί στο Ευρωπαϊκό Πολιτιστικό Κέντρο Δελφών, μαζί με άλλους, πρωτοπόρους επιστήμονες διεθνούς ακτινοβολίας, στο πλαίσιο των Τέταρτων Δελφικών Διαλόγων, τους οποίους οραματίστηκε και πραγματοποιεί, για μία ακόμα χρονιά, στις 3 και 4 Ιουλίου, ο καθηγητής του Χάρβαρντ Παναγιώτης Ροϊλός.

Ο Marcello Ienca θα συμμετάσχει, μαζί με τον καθηγητή Φιλοσοφίας και Θρησκευτικών Σπουδών Lenart Škof, στη δεύτερη συνεδρία, η οποία θα γίνει την Παρασκευή 3 Ιουλίου στις 19.00- 19.40. Το θέμα της ομιλίας του είναι “Η ανθρωπότητα σε σταυροδρόμι: Η γνωσιακή τεχνολογία και το μέλλον της ελευθερίας και της αυτονομίας”, ενώ θα ακολουθήσει συζήτηση. Με αυτή την αφορμή, συνομιλήσαμε μαζί του.

Η ανθρωπότητα βρίσκεται, πράγματι, σε σταυροδρόμι. Παρόλο που έχουμε βιώσει, ειδικά οι ωριμότεροι, πολλές και έντονες αλλαγές στον τρόπο ζωής μας, αρκετοί έχουμε την αίσθηση ότι πλέον ο κόσμος κινείται υπερβολικά γρήγορα και ότι, συχνά, οι αλλαγές είναι δύσκολα διαχειρίσιμες. Αν προτείνατε στο κοινό σας μία θεμελιώδη αρχή ώστε να πλοηγηθεί, χωρίς φόβο, στη μελλοντική σχέση μεταξύ ανθρώπου και ευφυούς τεχνολογίας, ποια θα ήταν αυτή;

MarcelloIenca: Η αρχή αυτή θα ήταν απλή: η τεχνητή νοημοσύνη πρέπει να αναβαθμίζει τον άνθρωπο, όχι να τον υποβαθμίζει. Κάθε γενιά βιώνει τεχνολογικές αλλαγές. Σε όλη τη διάρκεια της Ιστορίας, η ανθρωπότητα ανέπτυσσε εργαλεία τα οποία διεύρυναν τις δυνατότητές μας. Το τηλεσκόπιο επέκτεινε την όρασή μας, το αεροπλάνο την κινητικότητά μας, το διαδίκτυο την ικανότητα επικοινωνίας μας. Τώρα, βρισκόμαστε μπροστά σε μια μοναδική πρόκληση. Δημιουργούμε μηχανές  που συμμετέχουν σε διανοητικές εργασίες τις οποίες κάποτε θεωρούσαμε αποκλειστικώς ανθρώπινες: τη συλλογιστική, τη δημιουργικότητα, την επικοινωνία, ακόμα και τη λήψη αποφάσεων. Αυτό μπορεί να γεννήσει ανησυχία, επειδή πλέον δεν φτιάχνουμε απλώς εργαλεία, κατασκευάζουμε νοητικούς συνεταίρους. Ωστόσο, δεν πρέπει να βλέπουμε το μέλλον ως έναν στείρο ανταγωνισμό μεταξύ ανθρώπων και μηχανών. Αντιθέτως, πρέπει να εξετάσουμε πώς οι άνθρωποι και οι νέες τεχνολογίες μπορούν να συνεργαστούν. Η Ιστορία μάς έχει διδάξει ότι η τεχνολογία δεν είναι ούτε αποτέλεσμα της μοίρας ούτε κάποια αυτόνομη δύναμη. Εμείς τη διαμορφώνουμε μέσα από τους θεσμούς, τους νόμους και τις συλλογικές επιλογές μας. Το μέλλον δεν είναι κάτι που μας συμβαίνει. Είναι κάτι το οποίο συν-δημιουργούμε.

Λέω συχνά πως το πραγματικό ερώτημα δεν είναι κατά πόσον η τεχνητή νοημοσύνη θα γίνει εξυπνότερη από όσο είναι σήμερα. Σίγουρα θα γίνει. Το πραγματικό ερώτημα είναι κατά πόσον εμείς θα παραμείνουμε αρκετά δυνατοί ώστε να κατευθύνουμε το Α.Ι. προς την ευημερία της ανθρωπότητας. Ο αληθινός κίνδυνος δεν είναι η τεχνολογία αυτή καθεαυτή, αλλά το να της επιτρέψουμε να συμβαίνει χωρίς δημοκρατική καθοδήγηση και ανθρωποκεντρικές αξίες. Οφείλουμε να αναρωτηθούμε: θα κάνει η τεχνητή νοημοσύνη τα ανθρώπινα όντα πιο ικανά, πιο δημιουργικά και πιο ελεύθερα;  Αν σχεδιάσουμε το Α.Ι. με τρόπο που να μεγεθύνει τις δυνατότητές μας αντί να τις διαβρώνει, το μέλλον θα είναι εντελώς θετικό. Εάν δεν το κάνουμε, θα μπούμε σε δυστοπία- γι’ αυτό και ο φόβος πολλών είναι απολύτως κατανοητός. Όμως ο φόβος από μόνος του αποτελεί μια ανεπαρκή πυξίδα. Η καλύτερη πυξίδα είναι η υπευθυνότητα. Το πρόβλημα δεν είναι ότι η τεχνητή νοημοσύνη προχωρά υπερβολικά γρήγορα, αλλά ότι η γνώση και η σοφία μας δεν προχωρούν αρκετά γρήγορα ώστε να την καθοδηγήσουν.

Πώς μπορούμε να διατηρήσουμε την προσωπική μας ταυτότητα, την αυτονομία και τις πραγματικές πολιτικές επιλογές μας, όταν τα συστήματα τεχνητής νοημοσύνης επιμελούνται, ολοένα και περισσότερο, τις πληροφορίες και τις επιλογές που μας προσφέρονται; 

 Η απάντηση δεν είναι “λιγότερη τεχνητή νοημοσύνη”, όπως ζητούν πολλοί. Η απάντηση είναι “περισσότερη ανθρώπινη παρέμβαση μέσα στα συστήματα τεχνητής νοημοσύνης”. Κάθε κοινωνία διαμορφώνει το περιβάλλον της πληροφορίας μέσα στο οποίο ο άνθρωπος παίρνει αποφάσεις. Το καινούριο στοιχείο σήμερα είναι η κλίμακα και η ακρίβεια με τις οποίες τα Α.Ι. συστήματα μπορούν να επηρεάσουν την προσοχή μας, τις προτιμήσεις μας και τη συμπεριφορά μας. Για πρώτη φορά στην Ιστορία υπάρχει η δυνατότητα να εξατομικευτεί η πειθώ σε μαζική κλίμακα, κάτι που γεννά μια εμφανή κοινωνικοπολιτική πρόκληση. Ο κίνδυνος που με ανησυχεί περισσότερο σε σχέση με αυτό, είναι η ανάδυση των τεχνο-φασιστικών τάσεων. Δηλαδή, των συστημάτων στα οποία οι προηγμένες τεχνολογίες χρησιμοποιούνται όχι για να επεκτείνουν την ελευθερία μας αλλά για να παρακολουθούν, να προβλέπουν, να χειρίζονται και, ουσιαστικά, να ελέγχουν τους πολίτες. Σε αντίθεση με τα απολυταρχικά καθεστώτα του 20ού αιώνα, αυτά τα συστήματα δεν στηρίζονται οπωσδήποτε στον απροκάλυπτο εξαναγκασμό. Είναι σε θέση να λειτουργήσουν μέσα από αλγορίθμους, συμπεριφορικές προβλέψεις, έντονα προσωποποιημένη επιρροή και μια αόρατη διαμόρφωση επιλογών. Ωστόσο, ο κίνδυνος εδώ δεν είναι η τεχνητή νοημοσύνη από μόνη της, αλλά το να συγκεντρώνεται η εξουσία της γνώσης και της ενημέρωσης στα χέρια μιας χούφτας πολιτικών ή οικονομικών φορέων.

Παρόλα αυτά, οι ίδιες τεχνολογίες που μπορούν να στενέψουν τον ορίζοντά μας, μπορούν -αν εκδημοκρατιστούν σωστά- να μας προσφέρουν νέες προοπτικές, να διευκολύνουν την εκπαίδευση και να μας βοηθήσουν να πλοηγηθούμε σε έναν κόσμο που γίνεται όλο και πιο περίπλοκος.

Η ερώτηση-κλειδί, λοιπόν, δεν είναι αν το Α.Ι. μάς επηρεάζει. Όλες οι τεχνολογίες μάς επηρεάζουν. Η ερώτηση-κλειδί είναι αν οι πολίτες αντιλαμβάνονται αυτές τις επιρροές και διατηρούν έναν ουσιαστικό νοητικό έλεγχο πάνω τους. Η δημοκρατία του 21ου αιώνα απαιτεί κάτι περισσότερο από το δικαίωμα ψήφου. Απαιτεί αυτό που ονομάζω “διανοητική ενδυνάμωση”: την ικανότητα να καταλαβαίνουμε πώς φτάνει σε εμάς η πληροφορία, να την αξιολογούμε κριτικά και να κάνουμε ενημερωμένες επιλογές. Οφείλουμε να εκδημοκρατίσουμε την τεχνητή νοημοσύνη έτσι ώστε οι πολίτες να μην είναι απλοί καταναλωτές των έξυπνων τεχνολογιών. Πρέπει να συμμετέχουν ενεργά στη διαμόρφωση του τρόπου με τον οποίο αυτές οι τεχνολογίες λειτουργούν. Ελευθερία δεν σημαίνει απουσία επιρροών. Ελευθερία είναι η ικανότητα να κατανοείς την επιρροές και να αποφασίζεις ποιες αξίζουν την εμπιστοσύνη σου.

Είστε ευρέως αναγνωρισμένος για την πρωτοποριακή δουλειά σας πάνω στο “νευροδικαιώματα”.   Θα μπορούσατε να μας πείτε περισσότερα για το θέμα αυτό και πώς αντιμετωπίζεται σε παγκόσμιο επίπεδο;  Ποιο “νευροδικαίωμα”  θεωρείτε το πιο επείγον να κατοχυρωθεί διεθνώς;

Τα νευροδικαιώματα αναδύθηκαν μέσα από μια απλή συνειδητοποίηση: καθώς η τεχνολογία αποκτά όλο και μεγαλύτερη πρόσβαση στον ανθρώπινο νου, ορισμένες από τις πιο θεμελιώδεις ελευθερίες μας χρειάζονται νέες μορφές προστασίας. Όταν έθεσα για πρώτη φορά αυτή τη σκέψη, περίπου μια δεκαετία πριν, πολλοί τη θεώρησαν φουτουριστική. Σήμερα έχει μετατραπεί σε παγκόσμια συζήτηση που αφορά κυβερνήσεις, διεθνείς οργανισμούς, επιστημονικές ακαδημίες και φορείς ανθρωπίνων δικαιωμάτων. Η UNESCO, το Συμβούλιο της Ευρώπης, ο ΟΟΣΑ (Οργανισμός Οικονομικής Συνεργασίας και Ανάπτυξης) και οι κυβερνήσεις αρκετών κρατών συζητούν ενεργά για το πώς να προστατεύσουν το άτομο στην εποχή της Νευροτεχνολογίας. Στον πυρήνα τους, τα νευροδιακιώματα δεν προστατεύουν αποκλειστικώς μυαλά. Προστατεύουν τον άνθρωπο. Επιδιώκουν να διαφυλάξουν αξίες όπως η ιδιωτικότητα, η αυτονομία, η αξιοπρέπεια και η ελευθερία κάθε φορά που υπάρχει απευθείας διάδραση των νέων τεχνολογιών με τις διανοητικές μας λειτουργίες. Μεταξύ των διαφόρων νευροδικαιωμάτων που έχουν προταθεί, πιο θεμελιώδες θεωρώ το νευροδικαίωμα της γνωστικής ελευθερίας: το δικαίωμα, δηλαδή, να σκεφτόμαστε ελεύθερα και να διατηρούμε τον έλεγχο της πνευματικής ζωής μας. Όλες οι υπόλοιπες ελευθερίες εξαρτώνται από αυτήν. Η ελευθερία της έκφρασης ξεκινά από την ελευθερία της σκέψης. Η δημοκρατική συμμετοχή αρχίζει από την αυτόνομη, ανεξάρτητη κρίση. Η ανθρώπινη αξιοπρέπεια έχει ως αφετηρία την αυτοδιάθεση. Το σημαντικό είναι πως η γνωστική ελευθερία δεν στέκεται ενάντια στην τεχνολογία.  Μάλλον το αντίθετο ισχύει. Είναι ακριβώς αυτή που μας επιτρέπει να ωφελούμαστε από ισχυρές τεχνολογίες ενώ, ταυτόχρονα, παραμένουμε οι συγγραφείς της ζωής μας. Ο στόχος δεν είναι να εμποδίσουμε την καινοτομία, αλλά να διασφαλίσουμε ότι η καινοτομία δυναμώνει την ελευθερία μας αντί να την υπονομεύει.

Εφόσον το αντικείμενο δουλειάς μου είναι ο πολιτισμός, ανησυχώ αρκετά για τη σχέση της τεχνητής νοημοσύνης και της ανθρώπινης δημιουργικότητας. Αν το A.I. είναι σε θέση να παράγει μουσική, τέχνη, λογοτεχνία και κινηματογραφική εικόνα, τι χώρος απομένει για τον άνθρωπο στο δημιουργικό πεδίο;

Εγώ θα την αντέστρεφα την ερώτηση. Αντί να ρωτάμε τι χώρο αφήνει το Α.Ι. σε μας, θα έπρεπε να ρωτάμε τι παραμένει μοναδικά ανθρώπινο σε έναν κόσμο όπου οι έξυπνες μηχανές μπορούν να παράξουν περιεχόμενο. Η απάντησή μου είναι: το νόημα. Το Α.Ι. μπορεί να γεννήσει εικόνες, μελωδίες, ιστορίες και ποιήματα. Όμως, δεν κατέχει την βιωμένη εμπειρία. Δεν έχει ποτέ ερωτευτεί, δεν έχει βιώσει την απώλεια, δεν έχει παλέψει με την αδικία, δεν έχει αναλογιστεί για την ίδια του τη θνητότητα. Η ανθρώπινη δημιουργικότητα δεν είναι μια απλή παραγωγή περιεχομένου. Αποτελεί την έκφραση της εμπειρίας. Δεν πιστεύω ότι η τεχνητή νοημοσύνη αντιπροσωπεύει το τέλος της ανθρώπινης δημιουργίας. Στην πραγματικότητα, ίσως βοηθήσει να εκδημοκρατιστεί η δημιουργικότητα, παρέχοντας σε περισσότερους ανθρώπους πρόσβαση σε εργαλεία τα οποία μέχρι προσφάτως δεν ήταν προσβάσιμα. Η Ιστορία μάς προσφέρει χρήσιμα μαθήματα. Η φωτογραφία δεν εξαφάνισε τη ζωγραφική. Ο κινηματογράφος δεν εξαφάνισε τη λογοτεχνία. Το συνθεσάιζερ δεν εξάλειψε τη μουσική. Οι καινούριες τεχνολογίες σπάνια καταστρέφουν τον πολιτισμό. Τον μεταμορφώνουν. Πιστεύω ότι το μέλλον του πολιτισμού θα μετατρέπεται, όλο και περισσότερο, σε μια ιστορία συνεργασίας, παρά σε μια ιστορία ανταγωνισμού.  Οι πιο επιδραστικοί  καλλιτέχνες των επόμενων δεκαετιών θα μπορούσαν κάλλιστα να είναι εκείνοι οι οποίοι θα έχουν μάθει να συνεργάζονται δημιουργικά με τα “έξυπνα” συστήματα διατηρώντας, ταυτόχρονα, μια ξεκάθαρα ανθρώπινη οπτική. Το μέλλον δεν είναι “Είτε άνθρωπος είτε τεχνητή νοημοσύνη”. Είναι “Άνθρωπος μαζί με τεχνητή νοημοσύνη”.

Ας μεταφερθούμε 20 χρόνια αργότερα: ποια εξέλιξη στη γνωσιακή τεχνολογία φαντάζεστε ως την πιο συναρπαστικήκαι ποια ως την πιο απειλητική; 

Η εξέλιξη που με συναρπάζει πιο πολύ είναι η πιθανότητα να χρησιμοποιούμε το Α.Ι. και τη νευροτεχνολογία  για να μειώσουμε μερικές από τις παλαιότερες ανθρώπινες ανισότητες στην υγεία και στην εκπαίδευση. Φανταστείτε έναν κόσμο στον οποίο ένα παιδί μεγαλώνει σε κάποιο απομακρυσμένο χωριό και έχει πρόσβαση σε έναν Α.Ι. δάσκαλο του ίδιου επιπέδου με τους καλύτερους καθηγητές στον κόσμο. Φανταστείτε συστήματα υγείας στα οποία η τεχνητή νοημοσύνη μάς βοηθά να εντοπίσουμε τις ασθένειες νωρίτερα, υποστηρίζει τους γιατρούς υποβαθμισμένων περιοχών της Γης και διευκολύνει προσωποποιημένες θεραπείες που αυτή τη στιγμή είναι απροσπέλαστες σε εκατομμύρια ανθρώπους. Φανταστείτε τις νευροτεχνολογίες που αποκαθιστούν την επικοινωνία των ανθρώπων με παράλυση, που βοηθούν ασθενείς να θεραπευτούν από νευρολογικά τραύματα ή που προσφέρουν ανακούφιση σε καταστάσεις όπως η επιληψία, η κατάθλιψη ή το Πάρκινσον. Αυτές οι δυνατότητες δεν αποτελούν επιστημονική φαντασία. Ήδη αναδύονται πολλές από αυτές.

Αυτό που με ανησυχεί περισσότερο από όλα δεν είναι η ίδια η τεχνητή νοημοσύνη. Είναι ο κίνδυνος να συγκεντρωθεί η πνευματική εξουσία με τρόπους που υπονομεύουν τη δημοκρατία, τα ανθρώπινα δικαιώματα και τις ίσες ευκαιρίες. Κάθε επιδραστική τεχνολογία γεννά τριβές ανάμεσα στην ενδυνάμωση και στη συγκέντρωση της εξουσίας. Ο έντυπος Τύπος εκδημοκράτισε τη γνώση αλλά, ταυτόχρονα, μετατράπηκε σε εργαλείο προπαγάνδας. Τα social media συνέδεσαν εκατομμύρια ανθρώπων μεταξύ τους, αλλά την ίδια στιγμή πολλαπλασίασαν την παραπληροφόρηση και την πόλωση. Η τεχνητή νοημοσύνη θα μας προσφέρει μια παρόμοια επιλογή, αλλά πολύ μεγαλύτερου μεγέθους: θα μας ωθήσει να επιλέξουμε ανάμεσα σε ανταγωνιστικά κοινωνικά οράματα. Το ένα όραμα αντιμετωπίζει τους ανθρώπους κυρίως ως πηγές δεδομένων, στόχους επιρροής και αντικείμενα  βελτιστοποίησης. Το άλλο όραμα αντιμετωπίζει την τεχνολογία ως εργαλείο για να επεκτείνει τις ανθρώπινες δυνατότητες, να προστατεύσει την ανθρώπινη αξιοπρέπεια και να διευρύνει την πρόσβαση στην ευκαιρία. Η καθοριστική πολιτική ερώτηση των επόμενων δεκαετιών  θα αφορά το αν η τεχνητή νοημοσύνη θα παραμείνει συγκεντρωμένη στα χέρια μιας μικρής, αντιδημοκρατικής τεχνολογικής ελίτ ή αν θα διανεμηθεί ευρέως για να υπηρετήσει το γενικό καλό. Πιστεύω ότι το δεύτερο όραμα είναι εφικτό, όμως δεν πρόκειται να συμβεί από μόνον του. Θα χρειαστεί δημοκρατικούς θεσμούς, ισχυρή δημόσια επίβλεψη, ενεργή συμμετοχή της κοινωνίας και διαρκείς προσπάθειες να διασφαλίσουμε ότι η τεχνολογική εξέλιξη θα υπηρετήσει το δημόσιο συμφέρον και όχι τους λίγους.