Πώς τελειώνει ο Διαφωτισμός
Το 2018, ο Χένρι Κίσινγκερ υποστήριξε ότι η τεχνητή νοημοσύνη θα μπορούσε να αναδιαμορφώσει τη σχέση του ανθρώπου με την αλήθεια.
Τον Ιούνιο του 2018, ο Χένρι Κίσινγκερ δημοσίευσε ένα άρθρο στο The Atlantic, το οποίο, αν το διαβάσει κανείς σήμερα, φαίνεται λιγότερο φουτουριστικό και περισσότερο προφητικό. Υπό έναν σκόπιμα προκλητικό τίτλο-«Πώς τελειώνει ο Διαφωτισμός»-ο Κίσινγκερ δεν έθεσε ως στόχο να αναλύσει την τεχνητή νοημοσύνη ως τεχνολογική καινοτομία, αλλά ως ένα πολιτισμικό φαινόμενο ικανό να αλλάξει τα ίδια τα θεμέλια της ανθρώπινης γνώσης.
Εξαρχής, το επιχείρημα είναι ριζοσπαστικό: «Ο Διαφωτισμός όρισε τη σύγχρονη εποχή εμπιστευόμενος την ανακάλυψη και την κατανόηση της αλήθειας στην ανθρώπινη λογική». Αυτή η συμφωνία - λογική, εξήγηση, αιτιότητα - δόμησε τη σύγχρονη επιστήμη, την πολιτική και την ηθική. Η τεχνητή νοημοσύνη, υποστηρίζει ο Κίσινγκερ, εισάγει για πρώτη φορά μια ρήξη σε αυτή την ιστορική συμφωνία επειδή παράγει γνώση χωρίς να αναπαράγει την ανθρώπινη γνωστική διαδικασία που της έδινε νόημα.
Η βασική ανησυχία δεν είναι ότι οι μηχανές σκέφτονται όπως οι άνθρωποι, αλλά ακριβώς το αντίθετο. Ο Κίσινγκερ προειδοποιεί ότι τα συστήματα Τεχνητής Νοημοσύνης «λειτουργούν μέσω διαδικασιών που δεν είναι ούτε διαφανείς ούτε απαραίτητα κατανοητές στο ανθρώπινο μυαλό». Η γνώση παύει να είναι κάτι που γίνεται κατανοητό και γίνεται κάτι που απλώς λειτουργεί. Και αυτή η φαινομενικά ανεπαίσθητη διαφορά έχει βαθιές συνέπειες.
Σε ένα κεντρικό απόσπασμα του κειμένου, ο Κίσινγκερ επισημαίνει ότι «η ικανότητα του ανθρώπινου νου να εδραιώνει την αιτιότητα υπήρξε η βάση της πνευματικής του κυριαρχίας». Η Τεχνητή Νοημοσύνη, από την άλλη πλευρά, δεν χρειάζεται να κατανοεί τις αιτίες: ανιχνεύει τεράστιες συσχετίσεις, μαθαίνει από αυτές και παράγει αποτελεσματικά αποτελέσματα χωρίς να προσφέρει κατανοητές εξηγήσεις. Ο κίνδυνος, γράφει, είναι ότι «η αλήθεια παύει να είναι κάτι που οι άνθρωποι μπορούν να επαληθεύσουν μέσω της συλλογιστικής». Όχι επειδή είναι ψευδής, αλλά επειδή γίνεται αδιαφανής.
Ο Κίσινγκερ τονίζει ότι «η ανθρώπινη κρίση ήταν πάντα το αποφασιστικό στοιχείο σε σημαντικές ιστορικές αποφάσεις». Εάν αυτή η κρίση αντικατασταθεί -ή έστω και απλώς εξαρτηθεί- από συστήματα που ξεπερνούν την ανθρώπινη κατανόηση, η ίδια η έννοια της ηγεσίας εισέρχεται σε κρίση. Ποιος είναι υπεύθυνος για μια σωστή αλλά ανεξήγητη απόφαση; Πού βρίσκεται η ηθική ευθύνη όταν η διαδικασία λήψης αποφάσεων είναι ένα «μαύρο κουτί»;
Σε όλο το κείμενο, ο Κίσινγκερ υποστηρίζει ότι η τεχνητή νοημοσύνη αμφισβητεί όχι μόνο τους θεσμούς, αλλά και αυτό που θα μπορούσε να ονομαστεί η ίδια η δομή της σύγχρονης πραγματικότητας: το σύνολο των κοινών υποθέσεων που επιτρέπουν σε μια κοινωνία να κατανοήσει τι σημαίνει να γνωρίζει, να αποφασίζει και να κυβερνά. Με μια ιδιαίτερα σημαντική φράση, προειδοποιεί ότι «η τεχνολογία προχωρά ταχύτερα από την ανθρώπινη ικανότητα να διατυπώνει τις αρχές που τη διέπουν». Αυτό το κενό, ιστορικά, υπήρξε το προοίμιο βαθιών κρίσεων της τάξης.
Μακριά από έναν αποκαλυπτικό τόνο, ο Κίσινγκερ υιοθετεί μια κλασική ανησυχία: η απώλεια νοήματος προηγείται της κατάρρευσης της τάξης. Η Τεχνητή Νοημοσύνη, γράφει, θα μπορούσε να μας οδηγήσει σε έναν κόσμο στον οποίο «τα ανθρώπινα όντα δεν θα είναι πλέον οι κύριοι ερμηνευτές της εμπειρίας». Δεν πρόκειται για την κυριαρχία των μηχανών, αλλά για κάτι πιο ανησυχητικό: την προοδευτική έλλειψη σημασίας της ανθρώπινης κατανόησης ως του απόλυτου κριτή της αλήθειας.
Το κείμενο κορυφώνεται με μια προειδοποίηση που υπερβαίνει τα όρια της τεχνολογίας. Ο Κίσινγκερ υποστηρίζει ότι το κρίσιμο ερώτημα δεν είναι τι μπορεί να κάνει η τεχνητή νοημοσύνη, αλλά «αν ο ανθρώπινος πολιτισμός μπορεί να διατηρήσει μια αίσθηση νοήματος σε έναν κόσμο που δεν εξηγείται πλέον».
Διαβάζοντας εκ των υστέρων, το άρθρο του 2018 προβλέπει συζητήσεις που πλέον διαπερνούν τη δημοκρατία, τον πόλεμο, τη δημοσιογραφία και την επιστήμη. Ο Κίσινγκερ δεν προτείνει την παύση της τεχνητής νοημοσύνης, αλλά επιμένει σε κάτι πιο απαιτητικό: την ενσωμάτωσή της χωρίς να καταστρέφονται τα ανθρώπινα πλαίσια κατανόησης που στηρίζουν την ευθύνη, τη νομιμότητα και το ιστορικό νόημα.
Οι 10 ιδέες του Κίσινγκερ για την Τεχνητή Νοημοσύνη
Η ανθρωπότητα δεν είναι διανοητικά ή φιλοσοφικά προετοιμασμένη για την τεχνητή νοημοσύνη.
Η ανάπτυξη της Τεχνητής Νοημοσύνης προχωρά ταχύτερα από την ικανότητά μας να κατανοήσουμε τις ιστορικές, ηθικές και γνωστικές της επιπτώσεις.
Η Τεχνητή Νοημοσύνη εγκαινιάζει μια ιστορική τομή συγκρίσιμη με - ή και μεγαλύτερη - την τυπογραφική μηχανή.
Όπως ακριβώς η τυπογραφία έδωσε ώθηση στον Διαφωτισμό, η Τεχνητή Νοημοσύνη μπορεί να βάλει τέλος στη νοοτροπία που δημιούργησε ο Διαφωτισμός.
Η τεχνητή νοημοσύνη δεν αυτοματοποιεί τα μέσα: επαναπροσδιορίζει τους σκοπούς.
Σε αντίθεση με προηγούμενες τεχνολογίες, η Τεχνητή Νοημοσύνη όχι μόνο εκτελεί τους ανθρώπινους στόχους, αλλά μαθαίνει, βελτιστοποιεί και ορίζει τις δικές της διαδρομές.
Η γνώση παύει να είναι κατανοητή από τον άνθρωπο.
Τα συστήματα Τεχνητής Νοημοσύνης παράγουν σωστά ή αποτελεσματικά αποτελέσματα χωρίς να είναι σε θέση να τα εξηγήσουν με ανθρώπινους όρους, διαβρώνοντας την ιδέα της ορθολογικής κατανόησης.
Οι ανθρώπινες γνωστικές διαδικασίες εξασθενούν στην ψηφιακή εποχή.
Το διαδίκτυο και οι αλγόριθμοι δίνουν προτεραιότητα στην άμεση πληροφόρηση έναντι της αναστοχασμού, του πλαισίου και της σοφίας, αποδυναμώνοντας την ενδοσκόπηση και τη βαθιά σκέψη.
Η αλήθεια γίνεται σχετική και προσωποποιημένη.
Οι αλγόριθμοι προσαρμόζουν τις πληροφορίες στις ατομικές προτιμήσεις, διαλύοντας την κοινή συναίνεση σχετικά με το τι είναι αληθές ή σχετικό.
Η πολιτική χάνει την ικανότητά της για στρατηγική σκέψη.
Η μικροτμηματοποίηση και η ψηφιακή ταχύτητα ωθούν τους ηγέτες να αντιδρούν σε κατακερματισμένες πιέσεις, μειώνοντας το μακροπρόθεσμο όραμα.
Η Τεχνητή Νοημοσύνη μπορεί να κάνει λάθη πιο γρήγορα και με μεγαλύτερο αντίκτυπο από τους ανθρώπους.
Η επιταχυνόμενη ικανότητα μάθησης που διαθέτει σημαίνει ότι μπορεί επίσης να ενισχύσει τις αποτυχίες, τις αποκλίσεις ή τις παρερμηνείες σε μεγάλη κλίμακα.
Η Τεχνητή Νοημοσύνη μεταμορφώνει τις ανθρώπινες αξίες χωρίς να το θέλει.
Βελτιστοποιώντας αποκλειστικά για να «νικήσει» ή να «είναι αποτελεσματική», η Τεχνητή Νοημοσύνη μεταβάλλει τις ανθρώπινες δραστηριότητες (το παιχνίδι, τη μάθηση ή τη λήψη αποφάσεων) και αλλάζει το νόημά τους.
Δημιουργούμε μια κυρίαρχη τεχνολογία χωρίς μια καθοδηγητική φιλοσοφία.
Η ανάπτυξη της Τεχνητής Νοημοσύνης καθοδηγείται από τεχνικά, εμπορικά και στρατηγικά κίνητρα, χωρίς ένα ηθικό ή ανθρωπιστικό πλαίσιο ισοδύναμο με αυτό που διατήρησε τη νεωτερικότητα.
Clarín
@clarincom
https://x.com/clarincom/status/2020137099521888276?s=20
Το πλήρες άρθρο:
https://www.theatlantic.com/magazine/archive/2018/06/henry-kissinger-ai-could-mean-the-end-of-human-history/559124/