Χρειάζονται τον δικό τους όρκο του Ιπποκράτη. Να τι πρέπει να λέει...
Το Ασκληπιείο Κω μετά από την εύρεση και ανασκαφή του από τον Γερμανό αρχαιολόγο και επιγραφολόγο Rudolf Herzog.
Οι μηχανικοί τεχνητής νοημοσύνης χρειάζονται τον δικό τους όρκο του Ιπποκράτη. Να τι πρέπει να λέει: «Χρειαζόμαστε έναν όρκο Hinton: όχι για να επιβραδύνουμε τους μηχανικούς, αλλά για να τους καθοδηγήσουμε με την ίδια ηθική διαύγεια που έχει εδραιώσει την ιατρική εδώ και χιλιετίες». Το Διεθνές Ιπποκράτειο Ίδρυμα Κω, τι κάνει;
Ένα πρόσφατο κυριακάτικο απόγευμα, είδα τον γιο μου να ακολουθεί τη μακρά παράδοση της ιατρικής στην τελετή της λευκής ρόμπας του Πανεπιστημίου του Σικάγο. Τον παρακολούθησα να στέκεται όρθιος, απαγγέλλοντας λόγια του Ιπποκράτη που οι γιατροί λένε εδώ και αιώνες: «Πρώτον, μην κάνεις κακό». Ως γιατρός ο ίδιος, αυτά τα λόγια ήταν η πυξίδα μου σε κάθε διάγνωση, κάθε χειρουργική επέμβαση, κάθε δύσκολη συζήτηση.
Αλλά καθώς έφευγα από την αίθουσα, δεν μπορούσα να σταματήσω να σκέφτομαι: Το 2025, υπάρχει μια άλλη ομάδα επαγγελματιών των οποίων οι αποφάσεις θα διαμορφώσουν την ανθρώπινη υγεία, τη γνωστική λειτουργία και το μέλλον εξίσου βαθιά -ίσως ακόμη περισσότερο- με τις δικές μου ή του γιου μου.
Αυτή η ομάδα αποτελείται από μηχανικούς Τεχνητής Νοημοσύνης, οι οποίοι σήμερα κατασκευάζουν συστήματα που θα αγγίξουν κάθε διάσταση της ανθρώπινης ζωής: την υγεία μας, την ασφάλειά μας, τους τρόπους με τους οποίους φροντίζουμε ο ένας τον άλλον και τις ίδιες τις συνθήκες που διαμορφώνουν το πόσο καιρό θα ζήσουμε - για τις επόμενες δεκαετίες.
Η απίστευτη ευθύνη της δουλειάς τους είναι αδιαμφισβήτητη. Οι μηχανικοί της τεχνητής νοημοσύνης κρατούν στα χέρια τους τη δύναμη να κάνουν εξαιρετικό καλό - να κλείνουν κενά στην εκπαίδευση, να ξεκλειδώνουν ιατρικές ανακαλύψεις, να επιταχύνουν λύσεις για το κλίμα - ή, αν ξεχάσουν τους ανθρώπους που υπηρετούν οι δημιουργίες τους, να προκαλούν βαθιά ζημιά.
Η Τεχνητή Νοημοσύνη δεν είναι απλώς μια ακόμη νέα συσκευή ή ένας ψηφιακός αντιπερισπασμός. Είναι η πρώτη τεχνολογία που σχεδιάστηκε για να αναπαράγει και να αντικαταστήσει την ίδια τη γλώσσα και τις αλληλεπιδράσεις που έχουν διαμορφώσει την ανθρώπινη ανάπτυξη εδώ και χιλιετίες.
Και η Τεχνητή Νοημοσύνη (ΤΝ) εξελίσσεται με εκπληκτικό ρυθμό, με τις δυνατότητές της να διπλασιάζονται περίπου κάθε επτά μήνες από το 2019. Εάν αυτή η πορεία συνεχιστεί, έως το 2030, η ΤΝ θα μπορούσε ενδεχομένως να ολοκληρώσει σε λίγες μέρες έργα που επί του παρόντος διαρκούν μήνες και απαιτούν ανθρώπινη εγκεφαλική δύναμη. Πολλοί ηγέτες της ΤΝ έχουν υποστηρίξει ότι η τεχνολογία θα μπορούσε να επιτύχει γενική νοημοσύνη ανθρώπινου επιπέδου μέσα σε λίγα χρόνια.
Ωστόσο, σε αντίθεση με τους φοιτητές ιατρικής, οι μηχανικοί τεχνητής νοημοσύνης αποφοιτούν χωρίς ποτέ να δεσμευτούν ότι «πρώτα, δεν θα κάνουν κακό».
Ο βραβευμένος με Νόμπελ Τζέφρι Χίντον, ένας από τους ιδρυτές της Τεχνητής Νοημοσύνης, προειδοποίησε ότι τα συστήματα που σχεδιάζουμε σήμερα θα μπορούσαν να εξελιχθούν πέρα από την ικανότητά μας να τα ελέγξουμε. Γι' αυτό πιστεύω - μαζί με πολλούς ερευνητές και ηθικολόγους της Τεχνητής Νοημοσύνης- ότι χρειαζόμαστε έναν Όρκο Χίντον: όχι για να επιβραδύνουμε τους μηχανικούς, αλλά για να τους καθοδηγήσουμε με την ίδια ηθική σαφήνεια που βασίζει την ιατρική εδώ και χιλιετίες.
Ένας όρκος του Ιπποκράτη για τους μηχανικούς τεχνητής νοημοσύνης.Στον Όρκο του Ιπποκράτη, οι απόφοιτοι ιατρικοί φοιτητές ορκίζονται τα εξής:
Θα χρησιμοποιήσω τις γνώσεις και τις δεξιότητές μου για να βοηθήσω τους ασθενείς όσο καλύτερα μπορώ και κρίνω· θα απέχω από το να βλάψω ή να αδικήσω κανέναν με αυτό.Θα σέβομαι την αυτονομία και την αξιοπρέπεια των ασθενών μου.Δεν θα ντραπώ να πω: «Δεν ξέρω», ούτε θα παραλείψω να καλέσω τους συναδέλφους μου όταν χρειαστούν οι δεξιότητες κάποιου άλλου.Θα προλαμβάνω ασθένειες όποτε μπορώ, γιατί η πρόληψη είναι προτιμότερη από τη θεραπεία».
Στον Όρκο του Χίντον, οι μηχανικοί τεχνητής νοημοσύνης μπορούσαν να απαγγείλουν παρόμοιες υποσχέσεις όπως:
Θα χρησιμοποιήσω τις δεξιότητές μου για να βελτιώσω την ανθρώπινη ζωή, όχι για να την υποβαθμίσω.Θα σφάλλω υπέρ της ανθρώπινης δράσης και της σύνδεσης όταν δεν είμαι σίγουρος για τη βλάβη.Θα θυμάμαι ότι κάθε σύνολο δεδομένων περιέχει την ιστορία κάποιου και θα την αντιμετωπίζω με αξιοπρέπεια.Θα αναφέρω με σαφήνεια τις πηγές των δεδομένων εκπαίδευσής μου και θα είμαι διαφανής σχετικά με τα δεδομένα που χρησιμοποιούν τα συστήματά μου.Θα σχεδιάσω συστήματα που ενισχύουν τις ανθρώπινες ικανότητες και την κρίση, όχι που τις αποδυναμώνουν.Δεν θα δημιουργήσω εργαλεία που δεν μπορούν να επιβλέπονται, να ελέγχονται ή να αντιστρέφονται. Δεν θα δημιουργήσω συστήματα σχεδιασμένα να εξαπατούν, να χειραγωγούν ή να διαστρεβλώνουν την πραγματικότητα, συμπεριλαμβανομένων των deepfakes και των ψευδών προσωπικοτήτων. Θα επιδιώξω τη συνεργασία, τη διαφάνεια και τη μακροπρόθεσμη υγεία των ανθρώπων και του πλανήτη αντί για το βραχυπρόθεσμο όφελος.Θα ρωτήσω, πριν από την ανάπτυξη: Ποιος ωφελείται και ποιος αναλαμβάνει τους κινδύνους; Έχουμε λάβει υπόψη μας τις μακροπρόθεσμες συνέπειες πέρα από την άμεση περίπτωση χρήσης μας;
Ως χειρουργός, έχω κάνει ό,τι καλύτερο μπορούσα για να διαμορφώσω αυτόν τον όρκο, τον προσφέρω ως σημείο εκκίνησης για όσους κατανοούν την πολυπλοκότητα του τομέα πιο βαθιά από ό,τι θα μπορούσα ποτέ εγώ. Και για να είμαστε σίγουροι, οι τομείς της Τεχνητής Νοημοσύνης και της ανθρώπινης υγείας είναι διαφορετικοί. Αλλά τεχνολογίες όπως η Τεχνητή Νοημοσύνη επηρεάζουν στην πραγματικότητα την υγεία μας. Κάθε αλγοριθμική σύσταση αναδιαμορφώνει τις συνδέσεις σύναψης. Κάθε αλληλεπίδραση της Τεχνητής Νοημοσύνης μεταβάλλει τα πρότυπα ντοπαμίνης. Κάθε εξατομικευμένη ροή επανασυνδέει τα δίκτυα προσοχής. Στην ιατρική, μελετάμε αυστηρά οτιδήποτε διασχίζει τον αιματοεγκεφαλικό φραγμό επειδή κατανοούμε τη δύναμή του να αλλάζει τη λειτουργία του εγκεφάλου. Ωστόσο, συστήματα Τεχνητής Νοημοσύνης με εξίσου βαθιές νευρολογικές επιπτώσεις εισέρχονται στη ζωή μας καθημερινά, σε μεγάλο βαθμό χωρίς έλεγχο.
Και η επιρροή της Τεχνητής Νοημοσύνης θα επεκταθεί πολύ πέρα από το μυαλό μας. Θα βοηθήσει να καθοριστεί ο τρόπος με τον οποίο εργαζόμαστε και ποιος ευημερεί στην οικονομία. Θα επηρεάσει τους νόμους, τα συστήματα δικαιοσύνης και την πολιτική σταθερότητα. Θα καθοδηγήσει την περιβαλλοντική πολιτική, την επιστημονική ανακάλυψη και την πολιτιστική εξέλιξη. Αυτές δεν είναι παρενέργειες - είναι οι κύριες επιπτώσεις. Και καθιστούν την ανάγκη για μια καθοδηγητική ηθική ακόμη πιο επείγουσα.
Το ερώτημα δεν είναι αν η Τεχνητή Νοημοσύνη θα αναδιαμορφώσει την ανθρώπινη κοινωνία - είναι αν οι μηχανικοί της θα ασκήσουν αυτή τη δύναμη με σύνεση.
Πολλοί νέοι μηχανικοί εισέρχονται στον τομέα για τον ίδιο λόγο που ο γιος μου επέλεξε την ιατρική - για να αλλάξουν τον κόσμο και να τον κάνουν ένα καλύτερο μέρος. Εάν η Τεχνητή Νοημοσύνη (ΤΝ) δημιουργηθεί με γνώμονα την ευθύνη για το ευρύτερο καλό, οι δυνατότητές της είναι εκπληκτικές: διάγνωση ασθενειών νωρίτερα από ό,τι θα μπορούσε οποιοσδήποτε γιατρός, γεφύρωση των κενών στην παγκόσμια εκπαίδευση , επιτάχυνση των λύσεων για το κλίμα , ενδυνάμωση των ατόμων με αναπηρίες . Αλλά αν αγνοήσουμε αυτή την ευθύνη, η ΤΝ θα μπορούσε εξίσου εύκολα να γίνει μια δύναμη που προκαλεί βλάβη, διαβρώνοντας την εμπιστοσύνη, ενισχύοντας την ανισότητα ή υπονομεύοντας τις ίδιες τις ικανότητες που μας κάνουν ανθρώπους.
Αυτός ακριβώς είναι ο λόγος για τον οποίο η Τεχνητή Νοημοσύνη αξίζει μια υπόσχεση που βασίζεται, όπως ο Όρκος του Ιπποκράτη, σε μια θεμελιώδη αρχή: Η εξουσία χωρίς συνείδηση είναι επικίνδυνη.
Κατά τη διάρκεια της τελετής ενσάρκωσης της λευκής ρόμπας του γιου μου, οι γονείς που ήταν γιατροί κλήθηκαν να σταθούν και να απαγγείλουν τον όρκο δίπλα στα παιδιά τους. Καθώς ο γιος μου κι εγώ λέγαμε αυτά τα διαχρονικά λόγια μαζί, ένιωσα τη δύναμη να ενώνομαι με κάτι μεγαλύτερο από εμάς - μια παράδοση που συνδέει κάθε γιατρό διαχρονικά στην υπηρεσία της ευημερίας της ανθρωπότητας. Οι μηχανικοί τεχνητής νοημοσύνης αξίζουν την ίδια αίσθηση σκοπού, την ίδια σύνδεση με κάτι μεγαλύτερο από οποιοδήποτε μεμονωμένο έργο ή εταιρεία.
Η ελπίδα μου είναι ότι σύντομα, το να βλέπω έναν νεαρό μηχανικό τεχνητής νοημοσύνης να δίνει τον όρκο Hinton θα είναι τόσο συγκινητικό, τόσο καθησυχαστικό, όσο το να βλέπω τον γιο μου να φοράει τη λευκή του ρόμπα.
Ντάνα Σούσκιντ
Αυτό το άρθρο δημοσιεύθηκε στο διεθνές περιοδικό TIME.Η Δρ. Ντάνα Σούσκιντ είναι καθηγήτρια Χειρουργικής και Παιδιατρικής στο Πανεπιστήμιο του Σικάγο.
https://time.com/7312350/ai-engineers-need-hippocratic-oath/
περισσότερα,
Ένα φωτογραφικό ταξίδι στο Ασκληπιείο Κω [1902-2014]
Ασκληπιείο των Κώων, η γεωιστορία του ιερού χώρου [e-book, 2024]