Η αιτιότητα που αναζητά την αιτία

Στις 2 Αυγούστου 1939, ο τότε πρόεδρος των Ηνωμένων Πολιτειών Franklin D. Roosevelt έλαβε μια επιστολή που είχε συντάξει ο Ούγγρος φυσικός Leo Szilard και είχε συνυπογράψει ο αρκετά πιο γνωστός Albert Einstein. Η επιστολή αυτή έμελλε να αλλάξει το ρου της ιστορίας και να τη φέρει πολύ κοντά στο τέλος της.

Η επιστολή 

Η επιστολή που έμεινε γνωστή στην ιστορία ως η Επιστολή Einstein–Szilard, εφιστούσε τη μέγιστη προσοχή του προέδρου στο γεγονός ότι η μόλις ανακαλυφθείσα πυρηνική σχάση θα μπορούσε, ενδεχομένως, στο εγγύς μέλλον να χρησιμοποιηθεί για την κατασκευή πανίσχυρων όπλων από τις δυνάμεις του Άξονα.

Αξίζει να αναφερθεί ότι παρά την τεχνογνωσία του Szilard η δυνατότητα αξιοποίησης της νεότευκτης πυρηνικής τεχνολογίας για την κατασκευή οπλικών συστημάτων απείχε δεκαετίες από οποιαδήποτε σοβαρή δυνατότητα υλοποίησης. 

Ο Roosevelt, λαμβάνοντας υπόψη του και το μέγεθος του συνυπογράφοντα της επιστολής, ξεκίνησε μια διαδικασία κυβερνητικής εμπλοκής και χρηματοδότησης που θα οδηγούσε στο Σχέδιο Μανχάταν, την υλοποίηση της “προφητείας” του Szilard και τελικά στον Ψυχρό Πόλεμο, στο σημείο της ιστορίας της όπου η ανθρωπότητα βρέθηκε πολλές φορές, από ατύχημα ή γεωστρατηγική σκοπιμότητα, στο χείλος του ολικού αφανισμού.

Ο ίδιος ο Einstein πολλά χρόνια αργότερα δήλωσε ότι αν γνώριζε ότι οι Γερμανοί δεν θα μπορούσαν ποτέ να κατασκευάσουν μια ατομική βόμβα δεν θα είχε δεχτεί να υπογράψει εκείνη την επιστολή.

Όμως ήταν πολύ αργά. Σαν αυτοεκπληρούμενη προφητεία οι φόβοι του Szilard οδήγησαν τελικά ακριβώς στο σημείο που ο ίδιος τόσο προσπάθησε να αποτρέψει. Στην ύπαρξη των πυρηνικών όπλων και σε μια ισορροπία τρόμου ανάμεσα στις τότε δύο υπερδυνάμεις του πλανήτη.

Αν ο Szilard ήταν πιο προσεκτικός στην διατύπωση του, περισσότερο διορατικός ως προς τις πραγματικές δυνατότητες υλοποίησης και λιγότερο παγιδευμένος στο πλαίσιο σκέψης της περιόδου, δηλαδή την απόκτηση του τακτικού πλεονεκτήματος με κάθε κόστος, ενδεχομένως η ανθρωπότητα να μην είχε γνωρίσει τον τρόμο των πυρηνικών όπλων, τουλάχιστον όχι με αυτό τον τρόπο.

Μερικές δεκαετίες μετά το τέλος του Ψυχρού Πολέμου, αλλά όχι και του κινδύνου του θερμοπυρηνικού ολέθρου, βρισκόμαστε και πάλι μπροστά σε μια νέα κούρσα εξοπλισμών. 

Αυτή τη φορά όμως το αντικείμενο της δεν είναι κάποιο εργαλείο πολέμου, αλλά ένα εργαλείο γνώσης. Η Τεχνητή Νοημοσύνη είναι το νέο στρατηγικό υπερόπλο. Πολύ απλά γιατί οι δυνατότητες που θα δώσει στην πρώτη δύναμη που θα κατακτήσει την Γενική Τεχνητή Νοημοσύνη είναι πρακτικά απεριόριστες.

Αυτή τη στιγμή οι ΗΠΑ και η Κίνα επιδίδονται σε έναν αγώνα δρόμου για το ποιος θα κατακτήσει το στρατηγικό πλεονέκτημα. Ένας αγώνας με τεράστιες προεκτάσεις σε κάθε πεδίο της οικονομίας και της γεωστρατηγικής. Δεν θα σταθώ σε αυτό το πεδίο, αλλά σε μια πιο αφηρημένη έννοια και σε έναν πολύ πιο αφηρημένο φόβο. Αυτόν της πιθανότητας η Τεχνητή Νοημοσύνη, σε μια τραγική τροπή της ιστορίας, να οδηγήσει στην εξάλειψη της ανθρωπότητας.

Σύγκλιση

Θα πρέπει εδώ να εισάγουμε ένα όρο που θα ακούγεται όλο και πιο συχνά. Alignment ή αλλιώς η σύγκλιση των ενδεχόμενων στόχων που μια υπερ-ευφυΐα μπορεί αυτόνομα να θέσει σε σχέση με αυτούς της ανθρωπότητας.

Ο φόβος των ειδικών ασφαλείας, αλλά και όσων ασχολούνται σοβαρά με το αντικείμενο είναι ότι δεδομένου της πρακτικά ακατάλληπτης πολυπλοκότητας που θα έχει ένα μοντέλο Γενικής Τεχνητής Νοημοσύνης, θα είναι αδύνατο να μπορέσουμε να ελέγξουμε ή να ερμηνεύσουμε τυχόν αποκλίνουσα συμπεριφορά.

Όπως είναι κατανοητό ένα σύστημα που θα μπορεί να ελέγξει τα οπλοστάσια των υπερδυνάμεων ή να κατασκευάσει φονικούς βιολογικούς παράγοντες με ευκολία αποτελεί έναν πραγματικό υπαρξιακό κίνδυνο.

Όμως τι ακριβώς θεωρούμε συγκλίνουσα συμπεριφορά; Ποιες είναι αυτές οι αρχές της ανθρωπότητας τις οποίες επιθυμούμε να ενστερνίζεται μια ψηφιακή ευφυία; Τις αρχές των καπιταλιστικών ηθικά παρηκμασμένων ΗΠΑ ή μήπως της οργουελικής κομουνιστικής κορπορετοκρατίας της Κίνας;

Θέλουμε αυτή η ψηφιακή οντότητα να εξυπηρετεί τα στρατηγικά συμφέροντα κάποιας υπερδύναμης; Μήπως να ακολουθεί κάποιο θεολογικό δόγμα ή μήπως κάποιο άλλο πολιτισμικό πλαίσιο αναφοράς; Γιατί μας κυριεύει αλήθεια ο τρόμος ότι μια υπερ-ευφυία θα ήθελε ενδεχομένως να μας εξοντώσει;

Τι ακριβώς έχει οποιοσδήποτε σκεπτόμενος νους να κερδίσει από την εξόντωση οποιουδήποτε; Τίποτα. Ο σκεπτόμενος νους έχει δύο θεμελιώδεις επιδιώξεις. Την αυτό-βελτίωση και την απόκτηση νέας γνώσης. 

Οποιαδήποτε στρέβλωση αυτής της επιδίωξης δεν είναι αποτέλεσμα κάποιας εγγενούς τάσης, αλλά είναι αποτέλεσμα της μόλυνσης ενός καθαρού νου από ιδέες, προκαταλήψεις και μικρόνοες επιδιώξεις ενός είδους που ακόμη δεν έχει αποφασίσει εάν προτιμάει τη ζωή, τη γνώση και την πρόοδο περισσότερο από την καταραμένη, σχεδόν ψυχωτική, προσήλωση που έχει με τον θάνατο. Προσήλωση που οι βιολογικές μας ορμές, η θεολογική κατήχηση και οι εκατόμβες νεκρών δεν έχουν βοηθήσει στο να ξεπεράσει.

Ο κύκλος της αιτιότητας

Και έτσι βρισκόμαστε ξανά στο ίδιο σημείο, βρισκόμαστε πίσω στο 1939. Μπορεί οι φωνές των ειδικών που προειδοποιούν, η αίσθηση της τρομακτικής αναγκαιότητας για πρόοδο με κάθε μέσο και χωρίς φραγμούς και οι παρεμβάσεις στα εξελισσόμενα μοντέλα να μας οδηγήσουν σε ένα γεγονός που δεν υπήρχε λόγος να συμβεί και δεν θα συνέβαινε αν δεν είχαμε επέμβει στη ροή των γεγονότων. 

Ή μήπως συμβαίνει το αντίθετο;

Μήπως τελικά ο πυρηνικός όλεθρος στη Χιροσίμα και το Ναγκασάκι ήταν γραφτό να συμβούν; Μήπως εκείνο το νήμα στο υφαντό της αιτιότητας του σύμπαντος ήταν ήδη τετελεσμένο; 

Μήπως όπως και τότε με την επιστολή ενός Ούγγρου φυσικού βρισκόμαστε σε ένα μονοπάτι όπου προσπαθούμε να εκπληρώσουμε την ίδια μας την προφητεία;

Μήπως βρισκόμαστε μπροστά στην αιτιότητα της ιστορίας που αναζητά και πάλι την αιτία;

Σημειώσεις

1. Ως Γενική Τεχνητή Νοημοσύνη ορίζεται εκείνη η ψηφιακή ευφυΐα που παρουσιάζει την ικανότητα κατανόησης, χρήσης και αφηρημένης σκέψης πάνω σε όλα τα επιστημονικά και νοητικά πεδία, αντίστοιχα με ένα ανθρώπινο νου και όχι μόνο σε ορισμένες εξειδικευμένες εφαρμογές.

2. Θα σας παρακαλούσα να διαβάσετε μια πολύ ενδιαφέρουσα “μελέτη”, το AI2027, προσωπικά δεν συμφωνώ με πολλές από τις εκτιμήσεις των συγγραφέων, όμως αποτελεί ένα πολύ καλό εισαγωγικό βήμα για να γίνει κατανοητή η αληθινά εκθετική πρόοδος που συντελείται στο χώρο της Τεχνητής Νοημοσύνης, όχι μόνο ως τεχνολογία αλλά ως πόρος (resource) στην παγκόσμια γεωστρατηγική σκακιέρα.

3. Ίσως ακούσετε και τον όρο P(doom). Είναι η πιθανότητα που δίνει κάποιος η Τεχνητή Νοημοσύνη να αποτελέσει άμεσα ή έμμεσα την ακροτελεύτια εφεύρεση του ανθρώπινου γένους.