Τα όσα διαδραματίζονται στο παρακάτω βίντεο υπερβαίνουν το σχήμα “επιστήμη με όρους θεάματος” – ήδη όχι τόσο αθώο όσο, ίσως, ακούγεται.
Εντάσσονται σε πλαίσιο γενικής επιστράτευσης : πολιτικού, δημοσιογραφικού, καλλιτεχνικού και επιστημονικού έμψυχου δυναμικού στον αγώνα των Global Leaders για το …reset της Παγκοσμιοποίησης. Με δεδομένο ότι ο αυτοδιορισμένος εκλέκτοράς τους χαίρει άκρας υγείας, έτσι δείχνει τουλάχιστον στα 85 του [μακροζωία = ίδιον ανθρώπων “με όραμα”] μάλλον θα κουραστούμε να επαναλαμβάνουμε το γραφικό ονοματεπώνυμό του.
Η κεντρική ιδέα της υποθέσεως “AI”, όπως την περιγράφει ο κύριος Δασκαλάκης, αν οι περιορισμένες γνώσεις μου επιτρέπουν να την εκφράσω με δικά μου λόγια, είναι η εξής :
Ο ανθρώπινος εγκέφαλος, μια “μηχανή” αυτοπαρουσιαζόμενη ως εξαιρετικά περίπλοκη, σχεδιάζει την τεχνητή αναπαραγωγή του, όντας σε άγνοια ως προς το τι ακριβώς θέλει να αναπαραγάγει, τι ακριβώς είναι δηλ. ο ίδιος.
Αποτυγχάνοντας σταθερά επί δεκαετίες, και εγκαταλείποντας κάθε ελπίδα προόδου ιδίαις δυνάμεσι, αναθέτει σε ένα [εγνωσμένα ανεπαρκές] μοντέλο του εαυτού του τη συνέχιση του έργου. Στην ίδια την AI δηλαδή η οποία, όντας κατ’ αρχήν δημιούργημά του, εμφανίζεται ικανή να υπερβεί τον εαυτό της, σε αντίθεση μ’ εκείνον, που αδυνατεί ακόμα και να κατανοήσει τον δικό του.
Τώρα, το πως το δημιούργημα, υπερβαίνοντας τον εαυτό του, θα φτάσει σε επίπεδα που ο δημιoυργός του αδυνατεί να κατανοήσει, είναι …anybody’s guess.
Ίσως και ως εκ τούτου [δεν γίνεται σαφές εδώ] προκύπτει το εναλλακτικό σενάριο : “δεν χρειάζεται να αναπαραγάγουμε πιστά την ανθρώπινη νοημοσύνη. Ας ακολουθήσουμε την προσέγγιση της αεροναυπηγικής στο μοντέλο των πτηνών : ένα αεροπλάνο δεν αποτελεί ακριβή προσομοίωση αυτών [γιατί τελικά θα έπρεπε;] εντούτοις, τη δουλειά του την κάνει μια χαρά.
Το θέμα, ανάμεσα σε πολλά άλλα, είναι …ποια ακριβώς είναι αυτή η δουλειά. Γιατί μπορεί το αεροπλάνο να αναφέρεται ως “σιδερένιο πουλί”, με την ίδια ποιητική άδεια που το υπό συζήτηση προϊόν λέγεται “τεχνητή νοημοσύνη”. Μπορεί επίσης κάποιες επιδόσεις του, να αφήνουν πίσω εκείνες των πουλιών, όπως ακόμα κι ένα κομπιουτεράκι τσέπης έχει ασύλληπτα μεγαλύτερη υπολογιστική δύναμη απ’ τον άνθρωπο.
Όμως το αεροπλάνο δεν ήρθε στο προσκήνιο για να ανταγωνιστεί τα πουλιά ή να τα αντικαταστήσει. Το πεπρωμένο της τεχνητής νοημοσύνης, ομολογούμενο ανοικτά από την “επιστημονική” κουστωδία, είναι ακριβώς αυτό : η εκτόπιση του ανθρώπου.
Από το ρόλο για τον οποίο προαλείφεται, προκύπτει με ακρίβεια η καταγωγική της ρίζα : δεν μπορεί να είναι άλλη από ένα ένστικτο αυτοκαταστροφής. Το τελευταίο είναι επαρκέστατα παρουσιασμένο εδώ και δυο αιώνες, στο δοκιμιακό διήγημα ο ‘Δαίμονας της Διαστροφής’ του E. A. Poe – ενός από τους γίγαντες στους ώμους των οποίων πατάει η σύγχρονη εκδοχή της ψυχολογίας ως επιστήμης.
Πάμε σε κάποια σημεία του βίντεο, χαρακτηριστικά της σύγχυσης που επικρατεί στο χώρο.
Αρχής γενομένης από το 11:21, ο κύριος Δασκαλάκης πραγματοποιεί την εξής ακροβασία :
“Η νοημοσύνη δεν είναι ένα τα προβλήματα που μπορούμε να αποδείξουμε ότι δεν λύνονται. Αυτό γιατί έχουμε τον ανθρώπινο εγκέφαλο ως παράδειγμα αλγορίθμου που λύνει σε πολύ καλό επίπεδο πολλούς από αυτούς [;] τους υπολογισμούς, επομένως η τεχνητή νοημοσύνη δεν είναι ένα από τα προβλήματα που δεν λύνονται [!]. Είναι ένα πρόβλημα δύσκολο, δεν ξέρουμε να το λύσουμε, αλλά ξέρουμε ότι λύνεται γιατί ο ανθρώπινος εγκέφαλος το λύνει” [!]
Δεν χρειάζεται να μπει κανείς στην [ανύπαρκτη] ουσία του επιχειρήματος. Απορεί απλώς κατά ποια έννοια η προσομοίωση ενός αντικειμένου ανεπαρκέστατα ορισμένου, όπως η ανθρώπινη νοημοσύνη, αποτελεί de facto πρόβλημα επιλύσιμο.
Με τρόπο παρεμφερώς απατηλό εκείνoυ με τον οποίο ο Elon Musk μας “εξοικειώνει” με την ιδέα της μετατροπής μας σε cyborgs [“είμαστε ήδη cyborgs, ως απόλυτα εξαρτώμενοι από τα κινητά και τα κομπιούτερ!”] ο κύριος Δασκαλάκης αναφέρεται [38:45] στην τεχνολογία όπου βασίζεται το chatGPT ως ήδη οικεία, φέρνοντας ως παράδειγμα τον …text editor του κινητού. Ο επιστήμων του MIT δεν φαίνεται να ανήκει σ’ εκείνους που μπορούν να αξιολογήσουν την αρτιότητα των “γλωσσικών μοντέλων” [προγράμματα που επιμένουν να “διορθώνουν” σωστές λέξεις αντικαθιστώντας τες με λάθος ή και ανύπαρκτες]. Ένα πλήθος χειρονομιών [περίπου πανικόβλητων], αλλά και ο ίδιος ο λόγος του, μαρτυρούν μια σχέση μ’ αυτόν αντίστροφα ανάλογη εκείνης με τα μαθηματικά. Ας μη μιλήσουμε άλλωστε για την ίδια τη φύση της δραστηριότητας του text editor που “είναι ήδη στη ζωή μας” : μπλοκάρισμα / επιβράδυνση της ροής των σκέψεων ενός στοιχειωδώς εγγράμματου ανθρώπου, συμπίεση / επιστροφή του υπόλοιπου πληθυσμού, ιδίως των νεότερων, στο προγλωσσικό στάδιο.
Σε συνέχεια αυτού άλλωστε, το peak του βίντεο βρίσκεται στο σημείο [46:49] όπου οι δυο επιστήμονες, μετά το [απαραίτητο] εγκώμιο του chatGPT ζητούν από αυτό να γράψει τη δική του εκδοχή διαλόγου που “θα λάμβανε χώρα ανάμεσά τους”, με βάση τα στοιχεία που έχει γι’ αυτούς. Και αναλαμβάνουν στη συνέχεια να …ερμηνεύσουν το διάλογο, στο ρόλο καθένας [της κατά chatGPT βερσιόν] του εαυτού του.
Τι συντελείται εδώ; μεταξύ σοβαρού κι αστείου : μια προκαταρκτική, συμβολική αυτοακύρωση σκεπτόμενων ανθρώπων από το πνευματικό “τους” δημιούργημα, κινούμενο πλησίστιο προς αντικατάστασή τους. Επαναλαμβάνω άλλωστε εδώ ένα μικρό απόσπασμα από προ διμηνίας post : Το μέλλον είναι διακριτό, άνευ βοηθείας του Chat GPT, ή μάλλον άνευ αυτής κατ’ αποκλειστικότητα : μετασχηματισμός του ηλίθιου σε virtual ευφυία, σε επικοινωνία με άλλες virtual ευφυίες – ηλίθιους. Άρα, επικοινωνία ανάμεσα σε παραρτήματα του ίδιου του Chat GPT στα οποία οι επιμέρους ηλίθιοι είναι μετασχηματισμένοι. Άρα, εκτόπιση του ανθρώπου από τις δραστηριότητές του, οι οποίες προκύπτουν μη ανθρώπινες.
Παρά τον [παράλογο] αέρα αισιοδοξίας που αποπνέει, το βίντεο είναι λίαν χρήσιμο, ως κατατοπιστικό των προβλημάτων της AI και των λύσεων που προωθούνται. Είναι επίσης ενδεικτικό μιας προσέγγισης σε ευρύ αριθμό θεμάτων : η αναφορά του κυρίου Δελλαπόρτα [03:40] σε γυναίκες μαθηματικούς που “κατάφεραν να αντέξουν στο bullying των ανδρών και να γίνουν διάσημες” [!], ή η επιλεκτική επίθεση του κυρίου Δασκαλάκη εναντίον του Elon Musk [59:24] ως προς την ασφάλεια των αυτο-οδηγούμενων [“ίσως τα λέει αυτά για να ανεβούν οι μετοχές της Tesla”] σε συνδυασμό με τη σιωπή του για τα εμβόλια [σε πλαίσιο αναφοράς στις …“εφαρμογές της AI στην παραγωγή φαρμάκων”] φωτογραφίζει τους συνομιλητές να υπηρετούν μια πολύ συγκεκριμένη και πολλαπλώς διακλαδιζόμενη woke ατζέντα.
“Παρεμπιπτόντως”, σε ομιλία του ΚΔ το 2017 στο Ίδρυμα Ωνάση [εδώ] ακούγεται [30:16] μια εκ διαμέτρου αντίθετη προσέγγιση : “είναι εκπληκτικό το πόσο λίγα ατυχήματα περιλαμβάνουν τα αυτο-οδηγούμενα αυτοκίνητα” [!].
Last but not least : καλό είναι κάποιος να μη ξεχνά την πολιτεία του “ανθρώπου που έλυσε τον γρίφο του Nash” εν καιρώ πανδημίας : πρόθυμος διαφημιστής των μασκών, του social distancing και του “μένουμε σπίτι”.
Η σοβαρότερη συζήτηση για το θέμα έλαβε χώρα στη δεκαετία του 80 με αποκορύφωμα το The Emperor’s New Clothes του Roger Penrose που αν δεν επισκιαζόταν από τη φήμη του κολλητού του Steven Hawking θα έπαιρνε τη θέση που του αξίζει ως ο τελευταίος των μεγάλων επιστημόνων (σε μια ιδέα του συγκεκριμένου βιβλίου στηρίζει εξάλλου την όποια καριέρα του και ο δικός μας Νανόπουλος). Η άποψή του είναι ότι ο ανθρώπινος εγκέφαλος δεν είναι υπολογιστής, η λειτουργία του δεν μπορεί να προσομοιωθεί με μαθηματικά μοντέλα και κάθε προσπάθεια μηχανικής αναπαραγωγής του θα καταλήγει πάντοτε σε μια ωραία τρύπα στο νερό.
Για ελάχιστους συγγραφείς βιβλίων “εκλαϊκευμένης επιστήμης” αισθάνομαι την οικειότητα που αισθάνομαι για τον R Penrose – Lee Smolin, Rupert Sheldrake και …δεν μπορώ να θυμηθώ άλλον.
Μπορώ να σκεφτώ πάντως και κάποιες πρακτικές χρήσεις της τεχνητής νοημοσύνης, για παράδειγμα στον πόλεμο ή στην εξερεύνηση του διαστήματος. Φαντάζομαι ότι και δυστυχήματα σαν το προχτεσινό θα μπορούσαν ίσως ναποφευχθούν, δεδομένου ότι τα μηχανήματα δεν το ρίχνουν στα τσίπουρα ή στον ύπνο εν ώρα υπηρεσίας.
Ως προς την εξερεύνηση του διαστήματος ίσως. Καλύτερα πάντως να αναλάμβαναν, όπως θα αναλάβουν, τα χειρωνακτικά και τα μηχανοποιημένα επαγγέλματα.
Για πόλεμο δεν θα τα εμπιστευόμουν. Παρεμπιπτόντως δεν ξέρω αν έχεις ακουστά τη “θεωρία συνωμοσίας” περί 4 αυτόνομων robot fighters που σκότωσαν 29 ανθρώπους σε εργαστήριο στην Ιαπωνία.
https://www.youtube.com/watch?v=gUb0ePX6Zbs
Το αφήγημα διαθέτει ανατριχιαστικές λεπτομέρειες : στο πλαίσιο της μάχης που έλαβε χώρα, και ενώ τα τρία ρομπότ είχαν καταστραφεί, το τέταρτο άρχισε να αυτοεπισκευάζεται, και όχι μόνο αυτό αλλά συνδέθηκε με δορυφόρο και άρχισε να κατεβάζει data με σκοπό να αναβαθμίσει τον εαυτό του. Μιλάμε ότι είχα αγριευτεί κανονικά όταν το είχα ακούσει. Ίσως γιατί με τα ρομπότ έχω εμμονή [σχέση θαυμασμού – φόβου] από νήπιο σχεδόν, λόγω των sci fi σίριαλ που έβλεπα. Το πιο αγαπημένο μου παιχνίδι ever ήταν ένα ρομπότ.
Όχι, δεν είχα ιδέα για το συγκεκριμένο. Περισσότερο σκεφτόμουν κάτι σαν το A Taste of Armageddon, όπου ο πόλεμος θα διεξάγεται αποκλειστικά μεταξύ μηχανών, αλλά χωρίς τις αντίστοιχες ανθρωποθυσίες του επεισοδίου. Λέμε τώρα..
Θα πρέπει πάντως να αισθανόμαστε τυχεροί που οι τύποι πραγματικά δεν ξέρουν τι τους γίνεται. Με τρόμο σκέφτομαι τι θα συνέβαινε σε περίπτωση που – λέμε τώρα – τα έφερνε ο τρόπος να έχουν στη δούλεψή τους ανθρώπους του επιπέδου ενός Χάιντεγκερ ή Βιτγκενστάιν, Όχι δηλαδή ότι θα δούλευαν ποτέ οι τελευταίοι για λογαριασμό τους. Ή ότι θα περνούσε από το μυαλό των ηλιθίων ποτέ να τους χρησιμοποιήσουν.
Aυτό το τελευταίο ειδικά αποτελεί κάποια εξασφάλιση : η πλειονότητα των επιστημόνων του χώρου χαρακτηρίζεται από εξαιρετικά χαμηλές επιδόσεις σε οποιονδήποτε άλλο τομέα, το ομολογούν οι ελάχιστοι που ξεφεύγουν τον κανόνα – όπως ο Jaron Lanier, ο οποίος σιγά-σιγά έχει περιθωριοποιηθεί/γραφικοποιηθεί ενώ είναι μια από τις “ιερές αγελάδες” της υποθέσεως. Ο τελευταίος αναφέρεται στους ιθύνοντες της Silicon Valley σαν a “bunch of kids who know literally nothing”.
Αλλά δεν ξέρω σε τι βαθμό ισχύει αυτή η εξασφάλιση. Ένας προς ένα οι άνθρωποι που σέρνουν το άρμα της “εξέλιξης”, από τον Klaus Schwab [τοπ σύμβουλος αυτού : Harari] μέχρι τον Larry Fink της BlackRock, είναι επί της ουσίας αστοιχείωτοι – η συγκεκριμένη ιδιότητα διαπερνά το λόγο τους – ή υποδύονται τους αστοιχείωτους αναμασώντας ιδεολογήματα εν γνώσει τους διάτρητα : κεντρική ιδέα είναι η updated version του original κορπορατιστικού [φασιστικού] συστήματος με τη woke ατζέντα σε ρόλο υπνωτικού για τα πλήθη και κωδικού “συνεννόησης” μεταξύ επιχειρήσεων / κυβερνήσεων.
Το θέμα είναι σε ποιους απευθύνονται και σε τι βαθμό είναι αυτοί οι τελευταίοι ικανοί να αντιληφθούν τί έρχεται κατά πάνω τους/μας.
Εδώ συζητάς με ανθρώπους και τους λες “καλά τόσα και τόσα πολύνεκρα δυστυχήματα έχουν γίνει [το πρώτο που μου έρχεται στο νου είναι το αεροπορικό της Ήλιος, middle ’00s, πάνω από 100 άτομα] θυμάσαι να γίνεται ξανά τέτοιος ορυμαγδός”; και παίρνεις απαντήσεις του τύπου “ε καλά ήταν άλλες εποχές τότε…”
Οι πάντες είναι έτοιμοι να δικαιολογήσουν οποιαδήποτε αθλιότητα της εξουσίας, προκειμένου να αποφύγουν την παραμικρή κίνηση αντίδρασης.
Η πλάκα είναι ότι και όσοι τα έχουν υποτίθεται με την κυβέρνηση, αντλούν τα όποια επιχειρήματά τους από την ίδια της την προπαγάνδα, πχ ότι δεν τιμώρησε όπως έπρεπε το Λιγνάδη. Εκεί που νομίζεις ότι επιτέλους ξύπνησαν, διαπιστώνεις ότι κοιμούνται ακόμα βαθύτερα και ο θόρυβος που κάνουν προέρχεται από το ροχαλητό. Οι νεκροφιλικές κορώνες των τελευταίων ημερών πέραν των υπολοίπων εμπεδώνουν και την αντίληψη “ας μην παραπονιέμαι, και που ζω τυχερός είμαι” που ξεκίνησε καληώρα με τον κορωνοϊό.
Το ευστοχώτατο σχόλιό σου ήρθε κατά σύμπτωση τη στιγμή που διάβαζα μια απάντηση σε κριτική δημοσιογράφου, από Βρετανό υγειονομικό παράγοντα, το νόημα της οποίας απάντησης ήταν : “να λέτε και ευχαριστώ που, όλη αυτή την περίοδο της πανδημίας, περιοριστήκαμε στα lock down και το social distancing. Θα μπορούσαμε [υπήρχαν …ενδείξεις που έδειχναν προς αυτή την κατεύθυνση] να διατάξουμε την εκτέλεση όλων των κατοικιδίων σας”.
Οι τύποι γίνονται θηριωδώς απροσχημάτιστοι. Με τον ίδιο ρυθμό που ο κόσμος μετατρέπεται σε πλακγτόν, αυτοί εδώ μετατρέπονται σε Τζένκινς Χαν και Ταμερλάνους.
Ένα πράγμα παρεμπιπτόντως που μου αρέσει με τα pro-millenium βιντεοπαιχίδια, είναι ότι δεν κρύβουν αυτό που είναι στην πραγματικότητα – παιχνίδια. H απόπειρα των meta-millenium videogames να μιμηθούν την πραγματικότητα, τα καθιστά σε μεγάλο βαθμό αξιοθρήνητες απομιμήσεις.
Η ελάχιστη πείρα που έχω του θέματος αρκεί για να καταλάβω τι εννοείς. Υποθέτω όλο το παρανοϊκό κόνσεπτ που τρώμε στη μάπα βασίζεται ακριβώς σ’ αυτό : confusion between virtual & reality. Στο βάθος βέβαια μπορεί να διακρίνει κανεις την τελική έκβαση όπου οι διαχωριστικές γραμμές καταλύονται και η διαφορά γίνεται irrelevant [according to Stephen Hawking].
Όπως αποδεικνύεται, το τραγουδάκι απ’ το εφηβικό ντεμπούτο της Sophie Marceau [Le Boum, 1980], εκτός από γλυκερό και ηλίθιο, ήταν και προφητικό : “Dreams are my reality”.
Pingback: Η ΥΨΗΛΟΥ ΕΠΙΠΕΔΟΥ ΟΡΓΑΝΩΣΗ ΤΗΣ "ΥΠΟΔΟΧΗΣ" ΤΗΣ A.I. - OANNES