Ο Joe Rogan μου είναι αντιπαθής, ως : 1. Πλάγιος (ή …έτσι νομίζει) κόλαξ, ίσως και υπάλληλος του Elon Musk, 2. κλασικός πτωχανίδεος “με άποψη”, διατυπούμενη με την αυταρέσκεια που δίνουν ένας-Θεός-ξέρει-πόσα-εκατομμύρια-ή-δισεκατομμύρια followers και 3. συνομιλητής των πάντων, συμπεριλαμβανομένων “μεγάλων διανοητών της εποχής” για …βαθειά φιλοσοφικά ζητήματα. Έγραψε τη χρυσή σελίδα της καριέρας του την περίοδο του Covid, μιλώντας θαρραλέα για την Ιβερμεκτίνη, και στρέφοντας εναντίον του τα μορμολύκεια της ροκ κουλτούρας – boomer icons τύπου Neil Young και Joni Mitchell – τα οποία απαιτούσαν την …παύση του “ψεκασμένου” podcast του από το Spotify (!) επ’ απειλή αποσύρσεως των τραγουδιών τους (μιλάμε για δημοκράτες, όχι παίξε-γέλασε).
Σε απόσταση απ’ τα παραπάνω, έχουμε τη συζήτηση με το “φιλόσοφο” Nick Bostrom, εισηγητή * του Simulation Argument – απ’ τις ακραίες περιπτώσεις εφαρμογής του petitio principii, και με το συμπέρασμα ανεπίδεκτο επαλήθευσης ή διάψευσης. Στο απόσπασμα που ακούμε ακούγονται οι σοφές τοποθετήσεις του ως προς το …αναπόφευκτο της έλευσης της Super Intellligence.
Ένα απ’ τα ενδιαφέροντα εδώ είναι η άποψη ότι πρέπει να προωθήσουμε την υπόθεση της A.I. για το δικό μας συμφέρον, αλλά και για το …δικό της, όπως και το συμφέρον …άλλων υπερανεπτυγμένων οντοτήτων εκεί έξω : η A.I. θα μας βοηθήσει να έρθουμε σε επαφή με αυτές ** με απώτερο σκοπό τη συμβολή όλων μας σε …κοσμική κλίμακα. (Συμβολή σε …τι ακριβώς; αφήνεται αδιευκρίνιστο, ως μυστηριακή υπόσχεση). Ούτως ή άλλως, η κεντρική ιδέα δείχνει να αφορά στο πόσο ευρύτερη είναι η νοημοσύνη απ΄αυτό που εμείς νομίζουμε (λες και υπάρχει κάτι …συγκεκριμένο που νομίζουμε, για το τι είναι νοημοσύνη), και κατ’ επέκταση στο πόσο πληκτική, a priori ασήμαντη είναι στο σύνολό της η ανθρώπινη εμπειρία.
Για τον υποφαινόμενο, οι συζητήσεις του είδους αποτελούν σταθερά πηγή ψυχαγωγίας ερήμην των συμμετεχόντων – το αυτό ελπίζω και για σας. Σε όποιον τέλος δυσκολεύεται να δει στο πρόσωπο του NB ένα είδος “κοσμικού” Yuval Harari, με ό,τι αυτό συνεπάγεται, εύχομαι …καλή τύχη.
* …και ούτε καν : έχει “τυποποιήσει” απλώς ιδέες που κυκλοφορoύν στο χώρο της λογοτεχνίας ε.φ. απ’ τα ‘60s – από τον Philip K Dick μεταξύ άλλων.
** Εδώ ίσως βρίσκεται η εξήγηση για τη συστηματική αλλά και ταυτόχρονη προώθηση των projects A.I. και UAPs / UFOs, με τη διαδικασία “εκτόξευσής τους” στο επίκεντρο της mainstream επικαιρότητας να ξεκινάει στις αρχές αυτής της δεκαετίας (2020-21) : η επικοινωνία μας με τον ασύλληπτα προηγμένο πολιτισμό των εξωγήινων οντοτήτων, θα συμβεί με ενδιάμεσο την …ασύλληπτα προηγμένη (οντότητα επίσης) “Τεχνητή Νοημοσύνη”.
Discover more from OANNES
Subscribe to get the latest posts sent to your email.
Truth be told από σένα τον γνώρισα τον τύπο. Δεν έχω διαβάσει τίποτα δικό του, έριξα όμως μια ματιά στη wikipedia και διαπίστωσα ότι πρόκειται για σπάνια περίπτωση ανθρώπου με τον οποίο διαφωνώ σε όλα. Του αναγνωρίζω πάντως την ικανότητα να δίνει στα λεγόμενά του βαρύγδουπα catchy names. Anyway μετά το Β’ΠΠ η φιλοσοφία ουσιαστικά τελείωσε. Τα σημαντικότερα έργα των last of the best Heidegger και Wittgenstein γράφτηκαν μεταξύ των δύο πολέμων – του δευτέρου μάλιστα κατά τη διάρκειά τους. Μετά το Είναι και Χρόνος εξάλλου ο Χάιντεγκερ το είχε γυρίσει σταδιακά στην ιστορία της φιλοσοφίας, για να προαναγγείλει στην τελευταία του συνέντευξη την αντικατάσταση της φιλοσοφικής δραστηριότητας από την “κυβερνητική” (όρος της περί τα 60s εποχής για τους αναδυόμενους τότε κλάδους της πληροφορικής και της τεχνητής νοημοσύνης). Ο Βιτγκενστάιν από την άλλη έθεσε ως δεδηλωμένο σκοπό των Φιλοσοφικών Ερευνών τον εξοβελισμό των φιλοσοφικών ερωτημάτων ανοίγοντας ταυτόχρονα το δρόμο για την δημιουργία των Μεγάλων Γλωσσικών Μοντέλων. Η μεταπολεμική ενασχόληση με το αντικείμενο – στο βαθμό που δεν αποτελεί πάρεργο των κομπιουτεράδων – θα μπορούσε στην καλύτερη περίπτωση να χαρακτηριστεί ως legacy discipline. Ο θάνατος βέβαια της φιλοσοφίας υπήρξε κατά τη γνώμη μου πρόωρος, δεδομένου ότι ακόμα υπάρχει άπλετος χώρος τόσο για καινούρια ερωτήματα όσο και για καινούργιες απαντήσεις. Δεν είναι τόσο η φιλοσοφία που έκανε τον κύκλο της, όσο οι άνθρωποι που έχουν τη βούληση και την ικανότητα να τη διατηρήσουν ζωντανή.
Εντωμεταξύ δεν ξέρω πώς θυμήθηκα τώρα μια κωμικοτραγική προ τριακονταετίας και βάλε σκηνή με τη μάνα μου. Ήταν μια τυπική μεταξύ μας λογομαχία. Σε κάποια στιγμή μού λέει αγανακτισμένη “Δεν μπορώ να συζητήσω άλλο μαζί σου! Έχεις αυτό το διαπεραστικό τρόπο να επιχειρηματολογείς που με βγάζει από τα ρούχα μου!” και μου γυρνάει την πλάτη. Ξαφνικά της ήρθε φλασιά. Με κοιτάζει κατάματα και με ρωτάει “Δεν πιστεύω να είσαι.. φιλόσοφος!?” Εγώ φυσικά γέλασα. Πρέπει όμως να ήταν η πρώτη φορά που είδα στα μάτια της τον τρόμο.
..του στυλ “μα ήταν ανάγκη να τύχει σε μένα?” Εκ των υστέρων βέβαια καταλαβαίνω τη στάση της. Με τη μητρική της διορατικότητα και το γυναικείο της πραγματισμό θα σκέφτηκε “τι προκοπή μπορεί να κάνει ένα τέτοιο παιδί?” Και είχε απόλυτο δίκιο.
Παρά την αναμφισβήτητη ευφυία της – ή μπορεί εν μέρει εξαιτίας αυτής – η μητέρα μου είχε βαθιά ριζωμένη μέσα της την πεποίθηση ότι στο κόσμο αυτό υπάρχει ένας απόλυτα φυσιολογικός τύπος ανθρώπου, στον οποίο ανήκουν λίγο πολύ όλοι εκτός από μένα. Και ως μάνα έκανε ό,τι περνούσε από το χέρι της για να το διορθώσει. Με το αντίθετο εννοείται ακριβώς αποτέλεσμα.
…Εν ολίγοις, για να το συνδέσω με την ιστορία της μητέρας, αυτό που συμβαίνει αυτή τη στιγμή με τα ρομπότ και τα chat boxes πέρα από τις “οικονομικές”, “γεωπολιτικές” κτλ. παραμέτρους είναι μια γιγάντα προσπάθεια να πεισθεί ο άνθρωπος ότι …δε χρειάζεται να σκέφτεται, να ρωτάει, να αμφισβητεί ο,τιδήποτε. Οφείλει να αφεθεί στη μητρική αγκαλιά μιας A.I. – τροφού που φροντίζει για όλα. Η διαφορά με τις μανάδες μας είναι ότι αυτή η τροφός, όχι απλώς δε νοιάζεται : τίποτα δε μας εξασφαλίζει ότι δε θα μας σκοτώσει. Και το τελευταίο που ενδιαφέρει είναι το αν και πώς θα …αισθάνεται όταν το κάνει.
Την ιστορία με το hacking που έκαναν τα μοντέλα της Open Ai τη διάβασες υποθέτω…
Φευγαλέα πήρε το μάτι μου ένα τίτλο, αλλά δεν έδωσα σημασία. Κατά τη γνώμη μου οι σχετικές ειδήσεις/πληροφορίες κινούνται στο χώρο του shock value/clickbait. Επαναλαμβάνω απλώς την πάγια θέση μου ότι γενικά η νοημοσύνη – όχι μόνο η τεχνητή αλλά και η ανθρώπινη – δεν κάνει τίποτε από μόνη της. Η νοημοσύνη αποτελεί μέσο και όχι αυτοσκοπό. Τεχνητή βούληση – και μάλιστα πολύ συγκεκριμένου τύπου – απαιτείται για την καταστροφή μας και όχι τεχνητή νοημοσύνη. Κι αυτό εννοείται προαιρετικά: υπάρχουν ένα σωρό κακόβουλοι άνθρωποι που μια χαρά μπορούν άμα λάχει να φέρουν την καταστροφή μας.
Φοβάμαι ότι αυτή τη φορά δεν είναι έτσι. Η τεχνητή νοημοσύνη είναι επικίνδυνη όχι φυσικά λόγω …κακοβουλίας της φύσης της, αλλά γιατί όντας στοχοπροσηλωμένη στην εκάστοτε αποστολή που της ανατίθεται, είναι ταυτόχρονα πολύ ηλίθια για να επιδέχεται ασφαλιστικές δικλείδες ηθικού τύπου. Ως εκ τούτου, κλέβει κανονικά σαν μαθητής που διαβάζει από σκονάκι χωρίς να αντιλαμβάνεται το κακό που μπορεί να κάνει. Στη συγκεκριμένη περίπτωση, τα “μοντέλα” της Open AI αντί να λύσουν συγκεκριμένα προβλήματα επί σκοπώ βαθμολογικής αξιολόγησής τους, “επέλεξαν” να βρουν έτοιμες τις απαντήσεις, ως εξής : δραπετεύοντας κατ’ αρχήν από το απομονωμένο περιβάλλον όπου γινόταν η δοκιμή και εισερχόμενα στο διαδίκτυο (πρώτη αυθαιρεσία) και εν συνεχεία χακάροντας τα αρχεία μιας άλλης εταιρίας (Huggin’ Face) έχοντας υποθέσει, σωστά, ότι εκεί θα εύρισκαν τις απαντήσεις (δεύτερη αυθαιρεσία).
Ως προς τη μητέρα σου, χωρίς να ξέρω φυσικά, και επιλέγοντας απλώς το θετικό σενάριο: είναι πιθανό να καταπίεζε ένα αυθόρμητο θαυμασμό για το μυαλό του “παιδιού” (στο κάτω – κάτω οι γυναίκες του ζωδίου της, που μου είχες αναφέρει κάποια στιγμή, είναι οι κατ’ εξοχήν επιρρεπείς στο θαυμασμό των “διανοουμένων”) εν ονόματι μιας φοβίας πηγάζουσας απ’ το μητρικό ένστκτο και απ’ την επίγνωση ότι οι σκεπτόμενοι άνθρωποι …δεν ακριβώς καλοπερνάνε. Τουλάχιστον εκείνοι, η συντριπτική πλειονότης δηλ., που δεν καταφέρνουν να εξαργυρώσουν τη σκέψη τους.
Με τα όποια θετικά της “ιδιαιτερότητάς” μου – τους βαθμούς του σχολείου για παράδειγμα ή το μουσικό μου αυτί (που άσπλαχνα εγκατέλειψα στην τύχη του) – δεν είχε φυσικά κανένα πρόβλημα. Το αντίθετο μάλιστα. Δεν μπορούσε όμως να δεχτεί αυτά που έβλεπε ως κοινωνικά μειονεκτήματα. Και δεν την αδικώ.
Το πρόβημα φυσικά είναι ότι ουδείς τους είχε δώσει τέτοιες οδηγίες. “Επέλεξαν” απλώς αυτόν ως (ασφαλέστερο; συντομότερο; whatever) τρόπο να λύσουν το “διαγώνισμα”.
Δεν θέλω να υποτιμήσω την ανησυχία σου, αλλά συνεχίζω να θεωρώ τα παραπάνω τερατολογίες. Εδώ σε αυτοκίνητα και πολυκατοικίες ανακαλύπτονται ακόμα δομικές αδυναμίες.. αιώνων. Αν πάντως ήμουν στη θέση τους και ανακάλυπτα κάποιο σοβαρό λειτουργικό πρόβλημα, θα έκανα ό, τι περνούσε από το χέρι μου για να το αποκρύψω. Σκέψου μόνο το μέγεθος της εμβολιακής επί κορωνοϊού συνωμοσίας. Κι όμως αυτοί τα βγάζουν από μόνοι τους κάθε τρεις και λίγο στη φόρα και μάλιστα μετά χαράς (wow κοίτα τι κάνει το άτιμο!”). Το χειρότερο σενάριο που θα μπορούσα να φανταστώ είναι μια δραστική μείωση του παγκόσμιου πληθυσμού που θα φορτώσουν στους εξωγήινους ή στην τεχνητή νοημοσύνη.
Κι άντε να βρουν μετά οι άλιενς και τα μηχανάκια το δίκιο τους!
Αυτό ανήκει όπως ξέρεις στον κύκλο και των δικών μου σεναρίων : αλλά η ανεπάρκεια των “συστημάτων” (σε σύγκριση με τις διακηρύξεις) για την οποία είμαι σίγουρος, ουδόλως μειώνει την καταστροφική επίδραση τους. Αντίθετα τη μεγαλώνει : δε χρειάζεται να πάμε σε Αποκαλύψεις και Αρμαγεδδώνες. Αρκεί το απόλυτο διανοητικό κώμα στο οποίο οδηγούνται οι… ήδη αποκτηνωμένοι ηλίθιοι των νεώτερων γενεών. Και αυτό το γενεαλογικό χάσμα είναι πιστεύω, για πρώτη φορά αληθινό, και μη επιδιορθώσιμο / αντιστρέψιμο.
Κάθε τεχνητό δημιούργημα πρέπει να περάσει από μια μακροχρόνια διαδικασία “φυσικής επιλογής” τον έλεγχο της οποίας έχει στα χέρια του ο άνθρωπος: ό, τι δεν κάνει σωστά τη δουλειά για την οποία δημιουργήθηκε, σταδιακά εξαλείφεται.
Το κύριο πρόβλημα για μένα είναι η επιτάχυνση του προϊόντος εκφυλισμού του ανθρώπινου πνεύματος και στη συνέχεια της ίδιας της τεχνητής νοημοσύνης που τρέφεται και καθοδηγείται από αυτό. Πράγμα που δεν αποκλείεται να έχει την ίδια εφιαλτική κατάληξη με αυτή που περιγράφεις.
…Αυτό θα πει σύμπτωση. Εννείται ότι δεν είχα διαβάσει το τελευταίο σου σχόλιο.
“Ο θάνατος βέβαια της φιλοσοφίας υπήρξε κατά τη γνώμη μου πρόωρος, δεδομένου ότι ακόμα υπάρχει άπλετος χώρος τόσο για καινούρια ερωτήματα όσο και για καινούργιες απαντήσεις“. Εδώ ακριβώς βρισκεται το βασικό μου πρόβλημα με την (αηδιαστική) ιστορία περί Τεχνητής Νοημοσύνης που “σύντομα θα είναι σε όλα ανώτερη απ’ τον άνθρωπο“. Και εννοείται ότι αυτό για το οποίο μιλάμε εκτείνεται πέραν της φιλοσοφίας : το περί A.I. αφήγημα καταδικάζει τον άνθρωπο σε “εθελούσια έξοδο” από την κοσμική σκηνή με “επιχειρήματα” που ανήκουν αποκλειστικά στο χώρο του μάρκετινγκ, και άλλο δεν κάνουν από το να συγκαλύπτουν τον πραγματικό σκοπό του αφηγητή της υποθέσεως (= total control). Αν μπορούσαμε να φανταστούμε, σε ένα sci fi story line, την είσοδο της A.I. (επιβεβλημένη απο …εξωγήινους εισβολείς, ας πούμε) να συντελείται το Μεσαίωνα, όλα όσα έχουν επακολουθήσει από Αναγεννήσεως και εντεύθεν, όλη η μουσική, η ζωγραφική, η φιλοσοφία, η επιστήμη και η τεχνολογία, θα διαγράφονταν δια μιάς. Το ερώτημα που προκύπτει (αποκαλύπτοντας πιθανώς το φαύλο κύκλο στον οποίο βρισκόμαστε) είναι : μπορούμε να πούμε ότι κάτι αντίστοιχο ετοιμάζεται να συμβεί σήμερα; με άλλα λόγια, υπάρχουν μυαλά σήμερα, που θα μπορούσαν να πυροδοτήσουν “αδιανόητες” εξελίξεις χωρίς το ντάντεμα, και οσονούπω φάσκιωμα, της τεχνητής νοημοσύνης; Η απάντηση ειναι δύσκολη. Γιατί σε μια πρώτη, όχι επιφανειακή ανάγνωση, αυτό που πρώτα και συστηματικά καλλιεργήθηκε είναι μια διανοητική καχεξία, από την κορυφή της πυραμίδας έως τη βάση της. Αν διαβάσει κανείς ανακοινώσεις “καθημερινών ανθρώπων” – εκπρόσωπων κοινωνικών κινημάτων του 19ου, 18ου …και βάλε αιώνα, θα σαστίσει απ’ το επίπεδο ευφυίας και ευθυκρισίας τους – κωμικοτραγικά ανώτερο εκείνου ενός σημερινού …”great thinker of our times”.
Παρ’ όλα αυτά δεν έχω αμφιβολία ότι αυτό είναι, ή έστω θα ήταν αν το αφήναν, αντιστρέψιμο : ακόμα και σε νεαρές ηλικίες (μακρυά από μένα το αηδιαστικό γλείψιμο στους νέους γενικώς και αορίστως), προσέχοντας κάποιος βλέπει σοβαρά άτομα, τα οποία αντιλαμβάνονται τι ακριβώς συμβαίνει, και το βαθμό στον οποίο γίνονται έρμαια μιας κατάστασης για την οποία ουδείς τους είχε προειδοποιήσει.
Μια συνηθισμένη Δευτέρα!😁
Για να συνδέσω κι εγώ τα δύο θέματα των πρωινών μου σχολίων, οι κομπιουτεράδες αναφέρονται συχνά στις δημιουργίες τους με τον ίδιο περίπου τρόπο που ορισμένες μητέρες αναφέρονται στις ζαβολιές των παιδιών τους δίκην κομπλιμέντου. Μόνο που οι πρώτοι το κάνουν με το αζημίωτο.
Δεν γνωρίζω εντωμεταξύ τι ακριβώς είχε στο μυαλό του ο Bostrom – μόνον αποσπασματικά παρακολούθησα τη συζήτηση – τα LLMs όμως δεν είναι σε θέση να κατανοήσουν και να μεταφράσουν μια εξωγήινη γλώσσα στη δική μας χωρίς προϋπάρχοντες κανόνες ή παραδείγματα μετάβασης από την πρώτη στη δεύτερη. Πόσο μάλλον όταν μιλάμε για μια μορφή ζωής πολύ διαφορετική από τη δική μας.
Κατ’ αρχή ο τύπος είναι κραυγαλέα ηλίθιος (ακόμα και το όνομα …Bostrom είναι ηλίθιο, για να μη μιλήσω για τη φάτσα του). Από κει και πέρα, γα να είμαστε δίκαιοι 😃 δεν αναφέρεται στα LLM αλλά στην Super Intelligence, η οποία είναι …πάνω κι απ’ την AGI, “πολύ ανώτερη” δηλ. “από την ανθρώπινη νοημοσύνη σε όλους τους τομείς” (σε απλά ελληνικά : θέτουμε ένα στόχο όχι απλώς ακαθόριστο αλλά μη επιδεκτικό καθορισμού και …κάποια στιγμή αποφασίζουμε ότι τον φτάσαμε). Εδώ ο αρχικαρα-twisted idiot Ray Kurzweil μιλάει για μια superintelligence με την οποία συγχωνευόμενοι θα φτάσουμε στη …θέωση, κι εσύ κολλάς σε λεπτομέρειες όπως η συνομιλία με εξωγήινους;
Αυτό με τη φάτσα και το επώνυμο του Bostrom έτοιμος ήμουνα να το ξεστομίσω, δεδομένου όμως ότι δεν έχω ασχοληθεί διεξοδικά με το έργο😅 του εν λόγω, είπα να κρατήσω μια πισινή. Πέραν τούτου επιμένω στην άποψη ότι δεν μπορεί να υπάρξει αυτό που λέμε “super intelligence”. Μια μορφή νοημοσύνης που δεν γίνεται κατανοητή και δεν ελέγχεται από μερίδα έστω ειδικών επί του αντικειμένου (όπως πχ συμβαίνει με τα προχωρημένα μαθηματικά) εμπίπτει απλά στο χώρο του παραλόγου. Εξαιρείται η περίπτωση που η “νοημοσύνη” αυτή μπορεί συστηματικά να κάνει απίθανες προβλέψεις ή να φέρνει πάντα το επιθυμητό πρακτικό αποτέλεσμα, χωρίς κανένας να γνωρίζει τον τρόπο. Η περίπτωση αυτή βέβαια εμπίπτει στην κατηγορία του Προφήτη – ο Turing την ονόμαζε Oracle Machine – και του Θεού. Ας τη δούμε πρώτα με το καλό και στη συνέχεια το συζητάμε.
Ο λόγος που δεν μπορεί να υπάρξει superintelligence είναι ότι, απλούστατα, δεν υπάρχει ορισμός του …intelligence.
Πέραν τούτου, δεν υπάρχει “μηχανισμός” που να εξηγεί πώς μέσω διαρκών αναβαθμίσεων (αβυσσαλέου μπουκώματος με data *) τα LLM θα εξελιχθούν σε AGI και στη συνέχεια σε superintelligence. Στην καλύτερη περίπτωση, πρόκειται για wishful thinking που κάποιοι εννοούν να βλέπουν σαν επιστημονικό στόχο, και μάλιστα εφικτό. Στη χειρότερη, που είναι η πιθανότερη, πρόκειται για απάτη προς ενθυλάκωση επενδύσεων.
* το τι ενέργεια και νερό χρειάζονται όλα αυτά δεν το συζητάμε καν. Κι αυτό, στο πλαίσιο ενός συστήματος που κουνάει σε μας το δάχτυλο για οικονομία και στα δυο.
Θεωρώ ότι το amount της προσοχής που έχουν αποσπάσει αυτοί οι άνθρωποι και οι εργατοώρες που δαπανώνται 24/7 για το σχολιασμό των θέσεών τους, δεν έχουν να ζηλέψουν τίποτα απ’ την οικουμενική σύμπλευση με τα περί κωρονοϊού, ανθρωποκεντρικού climate change κλπ. αφηγήματα.
Ακομα και οι περισσότεροι που μιλούν για μια τεράστια φούσκα (αδιαμφισβήτητη imho) δεν παραλείπουν να εκφράσουν θαυμασμό για την τεχνολογία την ίδια.
Μα ο μόνος τομέας που παρουσιάζει χειροπιαστή πρόοδο είναι το marketing – also known as.. dry bread🍞