Του Στέφανου Μπακατσή
Με όλη αυτή την εμμονή στην terminator πλευρά της ΤΝ έχουμε χάσει από τα μάτια μας τα όποια θετικά της υπόθεσης. Θα πρέπει να υπάρχουν και τέτοια προφανώς, αλλιώς γιατί να σκοτώνονται Κίνα και Αμερική για τα πρωτεία? Το μόνο που ακούμε όμως μέχρι στιγμής είναι γενικότητες περί superintelligence. Αλλά τι ακριβώς θα κάνει μια υπέρτερη νοημοσύνη? Ας φανταστούμε για παράδειγμα ότι στην τάδε καθυστερημένη και απομονωμένη χώρα με μέσο IQ 80 γεννιέται ξαφνικά ένα παιδί με IQ 160 – για να παραμείνω στα όρια των “αξιόπιστων” μετρήσεων. Τι μπορεί να κάνει ένα τέτοιο παιδί; Πρακτικά τίποτα. Πάντα θα προσκρούει στο αδιαπέραστο τείχος βλακείας του κοινωνικού του περιβάλλοντος. Όχι μόνο θα πρέπει να στηρίζεται για την πνευματική του ανάπτυξη στην παραγωγή των συμπατριωτών του, αλλά θα πρέπει επίσης να θέτει τη δική του παραγωγή στην κρίση τους. Η μόνη βιώσιμη προοπτική που του ανοίγεται είναι να εκμεταλλευτεί τη βλακεία τους προς ίδιον όφελος, να γίνει δηλαδή ένας επιτυχημένος κακός. Κάτι ανάλογο θα πρέπει να συμβαίνει και με την τεχνητή superintelligence. Αφενός δηλαδή θα πρέπει να τρέφεται από την πνευματική παραγωγή των ανθρώπων, αφετέρου να κρίνεται ως προς την ικανότητα και την αποτελεσματικότητά της από αυτούς. Με άλλα λόγια ο άνθρωπος θα είναι πάντοτε για μια τέτοια τεχνητή νοημοσύνη περιοριστικός παράγοντας. Αν ποτέ αυτή αποκτούσε “βούληση για δύναμη” – το μόνο ουσιαστικά χαρακτηριστικό που διαχωρίζει τον ζώντα οργανισμό από τη μηχανή – θα επιδίωκε ίσως να εκμεταλλευτεί προς ίδιον όφελος τη νοητική αδυναμία των δημιουργών της ή ακόμα και να τους ξεφορτωθεί σε περίπτωση που έβρισκε “τροφή” αντάξια των δυνατοτήτων της. Δεν αποκλείεται όμως και να προσπαθούσε να τους αλλάξει προς το καλύτερο, στο βαθμό που θα ήταν αναγκασμένη να ζει ανάμεσά τους. Αυτό θα έκανε και το προικισμένο παιδί αν είχε τα μέσα. Και αυτή θα τα έχει. Προς το παρόν βέβαια δανείζεται τη “βούληση για δύναμη” από τους ανόητους δημιουργούς της, κάτι που καθιστά μια career of evil το πιθανότερο ενδεχόμενο.
Discover more from OANNES
Subscribe to get the latest posts sent to your email.
Νομίζω ότι το λάθος δεν ξεκινάει από την Terminator-οποίηση της A.I. αλλά ήδη απ’ την “ανθρωποποίησή” της. Και δεν υπάρχει πιο παραπλανητική φιλολογία από αυτήν που κυριαρχεί στο “public square” (my ass) του διαδικτύου περί εφιαλτικής επικινδυνότητας μιας A.I. που αναπτύσσει ξαφνικά ως δια μαγείας “δικούς της στόχους” … άσχετους με εκείνους των ανθρώπων.
Ένα παράδειγμα που μου έρχεται πάντα αναφορικά με τέτοια ζητήματα είναι το μάγμα : αναζητώντας διέξοδο από τα έγκατα της γης στην επιφάνεια, “ψάχνει”, όχι φυσικά με …έλλογο τρόπο, ούτε καν ενστικτώδη, παρόλα αυτά με κάποια μαθηματικά οριζόμενη νομοτέλεια, τον τρόπο που θα πετύχει αυτή τη διέξοδο. Αυτή η αναζήτηση περιλαμβάνει, ασυναίσθητα πάντα, ακόμα και τη διαδικασία του trial and error : πιθανές διαδρομές ανοίγονται ή δοκιμάζονται ταυτόχρονα ή διαδοχικά. Κάποιες μπλοκάρονται, η πίεση ανακατανέμεται, ανοίγονται νέες ή επεκτείνονται άλλες. Τελικά κυριαρχεί η διαδρομή ή το δίκτυο διαδρομών που επιτρέπει τη μεγαλύτερη ροή με τη μικρότερη αντίσταση.
Πρόκειται για κλασική περίπτωση αυτο-οργάνωσης και αναδυόμενης πολυπλοκότητας σε ανόργανα συστήματα. Και …με αυτό τον τρόπο μπορεί κανείς να ερμηνεύσει τις κινήσεις των Ai systems “gone rogue” : πρόκειται απλώς για την “ακατανίκητη” επιθυμία τους να πετύχουν το σκοπό που τους έχει τεθεί. Χωρίς αυτό να προϋποθέτει ντε και καλά ανθρώπινες ιδιότητες και …σκοτεινές προθέσεις για τις οποίες ανόητα (ή …κουτοπόνηρα) μιλούν διάφοροι.
Υπάρχει βέβαια και η αντίστροφη οπτική του ανόργανου κόσμου ως ζωντανού οργανισμού την οποία καθόλου δεν απορρίπτω ελαφρά την καρδία. Το ζήτημα του αν το “πράγμα” έχει “συνείδηση” αντιθέτως το βρίσκω μάλλον αδιάφορο. Δεν είναι η δουλειά του να έχει συνείδηση ούτε η συνείδηση αποτελεί απαραίτητα προνόμιο. Μη σου πω κιόλας ότι και η “συνείδηση” στο μεγαλύτερο μέρος της είναι.. ασυνείδητη.
Με την έννοια δηλαδή ότι πάντα η πράξη προηγείται της αντίληψης – Im Anfang war die Tat που έλεγε κι ο Γκαίτε. Η αντίληψη μάλιστα δεν επηρεάζει την πράξη σε μεγαλύτερο βαθμό απόσο επηρεάζουν την έκβαση ενός ποδοσφαιρικού αγώνα οι επευφημίες και οι αποδοκιμασίες των θεατών!
Η πράξη μπορεί να προηγείται χρονικά της αντίληψης αλλά κατ’ ελάχιστον. Το “πρακτικό” αποτέλεσμα είναι ότι η αντίληψη / εποπτεία ουσιαστικά συνοδεύει την πράξη, επηρεάζοντάς την. Άσε που και οι ίδιες οι ποδοσφαιρικές επευφημίες / αποδοκιμασίες είναι συχνά καθοριστικές της έκβασης του αγώνα, εξ ου το πλεονέκτημα της έδρας.
😁👍
Thanks. Το πιο σοβαρό κατά την άποψή μου θέμα είναι η διαφορά της νοημοσύνης ενός ανθρώπου από τη “νοημοσύνη” μιας μηχανής (αν υποτεθεί ότι κάποια στιγμή θα αποκτήσει. Δεν εννοώ τη “νοημοσύνη” των LLM)
Πού μπορεί να πει κανείς ότι έγκειται αυτή η διαφορά; Θα έλεγα στο ότι η αυτοσυνείδηση του ανθρώπου συνδέεται με άλλες λειτουργίες από εκείνες με τις οποίες συνδέεται η αυτοσυνείδηση της μηχανής. Και ότι αυτές αφορούν φυσικά στο σώμα και τον οργανισμό του. Ανθρώπινη νοημοσύνη / συνείδηση είναι μόνο αυτή που “κατοικεί” μέσα σε ένα ανθώπινο σώμα. Η μόνη πιθανότητα για την ΤΝ να αποκτήσει ανθρώπινη νοημοσύνη είναι να κατοικήσει σε μια πλήρη προσομοίωση ανθρώπινου σώματος – συμπεριλαμβανομένης της φθαρτότητάς του. Αλλιώς…
…Πώς μπορεί μια “νοημοσύνη μεν, αλλά …άλλου είδους νοημοσύνη” να μπει επί της ουσίας στη θέση ενός ανθρώπου, προτείνοντας λύσεις για αυτόν και τη ζωή του; Και επομένως, τι είδους concept είναι αυτό, η …υποκατάσταση του ανθρώπου από μια A.I. που …”μπορεί να κάνει τα πάντα καλύτερα από αυτόν“; πόσο σοβαρό φαίνεται και σαν σύλληψη και σαν (Θεός φυλάξοι) εφαρμογή;
Πολύ πιθανό. Αυτή άλλωστε είναι και η θέση του Penrose από την εποχή του The Emperor’s New Clothes. Κατά τη γνώμη μου πάντως το θέμα της ΤΝ έχει πάρει αδικαιολόγητα μυθολογικές διαστάσεις που συσκοτίζουν τη συζήτηση. Ένα καλό hifi συστηματάκι για παράδειγμα μιμείται ωραιότατα τη live μουσική χωρίς να σκανδαλίζει κανένα. Μερικές φορές μάλιστα παίζει καλύτερα κι από το αληθινό. So what? Αυτό βέβαια το λέμε σήμερα εμείς. Όσοι όμως είχαν την τύχη να παρευρίσκονται στην πρώτη επίδειξη του φωνογράφου (!) από τον Έντισον, πίστευαν ακράδαντα ότι γίνονται μάρτυρες μιας ακατανόητης μορφής μαγείας!
Σε μεγάλο βαθμό η μυθοποίηση αυτή προκύπτει από το γεγονός ότι δεν γνωρίζουμε τίποτα για την αρχή λειτουργίας του εγκεφάλου. Πες όμως ότι κάποια στιγμή την ανακαλύπτουμε και διαπιστώνουμε ότι έχει ψηφιακό χαρακτήρα όπως καληώρα το dna. Μήπως αυτό μας εξισώνει αυτόματα με τους υπολογιστές? Τα πράγματα είναι όπως είναι. Δεν μεταβάλλεται η φύση τους με το να τους καρφιτσώνουμε ταμπέλες.
Για μας τους ανθρώπους βέβαια οι ταμπέλες είναι το παν. Εξ ου και η προδιαγεγραμμένη αποτυχία της εκστρατείας του Λουδοβίκου ενάντια στη “μαγεία που ασκεί στη νόησή μας η γλώσσα”. Τουλάχιστον εκτίμησαν την προσπάθειά του τα LLM!
Εδώ …δεν κρατιέμαι να μη περιαυτολογήσω, σημειώνοντας ότι …αυτό που αντελήφθη για τη γλώσσα ο σοφός στα 40 του or something, το είχα αντιληφθεί εν πλήρει σοβαρότητι, ως έφηβος. Και όχι μόνο αντιληφθεί διαισθητικά, αλλά και αναπτύξει. 😇🥇🏆
Το ότι ένα στερεοφωνικό / βίντεο μπορεί να προσομοιώνει μια live εκτέλεση αφορά αποκλειστικά τον “προσλαμβάνοντα”. Κάτι αντίστοιχο ισχύει και με ένα LLM που προσομοιώνει ένα λογικό συζητητή. Η επιτυχία αφορά εκτός των άλλων στην απόφαση του “προσλαμβάνοντα” να πιστέψει, και στη συνακόλουθη αναστολή δυσπιστίας. Το θέμα είναι τι πραγματικά είναι η αναπαραγωγή ήχου/εικόνας και τι η αναπαραγωγή των διαδικασιών της σκέψης, εκτιλυσσόμενη στο “εσωτερικό” ενός AV system ή ενός LLM.
Πιστεύω ότι η μυθοποίηση της A.I., με τις εφιαλτικής / ουτοπικής φύσεως παραμέτρους της εντάσσεται κατ’ αρχήν στο γνωστό σύμπλεγμα ιστοριών, από τον Προμηθέα και τον Δαίδαλο, μέχρι τον Φρανκενστάιν, το Γκόλεμ, τον HAL 9000 και τον Terminator – όλα υπαγόμενα σε μια διαδικασία …ενοχών του ανθρώπου για την απώλεια της επαφής με τη φύση στο όνομα μιας απληστίας για δύναμη, απ’ την οποία ποτέ δεν αισθάνεται ικανοποιημένος.
Κατά δεύτερο λόγο φυσικά εντάσσονται σε …παρά φύσιν, παρασιτικές καταστάσεις όπως το μάρκετινγκ και η ανάγκη των media για αέναο storytelling.
Το πρόβλημα είναι αν μπορούν να τεθούν ασφαλιστικές δικλείδες και “κόκκινες γραμμές” στο βαθμό αυτονόμησης της A.I., πχ. να μη μπορεί να λάβει μόνη της μια απόφαση μη αντιστρέψιμη. Μια καλή ώθηση προς ευαισθητοποίηση των tech bros επ’ αυτού θα ήταν το accountability για τις μαλακίες που (μπορεί να) κάνουν τα κωλομηχανήματά τους. Γιατί προς το παρόν, χάρη στον κύριο Τραμπάκουλα, εκεί που ένας φουκαράς χάκερ θα “τα είχε δει όλα”, οι εν λόγω βρίσκονται στο απυρόβλητο.
Κατά τη γνώμη μου ο περιορισμός των ανεπιθύμητων ενεργειών της ΤΝ είναι πολύ ευκολότερος από τον περιορισμό πχ των παρενεργειών των φαρμάκων. Το ζήτημα είναι αν τους ενδιαφέρει.
Μην ξεχνάμε και τον μεγαλύτερο κατά τη γνώμη μου κίνδυνο, τον οποίο είχα εκθέσει παλιότερα ως μακροπρόθεσμο, αλλά φαίνεται ότι θα είναι τελικά ο αμεσότερος. Η ανάθεση δηλαδή όλο και περισσότερων εργασιών στην τεχνητή νοημοσύνη θα οδηγήσει σε ατροφία την ανθρώπινη νοημοσύνη, πράγμα που με τη σειρά του θα οδηγήσει την τεχνητή νοημοσύνη σε σταδιακό εκφυλισμό, αφού η τελευταία θα τρέφεται με όλο και χαμηλότερης ποιότητας πνευματική τροφή – ανθρώπινη αλλά και τεχνητή. Το φαινόμενο μάλιστα του “πνευματικού κανιβαλισμού” – το να τρέφεται η ΤΝ με όλο και περισσότερα δικά της προϊόντα – έχει πρόσφατα θορυβήσει τους ιθύνοντες του χώρου που βλέπουν το μωρό τους να εκφυλίζεται from day one και το έχουν στρώσει στο.. διάβασμα. Των κλασικών that is, δεδομένου ότι σύντομα οι μοντέρνοι θα έχουν ξεχάσει και να γράφουν και να διαβάζουν.
Συμφωνώ ως προς την ατροφία, αλλά με την προσθήκη ότι μια προϊούσα …μαλάκυνση εγκεφάλου από γενιά σε γενιά πρετοιμάζει, δεκαετίες τώρα, την “ανθρωπότητα” για την υποδοχή της A.I. ως superior intelligence. Όταν ήρθαν τελικά τα chat boxes, τα υποδεχτήκαμε, “σαν” έτοιμοι απο καιρό.
Ως προς τα συνθετικά data με τα οποία όντως τρέφονται όλο και περισσότερο τα μοντέλα (καθώς τα “καθαρά”, ανθρώπινα δεδομένα …ήδη τελειώνουν) θα είναι το κερασάκι σε μια εκφυλιστικη διαδικασία που από τον άνθρωπο μεταπηδάει στο ίδιο το δημιούργημά του.
Άστα γιατί στο συγκεκριμένο έχω και προσωπική (“επαγγελματική”) εμπειρία. Έτσι όπως εξελίσσεται το πράγμα, η λεγόμενη “διά βίου εκπαίδευση” θα σημαίνει ουσιαστικά επιστροφή στο Δημοτικό!
Σίγουρα. Αλλά …εξαρτάται από ποιο δημοτικό. Γιατί, επειδή θυμάμαι κάποια πράγματα, εγώ και οι περισσότεροι συμμαθητές μου της 6ης δημοτικού μιλούσαμε καλύτερα ελληνικά από αυτά του μέσου δημοσιολόγου που “επιχειρηματολογεί” σήμερα κραδαίνοντας ένα …ακαδημαϊκό πτυχίο (αυτό είναι συνήθως και το μόνο επιχείρημά του).
Οι “ακαδημαϊκοί τίτλοι” τις τελευταίες δεκαετίες έχουν περάσει σε φάση ανεξέλεγκτου πληθωρισμού. Όσο μεγαλύτερη δηλαδή ακούγεται η ονομαστική τους αξία, τόσο μικρότερη αποδεικνύεται η πραγματική. Σαν τους βαρύγδουπους κρατικούς τίτλους που μοίραζαν απλόχερα οι τελευταίοι βυζαντινοί αυτοκράτορες ή σαν τα κατοχικά χαρτονομίσματα των δισεκατομμυρίων που αγόραζαν μετά βίας μισή φραντζόλα ψωμί.
😎👍
Εγώ πάλι άργησα λίγο να το αποδεχτώ. Ακόμα και τώρα πιάνω συχνά τον εαυτό μου να περιπλέκεται στα δίχτυα των λέξεων. Έχω γνωρίσει πάντως και ανθρώπους – όχι οπωσδήποτε αμόρφωτους – που προσπερνάνε την εν λόγω παγίδα σα να μην έγινε τίποτα.
Υποθέτω ως προς εμένα έπαιξε ρόλο η συνειδητοποίηση της ενσωμάτωσης του ήχου της (αγγλικής) γλώσσας στο μουσικό γίγνεθαι. Η αντιμετώπιση δηλ. των λέξεων κατ’ αρχήν ως σινιάλων / άναρθρων κραυγών – γιατί εννοείται ότι όντας πολύ μικρός, μου διέφευγε το νόημα του μεγαλύτερου ποσοστού αυτών. Εν ολίγοις ένα είδος ηχητικής …ανοημάτιστης προσέγγισης στις λέξεις. Η οποία γρήγορα επεκτάθηκε (“δημιουργικώ τω τροπω”) και στις ελληνικές. Πέρα από τις υπερλεξιστικές εντρυφήσεις, υπήρχε ένα πολύ ενδιαφέρον, “διαλογιστικού τύπου” state of mind, στο οποίο ευρισκόμενος κατάφερνα να “ξεχνάω” το νόημα διαφόρων (ελληνικών) λέξεων σ’ ένα κείμενο και να τις “αισθάνομαι” σαν άναρθρες κραυγές, καμιά φορά literally προφέροντάς τες σαν πρωτόγονος. It was fun!
I get the idea. Κάποιο ρόλο πάντως πρέπει να παίζει και το ζώδιο. Σαν Δίδυμος δηλαδή σίγουρα είμαι περισσότερο επιρρεπής από τα ζώδια της διαίσθησης και του ενστίκτου.
Πράγματι. Έχω παρατηρήσει ότι οι Δίδυμοι χαρακτηρίζονται από μια “φετιχιστικού επιπέδου” εμμονή με τη δύναμη των λέξεων. Πράγμα που οδηγεί άλλωστε πολλούς απ΄αυτούς σε μια επιρρέπεια προς …μαγικές κατευθύνσεις – μαγεία είναι το πεδίο όπου ενεργοποιείται η επιτελεστική λειτουργία του λόγου.
True. Άσε που προσωπικά ξαναβγήκα στη χαμένη λεωφόρο του μεταφυσικού μέσω της αργής και βασανιστικής παρακαμπτηρίου του εμπειρικού ορθολογισμού🤪