Τη στιγμή που ο προσωπικός υπολογιστής μου, απαιτεί να του αποδείξω ότι …δεν είμαι ρομπότ, υποχρεώνοντάς με να τσεκάρω λεωφορεία, διαβάσεις πεζών και καμινάδες, συνειδητοποιώ ότι η μύηση στη ραγιάδικη νοοτροπία ξεκινάει απ’ το πληκτρολόγιό του. Θέλω να πω ότι, εδώ, ξεχνάμε τα στοιχειώδη : το κομπιούτερ δεν είναι κάποια …έλλογη, έμβια οντότητα. Είναι ένα εργαλείο που χρησιμοποιώ για να κάνω τη δουλειά μου. Έχω πληρώσει γι’ αυτό και εξακολουθώ να πληρώνω. Ο ρόλος του δεν είναι να μου κάνει γυμνάσια, δεν είναι να μου δυσκολεύει τη ζωή αλλά να την διευκολύνει, κάνοντας τη γ@μημένη δουλειά για την οποία το πληρώνω.
Ο αηδιαστικός ή και αήθης τρόπος με τον οποίο αναφέρονται κάποιοι σε υπολογιστές, ρομπότ και γενικά στην Τεχνητή Νοημοσύνη, συντελεί, συνειδητά [=από υπολογισμό] ή ασυνείδητα [=από ανοησία] στη δημιουργία ενός πλαισίου αντιμετώπισης των ανωτέρω ως «οντοτήτων» ανεξάρτητων από τον άνθρωπο και, ως εκ τούτου …συγκρίσιμων με εκείνον. Ίσως και ανώτερών του. Η τάση καλλιεργείται ήδη από την εποχή του πρωτοπόρου Ι. Ασίμοφ, με την ηρωίδα του I Robot, Σούζαν Κάλβιν να επιδεικνύει ένα είδος [όχι ακριβώς κρυφής, ούτε υποσυνείδητης] προτίμησης προς τα ρομπότ, φιλότιμα και εμπιστεύσιμα, αντίθετα απ’ τους ανθρώπους. Το ψυχολογικό background της αφιερωμένης στην επιστήμη ηρωίδας μαρτυρά ότι, όντας χωρίς παιδιά, διοχετεύει στα ρομπότ το μητρικό της ένστικτο. Αν συντελείται βέβαια κάτι μέσα σ’ αυτό το [“σεξιστικά” φιλοτεχνημένο] σκηνικό, είναι η έκλειψη μιας θεμελιώδους αλήθειας : αν τα ρομπότ είναι αξιοθαύμαστα, ο λόγος είναι ότι …κάποιοι αξιοθαύμαστοι άνθρωποι τα έχουν φτιάξει. Το όποιο respect και ο όποιος θαυμασμός οφείλεται στον δημιουργό, όχι στο δημιούργημα.
Οι φοβερές συζητήσεις περί εξελιγμένων ρομπότ που …ουδείς μπορεί να πει ότι …δεν θα έχουν συναισθήματα όπως οι άνθρωποι, προκαλούν θυμηδία. Γιατί δεν υπάρχει καμία διαφορά ανάμεσα σε προσομοίωση ανθρώπινης εμφάνισης, λόγου και κίνησης, και προσομοίωση ανθρώπινων συναισθημάτων, τα οποία γίνονται αντιληπτά αποκλειστικά μέσα από εξωτερικές εκδηλώσεις. Απορεί κανείς γιατί, ενώ γίνεται δεκτό ότι ένα ρομπότ μπορεί να αναπαραγάγει μια γκάμα ανθρώπινων δραστηριοτήτων [ακόμα και να …χορέψει], εν τη απουσία “εσωτερικής ζωής”, δεν γίνεται δεκτό και ότι …η ίδια απουσία βρίσκεται πίσω και απ’ την όποια γκάμα συγκινησιακών εκδηλώσεων, εκφράσεις, τόνους φωνής, γλώσσα σώματος, γέλιο, κλάμα, κοκ.
Εντύπωση μου είναι ότι, αναρωτήσεις όπως η περί το …αν τα ρομπότ μπορούν να έχουν ανθρώπινα συναισθήματα, αποτελούν τον θρίαμβο της κουλτούρας / δικτατορίας του φαίνεσθαι.
ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΚΑΙ ΔΙΚΤΑΤΟΡΙΑ ΤΟΥ ΦΑΙΝΕΣΘΑΙ
(Visited 185 times, 1 visits today)
Μαρέσει που αναρωτιόμαστε για τα αισθήματα των μηχανών την ώρα που συμπεριφερόμαστε στους άλλους ανθρώπους σα να μην έχουν αισθήματα..
Βεβαίως. Η Σούζαν Κάλβιν, του Ασίμοφ, όχι του έργου, είναι ίσως η εμπροσθοφυλακή των φεμινιστικών ορδών του μέλλοντος που, έχοντας κατοχυρώσει το δικαίωμα της έκτρωσης στον 9ο μήνα, θα διεξάγουν αγώνα για την προστασία των δικαιωμάτων [ = συναισθημάτων] των μηχσνικών φίλων μας.
Το πρόβλημα δεν είναι η “τεχνητή νοημοσύνη” αλλά ότι ο σημερινός άνθρωπος κάνει ό, τι μπορεί για να ξεφορτωθεί και τα τελευταία ίχνη ανθρώπινης ιδιαιτερότητας, σε σημείο που στο τέλος θα παρακαλάμε να πάρουν επιτέλους την κατάσταση στα χέρια τους οι αυθεντικές μηχανές.
Εννοείται ότι το πρόβλημα δεν είναι η τεχνητή νοημοσύνη, αλλά οι κατασευαστές / διαχειριστές της. Πιστεύω ότι ανάμεσα στις εκδηλώσεις του προβλήματος είναι η [καλιεργούμενη] διαδικασία “αυτονόμησής της” απ΄το δημιουργό. Όχι στο μέλλον, στο πλαίσιο κάποιου singularity, αλλά εδώ και τώρα [και ήδη από δεκαετίες] στον τρόπο προσέγγισής της απ’ τον “σύγχρονο πολίτη”.
Noμιζω οτι το πρωτο παραδειγμα “συναισθηματικης” τεχνητης νοημοσυνης (που εντελει αυτονομειται ) στο σινεμα ηταν ο ΗΑL4000 στην “2001 Οδυσσεια του διαστηματος/” (παλι ο Ασιμοφ στο σεναριο ). Εκτοτε εχει γινει εκνευριστικο κλισε σε απειρες ταινιες του Χολλυγουντ με γελοια αποτελεσματα συνηθως. Aν υπαρχει λογος σ ολο αυτο δεν ξερω .
Π,χ , αν θες , για χαλαρωμα , ριξε μια ματια σ αυτην εδω , δεν την θεωρω εντελως αθωα..
https://tainio-mania.online/load/tain_e_toy_2019/i_am_mother_2019/40-1-0-21954
Είχα σκοπό να το δω κάποια στιγμή στο Netflix, ελπίζω να το καταφέρω σύντομα. Ως προς τις ιστορίες με ρομπότ που αυτονομούνται, το πράγμα ήταν του συρμού ήδη πολύ πριν το I Robot του Ασίμοφ, το οποίο, αν θυμάμαι καλά, κυκλοφόρησε εν μέσω Β’ Παγκοσμίου Πολέμου. Στον πρόλογο ο συγγραφέας αναφέρει ότι …οι δικής του εμπνεύσεως νόμοι της ρομποτικής [και η σειρά των διγηγημάτων που αποτελούν το βιβλίο], αποτέλεσαν την αντίδρασή του σ’ αυτό ακριβώς τον συρμό των ιστοριών με ρομπότ που ξεφεύγουν από τον προγραμματισμό τους καταστρέφοντας τον Δημιουργό.
Όταν λέω για “αυτονόμηση” εννοώ μια, ανθρωπομορφικού τύπου προσέγγιση στις μηχανές A.I. στο πλαίσιο της οποίας ξεχνάμε ότι είναι κατασκευές, αντιμετωπίζοντάς τες σαν ζωντανές οντότητες. Και εκεί που θέλω να καταλήξω είναι ότι, ανεξαρτήτως του τι είναι αυτό που προσομοιώνει [οσοδήποτε καλά] ένα ρομπότ, από το να εκτελεί ανθρώπινες εργασίες, μέχρι να χορεύει, να δίνει ψυχολογικές συμβουλές, να ερωτοτροπεί ή και να …”ερωτεύεται”, δεν είναι περισσότερο άνθρωπος από όσο είναι ένας βραστήρας, ας πούμε.
Διορθωση , Αρθουρ Κλαρκ εγραψε το 2001 Οδυσσεια ..
Προσωπικά δεν πολυπιστεύω στην έννοια του singularity όπως την παρουσιάζει kurzweil. Για την πραγματική αυτονόμηση των μηχανών απαιτείται τεχνητή βούληση και όχι τεχνητή νοημοσύνη, πράγμα κατά τη γνώμη μου απόλυτα εφικτό που όμως κανείς δεν αναλαμβάνει για ευνόητους λόγους. Το πλησιέστερο αντίστοιχο του singularity στον άνθρωπο είναι η δημιουργία της γλώσσας, κάτι δηλαδή απλώς αδιανόητο στον κόσμο των υπολογιστών. Το κατεξοχήν σημάδι του singularity δεν είναι μια μηχανή που μιλάει με άνθρωπο χωρίς αυτός να καταλαβαίνει ότι πρόκειται για μηχανή – πράγμα που ήδη συμβαίνει στα κοινωνικά δίκτυα – όπως πίστευε ο Turing, αλλά δύο μηχανές που μιλάνε μεταξύ τους χωρίς εμείς να καταλαβαίνουμε τίποτα.
Μπορεί να αρκεί [για την αυτονόμηση] το ξεπέρασμα ενος συγκεκριμένου point of no return, πέραν του οποίου οι μηχανές καταλαμβάνουν τον έλεγχο όχι “πραξικοπιματικώ τω τρόπω” αλλά σε συνεργασία με ανθρώπους με τους εγκέφαλους των οποίων είναι συνδεδεμένες. Μια σχέση στο πλαίσιο της οποίας [μιλάμε για μηχανές των οποίων η υπολογιστική δύναμη αυξάνεται εκθετικά] σε σύντομο χρονικό διαστημα εξαφανίζεται οτιδήποτε σχετικό με αυτό που λέγαμε κάποτε “άνθρωπο”.
Από φιλοσοφικής απόψεως το ζήτημα είναι άνευ σημασίας, δεδομένου ότι και στον άνθρωπο η μόνη ένδειξη εσωτερικής ζωής είναι η εξωτερική συμπεριφορά. Σε διάφορες εποχές και πολιτισμούς πάλι αποδίδονται ανθρώπινες ιδιότητες σε άψυχα υποτίθεται αντικείμενα, ενώ συγχρόνως δεν αναγνωρίζεται ανθρώπινη υπόσταση σε πολλές κατηγορίες ανθρώπων. Γενικότερα η στάση του σύγχρονου ανθρώπου στο σχετικό ζήτημα (όπως και στο ζήτημα των ζώων) είναι σε μεγάλο βαθμό αυθαίρετη και στηρίζεται αποκλειστικά στην αρχή “πάντων χρημάτων μέτρο άνθρωπος..” όπου ο “άνθρωπος” καθορίζεται από τα εκάστοτε κυρίαρχα μικροσυμφέροντα.
Δεν είναι τόσο απλό: η ιδέα μιας μηχανής διαθέτουσας “και” συναισθηματική νοημοσύνη, δυνητικά ισάξιας δηλ. του ανθρώπου “δουλεύει” για λογιαριασμό της πίστης στο singularity, με το concept των κομπιούτερ / ρομπότ που φτιάχνουν εξελιγμένες βερσιόν του εαυτού τους να μπερδεύεται με το concept των ιδίων ως βελτιωμένης βερσιόν του ανθρώπου. Αυτή [η πίστη στο singularity] με τη σειρά της δουλεύει εις βάρος της ιδέας μιας τεχνολογίας που υπηρετεί τον άνθρωπο, προσανατολίζοντάς την προς εσχατολογικές κατευθύνσεις. Παράδειγμα: ο Chris Anderson, διευθυντής του Wired έχει ισχυριστεί εδώ και χρόνια ότι …”η επιστήμη” δεν χρειάζεται πια να αναζητεί θεωρίες που οι επιστήμονες μπορούν να καταλάβουν. Το …digital cloud μπορεί να κάνει τη δουλειά καλύτερα.
Στην πραγματικότητα η σύγχρονη επιστημονική εργασία επιτελείται στο μεγαλύτερο μέρος της από υπολογιστές και ο ρόλος του επιστήμονα περιορίζεται στην ιδανική περίπτωση σε αυτόν του διευθυντή ορχήστρας. Από την άποψη αυτή – αλλά και από πολλές ακόμα – το singularity είναι ήδη εδώ και είναι λάθος κατά τη γνώμη μου να το αναζητούμε στην προσομοίωση της ανθρώπινης συνείδησης. Το σύστημα σε μαγάλο βαθμό λειτουργεί από μόνο του και ωθεί ανθρώπους και καταστάσεις σε κατευθύνσεις που συμφέρουν το ίδιο, με παρόμοιο τρόπο που οι πράξεις ενός αλκοολικού εκπορεύονται από το ποτό ασχέτως του τι πιστεύει ο ίδιος για τον εαυτό του.
Δεν λέω κάτι διαφορετικό από αυτό. Αυτό που λέω αφορά στην “ιδεολογική” τρόπον τινά κάλυψη του θέματος, την ενίσχυση δηλ. μιας ρητορικής …υποβάθμισης του ανθρώπου έναντι της μηχανής την οποία [λησμονάται εντέχνως ότι] ο ίδιος έχει κατασκευάσει.
Καταλαβαίνω τι εννοείς, απλώς εστίασα την προσοχή μου περισσότερο στην “επιστημολογική” διάσταση του θέματος. Το τελευταίο διάστημα πάντως η ανθρωπότητα έχει κάνει τόσο θεαματική πρόοδο προς την κατεύθυνση της υποβάθμισης κάθε ανθρώπινου χαρακτηριστικού, που προσωπικά έχω απωλέσει τη διάθεση να την υπερασπιστώ, έστω και στα λόγια, σε μια πιθανή επικράτηση των μηχανών.