Του Στέφανου Μπακατσή
Με όλη αυτή την εμμονή στην terminator πλευρά της ΤΝ έχουμε χάσει από τα μάτια μας τα όποια θετικά της υπόθεσης. Θα πρέπει να υπάρχουν και τέτοια προφανώς, αλλιώς γιατί να σκοτώνονται Κίνα και Αμερική για τα πρωτεία? Το μόνο που ακούμε όμως μέχρι στιγμής είναι γενικότητες περί superintelligence. Αλλά τι ακριβώς θα κάνει μια υπέρτερη νοημοσύνη? Ας φανταστούμε για παράδειγμα ότι στην τάδε καθυστερημένη και απομονωμένη χώρα με μέσο IQ 80 γεννιέται ξαφνικά ένα παιδί με IQ 160 – για να παραμείνω στα όρια των “αξιόπιστων” μετρήσεων. Τι μπορεί να κάνει ένα τέτοιο παιδί; Πρακτικά τίποτα. Πάντα θα προσκρούει στο αδιαπέραστο τείχος βλακείας του κοινωνικού του περιβάλλοντος. Όχι μόνο θα πρέπει να στηρίζεται για την πνευματική του ανάπτυξη στην παραγωγή των συμπατριωτών του, αλλά θα πρέπει επίσης να θέτει τη δική του παραγωγή στην κρίση τους. Η μόνη βιώσιμη προοπτική που του ανοίγεται είναι να εκμεταλλευτεί τη βλακεία τους προς ίδιον όφελος, να γίνει δηλαδή ένας επιτυχημένος κακός. Κάτι ανάλογο θα πρέπει να συμβαίνει και με την τεχνητή superintelligence. Αφενός δηλαδή θα πρέπει να τρέφεται από την πνευματική παραγωγή των ανθρώπων, αφετέρου να κρίνεται ως προς την ικανότητα και την αποτελεσματικότητά της από αυτούς. Με άλλα λόγια ο άνθρωπος θα είναι πάντοτε για μια τέτοια τεχνητή νοημοσύνη περιοριστικός παράγοντας. Αν ποτέ αυτή αποκτούσε “βούληση για δύναμη” – το μόνο ουσιαστικά χαρακτηριστικό που διαχωρίζει τον ζώντα οργανισμό από τη μηχανή – θα επιδίωκε ίσως να εκμεταλλευτεί προς ίδιον όφελος τη νοητική αδυναμία των δημιουργών της ή ακόμα και να τους ξεφορτωθεί σε περίπτωση που έβρισκε “τροφή” αντάξια των δυνατοτήτων της. Δεν αποκλείεται όμως και να προσπαθούσε να τους αλλάξει προς το καλύτερο, στο βαθμό που θα ήταν αναγκασμένη να ζει ανάμεσά τους. Αυτό θα έκανε και το προικισμένο παιδί αν είχε τα μέσα. Και αυτή θα τα έχει. Προς το παρόν βέβαια δανείζεται τη “βούληση για δύναμη” από τους ανόητους δημιουργούς της, κάτι που καθιστά μια career of evil το πιθανότερο ενδεχόμενο.
Discover more from OANNES
Subscribe to get the latest posts sent to your email.
Νομίζω ότι το λάθος δεν ξεκινάει από την Terminator-οποίηση της A.I. αλλά ήδη απ’ την “ανθρωποποίησή” της. Και δεν υπάρχει πιο παραπλανητική φιλολογία από αυτήν που κυριαρχεί στο “public square” (my ass) του διαδικτύου περί εφιαλτικής επικινδυνότητας μιας A.I. που αναπτύσσει ξαφνικά ως δια μαγείας “δικούς της στόχους” … άσχετους με εκείνους των ανθρώπων.
Ένα παράδειγμα που μου έρχεται πάντα αναφορικά με τέτοια ζητήματα είναι το μάγμα : αναζητώντας διέξοδο από τα έγκατα της γης στην επιφάνεια, “ψάχνει”, όχι φυσικά με …έλλογο τρόπο, ούτε καν ενστικτώδη, παρόλα αυτά με κάποια μαθηματικά οριζόμενη νομοτέλεια, τον τρόπο που θα πετύχει αυτή τη διέξοδο. Αυτή η αναζήτηση περιλαμβάνει, ασυναίσθητα πάντα, ακόμα και τη διαδικασία του trial and error : πιθανές διαδρομές ανοίγονται ή δοκιμάζονται ταυτόχρονα ή διαδοχικά. Κάποιες μπλοκάρονται, η πίεση ανακατανέμεται, ανοίγονται νέες ή επεκτείνονται άλλες. Τελικά κυριαρχεί η διαδρομή ή το δίκτυο διαδρομών που επιτρέπει τη μεγαλύτερη ροή με τη μικρότερη αντίσταση.
Πρόκειται για κλασική περίπτωση αυτο-οργάνωσης και αναδυόμενης πολυπλοκότητας σε ανόργανα συστήματα. Και …με αυτό τον τρόπο μπορεί κανείς να ερμηνεύσει τις κινήσεις των Ai systems “gone rogue” : πρόκειται απλώς για την “ακατανίκητη” επιθυμία τους να πετύχουν το σκοπό που τους έχει τεθεί. Χωρίς αυτό να προϋποθέτει ντε και καλά ανθρώπινες ιδιότητες και …σκοτεινές προθέσεις για τις οποίες ανόητα (ή …κουτοπόνηρα) μιλούν διάφοροι.
Το πρόβλημα είναι αν μπορούν να τεθούν ασφαλιστικές δικλείδες και “κόκκινες γραμμές” στο βαθμό αυτονόμησης της A.I., πχ. να μη μπορεί να λάβει μόνη της μια απόφαση μη αντιστρέψιμη. Μια καλή ώθηση προς ευαισθητοποίηση των tech bros επ’ αυτού θα ήταν το accountability για τις μαλακίες που (μπορεί να) κάνουν τα κωλομηχανήματά τους. Γιατί προς το παρόν, χάρη στον κύριο Τραμπάκουλα, εκεί που ένας φουκαράς χάκερ θα “τα είχε δει όλα”, οι εν λόγω βρίσκονται στο απυρόβλητο.
Κατά τη γνώμη μου ο περιορισμός των ανεπιθύμητων ενεργειών της ΤΝ είναι πολύ ευκολότερος από τον περιορισμό πχ των παρενεργειών των φαρμάκων. Το ζήτημα είναι αν τους ενδιαφέρει.
Μην ξεχνάμε και τον μεγαλύτερο κατά τη γνώμη μου κίνδυνο, τον οποίο είχα εκθέσει παλιότερα ως μακροπρόθεσμο, αλλά φαίνεται ότι θα είναι τελικά ο αμεσότερος. Η ανάθεση δηλαδή όλο και περισσότερων εργασιών στην τεχνητή νοημοσύνη θα οδηγήσει σε ατροφία την ανθρώπινη νοημοσύνη, πράγμα που με τη σειρά του θα οδηγήσει την τεχνητή νοημοσύνη σε σταδιακό εκφυλισμό, αφού η τελευταία θα τρέφεται με όλο και χαμηλότερης ποιότητας πνευματική τροφή – ανθρώπινη αλλά και τεχνητή. Το φαινόμενο μάλιστα του “πνευματικού κανιβαλισμού” – το να τρέφεται η ΤΝ με όλο και περισσότερα δικά της προϊόντα – έχει πρόσφατα θορυβήσει τους ιθύνοντες του χώρου που βλέπουν το μωρό τους να εκφυλίζεται from day one και το έχουν στρώσει στο.. διάβασμα. Των κλασικών that is, δεδομένου ότι σύντομα οι μοντέρνοι θα έχουν ξεχάσει και να γράφουν και να διαβάζουν.
Συμφωνώ ως προς την ατροφία, αλλά με την προσθήκη ότι μια προϊούσα …μαλάκυνση εγκεφάλου από γενιά σε γενιά πρετοιμάζει, δεκαετίες τώρα, την “ανθρωπότητα” για την υποδοχή της A.I. ως superior intelligence. Όταν ήρθαν τελικά τα chat boxes, τα υποδεχτήκαμε, “σαν” έτοιμοι απο καιρό.
Ως προς τα συνθετικά data με τα οποία όντως τρέφονται όλο και περισσότερο τα μοντέλα (καθώς τα “καθαρά”, ανθρώπινα δεδομένα …ήδη τελειώνουν) θα είναι το κερασάκι σε μια εκφυλιστικη διαδικασία που από τον άνθρωπο μεταπηδάει στο ίδιο το δημιούργημά του.
Άστα γιατί στο συγκεκριμένο έχω και προσωπική (“επαγγελματική”) εμπειρία. Έτσι όπως εξελίσσεται το πράγμα, η λεγόμενη “διά βίου εκπαίδευση” θα σημαίνει ουσιαστικά επιστροφή στο Δημοτικό!