Μια ανοιχτή επιστολή υπογεγραμμένη από περισσότερα των χιλίων ηχηρά ονόματα από τον κόσμο της νέας τεχνολογίας, προτρέπει τα κορυφαία εργαστήρια τεχνητής νοημοσύνης στον κόσμο να διακόψουν την εκπαίδευση νέων υπερ-ισχυρών συστημάτων για έξι μήνες. Η επιστολή συνοδεύεται από petition. Το επιχείρημα είναι ότι οι πρόσφατες εξελίξεις στην τεχνητή νοημοσύνη αντιπροσωπεύουν σοβαρούς κινδύνους για την ανθρωπότητα».
Η κίνηση έρχεται μόλις δύο εβδομάδες μετά τη δημόσια κυκλοφορία του GPT-4 από την OpenAI, του “πιο ισχυρού συστήματος AI που κυκλοφόρησε ποτέ”, με πολλούς ειδικούς να εκφράζουν τον φόβο ότι η ανθρωπότητα υπνοβατεί προς την καταστροφή της.
Ο αριθμός των υπογραφών ξεπερνάει τις 1.000 και σ’ αυτές συμπεριλαμβάνονται εκείνες του Elon Musk, του Steve Wozniak συνιδρυτή της Apple, και ω του θαύματος, του “συγγραφέα” – συμβούλου του WEF Yuval Noah Harari.
Κανένα από τα στελέχη της του OpenAI δεν συμμετέχει, αν και το όνομα του CEO Sam Altman εμφανίστηκε για λίγο στη λίστα των υπογραφόντων, για να εξαφανιστεί στη συνέχεια. Σημειωτέον ότι, όπως έχουμε ξαναπεί, συνιδρυτής της εταιρίας είναι ο Elon Musk, ο οποίος έχει αποχωρήσει δηλώνοντας ότι η εταιρία έχει ξεφύγει από τον αρχικό σχεδιασμό της και ότι βρίσκεται υπό τον έλεγχο της Microsoft.
Ακολουθεί η επιστολή, σε ελεύθερη απόδοση – Σχόλια asap
Τα συστήματα τεχνητής νοημοσύνης μπορεί να περιέχουν σοβαρούς κινδύνους για την κοινωνία και την ανθρωπότητα, όπως αναγνωρίζεται από κορυφαία εργαστήρια του χώρου.
Όπως αναφέρεται στις βασικές αρχές Asilomar AI principles, η προηγμένη τεχνητή νοημοσύνη θα μπορούσε να αντιπροσωπεύει μια βαθιά αλλαγή στην ιστορία της ζωής στη Γη, και θα πρέπει να τυγχάνει σχεδιασμού και διαχείρισης με την δέουσα φροντίδα. Δυστυχώς, αυτό δεν συμβαίνει, με τα εργαστήρια τεχνητής νοημοσύνης να έχουν εγκλωβιστεί τους τελευταίους μήνες σε έναν εκτός ελέγχου αγώνα ανάπτυξης ολοέα ισχυρότερων ψηφιακών εγκεφάλων που κανείς – ούτε καν οι δημιουργοί τους – δεν μπορεί να κατανοήσει, να προβλέψει ή να ελέγξει αξιόπιστα.
Τα σύγχρονα συστήματα τεχνητής νοημοσύνης καθίστανται πλέον ανταγωνιστικά ως προς τον άνθρωπο σε ένα πλήθος πεδίων. Και πρέπει να αναρωτηθούμε: Θα αφήσουμε τις μηχανές να πλημμυρίσουν τα κανάλια πληροφοριών μας με προπαγάνδα και ανακρίβειες; Θα πρέπει να αυτοματοποιήσουμε όλες τις εργασίες; να αναπτύξουμε μη ανθρώπινα μυαλά που μπορεί τελικά να μας ξεπεράσουν σε εξυπνάδα και εν τέλει να μας αντικαταστήσουν; να διακινδυνεύσουμε να χάσουμε τον έλεγχο του πολιτισμού μας; Τέτοιες αποφάσεις δεν πρέπει να ανατίθενται σε μη εκλεγμένους ηγέτες όπως οι Big Tech CEOs.
Ισχυρά συστήματα τεχνητής νοημοσύνης πρέπει να αναπτυχθούν μόνο όταν είμαστε βέβαιοι ότι τα αποτελέσματά τους θα είναι θετικά και οι κίνδυνοί τους διαχειρίσιμοι. Αυτή η εμπιστοσύνη πρέπει να αιτιολογείται επαρκώς και να μεγαλώνει ανάλογα με το μέγεθος των πιθανών αρνητικών επιπτώσεων κάθε συστήματος. Η OpenAI σε πρόσφατη δήλωσή της σχετικά με την GAI [γενική τεχνητή νοημοσύνη], αναφέρει : «Σε κάποιο σημείο, μπορεί να είναι σημαντικό να λάβουμε υπόψη μας τον έλεγχο από ανεξάρτητους φορείς, πριν αρχίσουμε να εκπαιδεύουμε μελλοντικά συστήματα. Πρέπει επίσης να επιβραδυνθεί ο ρυθμός αύξησης της υπολογιστικής δύναμης που χρησιμοποιείται για τη δημιουργία νέων μοντέλων». Συμφωνούμε. Αυτό το σημείο είναι τώρα.
Ως εκ τούτου, καλούμε όλα τα εργαστήρια τεχνητής νοημοσύνης να διακόψουν αμέσως για 6 μήνες τουλάχιστον την εκπαίδευση συστημάτων τεχνητής νοημοσύνης ισχυρότερων του GPT-4. Αυτή η παύση πρέπει να είναι διαφανής, επαληθεύσιμη και να περιλαμβάνει όλους τους βασικούς παράγοντες της υπόθεσης. Εάν κάτι τέτοιο δεν εφαρμοστεί άμεσα, οι κυβερνήσεις πρέπει να παρέμβουν θεσπίζοντας ένα μορατόριουμ.
Τα εργαστήρια τεχνητής νοημοσύνης και οι ανεξάρτητοι εμπειρογνώμονες πρέπει να αξιοποιήσουν αυτήν την παύση αναπτύσσοντας και εφαρμόζοντας ένα σύνολο κοινών πρωτόκολλων ασφάλειας για τον σχεδιασμό και ανάπτυξη τεχνητής νοημοσύνης, τα οποία θα ελέγχονται αυστηρά και θα εποπτεύονται από ανεξάρτητους εμπειρογνώμονες. Τα πρωτόκολλα πρέπει να διασφαλίζουν ότι τα συστήματα που τα τηρούν θα είναι ασφαλή, πέρα από κάθε λογική αμφιβολία. Αυτό δεν σημαίνει διακοπή της ανάπτυξης της τεχνητής νοημοσύνης γενικά. Απλώς, ένα φρένο στην επικίνδυνη κούρσα παραγωγής όλο και ισχυρότερων, απρόβλεπτων μοντέλων, με νέες δυνατότητες.
Η έρευνα και η ανάπτυξη της τεχνητής νοημοσύνης πρέπει να επικεντρωθούν ξανά στο να καταστούν τα σημερινά ισχυρά, υπερσύγχρονα συστήματα πιο ακριβή, ασφαλή, κατανοητά, διαφανή, ισχυρά, εναρμονισμένα, αξιόπιστα και πιστά.
Εκ παραλλήλου, οι προγραμματιστές πρέπει να συνεργαστούν με τους υπεύθυνους χάραξης πολιτικής, επιταχύνοντας δραματικά την ανάπτυξη ισχυρών συστημάτων εποπτικού ελέγχου της τεχνητής νοημοσύνης. Αυτά πρέπει να περιλαμβάνουν : νέες και ικανές ρυθμιστικές αρχές αφιερωμένες στην τεχνητή νοημοσύνη· εποπτεία και παρακολούθηση συστημάτων ΤΝ υψηλής ικανότητας και μεγάλων δεξαμενών υπολογιστικής ικανότητας· συστήματα προέλευσης και υδατογράφησης για τη διάκριση των πραγματικών από τα συνθετικά και την παρακολούθηση των διαρροών απ’ τα μοντέλα. Ένα ισχυρό οικοσύστημα ελέγχου και πιστοποίησης· ανάληψη ευθύνης για βλάβες που προκαλεί η ΤΝ· ισχυρή δημόσια χρηματοδότηση για την τεχνική έρευνα στον τομέα της ασφάλειας στην τεχνητή νοημοσύνη· καλά εξοπλισμένους θεσμούς για την αντιμετώπιση των δραματικών οικονομικών και πολιτικών διαταραχών (ειδικά στη δημοκρατία) που θα προκαλέσει η τεχνητή νοημοσύνη.
Η ανθρωπότητα μπορεί να απολαύσει ένα λαμπρό μέλλον με την τεχνητή νοημοσύνη. Έχοντας καταφέρει να δημιουργήσουμε ισχυρά συστήματα, μπορούμε τώρα να απολαύσουμε ένα «AI summer» απολαμβάνοντας τα οφέλη, σχεδιάζοντας αυτά τα συστήματα προς όφελος όλων και δίνοντας στην κοινωνία την ευκαιρία να προσαρμοστεί. Η κοινωνία έχει στο παρελθόν αναχαιτίσει άλλες τεχνολογίες με δυνητικά καταστροφικές επιπτώσεις. Το ίδιο μπορεί να γίνει και εδώ.
Ας απολαύσουμε τα οφέλη της AI, αντί να την αφήσουμε να μας παρασύρει απροετοίμαστους στην Πτώση.
Discover more from OANNES
Subscribe to get the latest posts sent to your email.
Ας μας πουν τουλάχιστον οι θιασώτες της και μια θετική-πρακτική χρήση της ανθρωποειδούς νοημοσύνης, ώστε να ζυγίσουμε κάπως τα υπέρ και τα κατά. Γιατί εγώ μέχρι στιγμής δεν έχω ακούσει καμία. Ούτε και μπορώ να φανταστώ από μόνος μου.
Την αποφασιστικότερη διαφορά μεταξύ ζωντανού οργανισμού και μηχανής την είχε κατά τη γνώμη μου επισημάνει ο Πασκάλ: κάθε ζωντανός οργανισμός αποτελείται από μικρότερους επίσης ζωντανούς οργανισμούς και αυτοί με τη σειρά τους από άλλους μικρότερους. Μια μηχανή από την άλλη μεριά θα λέγαμε ότι αποτελείται από πέτρες.
Ωστόσο η ύπαρξη των δομικών σωματιδίων έρχεται να “καταλύσει” αυτή τη διαφορά, άπαξ και αυτά αποτελούν κοινά θεμέλια οργανικής και ανόργανης ύλης.
Η εν λόγω ψευδο-εξομοίωση, ποιητική αδεία τουλάχιστον to say the least, είναι παρεμφερής με τη συνετελούμενη μέσω “αποτίμησης” των πάντων με βάση την οικονομική τους αξία.
Ακριβώς. Και γενικότερα η αντίληψη του reductionism με τη μάταιη αναζήτηση “στοιχειωδών σωματιδίων”, “θεμελιωδών δυνάμεων”, “θεωρίας των πάντων” και τα σχετικά που θα εξηγούν υποτίθεται με τον ίδιο τρόπο την περιστροφή της γης και την τεμπελιά του Ντόναλντ, δεν έχει οδηγήσει μέχρι στιγμής πουθενά. Όλες οι επιστημονικές θεωρίες έχουν στην πραγματικότητα εξαιρετικά περιορισμένο πεδίο εφαρμογής, έξω από τα όρια του οποίου χάνουν κάθε νόημα και αξία. Όσο για τις ασκήσεις ματαιοδοξίας που καλύπτονται από την διαφημιστική ετικέτα της “τεχνητής νοημοσύνης”, κατά τη γνώμη μου αποτελούν απλώς μια μορφή απελπισμένης αντίδρασης απέναντι στην απόλυτη αδυναμία κάθε είδους επιστήμης, μαγείας, αλχημείας κλπ να δημιουργήσει ζωή από άψυχα υλικά.
Συμφωνώ και επαυξάνω. Το …υπαρκτότατο δυστυχώς πρόβλημα δεν έγκειται στις “υπερφυσικές δυνατότητες” της Τεχνητής Νοημοσύνης, η οποία στο [εντέχνως καλλιεργούμενο] λαϊκό ασυνείδητο αποκτά “αυτόνομη υπόσταση” ανταγωνιστική εκείνης του ανθρώπου, ενώ δεν αποτελεί παρά ένα β’ διαλογής δημιούργημα. Το πρόβλημα έγκειται στους high IQ idiots που διαχειρίζονται την AI, διακινώντας τέτοιες αντιλήψεις.
Αίσθηση μου είναι ότι η συγκεκριμένη ανοιχτή επιστολή, πέρα από οτιδήποτε άλλο, υπηρετεί το κεντρικό concept της νεο-μαλθουσιανής ατζέντας : γενική έφοδος στο νευρικό σύστημα του ανθρωπίνου είδους, δια της διαρκούς επισείσεως κινδύνων υπαρκτών, ανύπαρκτων, διαστρεβλωμένων ή υπερμεγεθυμένων. To cut a long story short, μας κάνουν το βίο αβίωτο, στερώντας σιγά-σιγά τη διάθεση όχι απλώς για τεκνοποία [ήπια μορφή αυτοκτονίας σε επίπεδο “είδους”] όχι απλώς για δημιουργία, αλλά για τη ζωή την ίδια.
Παρεμπιπτόντως, άκουγα τις προάλλες ένα τύπο στο YouTube, δαφνοστεφανωμένο με τίτλους και τιμές για τη συνεισφορά του στο χώρο [δεν θυμάμαι αυτη τη στιγμή το όνομά του ούτε καi έχει σημασία – επιπέδου …Χαράρι πάντως δεν ήτανε].
Δήλωνε στους έμπλεους θαυμασμού γι’ αυτόν συνομιλητές του ότι, μπαίνουμε σε μια περίοδο όπου οι εξελίξεις θα δρομολογούνται με αποφάσεις όχι πλέον του ανθρώππου αλλά της AI. Ο άνθρωπος, περνώντας σε δεύτερη μοίρα, θα πρέπει να βρει ένα τρόπο να πορεύεται μ’ αυτές …όπως άλλωστε κάναμε [εδώ ο θαυμασμός των συνομιλητών κορυφωνόταν] στο …ξεκίνημα του είδους μας, όταν ήμασταν έρμαια των στοιχείων της φύσεως. Το έχουμε ξανακάνει!
Θυμήθηκα ένα argument που ανέπτυσσα κατά καιρούς σε κείμενα στον ΗΧΟ και 4Τ : ο “θρίαμβος” της τεχνολογίας αφορά στην επιστροφή του ανθρώπου σε επίπεδο νεοπρωτόγονου, περιφερόμενου ανάμεσα στα τεχνολογικά θαύματα, με το ίδιο δέος που ένιωθε ο original πρωτόγονος ατάκτως ερριμμένος στην άγρια φύση. Τώρα, το από που κι ως που η προηγούμενη “επιτυχία μας” με τα στοιχεία της φυσεως, αποτελεί προηγούμενο που πρέπει να μας καθησυχάζει στην παρούσα φάση, μόνο ο διακεκριμένος επιστήμων το γνωρίζει. Για να μη μιλήσουμε για το χρονικό διάστημα που απαιτήθηκε γι’ αυτήν την “επιτυχία”.
Όπως καταλαβαίνεις, δεν έχω να προσθέτω τίποτε ιδιαίτερο στις ανωτέρω παρατηρήσεις, εκτός ίσως από άλλο ένα.. σχόλιο του Ian Curtis για τους high IQ idiots: “your confusion/my illusion..”
…Εντωμεταξύ, “εδώ γίνονται Σόδομα και Γόμορρα” : η επιστολή των 1000 + σκάει την ίδια στιγμή που : 1. Ετοιμάζεται επίσημα “κάτι” σχετικό με το digital currency στην Αμερική, αρχής γενομένης από αύριο. Και 2. Απαγγέλθηκε τελικά κατηγορία εναντίον του Trump για την [γελοία ανύπαρκτη] υπόθεση “εξαγοράς της σιωπής της στριπτιζέζ Stormy Daniels”, ενέργειας που, ακόμα κι αν υποτεθεί ότι συνέβη, αφορά περίοδο πολύ πριν την κάθοδο του DT στην πολιτική, 2007 or something. Η υπόθεση είχε μπει στο συρτάρι απ’ όπου την ανέσυρε πρόσφατα …ενόψει εκλογών ένας ανεκδιήγτος εισαγγελέας, Soros funded και εκδηλωμένος Trump hater.
Το ερώτημα που προκύπτει : ποιο απ’ τα παραπάνω είναι το real thing και ποιο είναι το distraction? Ή είπαν να τα αμολύσουν όλα μαζί κι όποιος ζήσει; Αυτό που λείπει είναι να σκάσει και η αναμενόμενη πανδημία του Bird Flu για να συμπληρωθεί το καρέ της υποθέσεως.
Ταυτόχρονα εγώ σήμερα με όλη αυτή την επικαιρότητα, έχω ένα σωρό εξωτερικές εργασίες + ψυχαναγκαστικά επιτακτικό αφιέρωμα στον …Μπαχ, καθότι ο νάμπερ ουάν των συνθετών του Μάρτη.
Ως προς τους τελευταίους, μιλάμε τελικά για “έθνος ανάδελφον” με έμφαση στο “έθνος”. Για να τους καλύψεις όλους θα χρειαζόταν και ο Απρίλης και λίγο απ’ το Μάιο.
Εντάξει, αυτό με τον Τραμπ.. Και ήθελα τρομάρα μου μια εποχή να ζήσω λέει στην Αμερική. Εντωμεταξύ μέχρι μεθαύριο θα πρέπει να εκπληρώσω κι εγώ κάποιες επαχθείς υποχρεώσεις ως ghost writer, μέχρι να βελτιωθεί επιτέλους το chatgpt και να με απαλλάξει από το μαρτύριο. Αγαπημένη μου ονειροπόληση τελευταία – έχω εγκαταλείψει από καιρό τη φαντασίωση ότι κερδίζω λεφτά στο λαχείο – είναι ότι ξαναγυρνάω στο λύκειο και αποφασίζω εκ νέου (αν υποθέσουμε ότι αποφάσισα ποτέ οτιδήποτε) τι θα κάνω στο μέλλον για βιοπορισμό. Μάλλον θα το πάλευα για στρατιωτικός γιατρός ή τέλος πάντων κάτι σε στρατιωτικό επάγγελμα. Τότε τα έβαζα όλα στη γενική κατηγορία “στρατόκαβλοι”..
Προσωπικά αν είμαι για κάτι σίγουρος “αν μπορούσα να γυρίσω πίσω”, είναι το τι δεν θα έκανα : να κυνηγήσω καριέρα “συνθέτη” στην Ελλάδα του ’80 και του ’90. Μιλάμε για αξιοσημείωτο amount αυτιστικής βλακείας που απαιτείται, για να αργήσει κανείς τόσο να αντιληφθεί την πιο απλή αλήθεια : ότι δεν υπάρχει fair play σ’ αυτό χώρο – αν υπάρχει πουθενά δηλ.
No play γενικότερα.. που λέει και το σχετικό κομματάκι κάποιου αξιοσημείωτου μέλους του club των Ιχθύων!
https://www.youtube.com/watch?v=oozOumBsaM4
AI is not as cute as the Lost In Space Robot or as funny as Marvin the depressed robot in Hitchhiker’s Guide to The Galaxy. But from the likes of how Google and Facebook and Bill Gates and all the tech ilk have used their political agendas to try a shut down their perceived enemies, AI is going the way of Hal in 2001 A Space Odyssey and will end up damning humanity and sending us straight to hell. Including their creators.
That’s my view also. And even if AI hasn’t got the power to destroy humanity, these people certainly could do it, using AI as their scapegoat.
Αν θελετε κατι πιο συνοπτικο εδω ο .. αρχιμετεωρολογος της επικειμενης δυστοπιας Jaz Coleman κανει γενικη σουμα (για αλλη μια φορα !)
ΚILLING JOKE – Full Spectrum Dominance !
https://www.youtube.com/watch?v=s4lLQAbI-8E
Κοιτωντας τιτλους λιγο παλαιοτερων κομματιων βλεπει κανεις διαφορες ρομαντζαδες
οπως I am the Virus (πολυ πριν την πανδημια) , Εuropean Super State , New Cold War κλπ..Το δε τελευταιο (απ το 2016) ξεκιναει με την εξης επικη “προβλεψη”
“Closing in on
The Eastern border
It’s a unicentric
One world order
With Sino-Russian
Capitulation
It’s an orchestrated
End of nations..”
Bουλωμενο γραμμα διαβαζει ο θειος Jaz , χα χα .