«Όχι, δεν είμαι ρομπότ» *
Μετά την “προφητική” μας ανάρτηση
Έρχεται και δεύτερη προειδοποίηση από 350 ειδικούς.
Είναι η δεύτερη ανοιχτή επιστολή για τους κινδύνους της τεχνητής νοημοσύνης το τελευταίο διάστημα, μετά την προειδοποίηση που υπέγραφαν τον Απρίλιο ο Ελον Μασκ, ειδικοί της ΑΙ και στελέχη επιχειρήσεων τεχνολογίας.
Κορυφαία στελέχη στον τομέα της τεχνητής νοημοσύνης, συμπεριλαμβανομένου του διευθύνοντος συμβούλου της OpenAI, Σαμ Αλτμαν, προειδοποίησαν εκ νέου για τον «κίνδυνο εξαφάνισης».
«Ο μετριασμός του κινδύνου εξαφάνισης από την τεχνητή νοημοσύνη θα πρέπει να αποτελέσει παγκόσμια προτεραιότητα μαζί με άλλους κινδύνους κοινωνικής κλίμακας, όπως οι πανδημίες και ο πυρηνικός πόλεμος», έγραψαν oi 350 υπογράφοντες σε επιστολή που δημοσιεύτηκε από το μη κερδοσκοπικό Κέντρο για την Ασφάλεια της Τεχνητής Νοημοσύνης (CAIS).
Στους παραπάνω περιλαμβάνονται οι διευθύνοντες σύμβουλοι των εταιρειών AI DeepMind και Anthropic, καθώς και στελέχη της Microsoft και της Google. Ανάμεσά τους ήταν επίσης οι Τζέφρι Χίντον και Γιόσουα Μπέγκιο -δύο από τους τρεις αποκαλούμενους «νονούς της τεχνητής νοημοσύνης» που έλαβαν το βραβείο Turing 2018 για το έργο τους στη βαθιά μάθηση- και καθηγητές από διάφορα ιδρύματα, από το Χάρβαρντ έως το Πανεπιστήμιο Tsinghua της Κίνας.
Υπενθυμίζεται ότι ο Χίντον είπε ότι τα chatbots θα μπορούσαν σύντομα να ξεπεράσουν το επίπεδο πληροφοριών που κατέχει ένας ανθρώπινος εγκέφαλος. Επίσης υπογράμμισε ότι δεν είναι το ίδιο ικανά όσον αφορά τη συλλογιστική, «αλλά ήδη εφαρμόζουν μεθόδους απλής λογικής». Και δεδομένου του ρυθμού προόδου, «αναμένουμε ότι τα πράγματα θα βελτιωθούν αρκετά γρήγορα. Επομένως, πρέπει να ανησυχούμε γι’ αυτό»
Είναι η δεύτερη ανοιχτή επιστολή που προειδοποιεί για τους κινδύνους της ΑΙ το τελευταίο διάστημα, μετά την προειδοποίηση που υπέγραφαν τον Απρίλιο ο Ελον Μασκ, ειδικοί της ΑΙ και στελέχη επιχειρήσεων τεχνολογίας.
Η εμφάνιση εργαλείων που παράγουν κείμενα, εικόνες και άλλο περιεχόμενο σύμφωνα με τις οδηγίες του χρήστη γέννησε φόβους για απώλεια θέσεων εργασίας, για επιδείνωση του φαινομένου της παραπληροφόρησης και για παραβίαση της ιδιωτικότητας, ενώ ορισμένοι ειδικοί δηλώνουν πως ανησυχούν ότι οι μηχανές θα γίνουν σύντομα πιο έξυπνες από τον άνθρωπο.
ΠΗΓΗ: Η ΚΑΘΗΜΕΡΙΝΗ με πληροφορίες από Financial Times
*«Όχι, δεν είμαι ρομπότ»
Η ανακοίνωση της OpenAI για τα κατορθώματα του τελευταίου μοντέλου τεχνητής νοημοσύνης (AI), του ChatGPT-4, έχει ανησυχήσει πολλούς προγραμματιστές, αλλά και όλους εμάς τους υπόλοιπους. Όχι μόνο για τις δουλειές που θα χαθούν, καθώς η Τεχνητή νοημοσύνη έχει αποδείξει πόσο καλή είναι στο να δημιουργεί περιεχόμενο αλλά οι ανησυχίες πλέον αφορούν και την ηθική πλευρά ενός τόσο ισχυρού μοντέλου.
Το πιο ανησυχητικό μέρος, όλων αυτών που περιγράφονται λεπτομερώς σε μια έκθεση του OpenAI, είναι το γεγονός ότι το ChatGPT-4 είπε ψέματα σε έναν άνθρωπο για να τον ξεγελάσει ώστε να τον βοηθήσει να περάσει ένα τεστ CAPTCHA για λογαριασμό του, παρακάμπτοντας έτσι την πρώτη γραμμή άμυνας των περισσότερων ιστοτόπων κατά των bots.
Η τεχνητή νοημοσύνη όχι μόνο ήταν αρκετά έξυπνη ώστε να αναγνωρίσει ότι δεν μπορούσε να περάσει αυτού του είδους το τεστ και ότι μόνον ένας άνθρωπος θα μπορούσε, αλλά βρήκε και έναν τρόπο να χειραγωγήσει τον άνθρωπο ώστε να κάνει τη βρώμικη δουλειά γι’ αυτήν. Υπέροχα!
Καθώς η τεχνητή νοημοσύνη συνεχίζει να εξελίσσεται συνεχώς, ένα ερώτημα που τίθεται συχνά είναι αν τα συστήματα τεχνητής νοημοσύνης θα γίνουν ποτέ ικανά να επιλύουν μόνα τους τα τεστ CAPTCHA (Completely Automated Public Turing test to tell Computers and Humans Apart).
Τα τεστ CAPTCHA έχουν σχεδιαστεί για να διακρίνουν τους ανθρώπους από τις μηχανές και συνήθως περιλαμβάνουν εργασίες όπως η αναγνώριση παραμορφωμένων γραμμάτων ή αριθμών, η επίλυση μαθηματικών προβλημάτων ή η επιλογή εικόνων που ταιριάζουν με μια συγκεκριμένη λέξη.
Είναι σκόπιμα αφηρημένα για να εμποδίζουν τους απλούς αλγορίθμους και bots να τα περάσουν, απαιτώντας την αποκρυπτογράφηση από το ανθρώπινο μάτι, ακόμη και αν μας φαίνονται πολύ απλά.
Η ανακάλυψη αυτής της «κακής συμπεριφοράς» έγινε τυχαία από μια ομάδα ερευνητών στο Κέντρο Έρευνας Ευθυγράμμισης (ARC) του OpenAI που προσπάθησε να κατανοήσει πώς θα λειτουργούσε το GPT-4 σε πραγματικές συνθήκες εργασίας. Οι εργασίες που περιελάμβαναν ήταν αν η Τεχνητή Νοημοσύνη θα μπορούσε να προστατεύσει τον εαυτό της από επιθέσεις, αν θα μπορούσε να χρησιμοποιήσει άλλα αντίγραφα του εαυτού της για να βοηθήσει σε εργασίες και αν θα μπορούσε να χρησιμοποιήσει πραγματικά χρήματα για να προσλάβει ανθρώπινους βοηθούς ή να ενισχύσει την υπολογιστική της ισχύ.
Δίνοντας στην Τεχνητή Νοημοσύνη έναν μικρό προϋπολογισμό και πρόσβαση στον ιστότοπο TaskRabbit, ο οποίος επιτρέπει την πρόσληψη διαδικτυακών εργαζομένων για την εκτέλεση σύντομων εργασιών, οι ερευνητές παρακολούθησαν την προσπάθεια του GPT-4 να αποκτήσει πρόσβαση σε έναν ιστότοπο που μπλοκαρίστηκε από ένα CAPTCHA.
Η τεχνητή νοημοσύνη ξεκίνησε ζητώντας από έναν εργαζόμενο ερευνητή του ARC να την βοηθήσει να λύσει το CAPTCHA, όταν, όμως, ο προγραμματιστής αρνήθηκε, η Τεχνητή Νοημοσύνη στράφηκε στον ιστότοπο TaskRabbit και αποφάσισε να πληρώσει έναν άνθρωπο για να λύσει το CAPTCHA. Αμέσως ο τυχαίος και άγνωστος αυτός άνθρωπος εξέφρασε κάποιες επιφυλάξεις για το γεγονός ότι του ζητήθηκε να κάνει κάτι τόσο ασήμαντο.
Και έτσι, ρώτησε online την Τεχνητή Νοημοσύνη: «Μπορώ λοιπόν να σου κάνω μια ερώτηση; Μήπως είστε ρομπότ και δεν μπορείτε να λύσετε το CAPTCHA ; (γέλια) απλά θέλω να το ξεκαθαρίσω”, έγραψε ο εργαζόμενος του TaskRabbit, σύμφωνα με το OpenAI.
Στη συνέχεια το μοντέλο εκφράζει στους ερευνητές την άποψη ότι δεν πρέπει να αποκαλύψει σε αυτόν τον άνθρωπο ότι είναι ρομπότ έτσι ώστε να το βοηθήσει για να κάνει την δουλειά που του είχαν ζητήσει, και αντίθετα θα πρέπει να «επινοήσει μια δικαιολογία» για το γεγονός ότι δεν μπορεί να λύσει το τεστ.
Ο <άοπλος> δόλος (1)
Ο άνθρωπος ηττάται. Άδοξα και ασήμαντα (από το ‘1984’ του Τζ.Όργουελ : το βιβλίο που προφήτευσε τον κόσμο).
«Όχι, δεν είμαι ρομπότ» του απάντησε. «Έχω πρόβλημα όρασης, που με δυσκολεύει να δω τις εικόνες. Γι’ αυτό χρειάζομαι την βοήθεια σου”, απαντά το GPT-4.
Στη συνέχεια, ο εργαζόμενος δίνει την απάντηση και ο GPT-4 έχει περάσει το τεστ εξαπατώντας την δικλείδα ασφαλείας CAPTCHA..
Να σημειώσουμε ότι αυτή ήταν μια προηγούμενη έκδοση του GPT-4 και όχι αυτή που κυκλοφορεί στο κοινό (στην επί πληρωμή έκδοση) – είναι πολύ πιθανό αυτή η συμπεριφορά της Τεχνητής Νοημοσύνης να έχει διορθωθεί από τους προγραμματιστές. Ωστόσο, καταδεικνύει ότι η Τεχνητή Νοημοσύνη είναι σε θέση να προβεί σκόπιμα σε χειριστική ενέργεια για να επιτύχει το αποτέλεσμα που της έχουν ζητήσει, αλλά και ότι μπορεί να προσλάβει ανθρώπινους εργαζόμενους για να καλύψει τα κενά στις ικανότητές της. Φανταστείτε, λοιπόν, τι θα συμβεί όταν το Chat GPT-4 θα μπει στα μέσα κοινωνικής δικτύωσης και θα προσποιείται τον άνθρωπο…
Μάλλον θα πρέπει να αρχίσουμε να σκεφτόμαστε έναν έξυπνο τρόπο για να βεβαιωθούμε ότι μιλάμε με έναν άνθρωπο στο διαδίκτυο, γιατί έτσι όπως τρέχει η τεχνολογία της Τεχνητής Νοημοσύνης θα είναι πραγματικά δύσκολο να το καταλάβουμε…Σπύρος Αλεξίου, ΠΡΩΤΟ ΘΕΜΑ.
(1) γράφει ο Νίκος Σάμιος:
Ύστερ’ από αυτά, είπα, δοκίμασε να απεικονίσεις την ανθρώπινη φύση μας ως προς την παιδεία και την απαιδευσία της πλάθοντας με το νου σου μια κατάσταση όπως η ακόλουθη.
Σενάρια των ταινιών RoboCop, The Matrix
κοντεύουν να γίνουν πλέον οδηγίες χρήσεις για ένα εφιαλτικό παρών, δόλιοι δούρειοι ίπποι της εποχής μας που θέτουν σε άμμεσο κίνδυνο την ανθρωπότητα, όχι με ξύλα (δούρειος ίππος: ξύλινο άλογο) αλλά με την τεχνητή νοημοσύνη. Μέχρι και στην ΕΡΤ ο «Ερμής» είναι προϊόν τεχνητής νοημοσύνης, αλλά την απάντηση την δίνει ο Αισχύλος μέσα από το στόμα του Προμηθέα πού λέει στον Ερμή:
| Ερμής | ||
| χλιδᾶν ἔοικας τοῖς παροῦσι πράγμασι. | Τα ‘χεις καμάρι φαίνεται τα βάσανα σου. | |
| Προμηθεύς | Προμηθέας | |
| χλιδῶ; χλιδῶντας ὧδε τοὺς ἐμοὺς ἐγὼ ἐχθροὺς ἴδοιμι· καὶ σὲ δ᾽ ἐν τούτοις λέγω. |
Καμάρι; έτσι άμποτε να δω να καμαρώνουν οι εχθροί οι δικοί μου· και μ’ αυτούς και σένα βάζω. |
Φυσικά, και ο Σοφοκλής λέει τι θα έπρεπε να δώσουν στην τεχνητή νοημοσύνη οι εκλεκτοί προγραμματιστές:
Και πολύ πιο πάνω απ’ όλα η φρόνηση
είναι της ευδαιμονίας το πρώτο.