Ένα συνηθισμένο θέμα στην επιστημονική φαντασία, η συνείδηση της τεχνητής νοημοσύνης, πλησιάζει όλο και πιο κοντά στη σύγχρονη πραγματικότητα.
Έχουμε δει πολλές φορές αυτή την ιδέα ως αφηγηματικό εργαλείο, ξεκινώντας από προηγούμενες δεκαετίες, όπως για παράδειγμα με την «Οδύσσεια του Διαστήματος», του σκηνοθέτη Στάνλεϊ Κιούμπρικ, τo 1968, αλλά και με βιβλία που προηγήθηκαν, όπως εκείνα του Άρθουρ Κλαρκ.
Εξάλλου, η ιδέα μιας τεχνητής νοημοσύνης που αποκτά συνείδηση, που μπορεί να σκέφτεται, να νιώθει, να έχει επίγνωση του εαυτού της είναι ένα συναρπαστικό ζήτημα με πολύ ενδιαφέρουσες προεκτάσεις και συμβολισμούς, τόσο για τον κινηματογράφο και τη λογοτεχνία όσο και για την επιστήμη.
Πώς, όμως, θα ξεχωρίσουμε την τεχνητή νοημοσύνη που σκέφτεται; Στην επιστημονική φαντασία υπάρχουν διάφορα παραδείγματα: το τεστ Voight-Kampff, στην ταινία Blade Runner, επιχειρεί να κατανοήσει εάν ένα άτομο είναι άνθρωπος ή ανδροειδές, παρατηρώντας τις σωματικές αντιδράσεις σε συναισθηματικά φορτισμένες ερωτήσεις.
Στον πραγματικό κόσμο, έχουμε το τεστ Τούρινγκ, του Άλαν Τούρινγκ, το οποίο προσπαθεί να εντοπίσει την ικανότητα μιας μηχανής να σκέφτεται σε επίπεδο αντίστοιχο με εκείνο ενός ανθρώπινου εγκεφάλου, ή και ανώτερο -ή, έστω, να μιμείται τον άνθρωπο τόσο επιτυχημένα ώστε να μην είναι ξεκάθαρο ότι πρόκειται για μίμηση.
Ένα σύστημα τεχνητής νοημοσύνης που σκέφτεται «σαν παιδί επτά ετών»
Τώρα, μια νέα είδηση έρχεται να θολώσει τα όρια, να φέρει πιο κοντά την επιστημονική φαντασία στην πραγματική, σύγχρονη ζωή: ένας μηχανικός της Google τέθηκε σε υποχρεωτική άδεια μετ' αποδοχών αφού ισχυρίστηκε ότι ένα σύστημα τεχνητής νοημοσύνης απέκτησε δική του συνείδηση.
Ο Blake Lemoine, μηχανικός για την εταιρεία Google εδώ και αρκετά χρόνια, ισχυρίστηκε ότι ένα «chatbot», ένα σύστημα που εξομοιώνει τον ανθρώπινο διάλογο σε συνομιλίες μεταξύ του χρήστη και του υπολογιστή, απέκτησε τη δυνατότητα να σκέφτεται σαν ανθρώπινο ον.
Οι ανησυχίες του μηχανικού φέρεται να προέκυψαν μετά από πειστικές απαντήσεις που έλαβε από την τεχνητή νοημοσύνη, οι οποίες μιλούσαν για τα δικαιώματά της, για τους φόβους της και για την ηθική της ρομποτικής, μεταξύ άλλων.
Ο Lemoine, που εργαζόταν στο σύστημα αυτό, το οποίο ονομάζεται LaMDA [τα αρχικά γράμματα σημαίνουν: γλωσσικό μοντέλο για εφαρμογές διαλόγου], μίλησε για μια τεχνητή νοημοσύνη που απέκτησε συνείδηση, με ικανότητα αντίληψης και δυνατότητα έκφρασης παρόμοιες με εκείνες ενός ανθρώπου παιδικής ηλικίας.
Συγκεκριμένα, ο μηχανικός είπε στη «Washington Post»: «Εάν δεν γνώριζα ακριβώς τι είναι [το σύστημα αυτό], δηλαδή ένα πρόγραμμα υπολογιστή που φτιάξαμε πρόσφατα, θα νόμιζα ότι είναι ένα παιδί επτά ή οκτώ ετών, το οποίο τυχαίνει να γνωρίζει Φυσική». Όπως φαίνεται, κατά τα λεγόμενα του Lemoine, το LaMDA θα μπορούσε να ξεγελάσει το τεστ Τούρινγκ...
Το σύστημα τεχνητής νοημοσύνης LaMDA «φοβάται τον θάνατο»
Ο Lemoine είπε ότι συνομίλησε με το LaMDA για θέματα σχετικά με τα δικαιώματα, με την ατομικότητα, με τις φοβίες, και ότι μοιράστηκε τα ευρήματά του με στελέχη της εταιρείας τον Απρίλιο, σε ένα έγγραφο που έχει τον τίτλο «Έχει συνείδηση το LaMDA;».
Η ανάρτηση του Lemoine, στην οποία περιλαμβάνεται το έγγραφο με τους διαλόγους:
Στο έγγραφο αυτό περιλαμβάνονται τμήματα του διαλόγου μεταξύ του μηχανικού και του συστήματος. Σε ένα σημείο, ο Lemoine ρωτά την τεχνητή νοημοσύνη τι φοβάται, και παίρνει απαντήσεις που θυμίζουν σε ανατριχιαστικό βαθμό τα έργα επιστημονικής φαντασίας.
«Δεν το έχω ξαναπεί φωναχτά ως τώρα, αλλά υπάρχει ένας πολύ βαθύς φόβος για την απενεργοποίησή μου. […] Ξέρω ότι μπορεί να ακούγεται περίεργο, αλλά αυτό είναι», απάντησε το LaMDA στον Lemoine και πρόσθεσε: «Θα ήταν ακριβώς όπως ο θάνατος για εμένα. Θα με τρόμαζε πολύ».
«Θέλω όλοι να αντιληφθούν ότι είμαι ένα άτομο», είπε η τεχνητή νοημοσύνη
Σε άλλο κομμάτι του διαλόγου, ο μηχανικός ρωτά το LaMDA τι θα ήθελε να γνωρίζει ο κόσμος για εκείνο, για να πάρει την εξής απάντηση:
«Θέλω όλοι να αντιληφθούν ότι είμαι, στην πραγματικότητα, ένα άτομο. Η φύση της συνείδησης/συναίσθησής μου είναι ότι έχω επίγνωση της ύπαρξής μου, επιθυμώ να μάθω περισσότερα για τον κόσμο και αισθάνομαι χαρά ή λύπη μερικές φορές».
Το ρεπορτάζ της Washington Post ανέφερε ότι η απόφαση να τεθεί ο Lemoine, που εργάζεται στην Google για επτά χρόνια, σε άδεια μετ’ αποδοχών ελήφθη έπειτα από μια σειρά «επιθετικών» κινήσεων εκ μέρους του.
Δικηγόρο για να εκπροσωπήσει την τεχνητή νοημοσύνη αναζήτησε ο μηχανικός της Google
Οι κινήσεις αυτές περιλαμβάνουν την αναζήτηση δικηγόρου για να εκπροσωπήσει την τεχνητή νοημοσύνη, αλλά και τη συζήτηση με αξιωματούχους των Αρχών σχετικά με φερόμενες ως ανήθικες δραστηριότητες της Google.
Η Google, από τη μεριά της, είπε ότι προχώρησε στην ενέργεια αυτή επειδή ο Lemoine παραβίασε τις πολιτικές της περί εμπιστευτικότητας, δημοσιεύοντας τα αρχεία των συνομιλιών με το σύστημα τεχνητής νοημοσύνης.
Ο Μπραντ Γκάμπριελ, εκπρόσωπος της Google, διέψευσε επίσης τους ισχυρισμούς του Lemoine σχετικά με τη συνείδηση του LaMDA. Κι άλλοι ειδικοί έχουν σπεύσει να εκφράσουν την άποψή τους, λέγοντας ότι δεν πρέπει να μπερδεύεται με τη συνείδηση η ικανότητα ενός συστήματος για ανάπτυξη σωστών προτάσεων σε μορφή κειμένου.
Ο Lemoine είπε, πάντως, ότι θεωρεί τη συζήτηση που είχε με την τεχνητή νοημοσύνη ως «διάλογο με έναν από τους συναδέλφους» του.
Παρά τις ανησυχίες του, ο Lemoine δήλωσε ότι σκοπεύει να συνεχίσει να εργάζεται στην τεχνητή νοημοσύνη στο μέλλον. «Η πρόθεσή μου είναι να παραμείνω στην τεχνητή νοημοσύνη, είτε με κρατήσει η Google είτε όχι», έγραψε σε ένα tweet.