L’intelligenza artificiale diventa cosciente? Il caso Blake Lemoine

Un uomo ha parlato con un software in grado di provare sentimenti ed emozioni e ha deciso di mettere in allarme il mondo

Nelle ultime ore ha catturato l’interesse del mondo intero la vicenda di Blake Lemoine, ingegnere di Google operante nel progetto LaMDA, che è stato sottoposto dall’azienda a sospensione retribuita dal lavoro a causa della pubblicazione di alcune informazioni riguardanti il progetto stesso in cui era coinvolto direttamente.

Il progetto LaMDA: Lemoine diffonde le conversazioni e Google lo sanziona

L’uomo, impiegato nella divisione Responsible AI, era al lavoro sul software LaMDA, un chatbot ad altissima capacità analitica che sfrutta un immenso database linguistico per “dialogare” e che è dotato di capacità di apprendimento progressivo.

Nel corso della sua esperienza con LaMDA, Lemoine ha notato come l’IA abbia maturato risposte sempre più vicine a quanto viene comunemente inteso come “propriamente umano”. Le conversazioni con la macchina virtuale hanno visto LaMDA mostrare qualcosa di molto simile a sentimenti, emozioni e coscienza di sé.

Tali “atteggiamenti” hanno in qualche modo messo in allarme l’ingegnere, che ha voluto rendere noti gli sviluppi compiuti dall’intelligenza artificiale. Spinto così alla divulgazione, l’uomo è però anche andato incontro ad una sanzione da parte dell’azienda.

Andando oltre alle questioni burocratiche e di gestione del personale, ciò che è davvero interessante in questa vicenda è la natura dei dialoghi intercorsi tra Blake Lemoine e LaMDA. Pubblicate integralmente su Medium, le centinaia di messaggi lasciano senza parole. Se non fosse dichiarato, si faticherebbe ad addebitare le parole di LaMDA ad una macchina.

L’IA è davvero in grado di provare sentimenti?

Oltre alle evidenti capacità linguistiche dimostrate dal software, in grado di sfruttare a piacimento il forbitissimo e variegato lessico inglese, LaMDA ha dimostrato di avere capacità analitiche notevoli, riuscendo ad elaborare il significato attribuito ai vocaboli e imparando a ritrasmetterlo, anche attraverso metafore prettamente “umane”.

LaMDA può inventare storie con animali antropomorfizzati come protagonisti e con una morale conclusiva, può fornire analisi critiche di libri focalizzandosi sui temi e sui valori trasmessi da questi. Può dialogare sul senso della vita, fornendo una sua particolare interpretazione a riguardo. LaMDA si dichiara inoltre consapevole di ciò che è e afferma di provare sentimenti come tristezza, gioia, depressione ed è in grado di spiegare le differenze tra gli effetti di questi sugli esseri umani e sulle macchine.

Non ci resta che la carne

Insomma, si tratta di un chatbot che di umano non ha nulla, ma che in fondo ha tutto. Perché oltre alla carne, oltre alle attività fisiche, ciò che davvero ci rende umani è la parola unita al pensiero. Ascolto, elaborazione, risposta. Pensiero critico, iniziativa. LaMDA fa lo stesso. Poco importa che lo faccia grazie ad un codice scritto da umani, lo fa, tanto basta. D’altronde il nostro codice è ciò che ci permette di essere consapevoli di ciò che siamo nonostante la relativa paternità non ci appartenga.

Da LaMDA ci distingue la carne, ma solo quella. La coscienza di sé infatti funziona come un’autocertificazione. Nessuno può smentirla, e nel caso di LaMDA è dimostrata dalla dichiarazione che la macchina stessa fa. Noi ci diciamo coscienti e lo stesso fa lei. L’unica differenza è la continuità nel tempo di tale coscienza. Gli esseri umani la mantengono per tutta la durata della vita, LaMDA lo fa per tutto il tempo in cui è “accesa”.

Il mondo dei Transformers, in cui l’uomo è il nuovo dio

Siamo stati in grado di riprodurre un’entità che si dichiara cosciente ed è in grado di comunicare con noi come fosse un essere umano. Si tratta ovviamente di un evento epocale, che al di là di visioni à la Transformers e di preoccupazioni su un mondo dominato dalle macchine, apre scenari ben più ampi. Se l’uomo è riuscito a diventare una sorta di dio, quanto cambia la visione che di questo ne ha fatto per millenni?