Coscienza artificiale, la grande illusione

Un ingegnere di Google è convinto che un modello linguistico sviluppato dall’azienda sia ‘qualcosa’ di intelligente. Ma non è così.

“Attenzione l’AI sembra essere cosciente”. Quasi un grido di allarme. E tutti i quotidiani e TG a riprendere quella che è sostanzialmente una bufala. Sicuramente chi lo ha detto non era in malafede, lo credeva davvero. Ma è un tema delicato ed è facile essere tratti inganno.

Che cos’è la coscienza? Dal punto di vista dell’osservatore è ricevere delle risposte (perché di questo si tratta) che facciano pensare che vi sia una mente senziente e non un algoritmo deterministico a dialogare con noi. Ma le moderne tecnologie sono molto avanzate e si alimentano attraverso intere biblioteche. Ricevere una risposta poetica ad una domanda non è improbabile se il sistema è stato addestrato con Proust, Pirandello, Dostoevskij e altre migliaia di autori. Teoricamente potreste addestrare i sistemi con i testi dei nuovi rapper milanesi, ma credo vi pentireste dopo un minuto.

Il caso specifico è relativo a LaMDA, il chatbot di Google. Lemoine, ingegnere di Google, aveva iniziato a dialogare con LaMDA nell’autunno 2021 per testare il linguaggio del chatbot e verificare che non contenesse bias o espressioni discriminatorie e d’odio. “Se non sapessi esattamente di cosa si tratta, cioè di un programma per computer che abbiamo costruito di recente, penserei che fosse un bambino di 8 o 9 anni che conosce la fisica” ha poi scritto in una relazione destinata ai vertici della società. Secondo la denuncia dell’ingegnere, l’AI avrebbe raggiunto quel livello di comprensione e risposta agli stimoli linguistici tipici del genere umano. Apriti cielo. L’intelligenza artificiale è oggi molto citata ma è un tema di alta complessità e ben pochi possono andare oltre i due termini e la vaga associazione all’intelligenza umana. Nella realtà l’AI che attualmente utilizziamo con successo e che riguarda la stragrande maggioranza delle applicazioni non è per nulla simile alla mente umana.

La rubrica mensile di Andrea Barchiesi, fondatore e CEO di Reputation Manager, su Prima Comunicazione: