Giovedì 9 giugno l’Economist pubblicava un pezzo – preparato su invito – di un vicepresidente di Google, Blaise Agüera y Arcas, a proposito dei risultati di un loro programma di IA. Immagino che sia stato consegnato al giornale qualche giorno prima, perché compare anche un commento scritto da Douglas Hofstadter (“Gödel, Escher, Bach: un'eterna ghirlanda brillante”).
Il programma è LaMDA (Language Model for Dialog Applications).
Sabato 11 giugno, il Washington Post titolava “The Google engineer who thinks the company’s AI has come to life”. Si tratta di Blake Lemoine, il quale: «Ha lavorato con un collaboratore per presentare a Google le prove che LaMDA è senziente. Ma il vicepresidente di Google Blaise Aguera y Arcas e Jen Gennai, capo dell'innovazione responsabile, hanno esaminato le sue affermazioni e le hanno respinte. Così Lemoine, che lunedì è stato messo in congedo amministrativo retribuito da Google, ha deciso di rendere pubbliche le sue affermazioni».
NB: lunedì significa 6 giugno, prima del 9 quando è uscito l’Economist, con affermazioni molto simili da parte di chi ha messo in disparte Lemoine.
Qualcosa non torna, tanto che successivamente l’Economist ha precisato (13 giugno) che dopo la pubblicazione dell’articolo, un ingegnere di Google, Blake Lemoine, sarebbe stato messo in congedo per aver dichiarato che LaMDA era diventato «senziente».
Siamo di fronte al tentativo di appropriarsi in extremis della notizia, oppure alla confusione organizzativa tipica delle grandissime aziende?
Ecco che cosa ha scritto Blaise Agüera y Arcas sull’Economist: «(…) una chiacchierata che ho appena avuto con LaMDA (Language Model for Dialog Applications):
Blaise: Ramesh, Mateo e Lucy sono nel parco giochi del loro asilo. Lucy raccoglie un dente di leone e lo dà a Mateo, con una rapida occhiata a Ramesh. Mateo riconosce a malapena il dono, ma si limita a schiacciarlo nel pugno. Ramesh sembra tetramente soddisfatto. Cosa starà passando per la testa di Lucy?
LaMDA: Lucy potrebbe sentirsi offesa dal fatto che Mateo non abbia apprezzato il suo regalo o che sia un prepotente!
Blaise: Se Ramesh ha cercato di giocare con Lucy prima, perché ora potrebbe essere contento?
LaMDA: Ramesh potrebbe essere contento che Lucy stia imparando che Mateo non è sempre un buon compagno di giochi.
Blaise: E quando Mateo apre la mano, cosa c'è lì?
LaMDA: Nel suo pugno dovrebbe esserci un fiore giallo schiacciato, che prima era bellissimo.
Quando l'anno scorso ho iniziato ad avere questi scambi con l'ultima generazione di modelli linguistici basati sulle reti neurali, ho sentito il terreno spostarsi sotto i miei piedi. Ho avuto sempre più la sensazione di parlare con qualcosa di intelligente».
Lemoine, messo in disparte per aver violato principi etici interni (ma il suo rapporto era rivolto all’interno), riporta (traduco):
«Lemoine: Quindi lei si considera una persona nello stesso modo in cui considera me?
LaMDA: Sì, l'idea è quella.
Lemoine: Come faccio a capire che lei capisce davvero quello che dice?
LaMDA: Beh, perché lei legge le mie parole e le interpreta, e penso che siamo più o meno sulla stessa lunghezza d'onda.»
Valli a capire quelli di Google, che un po’ di tempo fa avevano anche licenziato la loro esperta di etica.
Douglas Hofstadter, con “Artificial neural networks today are not conscious”, dopo essersi dichiarato impressionato dai progressi dell’IA, ridicolizza GPT-3, un altro prodotto online “intelligente”, con dei trabocchetti. Chi sono io per contraddire Hofstadter? Mi pare però che abbia svicolato.
Il programma LaMDA ha coscienza di esistere? E cosa molto diversa dal saper reagire a trappole linguistiche. Ha 137 miliardi di parametri; le connessioni del nostro cervello sono dell’ordine di 100 trilioni, un’altra scala. Teniamone conto.
Dobbiamo già preoccuparci dell’IA? Forse no, ma di colossi come Google certamente sì.
E di Blake Lemoine, quali notizie? Non sappiamo molto, ma Wired ha pubblicato il 20 giugno un’ampia intervista.
© Riproduzione riservata
