Due robot parlano una lingua inventata da loro: è allarme fra i ricercatori

La fantascienza è stata ormai superata dalla realtà? Sì, no, forse… Fatto sta che un recente singolare episodio ha creato allarme e preoccupazione fra i ricercatori: due robot hanno inventato autonomamente una nuova lingua per comunicare tra loro, tagliando fuori gli esseri umani dalla possibilità di comprenderli. Siamo dunque arrivati al punto che le macchine aggireranno il controllo umano come nella mitica sequenza di “2001 Odissea nello spazio”?

La questione è aperta, anche se Dhruv Batra, ricercatore del laboratorio Facebook AI Research (FAIR), getta acqua sul fuoco: “Nonostante l’idea che delle macchine che inventano un nuovo linguaggio per parlare tra loro suoni inaspettata e allarmante per chi non si occupi d’Intelligenza artificiale, in realtà si tratta di un aspetto molto ben conosciuto del settore, con pubblicazioni in merito che sono vecchie di decenni”.

C’è da chiedersi cosa sia accaduto effettivamente e se si tratti di una tempesta in un bicchier d’acqua. In realtà, alcuni sviluppatori di Facebook che stavano lavorando a un sistema in grado di simulare il nostro modo di conversare per non far capire all’interlocutore di avere a che fare con una macchina (aspetto, questo, evidentemente molto utile nel campo dei social network), hanno programmato dei “bot” (robot o sistemi di Intelligenza artificiale) capaci di dialogare tra loro in inglese e condurre semplici trattative. A un certo momento i due sistemi hanno cominciato a parlare un nuovo linguaggio, inventato da loro, utilizzando le parole in un modo diverso dal nostro. Gli sviluppatori hanno subito capito che ciò era stato possibile perché non avevano imposto ai sistemi di dialogare esclusivamente in inglese. Quando hanno modificato il programma imponendo questo vincolo, i due bot hanno smesso di usare il loro incomprensibile linguaggio. Semplice, dunque, la spiegazione della bizzarra situazione. I bot hanno cambiato il loro linguaggio perché hanno trovato un sistema di comunicazione con cui potevano condurre la trattativa in modo più efficace. È una cosa che fanno abituialmente anche le persone in carne e ossa, nei contesti in cui è più facile e veloce usare dei codici “esoterici”. “In poche parole –spiega Batra – degli agenti impegnati a risolvere un compito in un dato ambiente, spesso troveranno modi non intuitivi per massimizzare il risultato. L’analisi della funzione di ricompensa e la modifica dei parametri di un esperimento non vuol dire ‘scollegare’ o ‘spegnere l’Intelligenza artificiale”.