Un mio amico, qualche tempo fa, mi fece leggere una lettera indirizzata ad un quotidiano locale. Era stata scritta con ChatGPT, il famoso servizio di intelligenza artificiale specializzato nella conversazione con gli esseri umani. La lettera venne regolarmente pubblicata e gli ignari lettori non seppero che stavano leggendo un testo scritto dal computer. Cosa c’è di strano? Tutti usiamo un computer per scrivere con Word oppure Open Office. Però questo caso è profondamente diverso e, in qualche misura, inquietante. Stiamo parlando di un testo, non distinguibile dallo scritto di un essere umano, redatto da una macchina. Non si tratta di scrivere col computer ma di chiedere al computer di scrivere, e forse pensare, al posto nostro.
In un certo senso assomiglia al “gioco dell’imitazione” di cui parlava Alan Turing negli anni ’50. Come si fa a capire se una macchina è in grado di pensare? La soluzione proposta dal matematico britannico era semplice: una persona chiamata A interroga altri due soggetti, chiamati B e C, che restano nascosti in un ambiente separato. Ad un certo punto C viene sostituito da un computer. Se le risposte della macchina sono indistinguibili da quelle della persona allora significa che la macchina ha un comportamento intelligente.
IL FUTURO DELLA VITA
Future of Life Institute è un’organizzazione senza scopo di lucro che lavora, tra le altre cose, anche sui temi dell’Intelligenza Artificiale (IA). Lo scopo di FLI è quello di ridurre i rischi catastrofici ed esistenziali globali che l’umanità deve affrontare, in particolare il rischio esistenziale derivante dall’intelligenza artificiale avanzata.
Questa organizzazione non profit ha recentemente pubblicato una “lettera aperta” con la quale si appella ai laboratori della IA per chiedere uno stop di sei mesi nello sviluppo delle più avanzate forme di intelligenza artificiale. Durante questa breve pausa le istituzioni mondiali dovrebbero adoperarsi per regolamentare un settore, quelle della IA, che sta conoscendo un’evoluzione a ritmi esponenziali.
La lettera è stata sottoscritta, ad oggi, da oltre 50.000 firmatari e, tra questi, ha fatto scalpore per la presenza di un nome illustre come quello di Elon Musk. I promotori di questa iniziativa sostengono che i laboratori della IA sono impegnati in una corsa fuori controllo per sviluppare e impiegare menti digitali sempre più potenti che, come si legge nella lettera, nessuno, nemmeno i loro creatori, oggi è in grado di comprendere, prevedere o controllare in modo affidabile.
La petizione, la cui sottoscrizione è aperta al pubblico, pone dei pesanti interrogativi: “dovremmo lasciare che le macchine inondino i nostri canali di informazione con propaganda e falsità? Dovremmo automatizzare tutti i lavori, compresi quelli soddisfacenti? Dovremmo sviluppare menti non umane che alla fine potrebbero essere più numerose, superate in astuzia, obsolete e sostituirci? Dovremmo rischiare di perdere il controllo della nostra civiltà?”. La conclusione è che le risposte a tali interrogativi non devono essere delegate a leader dell’industria tecnologica perché essi non sono stati eletti democraticamente.
I RISCHI DELLA IA
Sul sito di Future of Life sono elencati diversi ambiti di interesse dell’organizzazione. Si parte dal riscaldamento globale, passando per le biotecnologie fino alle armi nucleari. Per quanto concerne l’intelligenza artificiale un documento introduttivo mette in guardia dai potenziali rischi: “Gli esseri umani potrebbero, ad esempio, perdere il controllo di un sistema ad alte prestazioni programmato per fare qualcosa di distruttivo, con un impatto devastante. E anche se un’intelligenza artificiale è programmata per fare qualcosa di utile, potrebbe comunque sviluppare un metodo distruttivo per raggiungere tale obiettivo.”
Dunque, la IA ci espone già oggi a “rischi importanti, come l’erosione dei processi democratici, crolli finanziari improvvisi o una corsa agli armamenti da armi autonome”. E la politica, che non può assolutamente formarsi e riformarsi allo stesso ritmo dei rischi di IA dovrebbe essere preventiva e considerare i pericoli sia presenti che imminenti.
UNA QUESTIONE DI COSCIENZA
A questo punto il lettore forse si starà chiedendo se questo articolo è mio oppure non sia stato scritto da un’intelligenza artificiale. Per dimostrarvi che questa è tutta farina del mio sacco farò una cosa che nessuna macchina potrebbe mai fare: vi giuro su mia figlia che questo articolo l’ho scritto io!
“Che padre degenere!” – avrà pensato qualcuno – “Non si dovrebbe mai giurare sui propri figli! Ma l’autore di questo articolo non ha una coscienza?”. E forse è proprio questo il punto: la coscienza.
“L’intelligenza artificiale” – tornando alla lettera di Future of Life – ”non ha bisogno della coscienza per perseguire i suoi obiettivi, non più di quanto ne facciano i missili a ricerca di calore. Il pericolo non proviene dai robot, di per sé, ma dall’intelligenza stessa, che non richiede nient’altro che una connessione Internet per causare un danno incalcolabile”.
Parecchie volte, nel corso della storia, ci siamo confrontati con tecnologie potenzialmente pericolose. Si pensi ad esempio all’energia atomica (nata per costruire la bomba di Hiroshima). Oggi però siamo di fronte ad una situazione che non ha precedenti. In passato il pericolo della tecnologia dipendeva dalla coscienza dell’uomo che la utilizzava. Ora stanno per nascere dei sistemi che, pur restando privi di una propria coscienza, possono muoversi ed operare come l’uomo ma a prescindere dall’uomo e, almeno potenzialmente, in modo dannoso per l’uomo e l’ambiente.
Riflettendo sulle macchine intelligenti e prive di coscienza è inevitabile l’accostamento con gli esseri umani. Gli elementi che ci distinguevano dalle macchine erano, almeno fino ad oggi, l’intelligenza e la coscienza. Ora l’intelligenza umana sembra essere eguagliata da quella artificiale. Loro, le macchine, restano tuttavia senza una coscienza. E noi invece?
Pensiamo, ad esempio, al tema del riscaldamento globale e al mondo che lasceremo ai nostri figli. Di fronte a questo possiamo vantarci di “avere una coscienza”? Se guardiamo i nostri fiumi che, negli ultimi anni, sono ridotti ad un greto di sabbia e ghiaia cosa dice la nostra coscienza? Il recente articolo di Giorgio Bartolini analizza i mutamenti climatici in Toscana e conclude che “è come se il nostro Appennino si fosse spostato più in basso di circa 300 metri ”. Tutte queste situazioni drammatiche non sono forse frutto dell’incoscienza ecologica della nostra specie?
Ci sono poi tutte le guerre in corso, a cominciare da quella in Ucraina. Questi conflitti sembrano addirittura mettere in dubbio l’intelligenza, oltre che la coscienza, di noi esseri umani. Che dire delle migliaia di migranti costretti ad attraversare il Mediterraneo per fuggire da guerre, persecuzioni e carestie in Africa e in Asia. Anche di fronte ad essi la nostra coscienza sembra ammutolire.
E’ veramente sconfortante allora pensare che delle macchine prive di coscienza potrebbero affermarsi in un mondo nel quale noi umani abbiamo accantonato la nostra coscienza.
Ombrone in piena (foto Maurizio Pini)
IL GAP EVOLUTIVO
La tecnologia non rappresenta in sé il male e lo riconoscono anche i firmatari della petizione di Future of Life. Ma questo, a ben vedere, è quello che si è sempre detto: ogni tecnologia non è buona o cattiva ma può essere usata per il bene o per il male.
Nel caso dell’intelligenza artificiale però il problema principale è forse rappresentato da uno “scarto evolutivo”.
Ciò che stiamo inventando è troppo evoluto anche per il suo inventore che, in fin dei conti, resta sempre un mammifero comparso sulla Terra qualche milione di anni fa. Lo spiegava molto bene il prof. Edward Osborne Wilson. Il padre della Sociobiologia, recentemente scomparso, sosteneva che “we have a Paleolithic emotions, medieval institutions, and god-like technology” (“noi umani abbiamo emozioni paleolitiche, istituzioni medievali e una tecnologia dalle sembianze divine”).
Esiste dunque uno scarto evolutivo molto profondo tra la fragile dimensione emotiva di noi umani, ancorata a radici ancestrali, e le potenti tecnologie che viaggiano a gonfie vele verso un futuro fantascientifico. Nel mezzo, per gestire e regolamentare il tutto, ci stanno le nostre istituzioni che, se accostate alle nuove invenzioni, appaiono come ruderi medievali.
Dunque, forse sarebbe il caso di rallentare un po’, e non solo per sei mesi come propone la lettera di Future of Life, per prendere coscienza di ciò che è bene per noi e per il pianeta su cui viviamo.
CLICCA QUI PER IL LINK ALLA PETIZIONE DI FUTURE OF LIFE
Le illustrazioni riportate in questo articolo sono state create da una “intelligenza artificiale” attraverso l’applicazione Imagine.
Le fotografie presenti invece sono Fotografie © Maurizio Pini – mauriziopini.com (che pure è una forma di intelligenza però naturale)
