Penrose: la vera intelligenza non può essere artificiale

di Simone Paliaga

Pubblichiamo l’intervista a Roger Penrose apparsa il 10 maggio 2018 su Avvenire

Mente umana e computer sono comparabili? Se ne discute a “Intelligenza Artificiale vs Intelligenza Naturale”, la seconda delle annuali Communitas Lectures. Questa volta sul palco si confronteranno due giganti del pensiero, il filosofo Emanuele Severino e il cosmologo Roger Penrose. Sabato 12 maggio dalle 14.30, al Centro Congressi della Fondazione Cariplo in via Romagnosi 8, dietro la Scala, a Milano, i due ospiti d’onore, coordinati da Fabio Scardigli, Marco Dotti e Marcello Esposito, e incalzati dai discussant Giacomo Mauro D’Ariano, Ines Testoni e Giuseppe Vitiello affronteranno il rapporto che corre tra mente umana e computer, tra coscienza e intelligenza artificiale.

Sir Roger Penrose, che cos’è l’intelligenza artificiale (AI)?

«Le persone spesso usano il termine molto liberamente, applicandolo anche a semplici dispositivi come i termostati. Anche auto a guida autonoma o programmi per giocare a scacchi rientrano nella categoria. Si usa l’espressione AI per descrivere dispositivi che si pensa riproducano attività che richiedono intelligenza umana e che finiscono col superare in capacità gli esseri umani più abili. Ma in questo non c’è niente di nuovo». In che senso? «Mio padre possedeva una vecchia calcolatrice meccanica Brunsviga con cui, girando una maniglia che muoveva tutti gli ingranaggi all’interno della macchina, si producevano calcoli aritmetici che eccedevano le capacità degli esseri umani a meno che non fosse concesso a loro l’uso di carta e matita e molto più tempo per lavorare».

Lei cosa ne pensa dell’espressione AI?

«Ritengo il termine improprio poiché nessuno di questi dispositivi comprende ciò che sta facendo. La volontà richiede comprensione e la comprensione richiede consapevolezza, cioè coscienza che le macchine non hanno».

Da cosa nasce l’idea che il pensiero umano possa essere riprodotto da un computer?

«Penso che derivi da una, non irragionevole, convinzione che il cervello, essendo un oggetto fisico, obbedisca alle leggi della fisica. E qualsiasi cosa che segua le leggi della fisica può essere simulata computazionalmente. Credendo che i neuroni si comportino come fili e transistor niente di più normale che il computer possa simularne il funzionamento. Ma io ho le mie ragioni per non credere a questo».

Perché?

«Alcune azioni del pensiero umano possono certamente essere simulate computazionalmente. Per esempio la somma di due numeri o anche le operazioni aritmetiche o algebriche più complicate. Ma il pensiero umano va al di là di queste cose quando diventa importante comprendere il significato di ciò in cui si è coinvolti».

Può spiegarsi meglio?

«Il problema è la coscienza e ciò che la comprensione cosciente dei significati possono fare per noi. Naturalmente molti, se non la maggior parte, tra coloro che si occupano di AI la pensano diversamente, convinti che qualunque “comprensione” o “significato” possano essere simulati da un sistema computazionale puro».

La teoria quantistica può aiutarci a spiegare la coscienza?

«Non credo che la meccanica quantistica, per come la comprendiamo oggi, possa farlo. Penso che avremo bisogno di una teoria migliore di quella attuale».

Perché una posizione di scacchi può mettere in difficoltà un computer?

«La posizione degli scacchi a cui si riferisce è una nota posizione di pareggio conosciuta da qualsiasi giocatore che domini i rudimenti del gioco degli scacchi; invece Fritz, a quanto ho capito il principale programma di scacchi, regolato sul livello grande maestro, fraintende completamente la posizione e dopo un certo numero di mosse fa un errore stupido e perde la partita».

Come fa?

«Non sapevo molto su come fosse programmato Fritz ma ne sapevo abbastanza da aspettarmi che facesse un errore di questo tipo. Se avessi giocato con Fritz in maniera diretta avrei perso rapidamente. Non sono affatto un buon giocatore ma ho una certa comprensione di ciò che i pezzi possono fare e cosa no. Fritz invece non comprende niente, nemmeno quello che i pezzi degli scacchi possono fare. Semplicemente segue in modo inconsapevole alcuni algoritmi specifici, senza capire quello che sta facendo».

Perché?

«La mia risposta è semplice. Un computer esegue calcoli estremamente rapidi, molto più velocemente e con maggiore precisione di qualsiasi umano. Non ha però idea di cosa significhino questi algoritmi, né alcuna comprensione del loro significato. La comprensione può venire solo dalla coscienza e gli algoritmi non ne dispongono. Possono essere straordinariamente efficaci nel risolvere determinati problemi, ma perché funzionino a monte ci deve essere la comprensione consapevole dei programmatori umani che li ideano. E così sarà almeno finché non comprenderemo abbastanza che cosa sia effettivamente la coscienza. Solo allora eventualmente potremmo costruire dispositivi coscienti, qualunque cosa ciò possa significare».

La mente umana è dunque più intelligente?

«Non mi piace l’uso della parola intelligente in questo contesto, dal momento che sembra implicare una misura unidimensionale delle capacità mentali».

Oggi predominano timori sulla diffusione di robot intelligenti…

«Reputo che tali paure siano mal riposte. In un futuro estremamente lontano potremmo scoprire come costruire dispositivi consapevoli, ma questo non è rilevante per le attuali paure che pensano che i computer potrebbero sostituirci. Ma non lo faranno».

Tutte fantasie dunque?

«No, ci sono alcune legittime preoccupazioni sui lavori che potrebbero essere eseguiti meglio da robot controllati da computer che dagli umani. Ci sono anche timori genuini su ciò che i dispositivi robotici potrebbero fare in guerra, in caso di spionaggio o terrorismo, durante le elezioni, nel corso di una guerra informatica, ecc. Questi devono essere presi in considerazione molto seriamente. Ciò di cui dobbiamo preoccuparci non è che i computer prenderanno il sopravvento, ma che l’abuso umano della tecnologia informatica porterà alla ribalta nuovi pericoli difficili da prevedere e da evitare».