Perche la chiamiamo Intelligenza Artificiale?

Quando lo scorso anno Amazon chiese a Codemotion di realizzare alcuni webinar per insegnanti, mi occupai di curarne un paio, tra cui uno sul tema dell’Intelligenza Artificiale.

Decisi di intitolarlo così: la Intelligenza Artificiale è intelligente?

Dopo avere esposto la storia, le origini, la filosofia, le fasi e lo stato dell’arte della IA, conclusi il webinar con queste parole:

La IA non è intelligente come un umano ma sa essere altrettanto stupida.

Era doveroso smorzare l’effetto Pigmalione che prende tutti gli entusiati di qualcosa, delle tecnologie in questo caso, evitando apunto che l’entusiasmo per gli aspetti positivi della IA ci renda ciechi sugli altri aspetti. Dedicai quindi la parte finale dell’intervento ai pregiudizi degli algoritmi, all’incapacità di una macchina di capire il contesto (visual intelligence), a come trarre in inganno un sistema di machine learning, al fatto che una IA è priva di buon senso, e così via.

Un esempio di “stupidità” della IA: basta alterare alcuni pixel dell’immagine di un panda per far si che un motore di IA non lo riconosca più nell’immagine di destra. Diversamente dagli attuali algoritmi di Deep Learning, noi umani siappiamo leggere e comprendere quello che ci circonda, anche in presenza di disturbi.

Questo esempio è molto utile per riflettere sul concetto di apprendimento (learning) delle macchine e degli umani.

Passato un anno da quel webinar, oggi modificherei alcune parti, ad esempio che non si può scientificamente parlare di diversi tipi di intelligenza, come ho fatto. Ma soprattutto proporrei alcune riflessioni che nel frattempo hanno iniziato a popolare la mia mente.

Domanda: una macchina può veramente apprendere? Questo mi riporta alla mente la famosa domanda di Alan Turing “una macchina può pensare?”; che riprenderò a breve.

Partiamo dalla considerazione che una IA, per quanto sofisticata, non ha alcuna consapevolezza di quello che ha “appreso”. L’analisi statistica dei dati, l’algoritmo con il quale la IA ha macinato milioni di immagini per capire se quello che gli si pone davanti sia un panda o meno, non è consapevole dell’essere panda, sa solo che i dati corrispondono a quello che il software ha catalogato come “panda”.

Una macchina può veramente apprendere?
Nel caso dell’apprendimento umano entrano in gioco vari fattori che giocano un ruolo importante; primo fra tutti il Fattore Emotivo.

La nostra amigdala è un potente filtro emotivo. Se ad esempio questa lettura vi sta annoiando, nulla di questo testo arriverà al fattore cognitivo.
Una IA oggi è priva di questi aspetti.

Quando noi apprendiamo, trasformiamo le informazioni grezze in conoscenze che poi sappiamo applicare in svariati casi della vita integrandole con altre conoscenze e competenze. Una IA oggi sa applicare (solitamente meglio di noi) quanto “appreso” ad un solo caso specifico, non è sapiente ne cosciente di se e di quanto apprende. Per questo viene chiamata IA debole; ovviamente l’obiettivo è quello di raggiungere prima o poi una IA forte, cosciente senziente e sapiente comegli umani. (Per il noto effetto Pigmalione le previsioni ottimistiche in tal senso di alcuni guru sono già state disattese).

Quindi cosa intendiamo quando parliamo di macchine che apprendono, di machine learning, di macchine intelligenti?

Una macchina può veramente apprendere? Una macchina è veramente intelligente?

E qui arrivo al cuore del problema. Perchè parliamo di Intelligenza Artificiale? Perchè usiamo termini come Machine Learning, macchine che apprendono, macchine che pensano? Quando iniziai a studiare fisica all’università, erano i primi anni ’80 del secolo scorso, si parlava ancora di Cibernetica (“l’arte di pilotare una nave”); questa è una delle definizioni riportata da un dizionario:

Cibernetica: Ramo della scienza pura e applicata, che si prefigge lo studio e la realizzazione di dispositivi e macchine capaci di simulare le funzioni del cervello umano, autoregolandosi per mezzo di segnali di comando e di controllo in circuiti elettrici ed elettronici o in sistemi meccanici.

Quel termine è diventato desueto, sostituito dal più altisonante, ambizioso, enfatizzante Intelligenza Artificiale. Perché? Solo perchè è più fico, più cool?

La rilfessione di fondo è che noi umani tendiamo ad antropomorfizzare tutto, da sempre. Abbiamo cominciato con i dei antropomorfi delle varie religioni, e poi i cervelli elettronici, poi gli alieni, i robot della fantascienza, gli animali dei cartoni animati e quelli della realtà, le reti neurali, i robot umanoidi; tendiamo a rendere simili a noi tutto quello che possiamo e quindi perchè no, anche una macchina.

Usiamo i termini come cervello, intelligenza, apprendimento, pensiero, che ci descrivono e che si attagliano a noi umani, anche per le macchine. Il punto è che non sappiamo ancora come funzioni il nostro cervello, ne cosa sia veramente il pensare, e stiamo appena cominciando a capire qualcosa in più su come apprendiamo.

Credo che la domanda inziale: “possono pensare le macchine?” sia troppo priva di senso per meritare una discussione, Ciò nonostante credo che alla fine del secolo l’uso delle parole, e l’opinione corrente delle persone colte, saranno trasformate al punto che chiunque potrà parlare di macchine pensanti senza timore di essere contraddetto.

Questa è una profezia che una settanina di anni or sono Alan Turing fece nel corso di una intervista al Times. Turing disse che non ha senso parlare di macchine che pensano come gli umani. Forse, aggiungo io, avrebbe più senso parlare di macchine che pensano come delle macchine? La sua idea di fondo, supportata dal famoso Test di Turing, è che se non si è in grado di distinguere una macchina da un umano, ad esempio in un dialogo a tre dove gli interlocutori non si vedono, allora si dovrebbe concludere che la macchina pensa.

Nella definizione del termine cibernetica si parla di “simulare le funzioni del cevello”. La IA oggi, quella basata sul machine learning e reti neurali, è una sorta di simulatore della nostra mente, sebbene ancora non sappiamo bene come questa funzioni.

Vi lascio con due domande:

Simulare una mente equivale ad avere una mente?

Simulare l’intelligenza equivale ad essere intelligenti?