Si ringrazia Science & Wisdom LIVE per la gentile concessione dell’intervento di Marco Schorlemmer. Ecco il podcast di Marco Schorlemmer.
Nell’ultimo decennio, l’intelligenza artificiale ha attirato molta attenzione da parte dell’industria, dei media e delle agenzie governative, e ciò è dovuto in gran parte agli impressionanti successi dei sistemi basati sull’IA nell’affrontare problemi molto complessi che, fino a poco tempo fa, avevano resistito alla risoluzione tramite programmi informatici. I successi dell’IA sono stati ottenuti utilizzando una particolare tecnica algoritmica nota come apprendimento profondo (deep learning), una tecnica basata sulle cosiddette reti neurali, ovvero un tipo di modello computazionale vagamente ispirato alla struttura neuronale del nostro cervello e alla propagazione delle onde elettrochimiche attraverso le sinapsi.
Le reti neurali non sono nuove nel campo dell’informatica; le loro fondamenta teoriche risalgono agli inizi della ricerca sull’intelligenza artificiale stessa, nella metà del XX secolo. Tuttavia, ciò che è cambiato nell’ultimo decennio, e che ha portato ai recenti successi nell’applicazione di questa tecnica, è la velocità e la potenza dei computer moderni e la quantità enorme di dati disponibili per addestrare questi algoritmi nella risoluzione di un determinato problema o compito. L’idea di base è che un ingegnere informatico configuri questo modello computazionale e utilizzi poi la tecnica del deep learning per iniziare a regolare i parametri del modello, esponendo il sistema computazionale, per esempio, a un insieme di immagini da classificare, diciamo delle scansioni cerebrali, insieme alla categoria appropriata per queste immagini, ossia se la scansione mostra o meno un particolare tipo di tumore cerebrale. Una volta che il modello computazionale raggiunge un tasso di successo adeguato nel distinguere le immagini con tumori da quelle senza, può essere implementato, ad esempio, in un sistema diagnostico automatico che processa nuove scansioni cerebrali non classificate. Nella letteratura scientifica, molte di queste applicazioni sono state riportate con un’accuratezza pari o addirittura superiore a quella degli esperti umani, portando alla previsione che, nel prossimo futuro, molti compiti ora riservati agli esseri umani potrebbero essere sostituiti da sistemi di calcolo basati sull’IA, con risultati migliori.
Tutto ciò solleva ovviamente molte preoccupazioni etiche su come i sistemi basati sull’IA dovrebbero essere sviluppati e utilizzati nella nostra società, e l’urgenza di affrontare queste preoccupazioni sta diventando sempre più pressante, dato che questi sistemi vengono applicati in un numero sempre maggiore di settori, come la diagnosi medica, l’approvazione di richieste di libertà vigilata, la selezione del personale, in polizia e persino nella guerra automatizzata.
Negli ultimi anni, abbiamo assistito a molti tentativi, attraverso manifesti, dichiarazioni o linee guida di principi, di riflettere su come lo sviluppo e l’uso di questi sistemi di calcolo basati sull’IA possano favorire il bene comune, evitando che diventino dannosi per la società. Il mio istituto di ricerca a Barcellona ha promosso la Dichiarazione di Barcellona per lo sviluppo e l’uso corretto dell’intelligenza artificiale in Europa. Propone un codice di condotta generale per i praticanti dell’IA. Nel primo punto, ad esempio, si invita alla prudenza nell’applicazione effettiva dei sistemi basati sull’IA. Spesso, le storie di successo dell’apprendimento profondo riportate nella letteratura scientifica sono limitate a scenari molto circoscritti, con reti neurali accuratamente progettate che, in generale, non sono appropriate per essere utilizzate in situazioni reali. Pertanto, un’applicazione prematura della tecnologia IA può essere, da un lato, deludente, ma può anche risultare molto dannosa. Altri temi trattati nella Dichiarazione di Barcellona riguardano l’affidabilità, la responsabilità e l’autonomia limitata che i sistemi di IA dovrebbero mostrare, oltre a quale dovrebbe essere il ruolo umano in scenari altamente sensibili. Queste linee guida e principi rappresentano un passo importante verso applicazioni benefiche e affidabili della tecnologia IA. Tuttavia, l’attenzione è rivolta principalmente ai risultati e agli effetti di questa tecnologia. Raramente vengono esplicitati e messi in evidenza i presupposti o le motivazioni, o le direzioni di ricerca che guidano la pratica professionale dei ricercatori nel campo dell’intelligenza artificiale. Oggi vorrei quindi riflettere su alcuni di questi presupposti e motivazioni fondamentali del programma di ricerca sull’intelligenza artificiale.
Il pensiero occidentale, fin dai tempi dell’Antica Grecia, ha attribuito grande valore all’intelligenza, sebbene i Greci la chiamassero prevalentemente ragione o razionalità; essi la consideravano una parte fondamentale dell’intelletto, ciò che ci distingue dal resto della creazione e che giustificava anche il fatto che gli esseri razionali potessero governare su quelli irrazionali. Ritengo che la ricerca odierna sull’intelligenza artificiale debba essere compresa rispetto a questa importanza attribuita all’intelligenza nel pensiero occidentale. Come conseguenza, da un lato sogniamo di programmare macchine computazionali che possano diventare intelligenti quanto noi o addirittura superare l’intelligenza umana, per aiutarci ad affrontare i grandi problemi dell’umanità come la guerra, la malattia o la povertà; dall’altro lato, temiamo anche che queste macchine superintelligenti possano finire per dominarci e sfruttarci. A mio avviso, la ragione di questi sogni e paure si trova nel nostro modo di comprendere questo fenomeno che chiamiamo intelligenza. Oggi molti studiosi sostengono una comprensione assai più ampia di questo fenomeno, che va oltre la visione ristretta dell’intelligenza basata esclusivamente su ragione e razionalità, e abbiamo iniziato a considerare anche l’intelligenza animale e vegetale. Tuttavia, penso che ci siano ancora alcuni aspetti della nostra attuale comprensione dell’intelligenza che rimangono in gran parte incontestati. In particolare il fatto che l’intelligenza sia correlata alla nostra capacità di apprendere, adattarci e avere successo nelle nostre interazioni con altri organismi e con l’ambiente, che l’intelligenza sia osservabile, cioè che possiamo vedere se qualcuno agisce in modo intelligente o meno e che sia sensato affermare che abbiamo più intelligenza se apprendiamo, ci adattiamo e riusciamo meglio, per cui l’intelligenza è in qualche modo misurabile, nel senso che possiamo determinare fino a che punto qualcuno è più intelligente di qualcun altro e infine, che l’intelligenza possa essere attribuita a entità individuali, a persone, animali o piante. La ricerca scientifica sull’intelligenza si basa su questa comprensione, che vede l’intelligenza come una proprietà oggettiva, osservabile e misurabile delle entità individuali.
La ricerca sull’IA aggiunge a questo un’ulteriore ipotesi, ossia che l’intelligenza si basi sulle capacità di elaborazione delle informazioni degli organismi, e che, di conseguenza, macchine elaboratrici di informazioni come i computer potrebbero eventualmente esibire un certo tipo di comportamento intelligente. Tuttavia, penso che questa ipotesi si basi su una confusione e un uso improprio dei concetti di informazione e di intelligenza. I computer sono essenzialmente macchine che elaborano dati, con i dati rappresentati ed elaborati in forma digitalizzata. L’informazione, invece, è una forma astratta di conoscenza basata sulle regolarità che osserviamo nel mondo e che poi utilizziamo per prevedere e controllare i fenomeni. Di conseguenza, l’informazione è la forma di conoscenza caratteristica delle tecnoscienze, ma l’informazione è in realtà un concetto umano. L’informazione trasmette significati per noi umani, e siamo noi umani che consideriamo l’elaborazione dei dati da parte dei computer come elaborazione di informazioni. I computer fanno solo calcoli numerici senza sapere cosa sia un numero o cosa significhi calcolare, quindi in realtà lo fanno senza sapere nulla.
L’intelligenza, come si manifesta negli esseri umani, non si basa solo sull’elaborazione delle informazioni. Un tale concetto di intelligenza, a mio avviso, tocca solo un aspetto di questo fenomeno, quello che potremmo chiamare la dimensione funzionale dell’intelligenza. Questa è la dimensione che si concentra su ciò a cui serve l’intelligenza, la sua funzione per l’adattamento, la risoluzione dei problemi, il raggiungimento di obiettivi, il successo, la sopravvivenza. Ma oltre a questa dimensione funzionale, penso sia giusto dire che esiste anche una dimensione valutativa importante dell’intelligenza, che fornisce significato e valore a ciò che facciamo e ci collega alla dimensione estetica della vita. Gli artisti, ad esempio, sfruttano molto questa dimensione dell’intelligenza. La conoscenza, quindi, è un aspetto essenziale dell’intelligenza quando si considerano entrambe le sue dimensioni: quella funzionale e quella valutativa. La conoscenza non è solo descrittiva, cioè non si limita al suo contenuto informativo, ma è piena di senso, emozioni e valori. Potrei avere informazioni su cosa una malattia come il cancro fa a un corpo umano e su come affrontarla al meglio con farmaci e terapie, ma è un problema del tutto diverso sapere come il cancro sta colpendo il mio corpo o quello di una persona amata, e sapere cosa significa soffrire di questa malattia. Eppure questa dimensione valutativa, come anche quella funzionale, è relativa ai nostri bisogni come esseri umani, quindi l’intelligenza funzionale e valutativa è condizionata dalla nostra biologia.
In ultima analisi, la nostra intelligenza dipende molto dalle nostre interazioni corporee con altri organismi e con l’ambiente, e noi funzioniamo ed esperiamo diversamente rispetto ad altri esseri viventi. Ciò che è significativo e di valore per noi esseri umani potrebbe non esserlo per altre creature di questo pianeta. Ora, questa intuizione, cioè che la nostra intelligenza è relativa ai nostri bisogni contingenti come esseri umani, ci libera dal restare intrappolati in questa realtà particolare che concettualizziamo e sperimentiamo, questa realtà particolare che percepiamo e a cui diamo senso in questo specifico momento e luogo della storia, ed è un’intuizione liberatoria. La realtà non è solo ciò che possiamo conoscere, ogni conoscenza è intrecciata con un non-sapere. Questa dimensione del non-sapere trascende la relatività dei nostri bisogni umani e punta a un’assolutezza della realtà; di conseguenza, è anche la fonte della nostra capacità di cambiare la realtà stessa, per rispondere creativamente ad essa, per essere co-creatori della realtà, per partecipare alla sua creatività, per così dire. Il progresso tecnoscientifico che compiamo non sarebbe possibile senza questa libera e creativa risposta dell’intelligenza; chiamiamola la dimensione liberatoria dell’intelligenza. Questo non-sapere non va confuso con l’ignoranza; l’ignoranza è non sapere qualcosa che può essere conosciuto. L’ignoranza può essere dannosa per la nostra sopravvivenza come esseri viventi.
Siamo una società molto concentrata sulla conoscenza e, in particolare, sull’informazione, che è questa forma astratta di conoscenza caratteristica delle tecnoscienze. Quindi il progresso scientifico si concentra principalmente sulla generazione di queste informazioni e conoscenze. Ad esempio, nella pandemia di COVID-19, abbiamo spesso sentito parlare dell’importanza di ascoltare la scienza, perché l’ignoranza causa morti. E l’IA può essere uno strumento meraviglioso in questa dimensione informativa della conoscenza; può essere uno strumento straordinario per comprendere il funzionamento del virus SARS-CoV-2, per capire il nostro sistema immunitario e per comprendere l’efficacia di determinati farmaci nel trattare la malattia COVID-19, per prevedere la diffusione del virus e anche per favorire la comunicazione e la cooperazione tra noi esseri umani che affrontiamo una pandemia. Quindi, l’IA può essere uno strumento straordinario, ma non da sola. Ricordiamo: i computer fanno solo elaborazione numerica senza sapere cosa sia un numero né cosa significhi elaborare. Il ruolo dell’IA deve sempre essere situato in questo quadro più ampio dell’intelligenza, con le sue dimensioni funzionale, valutativa e liberatoria, e anche all’interno di un’intelligenza socialmente incarnata che comprende il significato di malattia, pandemia, sofferenza e morte, e che sa cosa sono tutte queste cose, con tutto il loro contenuto valutativo.
Quando dico ‘intelligenza socialmente incarnata’, intendo che questa intelligenza trascende la nostra individualità. Vi partecipiamo come esseri umani, ma non è una proprietà che possediamo come individui. Non possiamo essere entità intelligenti isolate, perché è attraverso il nostro dare senso alle interazioni con l’ambiente e la nostra partecipazione alla società che siamo costituiti come esseri umani intelligenti. E quando dico che dobbiamo situare l’IA in una società umana che sa cos’è la malattia, la pandemia, la sofferenza e la morte, intendo che questo sapere va oltre il possesso di informazioni; tocca la vita nelle sue manifestazioni concrete e ha anche una dimensione di non-sapere che non apprezziamo quando ci concentriamo solo sull’informazione astratta o sul contenuto della conoscenza.
Quindi, quando affrontiamo le questioni etiche legate alla ricerca sull’IA e allo sviluppo di sistemi basati sull’IA e al loro impiego nella società, penso che dobbiamo andare oltre l’attuale visione dell’intelligenza come proprietà oggettiva, osservabile e misurabile di entità individuali e questa visione dell’intelligenza principalmente basata sull’elaborazione della conoscenza informativa, perché restando a questo livello di elaborazione dei dati e delle informazioni, non raggiungiamo il livello carico di valore della nostra conoscenza esperienziale che è direttamente rilevante per le questioni etiche e morali. Più importante, dobbiamo riconoscere la dimensione liberatoria dell’intelligenza, che deriva dalla consapevolezza che la conoscenza è sempre relativa ai nostri bisogni come esseri viventi e che la conoscenza è intrecciata con questa dimensione del non-sapere, che si trova al cuore della libertà creativa della realtà stessa. Cercare di affrontare le questioni etiche legate all’IA mediante un modello computazionale e teorico dell’informazione, sebbene fatto con buone intenzioni, non è solo insufficiente, ma porta anche il rischio di degradare queste questioni, come se potessero essere affrontate efficacemente a livello teorico dell’informazione. Ma i sistemi di elaborazione dei dati non possono sapere cosa significa agire eticamente in una società umana, né tanto meno essere consapevoli di questa dimensione di non-sapere della conoscenza e quindi essere in grado di rispondere e agire creativamente in una data situazione.
Quindi, come società, penso che dobbiamo andare oltre una visione prevalentemente tecnoscientifica del progresso e della risoluzione dei problemi, sebbene ovviamente l’accumulazione di conoscenza informativa sia necessaria per affrontare molte delle sfide che le nostre società affrontano oggi, ma dobbiamo anche crescere nella consapevolezza della libertà creativa al cuore della nostra realtà. Ed ecco perché penso che coltivare pratiche contemplative di decentramento dell’ego, come il silenzio, l’attenzione e la meditazione, sia di fondamentale importanza per le società di oggi e debba essere un aspetto centrale nell’educazione, anche a livello universitario, perché queste pratiche esercitano il nostro distacco dal contenuto della conoscenza e ci aiutano a crescere nella consapevolezza di quanto sconosciuto.
Per la ricerca scientifica in generale, queste pratiche ci permettono di riconnetterci al nucleo contemplativo dell’indagine scientifica stessa, alla meraviglia autentica verso la realtà e all’amore per la conoscenza che guida la ricerca, al silenzio e all’attenzione che conducono a una comprensione più profonda dei fenomeni in esame, alla condivisione, alla fiducia e al rispetto che creano una comunità cooperativa transnazionale di pari, al servizio senza ego o decentrato dall’ego verso la società, e anche all’umiltà di essere prudenti su ciò che si può affermare e su ciò che non si può affermare, e di essere sempre aperti a essere corretti e a cambiare la propria comprensione della realtà. Quindi, per la ricerca sull’IA in particolare, crescere nella consapevolezza dello sconosciuto attraverso queste pratiche potrebbe portarci a riconsiderare fino a che punto l’obiettivo originario di dotare le macchine di sempre maggiore autonomia e intelligenza sia effettivamente significativo o prezioso come obiettivo scientifico; potremmo star sprecando troppi sforzi in questa direzione. Chiaramente, la tecnologia che sviluppiamo sotto l’etichetta di IA sta necessariamente trasformando la nostra realtà informativa, crea nuove realtà e finora ha cambiato l’interazione tra noi e il nostro ambiente, e quindi trasforma anche questa intelligenza sociale incarnata che si manifesta nelle nostre interazioni. Ed è in queste nuove realtà, dinamiche e in costante cambiamento, con i nuovi modi di vivere e sentire che sorgono in esse, che dobbiamo imparare a vivere la nostra intelligenza pienamente in tutte le sue dimensioni. Forse dovremmo orientare la nostra ricerca sull’IA in una direzione che promuova la libertà creativa degli esseri umani, di tutti gli altri esseri e del nostro ambiente, e della realtà stessa.
Purtroppo, al giorno d’oggi, gran parte della ricerca sull’IA sembra essere caduta nelle mani di alcune grandi aziende tecnologiche che seguono principalmente una logica economica, rafforzando così le attuali distribuzioni di potere e le disuguaglianze, che limitano la nostra intelligenza e minacciano la nostra libertà creativa. Di conseguenza, penso che l’IA dovrebbe concentrarsi su questa collaborazione congiunta tra entità umane e non umane e sull’interazione con l’ambiente: chiamiamola intelligenza ecologica, l’intelligenza condivisa che emerge all’interno di questa collaborazione, per aiutarci a realizzare la nostra pienezza umana come esseri che vivono, da un lato, immersi nella realtà informativa e carica di valori che creiamo attraverso la conoscenza, ma dall’altro anche in una realtà assolutamente libera e creativa che possiamo cogliere solo tramite il non sapere.
