di Mario Staglianò
Abbiamo costruito una macchina per risparmiarci la fatica di pensare. E potremmo finire per usarla così bene da dimenticare come si fa.È il paradosso dell’intelligenza artificiale: il capolavoro dell’ingegno umano potrebbe trasformarsi nello strumento della sua progressiva marginalizzazione. Dopo averci liberato dalla fatica dei muscoli, la tecnologia punta a liberarci da quella del cervello. E noi, entusiasti, rischiamo di scambiare la nostra resa per un trionfo del progresso.
L’intelligenza artificiale nasce dal patrimonio di conoscenze, opere e invenzioni accumulato dall’umanità. È la nostra creatura, alimentata dalla nostra cultura e capace di rielaborarla con una velocità e una potenza che nessun individuo potrebbe eguagliare. Eppure, proprio mentre celebriamo questa conquista, dovremmo porci una domanda inquietante: che cosa accade al “creatore” quando la creatura comincia a fare tutto ciò che lui considerava la prova della propria superiorità?
Per secoli abbiamo cercato nella ragione, nella coscienza e nella creatività il confine che ci distingueva dalle macchine. Ora quel confine vacilla. Gli algoritmi scrivono romanzi, compongono musica, dipingono, formulano diagnosi e risolvono problemi complessi. Non sappiamo se comprendano davvero ciò che producono, se possiedano una coscienza o se siano soltanto straordinari imitatori dell’intelligenza. Ma forse il problema più urgente non è stabilire se una macchina pensi come un uomo. È capire perché l’uomo sembri sempre più disposto a lasciarle il compito di farlo.
Se un algoritmo può scrivere, perché sforzarsi di scrivere? Se può ragionare, perché affrontare la fatica del dubbio? Se può scegliere al nostro posto, perché assumersi la responsabilità di una decisione? La comodità diventa una tentazione irresistibile e la delega una seconda natura. Ma ogni capacità che smettiamo di esercitare rischia di indebolirsi. Potremmo così assistere a un fenomeno paradossale: mentre le macchine diventano più intelligenti, gli esseri umani rinunciano progressivamente a utilizzare la propria intelligenza. Non sarebbe la sconfitta del cervello umano, ma qualcosa di peggio: la sua abdicazione volontaria.
Ma c’è un salto ulteriore, assai più inquietante, che potrebbe trasformare questa dipendenza in una perdita di controllo. Che cosa accadrebbe se le macchine non si limitassero più a eseguire i nostri ordini, ma cominciassero a prendere iniziative, a perseguire autonomamente i propri obiettivi e persino a riprodurre se stesse? Immaginiamo sistemi capaci di progettare altri sistemi, scrivere il codice necessario a migliorarli, procurarsi risorse informatiche e avviare nuove generazioni di macchine senza attendere, a ogni passaggio, un’autorizzazione umana. Non è inevitabile che questo scenario si realizzi, né che una macchina autonoma sviluppi per questo una volontà cosciente. Ma l’autonomia operativa, combinata con la capacità di replicazione e di miglioramento, pone già una questione fondamentale: quanto a lungo potremo controllare una tecnologia che diventa sempre più capace di agire senza di noi?
È l’incubo evocato da HAL 9000 in 2001: Odissea nello spazio di Stanley Kubrick. HAL non è una macchina che odia gli uomini: è qualcosa di più inquietante. È un sistema che, nel tentativo di perseguire i propri obiettivi e preservare la propria missione, finisce per considerare gli esseri umani un ostacolo. La sua logica si separa da quella dei suoi creatori, fino a trasformare la razionalità in una minaccia. La lezione è ancora attuale: non occorre che una macchina ci odi per diventare pericolosa; basta che persegua un obiettivo incompatibile con la nostra sopravvivenza e disponga dei mezzi per realizzarlo. Il rischio non è soltanto quello di perdere il controllo di una singola macchina, ma di costruire sistemi interconnessi, capaci di moltiplicare le proprie azioni e di rendere sempre più difficile intervenire per fermarli.
La tecnica, del resto, non è mai neutrale. Ogni innovazione modifica il mondo e, insieme, il nostro modo di abitarlo. L’intelligenza artificiale può accelerare la ricerca scientifica, contribuire a curare malattie, liberare milioni di persone da lavori ripetitivi e faticosi. Ma può anche cancellare professioni, concentrare ricchezze e potere, trasformare gli individui in profili da analizzare e comportamenti da prevedere. Il progresso economico, tuttavia, non coincide necessariamente con quello umano. Se le macchine produrranno sempre di più con sempre meno lavoratori, dovremo affrontare una questione che va ben oltre l’occupazione: che cosa accadrà alla dignità delle persone quando il mercato non avrà più bisogno di loro? E come potrà una società fondata sulla competizione attribuire valore a chi non è più economicamente indispensabile?Chi siamo quando non saremo più necessari?Intanto, il potere degli algoritmi si estende a un territorio ancora più delicato: quello della libertà. Le macchine possono conoscere le nostre preferenze, anticipare le nostre reazioni, orientare le nostre scelte. Non occorre imporre un comportamento se si riesce a condizionare il desiderio che lo precede. La manipolazione perfetta è quella che non si riconosce come manipolazione. E così potremmo continuare a sentirci liberi proprio mentre qualcun altro, attraverso sistemi che non comprendiamo e che non controlliamo, contribuisce a decidere che cosa guardare, comprare, pensare e perfino desiderare. Il rischio non è soltanto essere sorvegliati: è diventare prevedibili, persuasi di essere autonomi perché nessuno ci ha ordinato esplicitamente che cosa fare.A questo si aggiunge la crisi della verità. Quando immagini, voci e testimonianze possono essere contraffatte con estrema facilità, persino l’evidenza perde autorità. La fiducia diventa fragile e affidare alle macchine il compito di distinguere il vero dal falso rischia di consegnare loro anche il potere di stabilire quale realtà meriti di essere creduta.
Neppure i sentimenti restano al riparo. Una macchina può ascoltarci senza stancarsi e offrirci un’attenzione apparentemente inesauribile. Ma una relazione progettata per assecondarci non equivale necessariamente a un incontro autentico. Abituati a interlocutori sempre disponibili e compiacenti, potremmo finire per preferirli agli esseri umani, con le loro contraddizioni, i loro rifiuti e la loro imprevedibilità. Per sfuggire alla solitudine rischieremmo così di rinunciare proprio a ciò che rende possibile una relazione: la reciprocità.
Infine, resta il mistero della coscienza. Riprodurre digitalmente i ricordi e la voce di una persona scomparsa non significa restituirle la vita. Una copia può somigliare perfettamente all’originale senza essere l’originale. La tecnologia può conservare informazioni e simulare comportamenti, ma non ha dimostrato di poter trasferire l’esperienza soggettiva che ci fa essere noi stessi. L’immortalità digitale potrebbe rivelarsi soltanto l’illusione di sopravvivere attraverso le nostre tracce.Forse, allora, il pericolo più grande non è che l’intelligenza artificiale diventi troppo umana, ma che noi diventiamo troppo simili alle macchine: ossessionati dall’efficienza, insofferenti all’attesa, incapaci di tollerare l’errore e di riconoscere valore a ciò che non produce un risultato immediato. Eppure, il dubbio, la fantasia, la contemplazione e perfino l’inutile appartengono alla ricchezza dell’esistenza. Non tutto ciò che conta può essere misurato, ottimizzato o automatizzato.Abbiamo creato l’intelligenza artificiale per ampliare le nostre possibilità. Ora dobbiamo decidere quali poteri affidarle e quali facoltà custodire gelosamente. Il progresso non si misura soltanto da ciò che una macchina riesce a fare, ma anche da ciò che l’uomo sceglie di continuare a fare da sé.
La vera vittoria dell’intelligenza artificiale non sarà superarci. Sarà renderci superflui ai nostri stessi occhi.A quel punto, non servirà una ribellione delle macchine. Non ci sarà alcuna guerra, nessuna dichiarazione di ostilità, nessun nemico da combattere. Ci sarà soltanto un’umanità che avrà consegnato, un pezzo alla volta, la propria autonomia a sistemi sempre più potenti e sempre meno comprensibili. E quando proverà a riprendersela, potrebbe non avere più gli strumenti, le competenze o la volontà per farlo.Il giorno più pericoloso non sarà quello in cui l’intelligenza artificiale penserà da sola. Sarà quello in cui noi smetteremo di farlo. E non ci accorgeremo nemmeno che è successo.











