E venne il giorno delle “macchine”
L’intelligenza artificiale sarà la nostra autodistruzione, nel momento in cui la tecnologia senza controllo umano prenderà il sopravvento
“C’è poco da stare allegri!” – È la mia amica Rosamunda, accademica, letterata, sociologa e partenopea di adozione, che così esprime la propria preoccupazione nei confronti delle sempre più sofisticate applicazioni tecnologiche nel nostro sistema di vita, via via più invadenti e pericolosamente irrispettose della nostra riservatezza.
“Siamo già arrivati al giorno delle macchine?” Mi chiede.
“Ci siamo o quasi!” Le rispondo.
La conversazione va così avanti e Rosamunda mi domanda se anch’io condividessi le sue preoccupazioni per l’avanzamento tecnologico riguardante la realizzazione di intelligenze artificiali.
Le rispondo e disserto per come segue:
L’astrofisico Stephen Hawking al Web Summit di Lisbona, nel novembre del 2017, mise in guardia l’umanità su un grosso pericolo futuro: l’intelligenza artificiale.
“L’intelligenza artificiale potrebbe sviluppare una volontà tutta sua”, aveva detto Hawking. “L’ascesa dell’IA potrebbe essere la cosa peggiore o la cosa migliore che può accadere per l’umanità”.
Oggi, in particolare, la pandemia, tra le tante altre cose, ha fatto squillare il campanello d’allarme sulla raccolta e sull’utilizzo dei nostri dati personali quali, ad esempio, le analisi sul comportamento quotidiano, sulle preferenze nonché sulle tendenze ideologiche, la registrazione delle nostre frequentazioni, dei nostri dislocamenti, dei depositi e dei prelievi in denaro contante, delle transazioni con carte di credito, la videosorveglianza (in Cina, oltre al monitoraggio dei cittadini già all’ordine del giorno, i cani robot sorvegliano gli spazi pubblici), i localizzatori GPS e GSM dei telefonini e quant´altro immaginabile. Il tutto dettagliatamente schedato e classificato.
Ci manca molto poco per arrivare al punto da farci innestare, come si fa con i cani, un chip sottocutaneo per poter registrare persino i nostri sentimenti nei momenti più intimi, tra le mura domestiche (nella camera da letto o addirittura nel bagno).
E non parliamo poi delle ultime applicazioni tecnologiche sia in campo civile che militare: auto a guida autonoma e addirittura velivoli bellici, senza equipaggio e dotati di intelligenza propria (droni), che decidono autonomamente sulla vita o sulla morte del prossimo.
La tecnologia, sostengo, nei settori più sensibili può collaborare con l’essere umano, ma non può sostituirlo.
Da tempo, ad esempio, è in uso il riconoscimento facciale da parte delle polizie di vari paesi del mondo, ma sulla infallibilità del sistema si sta già discutendo e non poco. Basta pensare che per la polizia londinese, con questo mezzo tecnologico, la percentuale di errore ammonta al ragguardevole 98% dei casi e negli USA la statistica non migliora un granché.
Da ciò ci rendiamo sempre più convinti che nelle situazioni eticamente sensibili ci debba stare l’essere umano accanto o dietro i processi elaborativi della macchina. Essa da sola non può decidere le sorti degli individui, né tampoco dei popoli, ancorché dotata della massima tecnologia immaginabile.
V’è molto di più e, attenzione, si tratta di qualcosa ben più grave: da un certo tempo, per come sospetta una certa corrente spregiudicata di tecnologi dell’informazione, l’obiettivo fotografico del nostro telefonino o del nostro PC starebbe già filmando, furtivamente, le nostre giornate trasmettendole al CED (Centro Elaborazione Dati) addetto alla sorveglianza di massa e al servizio dei giganti della tecnologia.
Se ciò fosse vero, poveri noi, saremmo veramente messi male!
In realtà non navighiamo nel campo della fantascienza, ma nel campo delle ipotesi verosimili, dell’eventualità. Oggi con la scusa di isolare il virus e domani con qualsiasi altra motivazione, si chiede o meglio si impone all’impaurita società la massima trasparenza anche laddove l’etica e le leggi non lo permettono.
Ma nonostante l´insorgenza di siffatti effetti riprovevoli, il binomio “Uomo-Scienza”, il desiderio di ricercare e cioè di conoscere, rimane uno degli istinti più profondi dell´essere umano. Esso esiste da sempre e oggi appare più appagabile che mai, anche perché viviamo in un´epoca in cui abbiamo a disposizione gli strumenti idonei per scoprire i più reconditi segreti della natura.
Tornando all´IA, per meglio addentrarci nell’argomento relativo al pericolo costituito dalle “macchine”, ci pare opportuno riportarci all’apice del fantascientifico, oggi attuale più che mai: un colossal diretto da Stanley Kubrick, scritto assieme ad Arthur C. Clarke, che i lettori della terza età avranno sicuramente visto in prima visione nelle sale cinematografiche sparse per il mondo, oppure letto in edizione cartacea nel romanzo omonimo pubblicato nel 1968, lo stesso anno di esordio in anteprima mondiale del film “2001, Odissea nello spazio”.
Uno dei temi fantascientifici, da antologia, che maggiormente ci colpirono in quel film-documentario è stato quello che riguardava il moderno Prometeo; il supercomputer HAL 9000 e la sua ribellione.
Infatti, HAL nel film agisce dotato di una sofisticata intelligenza artificiale: ha un occhio, più perfetto di quello umano, che gli permette persino di leggere il labiale degli astronauti. Il suo timbro vocale è completamente naturale e sembra in grado di provare sentimenti umani. Naturalmente è in condizione di fare tutto ciò che un umano riesce a fare. Sa anche fare del male e, impressionantemente, persino uccidere, quando si sente minacciato e si rende conto della possibilità di essere “disinstallato”.
La ribellione della macchina è un punto di domanda molto preoccupante!
Allo stato è soltanto uno scenario proposto dalla fantascienza, che raffigura il sopravvento da parte di congegni meccanici (siano essi sotto forma di computer o di robot) ai danni della specie umana, ma nella realtà, nel momento in cui la macchina raggiungerà una super emancipazione tecnologica, acquistando autocoscienza ed intelligenza, scatenerà l’inevitabile e pericolosa competizione tra la tecnologia e il genere umano.
Eppure, la scienza continua nell’affannoso lavoro di ricerca sull’interazione uomo-macchina attraverso l’integrazione degli studi interdisciplinari di scienze sociali e bio-ingegneristiche nonché tra corporeità ed epistemologia sociale al fine di realizzare una “creatura” dalle sembianze quasi umane e in grado di sviluppare abilità simili a quelle possedute dai comuni mortali e magari molto di più.
A conferma dell’affannoso e atavico desiderio dell’uomo di creare un alter ego, un Avatar ovvero un io che prende vita dalla nostra anima, per poi acquisirne una propria, che possa operare nel fantastico mondo del reale al confine col virtuale, indichiamo gli antesignani di HALL 9000.
Del primo di essi si ha notizia negli antichi testi sacri, in cui si parla del Golem, che è una figura antropomorfa immaginaria della mitologia ebraica, una specie di robot, fedele esecutore degli ordini del proprio padrone. Il filosofo e matematico Archita di Taranto del IV secolo a.C., secondo le testimonianze del suo tempo, avrebbe costruito un uccello meccanico in grado di volare tra i rami degli alberi. Seguono i diversi robot intelligenti delle civiltà scomparse di Creta e dell’antica Cina e, non ultimi, gli automi del grande Leonardo da Vinci, di cui esistono i disegni e i progetti riscoperti solo negli anni cinquanta nel codice Atlantico e in piccoli taccuini tascabili databili intorno al 1495-1497.
Altre leggende di varie epoche ci descrivono ancora l’esistenza di esseri artificiali che avrebbero avuto il compito di obbedire ciecamente ai comandi dei loro “creatori”.
Del resto, la cinematografia fantascientifica ci anticipa con inquietante verosimiglianza quali saranno le macchine umane del futuro prossimo ovvero i cyborg, che – a seconda della loro origine – vengono divisi in tre categorie:
– Esseri umani potenziati con ingegnosi modificazioni artificiali ed innesti. Il protagonista del film Io, Robot (2004), per esempio, ha un braccio e altri organi cibernetici.
– Extraterrestri anch’essi potenziati e divenuti cyborg al pari degli umani di cui anzi. In Guerre Stellari, Dart Fener ha arti cibernetici e una speciale armatura, che gli garantisce il mantenimento in vita.
– Androidi, cioè robot umanoidi, provvisti di componenti biologiche allo scopo di approssimare al massimo le loro sembianze a quelle umane. È il caso del cyborg, assassino protagonista del film Terminator (1984) e di tutta la serie successiva.
Riassumendo, tutti questi dati ci rendono l’idea di come l’anelito dell’uomo, in ogni tempo, sia stato diretto verso un mondo virtuale, di cui potesse avere il controllo totale.
Fin qui tutto bene, ma – perché ci sia anche il lieto fine – la “conditio sine qua non” resta il menzionato e problematico controllo totale del creatore sulla creatura!
A questo punto, va da sé concludere che il sistema di elaborazione dati, nonché l’intelligenza artificiale, nell’accezione più ampia, se da una parte possono facilitare il sistema di vita dell’essere umano, dall’altra, se non resi trasparenti e assolutamente controllabili dall’uomo, costituiscono, ripetiamolo, un pericolo dalle conseguenze incalcolabili.
L’intelligenza artificiale, infatti, va presa con le pinze, per non rimanere scottati: gli aspetti etici, teorici e pratici sono le sue peculiarità e non a caso scienziati di tutto rispetto hanno denunciato in più tempi il pericolo di una eventuale disubbidienza della “creatura” ai comandi o ai programmi del creatore.
Il sunnominato Stephen Hawking nel 2014 ha messo in guardia riguardo ai pericoli dell’intelligenza artificiale, considerandola una minaccia per la sopravvivenza dell’umanità, e nello stesso anno anche il fisico Elon Musk ha ribadito: “Dobbiamo essere superattenti all’intelligenza artificiale. Potenzialmente più pericolosa del nucleare.”
” Oggi realizziamo più di quanto non siamo poi in grado di controllare, nemmeno con l’immaginazione”. È il sociologo Günther Anders, ne “L’uomo è antiquato”, ed. 1956, ad affermarlo.
Quanto sopra esposto ci induce ad una seria riflessione: se oggi l’IA agli occhi dei governi non rappresenta alcun pericolo e ciò si spiega col fatto che essa asseconda i loro interessi immediati, è pur vero che la stessa provocherà conseguenze decisamente negative nel futuro dell’umanità.
Infatti, le nuove tecnologie permetteranno ai possessori, legittimi o meno, dei dati personali di tenere in scacco e manipolare l’essere umano grazie alle numerose informazioni biologiche nel tempo raccolte.
In principio, l’intelligenza artificiale è già di per se stessa un pericolo. Elon Musk, il fisico visionario già menzionato, fondatore di Tesla e SpaceX, ancora una volta, si schiera contro l’Intelligenza Artificiale. Egli teme che con essa possa nascere un “dittatore immortale” digitale, capace di annientare l’uomo qualora quest’ultimo dovesse risultare d’ostacolo ad un suo eventuale obiettivo (vedansi p.e. HAL 9000 e Joshua in Wargames).
Se sia distopia o un reale problema da risolvere ancora non ci è molto chiaro, ma una cosa è certa: il tempo stringe!
Per questo motivo, oggi più che mai, si rende necessario stabilire, con l’urgenza che il caso richiede e di comune accordo tra i diversi Stati, una serie di politiche di amministrazione e legiferazione nei riguardi delle tecnologie dell’IA, nel rispetto dei diritti universali e attraverso un dialogo aperto tra tutti gli interessati ovvero tra chi governa, tra chi produce, tra chi fa ricerca, e, perché no, tra i cittadini.
E per chiudere, sperando di non essere stato prolisso e con l’intento di strappare un sorriso alla mia preoccupata e attenta interlocutrice (Rosamunda), rievoco un detto del famoso scrittore e giornalista americano Sydney J. Harris, che ironicamente così recita: “Il vero pericolo non è che i computer inizieranno a pensare come gli uomini, ma che gli uomini cominceranno a pensare come i computer”.
G. & G. Arnò*
**Direttore della rivista La Gazzetta italo-brasiliana (Rio de Janeiro).