L’Intelligenza Artificiale. L’invenzione finale

James Barrat ha "girato documentari per più di vent'anni. Nel 2000 ha intervistato il maestro della fantascienza Arthur C. Clarke, l'inventore Ray Kurzweil e il pioniere della robotica Rodney Brooks. Kurzweil e Brooks dipingevano un quadro roseo, addirittura entusiasta, della futura convivenza tra essere umani e macchine intelligenti. Ma Clarke accennava alla possibilità che queste ultime potessero coglierci impreparati". Inizialmente Barrat era inebriato del potenziale dell'AI", ma oggi la fiducia in un futuro roseo non esiste più nella sua mente (da p. 15).

Giustamente Barrat afferma che per un documentarista "a fare la differenza è il pensiero critico: un documentarista deve stare in guardia dalle storie troppo allettanti per essere vere. Il rischio è sprecare mesi o anni a realizzare un documentario su una bufala, se non contribuire a diffonderne una" (p. 16). Inoltre il professionista era scettico sull'affidabilità "dell'AI avanzata e l'imprudenza dell'attuale società nel mettere a punto tecnologie pericolose" (p. 16).

Oggi molti scienziati ritengono "che il nostro spodestamento sarà pacifico e collaborativo, più simile a un trasferimento di potere. Accadrà per gradi, solo i provocatori si impunteranno, ma gli altri dovranno riconoscere che disporre di un'intelligenzale incommensurabilmente superiore in grado di decidere cosa è meglio per noi non fa che migliorare la vita" (p. 17). Le grandi AI potrebbero diventare degli esseri umani digitali molto complessi, con una memoria colossale.

Quindi "Il trasferimento di consegne alle macchine, come descritto da alcuni scienziati, è praticamente identico a quello che stiamo sperimentando al momento: graduale, indolore, divertente" (p. 18). E, probabilmente, plurifottente. "La superintelligenza è totalmente diversa" da un'altra tecnologia (p. 33, Nick Bostrom). Anche il grande Alan "Turing sapeva bene che il pensiero è un elemento sfuggente, e così anche l'intelligenza. Nessuno dei due è facilmente definibile, eppure se ci sono li riconosciamo" (p. 81). Tutto è talmente complesso che l'IA è molto difficile da tenere sotto controllo.

In moltissimi casi, "come fa la selezione naturale, anche noi scegliamo le soluzioni che funzionano più velocemente, non quelle che funzionano meglio" (p. 292). Perciò il vero problema non è l'Intelligenza Artificiale, ma chi controlla la programmazione dell'Intelligenza Artificiale, a vantaggio dei pochi interessi dei proprietari delle società che controllano la programmazione dell'Intelligenza Artificiale. Nel frattempo la "grandezza" di Internet raddoppia quasi ogni due anni, con "tutti i componenti che lo rendono più veloce, connesso e capace di assorbire dati" (nota a p. 162).

Comunque "Come fare per creare macchine intelligenti amichevoli e cosa temere da quelle superintelligenti sono problemi non contemplati" nelle "tre leggi della robotica dello scrittore di fantascienza Isaac Asimov" (p. 18). Bisogna sempre tenere presente che "Le macchine sono amorali, e supporre il contrario è pericoloso. A differenza dell'uomo, la superintelligenza meccanica non crescerà in un ecosistema in cui si premia l'empatia e la si tramanda alle future generazioni. Le macchine non erediteranno il sentimento dell'amicizia" (p. 31). Inoltre la futura IA farà uccidere e ucciderà. Come gli esseri umani.

In ogni caso, l'Intelligenza Artificiale, "Qualsiasi cosa sarà, non avrà sentimenti" (p. 291). Dove andrà a pilotare l'IA, senza freni da usare? E senza abbastanza energia elettrica, che fine faranno le varie forme di Intelligenza Artificiale? Un essere imperfetto come un essere umano, può riuscire a creare qualcosa di veramente perfetto? Molto probabilmente l'Intelligenza Artificiale sarà quasi perfetta e con poteri troppo grandi e troppo accentrati.

 

James Barrat è nato nel 1960, ed è uno scrittore, un regista e un produttore di documentari. Ha lavorato per National Geographic channel, Discovery channel, la Pbs e la Bbc. Inizialmente innamorato dell'intelligenze artificiale, si è poi trasformato in uno scetticista molto informato. Dal 2013 questo saggio è considerato molto influente nel campo dell'intelligenza artificiale. Per approfondimenti: https://jamesbarrat.com/author

 

Nota a cura del Time - "James Barrat è uno dei cinque uomini davvero geniali convinti che l'intelligenza artificiale potrebbe scatenare l'Apocalisse".

Nota facoltosa - Alcuni esperimenti dimostrano che le persone benestanti sono più inclini a "prendere decisioni immorali, appropriarsi di valore altrui, mentire in una trattativa, barare pur di vincere e macchiarsi di azioni disoneste sul posto di lavoro" (p. 174).

Nota curiosa - "Gli errori di programmazione costano all'economia degli Stati Uniti più di sessanta miliardi di dollari l'anno... più del prodotto interno lordo della maggior parte dei paesi" (National Institute of Standard and Technology, p. 88). Secondo uno dei primi esperti, Irving John Good, gli esseri umani sono autolesionisti e diceva anche che "l'Uomo costruirà un deux ex machina a sua immagine" (p. 133). Forse la Super Intelligenza Artificiale sarà la versone migliore di un essere umano peggiore. Per approfondimenti recenti: https://aaai.org

Nota aforistica - "L'ignoranza fa più danni della malvagità" (Anonimo); "Impara come se dovessi vivere per sempre" (Arun Gandhi); "Non è possibile affrontare i rischi esistenziali per tentativi ed errori. Non abbiamo l'opportunità di imparare dagli errori" (www.nickbostrom.com, Università di Oxford); "L'IA non ci odia e non ci ama, ma siamo fatti di atomi che essa può utilizzare per produrre qualcos'altro" (Eliezer Yudkowsky, ricercatore, Machine Intelligence Research Institute); "La prossima guerra veramente decisiva avverrà nel cyberspazio" (Amian Azzott); "Gli strumenti del cybercrime somiglieranno molto all'IA debole" (Barrat, p. 271); "Internet non è stato sviluppato con l'obiettivo della sicurezza" (Joe Mazzafro, ex crittografo della Marina, p. 272).

Nota ultrasintetica - Forse un giorno l'Intelligenza Artificiale avrà dei sentimenti sintetici, "ma i sentimenti saranno pur sempre obiettivi secondari rispetto a quelli finanziari" (p. 292). Ma il vero problema è che oggi esistono già uomini che hanno solo obiettivi finanziari o anche solo obiettivi di potere. E zero vero sentimento.