{"id":246192,"date":"2023-10-16T12:00:15","date_gmt":"2023-10-16T11:00:15","guid":{"rendered":"https:\/\/www.transcend.org\/tms\/?p=246192"},"modified":"2023-10-15T05:24:19","modified_gmt":"2023-10-15T04:24:19","slug":"italiano-immoral-code-militarizzazione-delle-tecnologie-informatiche-e-rischi-nucleari","status":"publish","type":"post","link":"https:\/\/www.transcend.org\/tms\/2023\/10\/italiano-immoral-code-militarizzazione-delle-tecnologie-informatiche-e-rischi-nucleari\/","title":{"rendered":"(Italiano) Immoral Code: militarizzazione delle tecnologie informatiche e rischi nucleari"},"content":{"rendered":"

\"\"<\/a><\/span><\/em><\/p>\n

Responsabilit\u00e0 sociale degli informatici professionisti<\/strong><\/p>\n

14 Ottobre 2023<\/span><\/em> – Il 5 ottobre 2023, presso il Centro Studi Sereno Regis, nell\u2019ambito della V edizione del Festival della Nonviolenza, \u00e8 stato proiettato il documentario<\/a> \u201cImmoral Code\u201d. Immoral Code \u00e8 una video-indagine in cui viene chiesto ad alcun* rappresentanti della societ\u00e0 civile di esprimere il loro parere su\u00a0situazioni in cui \u00e8, o potrebbe essere considerato moralmente e socialmente accettabile uccidere altri esseri umani.\u00a0 Oltre ad alcune circostanze che prevedono una scelta umana, viene prospettato il caso che sia una \u2018macchina\u2019 a prendere la decisione finale.<\/p>\n

A proporre la visione di questo filmato, a fornire alcuni chiarimenti sul tema e ad avviare il dibattito, \u00e8 stato Norberto Patrignani, docente di Etica e Informatica presso il Politecnico di Torino. Norberto da molti anni offre la sua competenza al CSSR (di cui \u00e8 da qualche tempo anche socio) per promuovere una maggiore conoscenza del mondo dell\u2019informatica e \u2013 in particolare \u2013 per promuovere lo sviluppo e l\u2019applicazione di una tecnologia informatica \u2018lenta\u2019: \u2018Slow Tech\u2019, in grado cio\u00e8 di progettare e realizzare un\u2019informatica buona (disegnata ponendo al centro i bisogni degli esseri umani), pulita (che minimizza l\u2019impatto ambientale dell\u2019ICT) e giusta (che tiene in considerazione le condizioni dei lavoratori nella filiera ICT).<\/p>\n

\"\"<\/a><\/p>\n

Un tema del quale\u00a0 Norberto Patrignani si \u00e8 particolarmente interessato<\/a> \u00e8 il ruolo \u2013 e quindi le r<\/strong>esponsabilit\u00e0 \u2013 dei progettisti informatici, impegnati in usi costruttivi (es.\u00a0ethical hackers) e applicazioni distruttive (es.\u00a0robot-killer).\u201cLe persone esperte di informatica dovrebbero essere \u201ccomputer professional\u201d che vedono la conoscenza e l\u2019esperienza solo come una delle loro caratteristiche, che si considerano non semplici individui ma membri di una comunit\u00e0 professionale, con una responsabilit\u00e0 sociale, consapevoli del contesto applicativo dei loro progetti, con un impegno a proteggere l\u2019interesse pubblico e l\u2019ambiente\u201d.<\/em><\/p>\n

Il problema affrontato nel video \u2018Immoral code\u2019 riguarda il caso dei cosiddetti \u2018killer robots\u2019: un esempio estremo di una situazione ben pi\u00f9 ampia e complessa, che riguarda la progressiva delega dell\u2019esecuzione di azioni umane alle macchine, e la conseguente perdita di controllo della \u2018scelta\u2019 umana (che sarebbe in grado di modificarsi anche di fronte all\u2019imponderabile e improvviso mutare degli eventi) a\u00a0 favore della \u2018decisione\u2019 presa da un algoritmo, ed eseguita da una macchina senza possibilit\u00e0 di \u2018ripensamenti\u2019.\u00a0 Sui \u2018killer robots\u2019 e sulla Campagna per la loro abolizione torner\u00f2 nell\u2019ultima parte di questo articolo.<\/p>\n

L\u2019esempio del \u2018killer robot\u2019 \u2013 pur essendo \u2018estremo\u2019 perch\u00e9 riguarda una questione di vita o di morte di singole persone \u2013 in realt\u00e0 esemplifica in modo efficace una situazione che negli ultimi anni si \u00e8 diffusa in modo preoccupante, alimentando una inquietante insicurezza in tutti i campi del vivere umano. La crescente delega a sistemi automatici di processi di ogni genere \u2013 dalle attivit\u00e0 produttive alle logistiche, da quelle farmaceutiche e agricole a quelle relative alle comunicazioni \u2013 sta creando un mondo basato su un sistema informatico che non solo esprime una complessit\u00e0 crescente, che per la sua stessa natura \u00e8 soggetto a irriducibili errori.<\/p>\n

Strategie politiche e sicurezza informatica<\/h3>\n

Il rapido sviluppo e la crescente utilizzazione dell\u2019informatica in tutti i campi della societ\u00e0 portano con s\u00e9 opportunit\u00e0 nuove, ma anche rischi di insicurezza e ingovernabilit\u00e0 mai immaginati prima.<\/p>\n

Uno studioso che da anni \u00e8 impegnato nella ricerca in questo campo \u00e8 Herb Lin, Senior Research Scholar presso il Center for International Security and Cooperation all\u2019Universit\u00e0 di Stanford (USA). Egli sottolinea<\/a> il fatto che \u2013 anche se i principi fondamentali della tecnologia dell\u2019informazione cambiano lentamente \u2013 nuove applicazioni della tecnologia dell\u2019informazione appaiono con rapidit\u00e0 crescente: una rapidit\u00e0 alla quale gli operatori umani faticano a star dietro. Particolarmente complesso e rischioso appare a livello strategico lo spazio cibernetico, che \u00e8 considerato il pi\u00f9 recente ambiente di guerra (il quinto dominio dopo terra, mare, cielo e spazio).<\/p>\n

Una guerra cibernetica (cyber-warfare<\/em>) \u00e8 l\u2019insieme delle attivit\u00e0 di preparazione e conduzione di operazioni di contrasto nello spazio cibernetico, che si pu\u00f2 tradurre nell\u2019intercettazione, nell\u2019alterazione e nella distruzione dell\u2019informazione e dei sistemi di comunicazione nemici, procedendo a far s\u00ec che sul proprio fronte si mantenga un relativo equilibrio dell\u2019informazione. Tale guerra si caratterizza per l\u2019uso di tecnologie elettroniche, informatiche e dei sistemi di telecomunicazione.<\/p>\n

Con lo sviluppo dell\u2019IA a tutti i settori e ambiti delle attivit\u00e0 umane, da qualche tempo si stanno sperimentando applicazioni anche nel settore che riguarda i conflitti nucleari (nuclear-warfare<\/em>). Herb Li insiste sulla necessit\u00e0 di ricorrere a esperti di molte diverse discipline e campi del sapere, per affrontare con sufficiente consapevolezza le domande che sorgono all\u2019incrocio tra il \u201ccyber\u201d e il \u201cnucleare\u201d.<\/p>\n

\u201cCi\u00f2 che sappiamo dalla storia e dall\u2019esperienza \u2013 vale a dire le metafore, le analogie e i precedenti con cui i politici hanno familiarit\u00e0 \u2013 potrebbe non funzionare se applicato al dominio informatico. Ad esempio, un\u2019analogia nucleare per la politica e la sicurezza informatica \u00e8 allettante [\u2026] ma sebbene esistano numerose utili analogie tra il settore nucleare e quello informatico, queste potrebbero non fornire indicazioni utili per molto tempo<\/em>.\u201d [\u2026] \u201cLe domande sulla portata degli effetti, sull\u2019attribuzione, sull\u2019allarme tattico e sulla valutazione dell\u2019attacco, sulla pianificazione dell\u2019attacco, sulla ricostituzione e recupero, e sul comando e controllo sono fondamentali per comprendere una serie di scenari importanti nel conflitto nucleare e nel conflitto informatico \u2013 ma la natura dell\u2019effetto e le risposte a queste domande sono drammaticamente diverse<\/em>\u201d.<\/p>\n

Ordigni nucleari e militarizzazione dell\u2019IA<\/h3>\n

Nonostante i suggerimenti di cautela pronunciati da Herb Li (che \u00e8 uno dei massimi esperti mondiali di sicurezza) e da altri studiosi e studiose del settore, le principali potenze mondiali stanno incorporando le tecniche dell\u2019Intelligenza Artificiale (IA) nei sistemi militari nucleari, che sono in rapida evoluzione.<\/p>\n

In un recente articolo di ricerca intitolato Nuclear weapons and the militarization of AI<\/a> Guglielmo Tamburrini, professore di logica e filosofia della scienza presso l\u2019Universit\u00e0 Federico II di Napoli, che da molti anni studia le implicazioni etiche delle tecnologie informatiche, segnala alcune delle implicazioni delle applicazioni dell\u2019IA ai sistemi militari, e fornisce esempi dei principali rischi nucleari emergenti a causa della militarizzazione dell\u2019IA, tra cui:<\/p>\n