L'annuncio della Squadra Rossa: Fantascienza in allerta

La Defense Innovation Agency ha formalizzato attraverso il Documento di Orientamento all’Innovazione della Difesa la creazione di un team unico: il Red Team. Questa entità sarà composta da cinque membri con un background atipico. Si tratta di riunire insegnanti di scienze ma anche autori di fantascienza per anticipare le rivoluzioni tecnologiche. I membri del Red Team saranno futurologi che dovranno stabilire scenari che portino a “capacità dirompenti o a proteggersi da esse”.

Assurdo? Lontano da lì. La fantascienza ha da tempo dimostrato la sua capacità di anticipazione delle tecnologie. Isaac Asimov (1920-1992) rimane una figura fondamentale nel campo dell'Intelligenza Artificiale. Durante il suo famoso ciclo del robot, questo autore ha stabilito le tre leggi fondamentali della robotica, e quindi dell’intelligenza artificiale. Innanzitutto, un robot non può agire in modo contrario all’integrità umana. Quindi, deve obbedire agli ordini impartiti dall'umano a meno che questi non siano contrari alla prima legge. Infine, un robot protegge la propria integrità a meno che ciò non sia contrario a una delle prime due leggi. 

Poiché la maggior parte degli sviluppatori di intelligenza artificiale sono cresciuti con questi riferimenti, queste tre leggi rimangono per il momento senza tempo. Ad esempio, la resistenza al SALA ha le sue origini in questo riferimento culturale. Allo stesso modo, le linee guida etiche per un’intelligenza artificiale affidabile redatte dal gruppo di esperti indipendenti di alto livello sull’intelligenza artificiale incaricato dalla Commissione europea sono un’eredità delle leggi di Asimov. 

A trent'anni dalla pubblicazione del ciclo di Asimov, le riflessioni dell'autore restano significative e penetranti. 

Tuttavia, AID non fa eccezione nella creazione della squadra rossa. Il 15 luglio 2019 l’Australia ha indetto una gara d’appalto per ottenere il maggior numero possibile di scenari anticipati per rafforzare i propri eserciti. Allo stesso modo, è stato riconosciuto che la DARPA coinvolse I.Asimov per ottimizzare i processi creativi negli anni '1950. In definitiva, La corsa per padroneggiare l’intelligenza artificiale è in corso da diversi anni e continua a rafforzarsi. È quindi essenziale che ogni attore che desideri diventare una potenza nell’intelligenza artificiale anticipi gli impatti e gli usi futuri di questa tecnologia. Tuttavia, l’impatto delle differenze culturali in questa letteratura non dovrebbe essere trascurato. La Russia sembra meno sensibile al divieto di armare i SALA, come dimostra il suo prossimo drone kamikaze ZALA AERO destinato a volare in sciami utilizzando l’intelligenza artificiale.

Non sorprende che il lavoro della Squadra Rossa rimanga confidenziale per non avvantaggiare i “potenziali avversari”, sia statali che non statali. Il Red Team, infatti, dovrà proporre usi innovativi delle tecnologie attuali, come il coinvolgimento dell’intelligenza artificiale nei sistemi d’arma. Il lavoro di questa entità sarà comunicato ad altri servizi armati per diffondere questa capacità di anticipazione. La probabile conseguenza è quella di poter arricchire il lavoro già sviluppato con il contributo di riflessioni provenienti da altri servizi. 

Romain Hénaff – Specialista dell'intelligenza artificiale