Kinesiske GANer til å manipulere satellittbilder

Ifølge Todd Myers, fra US National Geospatial Intelligence Agency, implementerer Kina Generative Antagonist Network (GAN) teknologier for å lure datamaskiner som er ansvarlige for satellittbilder.

Når AI spretter opp over hele forsvarsøkosystemet, kan du noen ganger tro at du ender opp med å finne opp hjulet på nytt. GAN-teknologi, introdusert i 2014 av en gruppe forskere (GoodFellow & al, 2014), gjør det mulig å generere falske eller fiktive bilder. Hun er i stand til å få en bro til å vises eller til og med implantere et rakettoppskytningssted som ikke finnes på et bilde.

Likevel er implikasjonene av GAN-ene distribuert av Kina mye dypere. Denne teknologien har også blitt beskrevet som den mest interessante ideen de siste 10 årene innen maskinlæring av franske Yann Lecun, vinner av den prestisjetunge Turing-prisen og direktør for AI Research på Facebook. I motsetning til kunstige nevrale systemer som brukes til å verifisere ektheten til et bilde, gjør GAN-er det mulig å generere endrede bilder som er i stand til å lure førstnevnte. Skjematisk består GAN-teknologien av to nevrale nettverk, det første som er ansvarlig for å generere et bilde (generatoren) og det andre programmert til å teste dets plausibilitet (diskriminatoren), derav deres kvalifisering som "antagonister". Følgelig burde bildet som ble produsert etter å ha lykkes i å overbevise diskriminatoren teoretisk sett lure enhver annen programvare.

På denne måten legemliggjør GAN-er en mer avansert trussel enn enkle falske nyheter eller retusjerte bilder. For etterretningstjenestene og hæren er ikke utfordringen uoverkommelig, men krever tidkrevende og svært kostbare verifikasjonsprosesser. På den annen side, distribuert på åpen kildekode-data beregnet på allmennheten, vil det være private selskaper, journalister, frivillige organisasjoner og alle innbyggere som ikke lenger vil ha tilgang til sannferdig eller til og med verifiserbar informasjon. På samme måte forstår vi viktigheten av pålitelige private kartverktøy i en tid da prosjekter for autonome kjøretøy blir en realitet.

Som all teknologi er den iboende verken god eller dårlig. I likhet med Janus, prefigurerer hun like mange risikoer som muligheter. Frankrike har små mengder data sammenlignet med USA eller Kina for å utføre sin forskning på AI. GAN-er, som er i stand til å generere realistiske data fra en lav bestand, kan utgjøre et suverent alternativ for å kompensere for denne mangelen.

Å gå dypere inn i faget

https://www.defenseone.com/technology/2019/03/next-phase-ai-deep-faking-whole-world-and-china-ahead/155944/?oref=d-mostread

Thibaud Mattei

For videre

SOSIALE NETTVERK

Siste artikler