Chińskie GAN do manipulowania obrazami satelitarnymi

Według Todda Myersa z amerykańskiej National Geospatial Intelligence Agency, Chiny wdrażają technologie Generative Antagonist Network (GAN), aby oszukać komputery odpowiedzialne za obrazy satelitarne.

Gdy sztuczna inteligencja pojawia się w całym ekosystemie obronnym, możesz czasem pomyśleć, że w końcu odkrywasz koło na nowo. Technologia GAN, wprowadzona w 2014 roku przez grupę badaczy (GoodFellow i in., 2014), umożliwia generowanie fałszywych lub fikcyjnych obrazów. Potrafi sprawić, by pojawił się most, a nawet wszczepił miejsce wystrzeliwania pocisków, którego nie ma na obrazie.

Jednak konsekwencje sieci GAN wdrożonych przez Chiny są znacznie głębsze. Technologia ta została również opisana jako najciekawszy pomysł ostatnich 10 lat w obszarze uczenia maszynowego przez Francuza Yanna Lecuna, zdobywcę prestiżowej nagrody Turinga i dyrektora AI Research w Facebooku. W przeciwieństwie do sztucznych systemów neuronowych używanych do weryfikacji autentyczności obrazu, sieci GAN umożliwiają generowanie zmienionych obrazów, które mogą oszukać ten pierwszy. Schematycznie technologia GAN składa się z dwóch sieci neuronowych, pierwszej odpowiedzialnej za generowanie obrazu (generator) i drugiej zaprogramowanej do sprawdzania jego wiarygodności (dyskryminator), stąd ich kwalifikacja jako „antagonistów”. W rezultacie utworzony obraz, który już udało się przekonać dyskryminatora, teoretycznie powinien oszukać każde inne oprogramowanie.

W ten sposób sieci GAN stanowią bardziej zaawansowane zagrożenie niż zwykłe fałszywe wiadomości lub wyretuszowane obrazy. Dla służb wywiadowczych i wojska jest to wyzwanie nie do pokonania, ale wymagające czasochłonnych i bardzo kosztownych procesów weryfikacyjnych. Z drugiej strony, w przypadku danych open source przeznaczonych dla ogółu społeczeństwa, prywatne firmy, dziennikarze, organizacje pozarządowe i wszyscy obywatele nie będą już mieli dostępu do prawdziwych, a nawet sprawdzalnych informacji. Podobnie w czasach, gdy projekty pojazdów autonomicznych stają się rzeczywistością, rozumiemy znaczenie niezawodnych narzędzi do prywatnego mapowania.

Jak każda technologia, nie jest ona z natury ani dobra, ani zła. Podobnie jak Janus przewiduje tyle samo zagrożeń, co szans. Francja dysponuje niewielką ilością danych w porównaniu ze Stanami Zjednoczonymi czy Chinami, aby prowadzić badania nad sztuczną inteligencją. Sieci GAN zdolne do generowania realistycznych danych na podstawie niewielkich zasobów mogą stanowić suwerenną alternatywę w celu zrekompensowania tego braku.

Aby zagłębić się w temat

https://www.defenseone.com/technology/2019/03/next-phase-ai-deep-faking-whole-world-and-china-ahead/155944/?oref=d-mostread

Thibauda Matteia

Na dalej

PORTALE SPOŁECZNOŚCIOWE

Ostatnie artykuły