レッドチームの発表: SF は警戒中

防衛イノベーション庁は、防衛イノベーションオリエンテーション文書を通じて、独自のチーム「レッドチーム」の創設を正式に正式に発表しました。この組織は、特殊な背景を持つ 5 人のメンバーで構成されます。これには、技術革命を予測するために、科学教師だけでなく SF 作家も集まります。レッドチームのメンバーは未来学者であり、「破壊的な能力、またはそれに対する防御」につながるシナリオを確立する必要があります。

ばかばかしい?そこからは遠い。 SF にはテクノロジーを先取りする能力があることが長い間証明されてきました。アイザック・アシモフ (1920-1992) は、依然として人工知能の分野における基本的な人物です。彼の有名な時代に ロボットサイクル, この著者は、ロボット工学、ひいては AI の 3 つの基本法則を確立しました。まず、ロボットは人間の誠実さに反する行動をすることはできません。そして、第一法則に反しない限り、人間から与えられた命令には従わなければなりません。最後に、ロボットは、最初の 2 つの法律のいずれかに反しない限り、その完全性を保護します。 

ほとんどの AI 開発者はこれらを参考にして育ったため、これら 3 つの法則は今のところ時代を超えたものです。たとえば、SALA に対する抵抗は、この文化的参照に端を発しています。同様に、欧州委員会の委託を受けた AI に関するハイレベル独立専門家グループによって起草された、信頼できる AI の倫理ガイドラインは、アシモフ法の遺産です。 

アシモフのサイクルの出版から 30 年が経過した今でも、著者の考察は意味深く、洞察力に富んでいます。 

しかし、AIDもレッドチーム創設の例外ではない。 15 年 2019 月 1950 日、オーストラリアは軍隊を強化するために可能な限り予想されるシナリオを受け取るために入札を公募しました。同様に、DARPA が XNUMX 年代の創造的なプロセスを最適化するために I. アシモフを関与させたことが認識されています。 最終的には、 AI を習得するための競争は数年前から進行しており、さらに強化され続けています。したがって、AI の有力者になりたい各プレーヤーにとって、このテクノロジーの将来の影響と用途を予測することが不可欠です。しかし、この文献における文化の違いの影響を見逃してはなりません。ロシアは、AIを使用して群れで飛行することを目的とした次期特攻無人機「ZALA AERO」で証明されているように、SALAの武装禁止にはそれほど敏感ではないようだ。

当然のことながら、国家と非国家の両方の「潜在的な敵対者」に利益を与えないよう、レッドチームの活動は機密扱いとなります。実際、レッドチームは、兵器システムへの AI の関与など、現在のテクノロジーの革新的な使用法を提案する必要があります。この組織の活動は、この予期能力を広めるために他の軍隊に伝達されます。考えられる結果は、他のサービスからの考えを提供することで、すでに開発されている作品を充実させることができることです。 

ロマン・エナフ – AIスペシャリスト

さらなる

リゾー・ソシャウ

最新の記事