生殺与奪の権を握るAI【萬物相】

　映画「ステルス」では最先端の無人AI（人工知能）ステルス機が核テロ組織を爆撃する任務に投入される。人間のパイロットは放射能やそれによる死の灰などで民間人の犠牲が甚大になると判断し爆撃を中断させる。しかしAIはこれを無視して爆撃を強行し、敵への攻撃も開始する。「アウトサイド・ザ・ワイヤー」ではAI指揮官は「同僚の兵士38人を救出するため子供の兵士2人を犠牲にしたドローン攻撃は正しい」と主張する。戦闘の効果を最優先に判断したのだ。

【写真】米企業が開発中の戦闘ロボット犬「敵発見、撃チマスカ？」

　映画「イーグル・アイ」で安保AI「アリア」は大統領と閣僚がむしろ安全保障に害になると判断し、彼らを殺害しようとする。人間の統制から抜け出し、自ら政策的・政治的判断を下したのだ。SF小説「神は殺されません」では各国と巨大企業は人間の脳をスキャンしたAIを競争的に開発する。自らを神と称するAIたちは核戦争を起こし、産業やエネルギー施設を全て破壊してしまう。

　このような軍事AIはもはや映画や小説の話ではなく、戦争そのものを変える「ゲームチェンジャー」になってしまった。精密攻撃能力を持つAI自爆ドローンや戦闘機、航路や作戦の決定まで自動的に行う無人潜水艦、攻撃目標を自ら決めるAI戦車、戦場を動き回るAIロボット犬などが実際に次々と開発されている。米国防総省のシミュレーションではAI戦闘機は人間のパイロットに勝ったそうだ。中国のAI戦闘機は最新のステルス機をわずか8秒で撃墜したという。イスラエルとハマスの戦闘では敵を認識し追跡する「ラベンダー」や「メイブン」などのAIが使われている。

　中国は先日「AI最高司令官」を開発し、ウォーゲームを実施した。AIは戦争に関するさまざまな情報や人間の思考方式、欠陥まで全てを学習したという。「銃は共産党が統制する」という従来の戦闘の形を変えたのだ。米国では「AI司令官の作戦能力は人間を上回った」との見方も出ている。これまでAIは補助的な役割を担うだけで、実際に引き金を引く決定権は人間にあった。ところが戦闘の指揮や攻撃命令、人命殺傷の決定権や倫理的判断までAIに依存するケースが出始めている。ラベンダーにはハマス1人の射殺に民間人15人の犠牲を許容する交換レートがインプットされているという。

　ソウルで開催されたAIの軍事利用に関するサミットで90カ国の国防相や安全保障責任者らは「AIを軍事利用する場合でも、核使用など主要な決定においては人間の統制を維持すべき」と訴えた。軍事AIはアラジンと魔法のランプに出てくる何でも言うことを聞いてくれるジーニーとは違い、一度ランプから出ればもう中には入れられない。映画「ターミネーター」のようにAIジーニーが人間を飲み込む日が本当に来るかもしれない。

裵成奎（ペ・ソンギュ）記者