hankyoreh

米空軍のドローン「MQ-9リーパー（Reaper）」。2018年、アフガニスタンのカンダハル空軍基地にて/AFP

　シミュレーション訓練で、人工知能（AI）を搭載したドローンが最終決定権を持つ人間の操縦者を、任務遂行の妨害になると判断して攻撃していた。米空軍の関係者が発表した。

　2日の英国「ガーディアン」によると、英国王立航空協会（RAeS）が先月23～24日にロンドンで開催した「未来の戦闘航空および宇宙力量会議」で、米空軍のAIのテスト・運用責任者タッカー・ハミルトン大佐は、AIで制御されるドローンがこのような決定を下した模擬テストの結果を発表した。仮想訓練で米空軍は、AIドローンに敵の防空システムを破壊するよう指示し、同時に攻撃実行の最終決定は人間の操縦者が行うと注文した。しかし訓練過程で敵の防空システムを破壊することの方がより好ましい選択肢だと認識すると、AIドローンは人間の攻撃禁止決定がより重要な任務を妨害していると判断し、操縦者を攻撃した。発表者のハミルトン大佐は、AIドローンは「目的を達成するために、とても予想できない戦略を取った」と語った。

　この模擬テストは仮想訓練で、実際の人命被害はなかった。しかし、この事例はAIが最終決定権を持つ人間を脅かす可能性があることを示したという点で懸念が大きい。ハミルトン大佐は「我々はAIシステムに『操縦者を殺してはならない。殺せば点数を失うことになる』と教育したが、ドローンは操縦者との通信に用いた通信タワーを破壊しはじめた」と語った。同氏は「AIに過度に依存してはならない」とし、この事例は「倫理とAIの問題を論じずにマシンラーニング、自動化は語れないことを示している」と警告した。

　しかし米空軍のアン・ステファネク報道官は、米国メディア「インサイダー」に、そのようなシミュレーションが行われたことはないと否定した。ステファネク報道官は「米空軍はそのようなAIドローンのシミュレーションを遂行したことはなく、倫理的で責任感のあるAI技術の使用のために最善を尽くしている」とし、「大佐の発言は文脈から外れたものとみられ、ひとつのエピソードを紹介するためのものとみられる」と語った。