【ヒヤリ】AIチャットボットの誤情報で米軍が中国船攻撃寸前だった件
ざっくり言うと
CNNの報道によると、今春のイランとの戦争中、米軍内で回覧された情報報告書が中国船が核兵器計画の部品を輸送しているとの誤情報を含んでおり、米軍は阻止作戦の準備を進めた。作戦直前になって当局者が報告書を精査した結果、AIチャットボットが船の積載物資を誤認していたことが判明し、報告書は「完全に誤り」だったという。情報筋は「あと少しで戦争を引き起こすところだった」と述べており、米中間の武力紛争に発展するリスクがあった事案として、AIを攻撃目標選定に活用する危険性が浮き彫りになった。
- 特殊作戦コマンドの分析官がAIで報告書作成、船の積み荷を誤認
- 武装米兵の乗船準備や軍用機展開まで進んでいた
- 太平洋特殊作戦コマンドと国防総省はコメント要請に応じず
AIで誤情報 米軍に一時緊張走る
（CNN） イランとの戦争のさなかにあった今春、米軍内で回覧されたある情報報告書に、即座に緊張が走った。中東を航行する中国の船舶が、核兵器計画の部品を輸送しているという内容だった。
news.yahoo.co.jp
スレ主1通りすがりの安全保障ウォッチャー
これ普通にヤバない？AIが誤認しただけであと少しで米中戦争突入するところだったらしいわ。分析官がチャットボットに聞いた結果がそのまま報告書になってたって、チェック体制どうなってたんや
この記事どう思った？タップで教えて
2名無しの軍事オタク
武装した兵士が船に乗り込む準備までしてたのマジで洒落にならんな、あと一歩で誤爆どころか戦争のきっかけやん
3通りすがりの元SE
AIが自信満々に間違った答え出すのハルシネーションってやつやろ。業務でも何回も痛い目見たわ
4懐疑派のおじさん
直前まで誰も検証してなかったってのが一番の問題やろ、AI云々より人間のチェック体制がガバガバなだけちゃうか
5名無しさん@軍縮好き
>>4 それな、AIのせいにしとるけど最終判断は人間がしてるはずなのに何でスルーしたんやろな
6通りすがりの物知り
太平洋特殊作戦コマンドが元情報出してるらしいけど、市販品ベースのツールって書いてあるし精度もそこまでちゃうんちゃうか
7ボケ担当のたぬき
AI「この船あやしいっすね」人間「せやな」でGOしかけたってこと？会議室でその一言だけで戦争起きかけたと思うと草も生えん
8名無しの慎重派
軍用機まで展開したって書いてあるし、これ止められたの本当にギリギリのタイミングやったんやろな
9通りすがりの楽観主義者
逆に言えば直前でちゃんと再検証して止められたんやからシステムは機能してるとも言えるやろ
10名無しの悲観主義者
>>9 いや今回はたまたま止まっただけで、次も同じように直前で気づける保証ないやろ怖すぎる
11通りすがりの元自衛官志望
信号情報とオープンソース情報組み合わせて誤った結論出したって、複合的なミスなの余計怖いわ
12名無しのIT技術者
チャットボットが市販品なのか政府ツールなのか分からんっていうのもなんか間抜けな話やな、そこすら把握できてないんかい
13ツッコミ待ちの中年
ヘグセス国防長官がAI活用推進してる矢先にこれやからタイミング的にも間が悪いというか皮肉というか
14通りすがりの株クラ
防衛AI関連銘柄買っとる勢はこのニュースどう見てるんやろか、信頼性リスクとして材料視されそうやな
15名無しの平和主義者
これ人類史上初のAI誤情報がきっかけの戦争になるところだったってことよな、笑えん話や
16ボケ担当のたぬき
AIくん「積み荷は核兵器部品です」→人間「せやろか」ってもうちょい疑ってくれや、AIの言うことなんJ民の方がまだ疑ってかかるで
17通りすがりの元分析官志望
分析官が『再びAIを使って』報告書まとめ直したって、そこもAI頼りなの草。もうAI無しで仕事できんのかもしれん
18名無しの慎重派
CNNも誤認された積み荷の中身は特定できなかったって、結局何が積んであったんか永遠に謎のままなんかい
19通りすがりの中国ウォッチャー
中国側はこの件知ってるんかな、知ったら知ったで米国のAI運用にケチつけてきそうやな
20名無しの合理主義者
意思決定を高速化させたいのは分かるけど、速さと正確性のトレードオフで今回みたいな事故が起きるなら本末転倒やろ
21通りすがりの物知り
米軍はAI導入を予算管理や兵站にも広げてるらしいから、攻撃目標選定以外でも今後同じような誤認出てきそうで怖いわ
22懐疑派のおじさん
結局コメント拒否してるあたり、国防総省側も相当マズいと思ってる証拠やろこれ
23名無しの軍事史好き
歴史的にも誤認や誤報がきっかけで戦争寸前まで行った事例はあるけど、AIが原因になるのは新しいパターンやな
24通りすがりの一般人
これ日本のニュースであんまり大きく扱われてない気がするけど、内容的にはかなりデカい話やと思うんやが
25名無しの現実主義者
AIの判断を鵜呑みにするなって教訓ではあるけど、結局は使う側の人間の姿勢次第としか言えんのよな
26ボケ担当のたぬき
ワイのスマホのAIも道案内でよく変な道教えてくるけど、規模が違いすぎて笑えんくなってきたわ
27通りすがりの疲れたサラリーマン
AIに仕事丸投げしすぎた末路って感じもするけど、人間もチェック疲れでスルーしがちなんよなこういうの
この記事どう思った？タップで教えて
