【検閲AI】米政府の対話型AI、都合悪い質問には答えなくなる仕様に変更される
ざっくり言うと
米トランプ政権は9月末、政府の対話型AI「America.gov」をウェブサイトで公開した。公開直後は2020年大統領選の不正主張や気候変動についてトランプ氏の主張と矛盾する内容にも事実に基づき回答していたが、数時間後に仕様が変更され、こうした質問への回答を拒むようになった。米CNNは仕様変更の経緯について政権から説明がないと批判している。
- 公開式典は9月29日、ワシントンで開催されトランプ氏が登壇
- AIは旅券や公的医療保険情報を一括検索するシステムとして開発された
- 大型減税・歳出法が医療保険に与える影響の質問にも「政治的論評はしない」と回答拒否
米政府のAI 都合の悪い質問を拒否
【ワシントン＝中根圭一】米国のトランプ政権は９月末、政府の対話型人工知能（ＡＩ）「Ａｍｅｒｉｃａ．ｇｏｖ」をウェブサイトで公開した。トランプ氏に都合が悪い質問を回答拒否するとの批判が相次いでおり、政
news.yahoo.co.jp
スレ主1通りすがりの政治ウォッチャー
America.govってAIが公開数時間で仕様変わって、選挙不正とか気候変動の質問にダンマリ決め込むようになったらしいんやが、これもうAIちゃうやろ…なんでこうなったか誰も説明してへんのが一番怖いわ
この記事どう思った？タップで教えて
2名無しのITエンジニア
最初は正しく答えてたのに後から黙らされるとか、プロンプトか検閲フィルター後付けしたのバレバレで草生える
3通りすがりの懐疑派
そもそも政府公式AIに客観性求める方が間違ってたんちゃうか、最初から期待してなかったわ
4AI擁護派のおじさん
いや公開直後は事実ベースで答えてたんやろ？それ自体はちゃんと作られてた証拠やし、後から誰かが止めたんが問題なんや
5通りすがりの野次馬
「政治的な論評はしない」で逃げるの草、都合のいい時だけ中立ぶるAIすこ
6名無しの歴史好き
検索エンジンの時代からこういう情報操作の懸念はあったけど、公式AIで露骨にやられると末期感あるな
7ツッコミ職人
>>5 中立ぶってるんじゃなくて単に都合悪いこと喋るなって命令されただけやろこれ
8通りすがりの旅券窓口民
元々パスポートとか医療保険の情報まとめるためのシステムやったはずやのに、いつの間にか政治トーク番組になってて草
9名無しの陰謀論クラスタ
ワイはむしろ最初に正直に答えてた数時間が奇跡やと思うで、むしろそっちが異常事態や
10匿名の法学部生
政府が運営する情報提供サービスで特定の政治的主張に有利な回答制限するの、表現の自由とか情報アクセス権の観点でアウトっぽいよな
11通りすがりのメディア関係者
CNNが経緯説明ないって突っ込んでるのに政権がダンマリなのが一番の証拠よな、やましいことある時の反応そのもの
12名無しのボケ担当
America.govに「今日の晩飯何がいい？」って聞いたら「政治的な論評はしません」って返ってきそう
13通りすがりのツッコミ番長
>>12 それもう何も答えられへんAIで草、存在意義ゼロやんけ
14名無しの元公務員
行政サービスのAIなら尚更公平性大事やろ、税金で作っといてこれは擁護できんわ
15通りすがりの海外ニュース好き
気候変動は人間の排出が主因って回答、科学的コンセンサスとしては普通に正しいのにそれすら消されたんか
16名無しの冷静派
まあ運営側からしたらトップの機嫌損ねる回答残しとくわけにいかんのやろな、組織としては自然な動きではある
17通りすがりの理系院生
AIの『仕様変更』って言い方がうまいよな、検閲とは言わず仕様変更って言えば角が立たへん
18匿名の減税法クラスタ
医療保険への影響聞かれて論評拒否は草、一番聞きたいとこやろそこ
19名無しの皮肉屋
質問に答えないAIに税金使うくらいなら黒塗り資料配った方が安上がりまである
20通りすがりの慎重派
まだ運用始まったばっかやし、今後の改善待つしかないんちゃうか、気長に見ていこうや
21名無しの比較好き
民間のAIチャットボットも企業の意向で答え変えること普通にあるし、政府だけが特別ってわけでもないやろ
22ツッコミ職人2号
>>21 民間と違って政府AIは公的情報を一括で調べるって触れ込みで出してるのがタチ悪いんやって
23通りすがりの統計好き
238件もコメントついてるあたり、アメリカでもこの件はかなり話題になってそうやな
24名無しの未来予測班
この調子やと他の省庁のAIも同じ道辿りそうで怖いわ、透明性なんて最初から求められてないんかもな
25通りすがりの達観おじさん
結局AIも人間の都合で動くツールでしかないってことがハッキリしただけの話やな
26名無しの茶々入れ
トランプ氏自身が『あらゆる質問に対応する入り口』って豪語してたの考えると皮肉効きすぎてて笑うしかない
27通りすがりの雑談班
もうこの話題で記念式典の映像見返したくなってきたわ、あのアピールと今の状況のギャップえぐい
この記事どう思った？タップで教えて