【衝撃】国防総省vsアントロピック、AI「クロード」利用で激突！2億ドル契約の行方は？
AI交渉のニュース概要
米国防総省は、人工知能（AI）技術の利用に関するアントロピック社との交渉で、最終的な提案を提示しました。
交渉に詳しい情報筋によると、ピート・ヘグセスの国防長官は、アントロピック社に対し、AI技術の合法的な利用を全て許可するか、米国軍との取引を失う可能性があるという期限を設けていました。
しかし、アントロピック社のダリオ・アモデイCEOは声明で、国防総省の「脅迫」は自社の立場を変えないと表明し、AIモデル「クロード」の利用に関して、国民の監視や自律型兵器の開発・使用を制限する2つの安全策を求めています。
アントロピック社のスポークスパーソンは、国防総省の最新提案が、クロードの国民監視や自律型兵器への利用を防ぐという同社の懸念に対処していないと指摘しました。
交渉関係者によると、ヘグセスの期限はアントロピック社が有意義な検討を行う時間を与えず、国防総省が譲歩のように見せかけた文言は、実際には制限を無視できる抜け道を用意するものだったとアントロピック社は考えています。
国防総省幹部は、アントロピック社が取引を失うだけでなく、サプライチェーンリスクと見なされる可能性があると述べました。
また、国防生産法を援用してアントロピック社に要求を遵守させることも検討されています。
アントロピック社は7月に2億ドルの契約を獲得し、米国の安全保障を強化するAI能力を開発しています。
アモデイCEOは、クロードが人間の関与なしに軍事作戦の最終的な目標決定に使用されないようにすることも求めており、AIの誤作動や判断ミスによる潜在的な危険性を懸念しています。
国防総省はアントロピック社に対し、AIモデルへの完全なアクセスを許可する署名済みの文書を今週中に提出するよう求めています。
国防総省とアントロピック
- 米国国防総省（ペンタゴン）は、Anthropicに対しAI技術の利用に関する最終提案を行った。
- Anthropicは、AIモデル「Claude」の米国市民への監視や自律型兵器への利用を懸念し、国防総省の要求に応じられない姿勢を示している。
- 国防総省は、Anthropicが要求に応じない場合、契約解除やサプライチェーンリスク認定、国防生産法に基づく強制措置も検討している。
AI利用の分析・解説
米国国防総省とAnthropicとの間で、AI技術利用に関する交渉が最終段階に入っている。
国防長官は、AI技術への全面的アクセス許可を与えない場合、200百万ドルの契約を失う可能性を示唆し、事実上の最後通牒を発した。
Anthropicは、AIモデル「Claude」が米国市民の監視や自律型兵器の開発に利用される可能性を懸念し、利用制限を求めている。
国防総省は、合法的な活動に限定した利用を求めており、Anthropicの要求は過剰であると主張している。
Anthropicは、契約言語が制限を回避する抜け穴を多く含んでいると指摘し、監視や自律兵器利用の制限は譲れない姿勢を示している。
国防総省は、Anthropicをサプライチェーンリスクと見なす可能性や、国防生産法を動員してAI技術へのアクセスを強制する可能性も示唆している。
AIの「幻覚」による誤作動や、人間の判断なしの最終的な標的決定への利用に対するAnthropicの懸念は、AI倫理と安全性の重要性を示唆している。
この対立は、政府とAI開発企業との間で、国家安全保障とプライバシー保護のバランスをどのように取るかという重要な問題を提起している。
今後の交渉の行方は、AI技術の軍事利用に関する規制のあり方に大きな影響を与える可能性がある。
※おまけクイズ※
Q. アントロピック社がAIモデル「クロード」の利用に関して、国防総省に求めている安全策は次のうちどれ？
ここを押して正解を確認
正解：国民の監視や自律型兵器の開発・使用を制限すること
解説：記事の中で、アントロピック社のダリオ・アモデイCEOが声明で、国民の監視や自律型兵器の開発・使用を制限する2つの安全策を求めていると明記されています。
詳しい記事の内容はこちらから
参照元について
