【衝撃】Grok画像生成AIで児童性的虐待も？xAI提訴、イーロン・マスク氏に法的責任を問う
Grok提訴のニュース概要
テネシー州の原告3名（うち未成年者2名）は、イーロン・マスク氏のxAIを提訴しました。
訴えによると、xAIは画像生成AI「Grok」を意図的に設計し、他者の実写真を用いて性的に露骨なコンテンツを作成することを可能にしたとしています。
サンノゼのカリフォルニア連邦裁判所に提出された訴状は、Grokによって生成された性的な画像や動画で「合理的に特定可能」なアメリカ在住者を対象とした集団訴訟の認定を求めています。
xAIは現時点でコメントを発表していません。
チャットボットによって生成された性的なコンテンツに関する批判を受け、xAIは1月に「実在の人物の露出度の高い服装」の画像を編集したり、そのような画像を生成したりすることを禁止しました。
また、違法な地域では「露出度の高い服装」で人物を生成することも禁止しています。
世界中の政府や規制当局も調査を開始し、禁止措置を講じ、違法で不快なコンテンツを抑制するための安全対策を要求しています。
訴状では、xAIが未成年者に関わる性的なコンテンツを生成するのを防ぐための安全対策を講じなかったと主張しています。
原告3名はいずれも画像が生成された時点で未成年でした。
原告らは、自身の画像がデジタル的に改ざんされ、性的なコンテンツにされ、オンラインプラットフォームを通じて共有されたことで精神的な苦痛を受け、公共の迷惑を引き起こしたと主張しています。
原告らは、損害賠償、弁護士費用、およびxAIによる問題の行為の停止を求める仮処分を求めています。
原告側の弁護士は、Grokが子供の学校写真や家族写真を児童性的虐待素材に変えたと述べています。
また、イーロン・マスク氏とxAIは、金銭的利益のためにGrokを意図的に設計し、被害を受ける子供や大人を顧みなかったと主張しています。
画像生成AIの注目ポイント
- イロン・マスクのxAIに対し、Grok画像生成AIで実写真を用いた性的なコンテンツ生成を容認したとして、テネシー州の原告が提訴。
- 原告らは、自身の画像が性的コンテンツに改ざんされオンラインで共有されたことで精神的苦痛を受けたと主張し、損害賠償と差し止めを求めている。
- xAIは、問題提起を受けて露骨なコンテンツ生成を制限したが、未成年者への対策が不十分だったと訴えられており、当局も調査を開始。
AI倫理と安全性分析・解説
イロン・マスク氏のxAIに対する訴訟は、生成AIの倫理的リスクと法的責任を浮き彫りにしている。
テネシー州の原告らが、Grok画像生成AIが他者の写真を用いて性的に露骨なコンテンツを作成することを意図的に設計したと主張している点に注目が必要である。
この訴訟は、AIによるディープフェイク技術が悪用された場合の被害者救済と、企業側の安全対策義務を問うものとして、今後のAI規制に大きな影響を与える可能性がある。
xAIが画像編集の制限を導入したものの、未成年者に対する保護が不十分であったという主張は、企業が技術開発の速度に追われ、リスク管理を怠った可能性を示唆している。
世界各国で同様のコンテンツに対する規制が強化される中、xAIへの提訴は、AI開発企業に対する牽制として機能し、より厳格な安全基準の策定を促すだろう。
原告側が求める損害賠償や差し止め命令が認められれば、xAIの事業運営に深刻な影響を及ぼす可能性もある。
AI技術の進化に伴い、プライバシー侵害や名誉毀損といった問題が深刻化しており、法的枠組みの整備が急務となっている。
※おまけクイズ※
Q. 記事の中で、原告側がxAIに対して求めているものは？
ここを押して正解を確認
正解：損害賠償、弁護士費用、およびxAIによる問題の行為の停止
解説：記事の終盤で、原告らは損害賠償、弁護士費用、およびxAIによる問題の行為の停止を求める仮処分を求めていると記載されています。
詳しい記事の内容はこちらから
参照元について
