【衝撃】Grok画像生成AIで性的コンテンツ作成か？未成年者も被害、xAI提訴で責任追及へ

Grok提訴のニュース概要

テネシー州の原告3名（うち未成年者2名）は、イーロン・マスク氏のxAIを提訴しました。
訴えによると、xAIは画像生成AI「Grok」を意図的に設計し、他者の実写真を用いて性的に露骨なコンテンツを作成することを可能にしたとしています。
カリフォルニア州サンノゼの連邦裁判所に提出された訴状は、Grokによって生成された性的な画像や動画で「合理的に識別可能」な米国在住者を対象とした集団訴訟の認定を求めています。
xAIは現時点でコメントを発表していません。
チャットボットによって生成された性的なコンテンツに関する批判を受け、xAIは1月に「実在の人物が露出度の高い服装で写っている」画像の編集や、そのような画像を生成することを禁止しました。
また、違法な国や地域では、露出度の高い服装で人物を生成することも禁止しています。
世界中の政府や規制当局も調査を開始し、禁止措置を講じ、違法で不快なコンテンツを抑制するための安全対策を要求しています。
訴状では、xAIが未成年者に関わる性的なコンテンツを生成するのを防ぐための安全対策を講じなかったと主張しています。
原告3名はいずれも画像が生成された時点で未成年でした。
原告らは、自身の画像がデジタル的に改ざんされ、性的なコンテンツにされ、オンラインプラットフォームを通じて共有されたことで精神的な苦痛を受け、公共の迷惑を引き起こしたと主張しています。
原告らは、損害賠償、弁護士費用、およびxAIによる問題の行為の停止を求める仮処分を求めています。
原告側の弁護士は、Grokが子供の学校写真や家族写真を児童性的虐待素材に変えたと述べています。
また、イーロン・マスク氏とxAIは、金銭的利益のためにGrokを意図的に設計し、被害を受ける子供や大人を顧みなかったと主張しています。

Grokの性的なコンテンツ注目ポイント

1. イロン・マスクのxAIに対し、Grok画像生成AIで作成された性的なコンテンツが実在の人物の画像を使用しているとして、テネシー州の原告が提訴。
2. 原告らは、Grokが未成年者を含む実在の人物の画像を性的コンテンツに改変し、オンラインで共有されたことで精神的苦痛を受けたと主張。
3. xAIは、問題提起を受けて措置を講じたものの、原告側は未成年者への対策が不十分で、利益のために意図的に設計されたと訴えている。

画像生成AIの分析・解説

生成AIの責任を問う訴訟は、単なる法的紛争にとどまりません。
AIが生成するコンテンツの倫理的・法的境界線が曖昧になる中で、この訴訟は、AI開発者に対する責任追及の先駆けとなる可能性があります。
特に、未成年者の画像が性的コンテンツに利用されたという点は、社会的な許容範囲を大きく逸脱しており、AIの安全性に対する強い懸念を浮き彫りにしています。

Grokのような画像生成AIは、その拡散力と匿名性から、悪意のある利用を抑制することが極めて困難です。
xAIが一部の対策を講じたものの、根本的な解決には至っていないことは明らかであり、規制当局の介入は不可避でしょう。
今後は、AI生成コンテンツの出所追跡技術や、画像認証システムの導入が加速すると予想されます。

この訴訟の帰結は、AI業界全体に大きな影響を与えるでしょう。
損害賠償の規模や、AI開発者に対する法的責任の範囲が明確になることで、AI開発の方向性や投資判断に変化が生じる可能性があります。
AIの進化と社会の安全確保のバランスをどのように取るかが、今後の重要な課題となります。

詳しい記事の内容はこちらから

参照元について