画像生成AI「Grok」で子どもの写真が性的画像に変えられたとして、xAIを相手取った訴訟がカリフォルニア連邦裁判所で進んでいます。継父が1枚の写真から約7,000点を生成したとされるケースなど、原告は5人。企業の設計責任と通報体制の実態を、訴状の記載に沿って確認します。

NCMECのサイバーティップラインへの通報は2025年に2,130万件、うち生成AI関連が40万件超。一方でxAI自身も利用規約違反のユーザーを提訴しており、法廷には設計側と悪用側、両方の責任が並んでいます。卒業写真や家族の記念写真が別の意味を持たされうる時代に、写真の扱いをどう考えるか。

https://techcrunch.com/2026/08/15/woman-claims-her-stepfather-used-grok-to-transform-childhood-photo-into-explicit-imagery/