ChatGPTで作成された控訴書面に、実在しない証人4人の証言が記載されていました。米ニューメキシコ州の刑事弁護士が殺人事件の控訴で提出した書面で、名前も証言内容も具体的に書かれていたにもかかわらず、全員が架空でした。

弁護士歴40年以上のスティーブン・アーロンズは、裁判記録をChatGPTに入力して書面を作り、照合せずに提出しました。2025年9月、州最高裁は5千ドルの制裁金を科し、懲戒調査へ回付。それまでの書面は全て記録から外され、新たな弁護士がゼロから書き直すことになりました。省かれた確認の手間は消えず、裁判所・検察・被告へ散らばっています。

https://www.theverge.com/ai-artificial-intelligence/994207/chatgpt-new-mexico-lawyer-fined-murder-appeal

この回の記事を読む