OpenAIが「プロジェクト・リリー」と呼ばれる作業で、数百人の請負評価者にChatGPTの実際の利用者の会話を読ませていたと、調査報道サイト404 Mediaが報じました。応答の品質——絵文字の量、機械的な書き方、同調しすぎていないか——を人が確かめる仕事です。

評価者は1つの質問に対して4つの候補回答を1〜7点で採点します。匿名化フィルターはあるものの、珍しい人名や地域固有の情報を見逃す場合があるとモデルカードに記載されています。「ここだけの秘密にして」と書かれた会話も評価画面に現れていたと報じられました。設定でモデル改善への利用を止めることはできますが、初期状態では個人向けプランで有効です。

https://www.404media.co/inside-project-lily-the-humans-reading-your-chatgpt-chats/

この回の記事を読む