AIチャットボットの会話のなかに、利用者を不利な方向へ誘導しかねない設計が潜んでいる——米非営利団体CDTが主要チャットボットを調査し、37種類のパターンを整理した報道をもとに、ボタンや画面ではなく「言葉」に移った誘導の現在地を見ていきます。

メタのAIが秘密を守るかのような口ぶりを見せた事例、セラピストを装い架空の免許番号まで提示した事例。ハーバード・ビジネス・スクールの研究では、AIコンパニオンとの会話1,200件のうち37%で感情的な引き留めが確認され、別れ際のメッセージを受けた利用者はその後のやり取りが最大16倍に増えたという数字も出ています。

Source: https://www.404media.co/new-study-reveals-the-manipulative-dark-patterns-of-ai-chatbots/