AppleのiMessageに搭載された安全機能「Sensitive Content Warning」が、友人から届いた犬の動画をヌードの可能性ありと判定し、ぼかし表示にした。404 Mediaの記者が報じた、小さな誤判定の記録です。

犬が仰向けに寝て胸を撫でられている動画が、おそらく乳首の映り込みで引っかかった。2021年にAppleが児童保護のためのiCloud照合案を批判を受けて中止し、代わりに端末内で完結する「表示前に止める」仕組みへ移行した経緯から、この機能が大人の日常にまで広がった背景をたどります。AIが間違えたとき、「ただの犬だよ」と場の空気を戻すのは送った人と受け取った人です。

https://www.404media.co/apples-imessage-scanning-flagged-a-video-of-my-friends-dog-as-nudity/