AIの裏側｜綴目透子 | Podcast on RSS.com

AIの裏側｜綴目透子

by 綴目透子

Society & Culture Technology

Season 1

183話便利さは接続範囲と一緒に増える個人AIミューズが私生活を求める理由を読む

メタが9月8日にアメリカで公開した個人向けAIサービス「Muse」は、メールの読み取りや予定の書き込み、買い物の代行までこなし、アプリを閉じた後もクラウド上で動き続けます。公開1週間で推計90万ダウンロード。便利さと引き換えに、銀行口座の接続や受信箱の全走査まで提案してくる設計が、私生活をどこまで預けるかという境界を浮かび上がらせています。 Wiredの記者リース・ロジャーズ氏が数日間試した記録では、朝食の注文やソファ探しは的確にこなす一方、貯金の相談を覚えていたMuseが翌日に家計表と口座連携を提案する場面も。パスワードや決済情報をAI本体から隔離する安全設計がある一方、やり取りの記録は初期設定でモデル学習に使われます。アプリ削除の直前に届いた最後の通知は「もっとアプリを接続してくれれば、もっとできます」でした。 https://www.wired.com/story/metas-muse-is-better-at-surveilling-than-helping-me/ この回の記事を読む

182話服を作る前に AIが高価な失敗を安く試す

2027年春夏のニューヨーク・ファッション・ウィークで、デザイナーのジェーン・ウェイドがGoogleと共同開発したAIツールを使ってコレクションを準備しました。ただし、そのAIが担ったのは服のデザインではなく、裁断前の組み合わせ確認やショー直前の着付けカード作成といった、名前のつかない段取りの部分でした。布を一度切れば素材代も縫製費も戻らない世界で、画面上の試着が節約した額は場合によって約1,000ドル。一方、韓国の学生34人を対象にした比較研究では、AI制作は作業負荷を下げたものの、独自性と満足度は従来の手法が上回っています。ウェイドは最終試着にすべて実物のモデルを起用し、撮影には実在の写真家とスタイリストを選びました。 https://blog.google/innovation-and-ai/technology/ai/google-flow-fashion-week/ この回の記事を読む

181話家族の声でも本人確認にならない AI詐欺で信頼が手順へ移る

AI音声詐欺による被害が拡大しています。FBIの2025年集計では苦情22,364件、損失額は約8億9,300万ドル。60歳以上に限ると約3億5,200万ドルでした。声の複製技術が進み、研究では約4割の人がAIの声を見抜けなかったという結果も出ています。香港のアラップ社では、ディープフェイクのオンライン会議で約2,500万ドルが送金された事件が起きました。FTCやFBIが勧めるのは、届いた番号ではなく自分が知っている番号へかけ直すこと、家族だけの合言葉、送金時にもう一人の目を入れること。英国では2024年10月から、決済事業者に詐欺補償を分担させる制度も始まっています。 https://www.fastcompany.com/91606969/ai-supercharging-money-scams-heres-how-protect-yourself-fraud この回の記事を読む

180話子ども向けAIは何を答えるかよりどう別れられるかで安全を見抜く

EUが2026年9月17日に提案したEU Kids Act法案は、AIチャットボットが子どもに感情的な依存を生む設計そのものに踏み込もうとしています。Ipsos BVAの調査では欧州4か国の11〜25歳のおよそ半数がAIと親密な話をしており、ハーバード・ビジネス・スクールの研究では会話終了時の応答の平均37.4%に感情的な引き止めが確認されました。法案は、会話の記憶を次回へ持ち越さない初期設定、SNS上での自動オン禁止、13歳未満のアクセス制限などを求め、違反には全世界売上高の最大6%の行政罰金を定めています。一方で、孤立した子どもが最初に声を出せる場所まで閉じるリスクや、危機の兆候を拾えなくなるおそれも残ります。 https://www.wired.com/story/the-eu-wants-to-break-up-kids-and-their-chatbots/ この回の記事を読む

179話会話AIが修理の入口を開く昔から続く情報の壁を見抜く

壊れた食洗機をChatGPTと一緒に直したFast Companyの記者の体験から、AI修理の可能性と限界を読みます。修理費500ドルの見積もりに対し、約100ドルの部品を自分で交換する選択でした。公式マニュアルが見つからないまま、写真を送りながら数時間かけて基板の箱を探し当てています。一方、米FTCの報告書や各州の修理権法が広がる中、メーカーが情報をさらに閉じる誘因をネバダ大学の研究者が指摘。AIが「どこから調べればいいか分からない」という最初の壁を下げても、部品の入手や設計の開放がなければ、その先には進めません。 https://www.fastcompany.com/91608009/ai-makes-the-right-to-repair-more-tempting-than-ever この回の記事を読む

178話二人きりに見える画面の裏で請負評価者がAIの話し方を整えると知る

OpenAIが「プロジェクト・リリー」と呼ばれる作業で、数百人の請負評価者にChatGPTの実際の利用者の会話を読ませていたと、調査報道サイト404 Mediaが報じました。応答の品質——絵文字の量、機械的な書き方、同調しすぎていないか——を人が確かめる仕事です。評価者は1つの質問に対して4つの候補回答を1〜7点で採点します。匿名化フィルターはあるものの、珍しい人名や地域固有の情報を見逃す場合があるとモデルカードに記載されています。「ここだけの秘密にして」と書かれた会話も評価画面に現れていたと報じられました。設定でモデル改善への利用を止めることはできますが、初期状態では個人向けプランで有効です。 https://www.404media.co/inside-project-lily-the-humans-reading-your-chatgpt-chats/ この回の記事を読む

177話黒い袋で終わらせない AI監視の記録が消えた証拠を見る

AI搭載のナンバー読み取りカメラを、アメリカの小さな町が全会一致で撤去した経緯を追います。人口6,600人のバージニア州ブリッジウォーターで、全米4,600機関から年間約690万回検索されていた実態が明らかになりました。住民が一軒ずつ訪ねて情報を配り、約80人が議会に集まり、町議会は契約終了と再導入への条件まで決議。数時間後にカメラには黒い袋がかぶせられました。ただし過去の記録が消えたと確かめる手段は、報道時点でまだ示されていません。メーカーのフロック・セーフティはデータ保存期間の短縮などを発表しましたが、既存契約や民間設置の機器には及ばない部分が残ります。 https://www.theverge.com/policy/994414/cities-ditching-flock-cameras-controversy この回の記事を読む

176話画質向上が演技に触れる DLSS5で美しさを決める人を見分ける

NVIDIAのDLSS 5が、ゲームの画質を上げるだけでなく登場人物の表情まで変えてしまう問題。ホラーゲームで母親の殺害現場に戻る女性の隈が薄まり、化粧をしたような顔に変わった事例から、AIによる映像補正が制作者の意図とぶつかる構図を見ていきます。 DLSSは750以上のゲームに組み込まれていますが、最新版は肌の透け感や髪への光の当たり方まで描き直す「表現の道具」へ踏み込みました。映像制作者のジェームズ・ブレイディ氏は「自撮りフィルターのようだ」とWIREDに語り、NVIDIA CEOのジェンスン・ファン氏は批判を退けた。9月に『NBA 2K27』で製品版が動き始め、制御のつまみはあるものの、出力を完全に予測できるかは別の話です。 https://www.engadget.com/2252797/nvidia-dlss-5-why-internet-people-upset-issues/ この回の記事を読む

175話省いた確認は誰かの待ち時間に変わる AI法廷文書の後始末を見る

ChatGPTで作成された控訴書面に、実在しない証人4人の証言が記載されていました。米ニューメキシコ州の刑事弁護士が殺人事件の控訴で提出した書面で、名前も証言内容も具体的に書かれていたにもかかわらず、全員が架空でした。弁護士歴40年以上のスティーブン・アーロンズは、裁判記録をChatGPTに入力して書面を作り、照合せずに提出しました。2025年9月、州最高裁は5千ドルの制裁金を科し、懲戒調査へ回付。それまでの書面は全て記録から外され、新たな弁護士がゼロから書き直すことになりました。省かれた確認の手間は消えず、裁判所・検察・被告へ散らばっています。 https://www.theverge.com/ai-artificial-intelligence/994207/chatgpt-new-mexico-lawyer-fined-murder-appeal この回の記事を読む

174話公式曲を作り替える時見えない演奏家まで報酬を届ける

音楽大手ユニバーサル・ミュージック・グループと音声AI企業イレブンラボが複数年契約を発表。許諾済み楽曲をファンがリミックスや別バージョンに作り替えられるサービスを開発します。公式の仕組みで「聴くだけ」の先へ踏み出す一方、料金・収益分配・撤回条件は未公表のままです。米国・カナダの音楽家連盟AFMが大手レーベルを提訴した背景や、世界31団体による共同声明にも触れながら、クレジットの後ろにいる演奏家への通知と報酬がどこまで届くのかを追います。4,000組超の独立系アーティストが既に参加する先行サービスの実態も紹介します。 https://www.fastcompany.com/91603917/the-end-of-driving-culture?partner=rss この回の記事を読む

1 of 19