在飞速扩张的人工智能领域，「AI 安全」只能是牺牲品吗？

本期节目，我们请到普林斯顿大学 AI 安全方向的研究学者 VTU，一起聊聊：「AI 安全」到底是什么？AI 的定制化、边缘化，如何影响「AI 安全」的发展？如何平衡安全、创新与资本之间的关系？

去年 7 月，OpenAI 公布由首席科学家 Ilya 主导的「超级对齐 (superalignment) 」计划，承诺将拿出总算力中的 20% 投入在「AI 安全」上，以保证人类对超级智能的可控。但随着技术的高速发展与扩张，这个平衡似乎已经瓦解。在今年 6 月 20 日，Ilya 宣布创立新公司 Safe SuperIntelligence Inc (SSI)，专注于开发安全的超级智能。

☕️ 本期嘉宾

VTU

• 普林斯顿大学计算机工程博士，2023 年发表《Fine-tuning Aligned Language Models Compromises Safety, Even When Users Do Not Intend To!》并登上  ...