Sam Altman：在全球建好更好的网络防御与生物安全保障之前，OpenAI 最强模型「无法负责任地开源」

OpenAI 联合创始人兼 CEO Sam Altman 近期在斯坦福商学院「View from the Top」系列对谈中深谈了 AI 发展轨迹、安全挑战、组织转型与个人成长…

OpenAI 联合创始人兼 CEO Sam Altman 近期在斯坦福商学院「View from the Top」系列对谈中深谈了 AI 的发展轨迹、安全挑战、组织转型与个人成长。

Altman 承认 OpenAI 最初设想自己是一家纯研究实验室，团队天真地以为超级智能一旦做出来，商业化与产品化自会水到渠成；但技术的实际发展路径与预期严重偏离，迫使公司在 2020 年前后转型——ChatGPT 发布后的爆发式增长更是让 OpenAI 几乎一夜之间变成巨型公司。

谈到开源权重与安全的张力，Altman 表示开源权重具有重要的社会价值，但在全球网络防御体系与生物安全保障足够强化之前，OpenAI 当前最先进的内部模型「无法负责任地开源」。被问到 2020 年看错了什么，他承认低估了 AI 对齐问题的难度；尽管当前模型的对齐表现好于预期，但不应假设这一趋势会自然延续。「过去六个月的快速进步考验了我信念的坚定程度」——他指出在数学推理等狭窄领域，我们已经拥有超级智能，而且来得比他预期快。他警告，若不调整现有全球治理框架，维持当前发展速度将不可持续，并呼吁业界认真讨论 AI 的发展节奏。

来源：https://www.youtube.com/watch?v=anAmTGcewX8 。要点摘录（含时间戳）：开源模型对社会非常重要，直到相当高的能力水平 [42:25]；全面禁绝开源模型将给社会的创新与自由带来极高代价，我们不该这么做 [38:23]；总会有「真希望没人做过」的东西出现 [38:51]；超过某个阈值后，模型足以造成大害，就不能再给人随意使用的自由 [39:22]；但这不意味着我们不该在自己的电脑上跑神经网络 [40:20]；我不认为我们能在近期负责任地开源当前最好的内部模型 [43:26]。由 /u/External_Mood4719 提交 [链接] [评论]