Altman:安全是首位,没有IPO时间表,暂缓发布GPT-6.1 Astra是出于高度谨慎
OpenAI首席执行官Sam Altman表示,公司目前没有具体的IPO计划,在厘清下一代人工智能的安全边界之前,上市并非优先事项。
Altman周二在OpenAI开发者日接受采访时表示,IPO或许要等到公司完成"若干安全案例验证"、并对如何安全应对"下一级别AI"形成更清晰认知之后,才会真正提上日程。
Altman表示,在AI研发和安全相关的外部环境仍处于变动之中时,他并不想推进IPO。
"我心中没有具体的(IPO)时间表,我认为现在是将安全和使命放在首位的时候。"
据媒体同日报道,OpenAI寻求以1.4万亿美元估值完成逾300亿美元融资,以桥接轮替代IPO补充资金。
在被问及OpenAI最近暂缓发布GPT-6.1 Astra的决定时,Altman表示,是因为该模型没有达到公司用于评估安全性和对齐度的部分测试标准,而非遇到了什么具体的严重事故。
Altman称,该模型在OpenAI使用的"少数几项评估中表现稍微差了一点",并将该决定归结为"出于高度谨慎"。"这次并没有什么可怕的隐患,"他说道。
他将暂缓发布或重构未能达到OpenAI标准的模型描述为正常开发流程的一部分。
从更广泛的层面来看,Altman表示,随着模型能力的提升,对齐、安全、监控和防护必须始终"远远领先于模型的能力"。他将这种方法称为对发展节奏的"调控"。
Altman还反驳了"AI 安全问题可以完全通过工程手段解决"的观点。其指出英伟达针对AI提供的安全系统并非"完整的解决方案";AI更多的是一个科学问题,而非工程问题;OpenAI将拥有"许多伟大的新模型"。
"对于如何对齐这些模型,我们依然处于探索阶段,"他认为,除了让AI系统更安全所需的工程工作外,行业还面临着科学层面的挑战。
关于法律责任,Altman预计将会出现一个多层级的责任框架,具体取决于故障是源于模型本身、开发者的使用方式,还是终端用户的故意滥用。
他将这种潜在的结构比作汽车行业 —— 在汽车行业中,根据具体出问题的环节,责任可能归属于不同的主体。
此外,Altman对华盛顿方面的讨论以及国际间的协调表达了审慎的乐观态度,同时也承认此前对政策推进的预期并不总是能够实现。
