AI 安全 vs 商业化:前 CTO 揭秘 OpenAI 的路线撕裂史
从OpenAI离职:回归初心的选择
三周前,曾在OpenAI参与核心产品开发的工程师Calvin French-Owen决定离开这家备受关注的人工智能企业。他近日在一篇博客中详述了自己在这家公司一年的工作经历,其中包括为打造新编码代理Codex而持续奋战的日日夜夜。
French-Owen强调,他的离职并非因为任何"戏剧性事件",而是希望重拾初创企业的创业精神。他曾是客户数据平台Segment的联合创始人,该公司于2020年被Twilio以32亿美元收购。
高速扩张带来的混乱与挑战
在French-Owen任职期间,OpenAI员工数量从1,000人迅速增长至3,000人。这种急剧扩张的背后,是ChatGPT的爆炸式增长------这款产品是有史以来用户增长最快的应用之一,目前已拥有超过5亿活跃用户。
然而,快速增长也带来了不少问题:"当你快速扩张时,几乎每个环节都会出状况------沟通方式、汇报结构、产品交付流程、人员管理和招聘机制等。"他在文中写道。
尽管工程师们仍保有高度自主权,类似小型初创公司的氛围,但也导致了团队间的重复劳动。例如,他提到曾见过多达六个用于队列管理或代理循环的库。此外,编程能力参差不齐的成员构成,加上Python语言的高度灵活性,使得中央代码库"像一个巨大的后端石头"一样杂乱无章。
延续创业精神:神秘的"鱼缸"文化
尽管已成长为科技巨头,OpenAI似乎仍未完全适应这一身份。French-Owen观察到,公司运营依然严重依赖Slack,类似于Facebook早期的运作模式。
他详细描述了一个由8名工程师、4名研究人员、2名设计师、2名市场营销人员和1名产品经理组成的高级团队,在短短7周内几乎彻夜未眠地完成了Codex的开发并成功上线。"打开它,他们就能获得用户。我从未见过一款产品仅出现在侧边栏就能带来如此迅猛的增长。"他感叹道。
作为一家备受公众监督的企业,OpenAI内部形成了严密的信息管控机制。同时,公司密切关注社交平台X的动态,一旦某条内容爆红,便会迅速做出响应。他引用朋友的话调侃:"这家公司仿佛是按推特节奏运转的。"
对安全性的误解与现实
French-Owen指出,外界对OpenAI最大的误解在于认为它忽视安全性。尽管一些AI安全专家曾批评其安全机制,但他表示,公司内部更聚焦于现实风险,如仇恨言论、辱骂行为、政治偏见操控、生物武器制造以及自残诱导等内容。
他也强调,OpenAI并未忽略潜在的长期风险,有专门的研究团队致力于这些问题。此外,由于其LLM产品已被数亿用户广泛应用于医疗建议、心理健康支持等领域,政府与竞争对手也对其保持高度关注。"风险真的很高。"他总结道。