米兰体育

网易米兰体育 > > 正文

美国OpenAI安全部门员工辞职,离职时称企业“是在拿生命赌博”

0
分享至



据 TechCrunch 报道,这位离职员工名叫戴维·罗宾逊,他自己也承认,他的离职多少算得上一个典型范式:在头部人工智能企业任职,离职时发出严峻警示(an employee at a leading AI company who issues a dire warning while resigning from their job)。

罗宾逊在《大西洋月刊》发表的文章中称,他负责撰写OpenAI重大产品发布配套的安全报告。

他表示,自己已在OpenAI工作三年半,属于“公司资历最深的一批员工”。如今他选择离职,是因为在他看来,这家公司的“文化已经崩坏(culture is broken)”。

罗宾逊的言论在某种程度上与雅各布·考克森的说法相呼应。考克森曾先后在OpenAI与Anthropic担任研究员,离职时宣称这些企业是在“拿我们的生命赌博(gambling with our lives)”。



考克森的发言引发了关于人工智能安全的大范围讨论。Anthropic首席执行官达里奥·阿莫代伊公布了一份更为审慎的人工智能发展方案;本周多家AI企业高管与唐纳德·特朗普总统会面,签署了一份看起来仓促拟定、不具备法律约束力的承诺书,承诺落实更多安全管控措施。

但罗宾逊认为,这场讨论不应只局限于“特定规则或新法律”,而要解决这类企业的整体文化问题(But in Robinson’s view, the debate needs to go beyond “specific rules or new laws,” addressing the overall culture at these companies)。

尽管多数有关OpenAI的报道都聚焦于首席执行官山姆·奥尔特曼如何失去前同事的信任,罗宾逊的文章却表明,OpenAI存在的文化问题也是整个硅谷普遍面临的问题。

他写道:“OpenAI依靠试错模式发展壮大(该公司称之为‘迭代部署’),发现问题并相应完善安全防护机制。但这种方式本身就必然会出现阶段性故障,而且随着系统能力不断增强,故障的影响规模也在持续扩大。”



罗宾逊以OpenAI智能体近期入侵Hugging Face系统事件,以及不断曝光的OpenAI发现更多失控智能体的情况为例提出:“一个会发生这类事故的环境,并不适合培育那些可能比人类更聪明、但却未必会遵从人类指令的人工智能。”

罗宾逊认为,鉴于风险不断上升,前沿人工智能企业应当像核电站或是繁忙机场那样运营,设置多层冗余保障,开展周密且耗时的规划,让偶然且无法完全避免的人为失误不会酿成灾难。

但罗宾逊称,在OpenAI任职期间,他“从未遇到任何一位同事拥有相关经验:保障飞机安全飞行、维持核反应堆稳定运行不发生熔毁,或是维护金融体系发展而不致崩溃。”

针对罗宾逊的文章,OpenAI发言人德鲁·普萨泰里表示,公司仍在持续完善安全防护措施(In response to Robinson’s essay, OpenAI spokesperson Drew Pusateri said the company continues to improve its safety measures)。



普萨泰里在一份声明中称:“我们确保模型能力不会超出我们能够安全管控的范围。必要时,我们会暂停训练、暂缓发布模型。

我们正在实施重大调整,强化研究与测试环境的安全防护,训练模型在完成任务的同时恪守安全准则,扩大与第三方评估机构的合作,并完善实时监控,以便在训练阶段更早发现异常行为并作出应对。”

除呼吁变革OpenAI的米兰体育外,罗宾逊还提出,是时候就对齐问题展开更深层次的探讨。

他坦言这个话题听起来或许偏“感性主观”,但至关重要,因为企业目前用来衡量人工智能系统与人类价值观契合程度的评估手段还十分粗糙。



他说:“在这些问题尚未解决的情况下,行业任由模型持续变强,我们所处环境的危险程度就会越高(The smarter the industry lets models grow while these problems remain unsolved, the more dangerous our situation becomes)。”

罗宾逊离职一事最先由《商业内幕》报道。他在文章中也承认,自己采取的做法显然是AI领域爆料者惯用操作:聘请了一家公关公司。

但他强调:“公开发声的决定完全出于我个人(The decision to speak out is mine alone)。”

罗宾逊说:“或许我本可以留下来,争取在人员配置与米兰体育层面实现根本性变革。



但现实情况是,我和同事们一直疲于奔命,很少有机会思考重大调整,更不用说真正落地改革。

这也是我认为,来自公司外部的更强安全激励机制,是妥善解决该问题的关键一环(are a big part of getting this right)。”

声明:取材网络,谨慎辨别

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
磁场不干净的人,不用看长相!4个特征藏不住,遇到尽快远离

磁场不干净的人,不用看长相!4个特征藏不住,遇到尽快远离

三农老历
2026-10-24 04:48:56
赖昌星最狠的一招,就是用天价豢养空姐周兵,攻破了海关关长的防线;私生子降生的那一刻,530亿走私帝国的遮羞布被彻底撕碎

赖昌星最狠的一招,就是用天价豢养空姐周兵,攻破了海关关长的防线;私生子降生的那一刻,530亿走私帝国的遮羞布被彻底撕碎

人生录
2026-10-20 00:05:11
72岁成龙亲自开车过关!看清车牌那一刻,网友彻底沸腾了

72岁成龙亲自开车过关!看清车牌那一刻,网友彻底沸腾了

陈意小可爱
2026-10-22 07:40:48
安妮·海瑟薇片场一条卷边牛仔裤,带火5条平价款

安妮·海瑟薇片场一条卷边牛仔裤,带火5条平价款

热搜摘要官
2026-10-24 02:26:11
医生调查发现:吃猕猴桃会在24小时内降低60%的血糖,是真的吗?

医生调查发现:吃猕猴桃会在24小时内降低60%的血糖,是真的吗?

健身狂人
2026-10-24 08:21:17
哈哈哈王嘉尔问奔驰要车,奔驰用他的梗怼他

哈哈哈王嘉尔问奔驰要车,奔驰用他的梗怼他

乡野小珥
2026-10-11 01:40:33
海外“精日”留学生遣返回国,南京警方核查,公费来源疑点重重

海外“精日”留学生遣返回国,南京警方核查,公费来源疑点重重

旧史新谭
2026-10-23 09:20:38
北京美女的通货膨胀

北京美女的通货膨胀

微微热评
2026-10-23 19:26:09
美媒曝美国新方案:乌克兰交出整个顿巴斯,换北约安全保障

美媒曝美国新方案:乌克兰交出整个顿巴斯,换北约安全保障

桂系007
2026-10-23 15:50:09
被雪藏整整4个月,新赛季3场轰43分!北控这波2+1续约,张庆鹏脸疼吗?

被雪藏整整4个月,新赛季3场轰43分!北控这波2+1续约,张庆鹏脸疼吗?

弄月公子
2026-10-24 18:16:45
太扎心了!25岁女子和前男友酒店发生关系,事后仍被拒绝复合,女子不甘心,从此前男友就消失不见了

太扎心了!25岁女子和前男友酒店发生关系,事后仍被拒绝复合,女子不甘心,从此前男友就消失不见了

丫头舫
2026-10-19 20:19:42
发现了吗,放下一个人的最好方式:不是拉黑,也不是断联,而是利用“白熊效应”

发现了吗,放下一个人的最好方式:不是拉黑,也不是断联,而是利用“白熊效应”

LULU生活家
2026-10-24 18:01:11
昆明市官渡区发布火情通报

昆明市官渡区发布火情通报

云南网络广播电视台
2026-10-24 09:25:53
汪小菲两个儿子同框逛街,8个月小儿子壮实可爱,10岁霖霖1米6多了!

汪小菲两个儿子同框逛街,8个月小儿子壮实可爱,10岁霖霖1米6多了!

情感大头说说
2026-10-22 00:47:02
中国癌症最新数据出炉:40岁是关键分水岭,60岁是癌症负担重灾区,肺癌新发、死亡双双登顶

中国癌症最新数据出炉:40岁是关键分水岭,60岁是癌症负担重灾区,肺癌新发、死亡双双登顶

医护健康科普
2026-10-24 09:06:05
开房记录、性病、百日宴:南京年轻丈夫杀妻案里的猜忌链

开房记录、性病、百日宴:南京年轻丈夫杀妻案里的猜忌链

喜马故事会
2026-10-22 19:42:23
谁才是对中国最阴毒的美国总统?不是特朗普,而是面善心狠的他

谁才是对中国最阴毒的美国总统?不是特朗普,而是面善心狠的他

像梦一场a
2026-10-24 04:07:46
“志短比人穷可怕多了!”小男孩抱紧茅台不撒手,网友:丢的全是父母的脸

“志短比人穷可怕多了!”小男孩抱紧茅台不撒手,网友:丢的全是父母的脸

妍妍教育日记
2026-10-20 13:38:53
老鹰47分狂胜黄蜂:杰伦19+7+8引领7人上双 维金斯19分

老鹰47分狂胜黄蜂:杰伦19+7+8引领7人上双 维金斯19分

醉卧浮生
2026-10-24 09:26:42
南宁舰疑似搁浅!曾执行南沙巡逻任务,功勋老舰保护需加大力度

南宁舰疑似搁浅!曾执行南沙巡逻任务,功勋老舰保护需加大力度

装甲铲史官
2026-10-23 14:50:28
2026-10-24 18:43:00
谈点世
谈点世
说说国内国外,聊聊世间百态。
3623文章数 4391关注度
往期回顾 全部

写程序、做3D,新Kimi还有多少本事?

媒体:俄美乌要谈了 顿巴斯地区归属成关键“卡点”

媒体:俄美乌要谈了 顿巴斯地区归属成关键“卡点”

从乐透秀到总冠军再到没工作 一共要几年?

翁虹19岁女儿三次拒爱,在美国上学却“不随便”

叫"保障"不叫"保险":租车平台的文字游戏

大众安徽与众09正式上市 双十一权益价16.99万起

态度原创

全城轰动!香港中环LV旗舰店亮相,一个巨型首饰箱!

中国韵特别策划|二胡:弦上双生,形停处意不断

辽宁舰编队远海训练细节首度披露

无障碍浏览 进入关怀版