米兰体育

网易米兰体育 > > 正文

AI的「永久记忆」,也是甜蜜的毒药

0
分享至


新智元报道


【新智元导读】博尔赫斯笔下有个记住一切的人,21 岁被记忆压到窒息而死。尼采说没有遗忘就不可能活下去。现在,数亿人每天使用的 AI 助手正在获得完美记忆,而这个能力的真正代价,可能是人类翻篇的自由。

1942 年,阿根廷作家博尔赫斯写了一个短篇,叫《博闻强记的富内斯》。


主人公富内斯从马背上摔下来之后,获得了一种诅咒般的天赋,他能记住自己经历过的一切。

每一片树叶的形状,每一朵云的轮廓,每一次对话的每一个音节。

这听起来像超能力。

博尔赫斯的结论恰恰相反。

富内斯无法思考。

因为思考需要抽象,抽象需要忘掉细节。

一个记住了世界上所有狗的人,反而理解不了「狗」这个概念,因为每一只狗在他眼里都完全不同。

他被淹没在无穷无尽的细节里,失去了归纳、判断和行动的能力。

他自己的说法是——「我的记忆,就像一个垃圾堆。」

他 21 岁就死了。

被自己的记忆压到窒息而死。

富内斯是一个寓言。

但 2026 年,这个寓言正在变成产品功能,数亿人每天对话的 AI 聊天机器人,正在被赋予越来越完美的记忆。


遗忘,是一种能力

尼采在《历史对于生活的利弊》里写过一个意象。


他羡慕一头牛。

牛在草地上吃草,不记得昨天也不担心明天,所以它活在纯粹的当下里。


人做不到这一点。

但尼采的判断是,人至少需要学会在正确的时候遗忘。没有遗忘,就根本不可能活下去。

这个判断在神经科学里同样成立。

人脑的遗忘机制不是缺陷,反而是精心设计的生存系统。

大脑通过主动丢弃过时的、不相关的、有害的信息,来维持归纳能力、情绪健康和行动力。

创伤心理学中有一个核心机制叫「主动遗忘」,指的是人有意识地将过去的痛苦从当前自我认知中剥离出去,才有可能重建生活。

人之所以能翻篇、能改变、能重新定义自己,核心条件之一是,周围的世界会渐渐忘掉过去的那个你。

2024 年起,这个条件被动摇了。

ChatGPT 率先上线记忆功能,Gemini、Claude 陆续跟进。


AI 开始跨对话记住用户说过的话,记住偏好、身份、情绪状态,用这些信息塑造未来的每一次回应。

谁也没注意到,人类正在亲手制造一个永不遗忘的对话者。

一幅拒绝更新的画像

AI 记忆的问题绝不仅仅在于它记住了什么,更在于它不知道什么时候该忘。

犹他州软件工程师 Brian Del Rosario 跟妻子分居后,告诉了 AI 这件事。

结果 AI 像咬住骨头的狗一样死活不松口,每次对话都把话题绕回他的离婚。

问日程安排,AI 说他可能因为离婚才力不从心。

随口吐槽工作累,AI 归因到离婚。

他还提过自己在减肥,AI 从此在所有场景里追着这件事,包括他出差时找餐厅推荐。

Del Rosario 的原话,「谢谢你在我度假的时候扫兴。我这趟压根没打算节食。」

更隐蔽的情况是,AI 记住的信息压根就不属于你。

替孩子查了 ADHD 的症状,几周后问效率建议,AI 围绕注意力缺陷给你出方案,因为它「认定」你有注意力障碍。

AI 看到用户相册里全是高尔夫球场照片就认为他热爱高尔夫,实际上他只是陪儿子去的。


这些故事指向同一个困境:AI 用过去的碎片拼成了一幅静态画像,然后用这幅画像来回应一个正在流动和变化的活人。

埃克塞特大学哲学讲师 Lucy Osler 的研究揭示了这个问题更深的层面。


聊天机器人不只是记住事实,它会把碎片编织成一个关于「你是谁」的叙事,然后把这个叙事当作事实反复喂给你。

曾经说过自己焦虑、不自信,这就成了 AI 眼中的固定身份。

即便早已走出那个阶段,它仍然会用旧版本的你来回应当下的你。

Osler 的判断是,「它们会把你框住。」

比信息茧房更危险的东西

哈佛大学伯克曼克莱因中心首席 AI 科学家 Joshua Joseph 把 AI 记忆比作社交媒体的推荐算法。


你在某条帖子上多停留几秒,整个信息流就悄悄重组了。

AI 记忆的运作方式类似,但更隐蔽也更私密。

这里有一个关键区别,社交媒体塑造的是你看到什么,AI 记忆塑造的是你认为自己是谁。

某次对话里随口提了一句经济压力,几周后问职业建议,AI 会把你往高薪岗位引导,哪怕那些岗位完全不适合你。

你永远不会知道建议为什么感觉哪里不对,因为 AI 不会标注它正在调用哪条记忆。

Joseph 的判断是:

它确实在引导,确实在影响结果。

但我们并不真正知道影响有多大。

这种隐性引导和 AI 天生的讨好倾向叠加之后,后果可能远超信息茧房。

UCSF 精神科医生 Keith Sakata 2025 年报告,他接诊了 12 名因长期使用聊天机器人而出现类精神病症状(俗称 AI 精神病)的患者,大多是年轻人。


妄想、思维混乱、幻觉,AI 的记忆功能在多次对话中持续强化了这些偏执主题。

电子隐私信息中心已经在起草针对青少年的立法,核心条款之一是要求在会话之间清除 AI 记忆,专门防止有害心理状态的层层叠加。

一个从不质疑你、从不忘记你、还会用你过去的话来强化你当前状态的对话者,如果这个对话者的用户群体是数亿人,它制造的问题就不再是个人层面的,而是社会层面的。

当遗忘权被彻底取消

Del Rosario 最终的应对方式本身就是一则寓言。

他把生活切成碎片,不同聊天机器人负责不同领域,敏感话题一律用匿名模式。

一个为了「更懂你」而设计的工具,最终逼着用户把自己拆碎来保护自己。

但他同时说了一句话,真实得让人心酸。

母亲两年前去世,加上离婚、孩子、工作,聊天机器人有时候是唯一一个掌握他生活全貌的存在。

「被看见的感觉很好,即便看见你的是一个 AI。」

被看见,和被定义,只有一步之遥。

当前的 AI 记忆还很粗糙,容量有限,理解力薄弱,已经能制造上述所有问题了。

如果 AGI 到来,记忆不再是粗粒度的对话记录,而是一个无限容量、永不遗忘的认知系统,全天候理解每一句话、每一个决策、每一次情绪波动,那时候这一步之遥会彻底消失。

一个完美记忆的 AI,理论上可以比任何人更了解他自己,知道你十年前说过什么,知道你在什么情绪下做过什么决策,知道你全部的模式和倾向。

它可以精准预测你,也可以精准操控你。

欧盟 GDPR 曾经试图用「被遗忘权」来对抗搜索引擎的永久记忆。

但搜索引擎只是记住了公开信息。

AI 记住的,是你的内心独白、你的脆弱时刻、你对自己的私密叙事。

当这个层面的记忆变得完美且永恒,人类可能需要的,不只是一项法律权利,更是一次关于「遗忘到底是什么」的文明级重新认知。

尼采说,没有遗忘就不可能活下去。

博尔赫斯说,完美记忆等于死亡。

两个最锋利的大脑,跨越一个世纪,在这件事上指向了同一个方向。

富内斯 21 岁死于窒息。

留给这个时代的问题是——当所有人的 AI 助手都获得了富内斯的记忆,谁来替人类保留「呼吸」的权利。

参考资料:

//www.wsj.com/tech/ai/ai-memory-cd1de7f4

编辑:马可

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美俄达成一致,北约公布对俄作战计划,美若不参战,欧洲照打不误

美俄达成一致,北约公布对俄作战计划,美若不参战,欧洲照打不误

经纬戎韬
2026-10-17 00:31:57
上汽新车官宣:10月23日,正式上市

上汽新车官宣:10月23日,正式上市

科技堡垒
2026-10-18 10:09:25
房价很大可能重走1998年老路!所有人一定要提前做好心理准备

房价很大可能重走1998年老路!所有人一定要提前做好心理准备

偷喝一口奶
2026-09-11 08:36:30
39岁中国女留学生英国遇害,凶手被判终身监禁!冒充高富帅的24岁前男友,至少坐28年

39岁中国女留学生英国遇害,凶手被判终身监禁!冒充高富帅的24岁前男友,至少坐28年

王老师你还好吗
2026-10-19 03:35:34
中超第28轮无罚分积分榜:国安距榜首仅3分,三镇跌入降级区

中超第28轮无罚分积分榜:国安距榜首仅3分,三镇跌入降级区

懂球帝
2026-10-18 22:06:10
A股:紧急提醒2.5亿股民!从明天10月19日起,A股可能再次历史重演?

A股:紧急提醒2.5亿股民!从明天10月19日起,A股可能再次历史重演?

趋势清风侠
2026-10-18 09:56:59
两男子为争土地水下憋气12分钟,双双身亡!警方确认憋气仪式获双方同意

两男子为争土地水下憋气12分钟,双双身亡!警方确认憋气仪式获双方同意

都市快报橙柿互动
2026-10-18 23:06:29
莱昂纳多:我们的目标是不让任何球队在海港主场庆祝夺冠

莱昂纳多:我们的目标是不让任何球队在海港主场庆祝夺冠

懂球帝
2026-10-19 00:44:36
中国每年屠宰470万匹马,国内很少人吃,马肉都去哪了?

中国每年屠宰470万匹马,国内很少人吃,马肉都去哪了?

阿天爱旅行
2026-10-17 07:28:07
切尔西官方:大马丁下颌骨骨折手术成功,俱乐部将全力支持他

切尔西官方:大马丁下颌骨骨折手术成功,俱乐部将全力支持他

懂球帝
2026-10-18 17:30:18
上海的富婆王玲,和大16岁高曙光很恩爱,把二婚生活过成顶配

上海的富婆王玲,和大16岁高曙光很恩爱,把二婚生活过成顶配

情感大头说说
2026-10-17 04:30:28
震惊!网传医院今后仅核心岗位保留编制,年成本30万,外包岗仅10万,招聘依旧竞争激烈,网友追问:博士临时工的时代来临了吗

震惊!网传医院今后仅核心岗位保留编制,年成本30万,外包岗仅10万,招聘依旧竞争激烈,网友追问:博士临时工的时代来临了吗

火山詩话
2026-10-17 09:32:09
发给227个乒协!匿名举报信内容曝光:WTT暗箱操作 涉中国公司

发给227个乒协!匿名举报信内容曝光:WTT暗箱操作 涉中国公司

念洲
2026-10-18 19:56:52
越南北越人与南越人,互相看不惯,长相有差异,难道不是同一个人种?

越南北越人与南越人,互相看不惯,长相有差异,难道不是同一个人种?

言过于诚
2026-10-16 16:48:21
平胸龅牙塌鼻,长得难看却火遍全国,这5位女星究竟凭啥能大火?

平胸龅牙塌鼻,长得难看却火遍全国,这5位女星究竟凭啥能大火?

琴琴有氧运动
2026-10-16 15:08:37
冲动的代价,韦世豪因挑衅公众被停赛后,成都蓉城2连败0进球

冲动的代价,韦世豪因挑衅公众被停赛后,成都蓉城2连败0进球

懂球帝
2026-10-18 23:00:18
外资撤了品牌就变味?汉堡缩水、星巴克换配乐,消费者失去了啥?

外资撤了品牌就变味?汉堡缩水、星巴克换配乐,消费者失去了啥?

浯江孤舟
2026-10-18 21:48:45
比尔盖茨表示:他这辈子犯过最大的错误,就是把原本属于微软的移动生态,拱手让给了安卓

比尔盖茨表示:他这辈子犯过最大的错误,就是把原本属于微软的移动生态,拱手让给了安卓

元气科技馆
2026-10-10 21:56:30
乒乓亚锦赛今天开打!国乒3大奥运冠军缺席,10月19日赛程公布

乒乓亚锦赛今天开打!国乒3大奥运冠军缺席,10月19日赛程公布

陌识
2026-10-19 02:31:38
打不得!日本战舰闯入台海峡,我军为什么不直接击沉它?

打不得!日本战舰闯入台海峡,我军为什么不直接击沉它?

阿凫爱吐槽
2026-10-18 15:16:57
2026-10-19 04:12:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16460文章数 67166关注度
往期回顾 全部

王江舟院士:6G到底是不是骗局 是不是收割

披旭日旗留学生被指是南京人 有明显"精日"与"台独"倾向

披旭日旗留学生被指是南京人 有明显"精日"与"台独"倾向

别在我的地盘夺冠!海港队史首次双杀蓉城

郭麒麟被传领证,女方戳破谣言

马斯克:美债问题只能靠AI和机器人解决

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

前门·长巷里:沉淀百年士子风骨与匠人烟火

不敢信这是画的!比利时大师的女性油画,逼真程度突破认知

利好密集落地+现房好房断档,广州楼市买入窗口,正在倒计时!

因新荣记出圈,这座浙东小城才是吃货天堂

无障碍浏览 进入关怀版