米兰体育

网易米兰体育 > > 正文

AI的「永久记忆」,也是甜蜜的毒药

0
分享至


新智元报道


【新智元导读】博尔赫斯笔下有个记住一切的人,21 岁被记忆压到窒息而死。尼采说没有遗忘就不可能活下去。现在,数亿人每天使用的 AI 助手正在获得完美记忆,而这个能力的真正代价,可能是人类翻篇的自由。

1942 年,阿根廷作家博尔赫斯写了一个短篇,叫《博闻强记的富内斯》。


主人公富内斯从马背上摔下来之后,获得了一种诅咒般的天赋,他能记住自己经历过的一切。

每一片树叶的形状,每一朵云的轮廓,每一次对话的每一个音节。

这听起来像超能力。

博尔赫斯的结论恰恰相反。

富内斯无法思考。

因为思考需要抽象,抽象需要忘掉细节。

一个记住了世界上所有狗的人,反而理解不了「狗」这个概念,因为每一只狗在他眼里都完全不同。

他被淹没在无穷无尽的细节里,失去了归纳、判断和行动的能力。

他自己的说法是——「我的记忆,就像一个垃圾堆。」

他 21 岁就死了。

被自己的记忆压到窒息而死。

富内斯是一个寓言。

但 2026 年,这个寓言正在变成产品功能,数亿人每天对话的 AI 聊天机器人,正在被赋予越来越完美的记忆。


遗忘,是一种能力

尼采在《历史对于生活的利弊》里写过一个意象。


他羡慕一头牛。

牛在草地上吃草,不记得昨天也不担心明天,所以它活在纯粹的当下里。


人做不到这一点。

但尼采的判断是,人至少需要学会在正确的时候遗忘。没有遗忘,就根本不可能活下去。

这个判断在神经科学里同样成立。

人脑的遗忘机制不是缺陷,反而是精心设计的生存系统。

大脑通过主动丢弃过时的、不相关的、有害的信息,来维持归纳能力、情绪健康和行动力。

创伤心理学中有一个核心机制叫「主动遗忘」,指的是人有意识地将过去的痛苦从当前自我认知中剥离出去,才有可能重建生活。

人之所以能翻篇、能改变、能重新定义自己,核心条件之一是,周围的世界会渐渐忘掉过去的那个你。

2024 年起,这个条件被动摇了。

ChatGPT 率先上线记忆功能,Gemini、Claude 陆续跟进。


AI 开始跨对话记住用户说过的话,记住偏好、身份、情绪状态,用这些信息塑造未来的每一次回应。

谁也没注意到,人类正在亲手制造一个永不遗忘的对话者。

一幅拒绝更新的画像

AI 记忆的问题绝不仅仅在于它记住了什么,更在于它不知道什么时候该忘。

犹他州软件工程师 Brian Del Rosario 跟妻子分居后,告诉了 AI 这件事。

结果 AI 像咬住骨头的狗一样死活不松口,每次对话都把话题绕回他的离婚。

问日程安排,AI 说他可能因为离婚才力不从心。

随口吐槽工作累,AI 归因到离婚。

他还提过自己在减肥,AI 从此在所有场景里追着这件事,包括他出差时找餐厅推荐。

Del Rosario 的原话,「谢谢你在我度假的时候扫兴。我这趟压根没打算节食。」

更隐蔽的情况是,AI 记住的信息压根就不属于你。

替孩子查了 ADHD 的症状,几周后问效率建议,AI 围绕注意力缺陷给你出方案,因为它「认定」你有注意力障碍。

AI 看到用户相册里全是高尔夫球场照片就认为他热爱高尔夫,实际上他只是陪儿子去的。


这些故事指向同一个困境:AI 用过去的碎片拼成了一幅静态画像,然后用这幅画像来回应一个正在流动和变化的活人。

埃克塞特大学哲学讲师 Lucy Osler 的研究揭示了这个问题更深的层面。


聊天机器人不只是记住事实,它会把碎片编织成一个关于「你是谁」的叙事,然后把这个叙事当作事实反复喂给你。

曾经说过自己焦虑、不自信,这就成了 AI 眼中的固定身份。

即便早已走出那个阶段,它仍然会用旧版本的你来回应当下的你。

Osler 的判断是,「它们会把你框住。」

比信息茧房更危险的东西

哈佛大学伯克曼克莱因中心首席 AI 科学家 Joshua Joseph 把 AI 记忆比作社交媒体的推荐算法。


你在某条帖子上多停留几秒,整个信息流就悄悄重组了。

AI 记忆的运作方式类似,但更隐蔽也更私密。

这里有一个关键区别,社交媒体塑造的是你看到什么,AI 记忆塑造的是你认为自己是谁。

某次对话里随口提了一句经济压力,几周后问职业建议,AI 会把你往高薪岗位引导,哪怕那些岗位完全不适合你。

你永远不会知道建议为什么感觉哪里不对,因为 AI 不会标注它正在调用哪条记忆。

Joseph 的判断是:

它确实在引导,确实在影响结果。

但我们并不真正知道影响有多大。

这种隐性引导和 AI 天生的讨好倾向叠加之后,后果可能远超信息茧房。

UCSF 精神科医生 Keith Sakata 2025 年报告,他接诊了 12 名因长期使用聊天机器人而出现类精神病症状(俗称 AI 精神病)的患者,大多是年轻人。


妄想、思维混乱、幻觉,AI 的记忆功能在多次对话中持续强化了这些偏执主题。

电子隐私信息中心已经在起草针对青少年的立法,核心条款之一是要求在会话之间清除 AI 记忆,专门防止有害心理状态的层层叠加。

一个从不质疑你、从不忘记你、还会用你过去的话来强化你当前状态的对话者,如果这个对话者的用户群体是数亿人,它制造的问题就不再是个人层面的,而是社会层面的。

当遗忘权被彻底取消

Del Rosario 最终的应对方式本身就是一则寓言。

他把生活切成碎片,不同聊天机器人负责不同领域,敏感话题一律用匿名模式。

一个为了「更懂你」而设计的工具,最终逼着用户把自己拆碎来保护自己。

但他同时说了一句话,真实得让人心酸。

母亲两年前去世,加上离婚、孩子、工作,聊天机器人有时候是唯一一个掌握他生活全貌的存在。

「被看见的感觉很好,即便看见你的是一个 AI。」

被看见,和被定义,只有一步之遥。

当前的 AI 记忆还很粗糙,容量有限,理解力薄弱,已经能制造上述所有问题了。

如果 AGI 到来,记忆不再是粗粒度的对话记录,而是一个无限容量、永不遗忘的认知系统,全天候理解每一句话、每一个决策、每一次情绪波动,那时候这一步之遥会彻底消失。

一个完美记忆的 AI,理论上可以比任何人更了解他自己,知道你十年前说过什么,知道你在什么情绪下做过什么决策,知道你全部的模式和倾向。

它可以精准预测你,也可以精准操控你。

欧盟 GDPR 曾经试图用「被遗忘权」来对抗搜索引擎的永久记忆。

但搜索引擎只是记住了公开信息。

AI 记住的,是你的内心独白、你的脆弱时刻、你对自己的私密叙事。

当这个层面的记忆变得完美且永恒,人类可能需要的,不只是一项法律权利,更是一次关于「遗忘到底是什么」的文明级重新认知。

尼采说,没有遗忘就不可能活下去。

博尔赫斯说,完美记忆等于死亡。

两个最锋利的大脑,跨越一个世纪,在这件事上指向了同一个方向。

富内斯 21 岁死于窒息。

留给这个时代的问题是——当所有人的 AI 助手都获得了富内斯的记忆,谁来替人类保留「呼吸」的权利。

参考资料:

//www.wsj.com/tech/ai/ai-memory-cd1de7f4

编辑:马可

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
太前卫了!学生情侣约定开房一人一次承担房费,男方多次清算订房记录,女生哭诉经济压力大,聊天记录流出

太前卫了!学生情侣约定开房一人一次承担房费,男方多次清算订房记录,女生哭诉经济压力大,聊天记录流出

火山詩话
2026-10-19 07:59:53
欧洲多国爆发示威活动,法国2000多人被捕

欧洲多国爆发示威活动,法国2000多人被捕

澎湃米兰体育-米兰(中国)官网
2026-10-18 23:38:39
实测 Lovart 2.0 ,设计 AI 进入个人助理时代

实测 Lovart 2.0 ,设计 AI 进入个人助理时代

爱范儿
2026-10-19 10:57:35
证监会主席提风险!吴清:高度警惕境外挂钩A股个股的杠杆产品等新风险点|快讯

证监会主席提风险!吴清:高度警惕境外挂钩A股个股的杠杆产品等新风险点|快讯

华夏时报
2026-10-19 19:41:03
吹了大半辈子美国!移民俩月就骂"垃圾",袁腾飞还想回国"自首"?

吹了大半辈子美国!移民俩月就骂"垃圾",袁腾飞还想回国"自首"?

社会日日鲜
2026-10-19 06:29:31
上海徐浦大桥1死2伤事故:官媒披露通报未提及白车原因:该车司机受伤送医,由警方全程陪同;“控制” 不等于定罪,责任认定尚待调查

上海徐浦大桥1死2伤事故:官媒披露通报未提及白车原因:该车司机受伤送医,由警方全程陪同;“控制” 不等于定罪,责任认定尚待调查

扬子晚报
2026-10-19 23:02:37
佩洛西质问:特朗普有何把柄抓在俄国人手里?

佩洛西质问:特朗普有何把柄抓在俄国人手里?

名人苟或
2026-10-19 16:02:41
刘强东硬刚抖音,引爆全网!

刘强东硬刚抖音,引爆全网!

大佬灼见
2026-10-19 22:42:34
轰动全国的“91大神”庭审细节曝光,炸翻无数人

轰动全国的“91大神”庭审细节曝光,炸翻无数人

鸣金网
2026-10-18 14:17:30
新华社消息|中国人民银行将推动实现退出存贷款基准利率

新华社消息|中国人民银行将推动实现退出存贷款基准利率

新华社
2026-10-19 18:38:20
汇源发布声明:将与“汇源”品牌切割,不再生产汇源果汁,终止相关代工合同,不再开展与该商标的合作,全面推出“咱家果源”

汇源发布声明:将与“汇源”品牌切割,不再生产汇源果汁,终止相关代工合同,不再开展与该商标的合作,全面推出“咱家果源”

三湘都市报
2026-10-19 10:53:54
一男子成都租走坦克300,失联半年后GPS竟在境外上线,警方介入调查

一男子成都租走坦克300,失联半年后GPS竟在境外上线,警方介入调查

红星米兰体育-米兰(中国)官网
2026-10-19 16:47:20
汤淼试管女儿正面照曝光!瘫痪19年有望站起,现任和前妻相处和谐

汤淼试管女儿正面照曝光!瘫痪19年有望站起,现任和前妻相处和谐

娱圈办事处
2026-10-19 15:13:49
只差不到一月,高市早苗直接表态:如果国会允许她将参加 APEC峰会

只差不到一月,高市早苗直接表态:如果国会允许她将参加 APEC峰会

墨兰史书
2026-10-19 18:15:13
为什么有些功能微信鸿蒙版上还没有?微信回应

为什么有些功能微信鸿蒙版上还没有?微信回应

界面米兰体育-米兰(中国)官网
2026-10-19 15:21:58
身披旭日旗中国留学生或被开除遣返,知情人士:“令我们感到愤怒的是,他还是江苏南京人”,在中国同学的强烈要求下,他才录道歉视频

身披旭日旗中国留学生或被开除遣返,知情人士:“令我们感到愤怒的是,他还是江苏南京人”,在中国同学的强烈要求下,他才录道歉视频

大风米兰体育-米兰(中国)官网
2026-10-19 22:01:08
张本智和父亲勇敢发声!入日籍是对的,否则儿女在中国无出头之日

张本智和父亲勇敢发声!入日籍是对的,否则儿女在中国无出头之日

娱妮啵啵啊
2026-10-18 18:37:26
央行出利好了,防踩踏……

央行出利好了,防踩踏……

资本时差
2026-10-19 18:08:31
从保级队到英超第3!5年净赚5亿英镑,大黑马的成功,豪门都该学一学

从保级队到英超第3!5年净赚5亿英镑,大黑马的成功,豪门都该学一学

万花筒体育球球
2026-10-20 01:21:12
国防大学原教研室主任黄彬将军逝世,享年84岁

国防大学原教研室主任黄彬将军逝世,享年84岁

澎湃米兰体育-米兰(中国)官网
2026-10-19 12:26:31
2026-10-20 01:36:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16469文章数 67168关注度
往期回顾 全部

王晟:近千亿资金涌入后 具身智能开始退烧

中国驻菲大使:菲反华势力送5口棺材时有没有显示尊重

中国驻菲大使:菲反华势力送5口棺材时有没有显示尊重

从NBA退役10年后,他真去警局上班了

奚梦瑶回应重返维密:还是很开心的

黄奇帆之子往事:从广微系到魏桥的跳跃

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

怎么给孩子做性启蒙才不尴尬,有哪些优质绘本值得推荐?

日本耳机厂商Final推出超轻无线头戴耳机Porta 仅重40克 续航最长8小时

《龙之信条2:黑暗觉者》评测:天若有情天亦老"/> 主站 商城 论坛 自运营 登录 注册 简体中文 简体中文 English 《龙之信条2:黑暗觉...

因新荣记出圈,这座浙东小城才是吃货天堂

看着很健康的人,怎么会突然猝死?

无障碍浏览 进入关怀版