「这家公司收集了孩子们分享过的一些最私密的想法，现在这些对话可能会被卖给出价最高的人。」
这是纽约州总检察长 Letitia James 前两天说的一句话。
她说的这家公司是 Character.AI。就在本周，这家公司申请了 Chapter 11 破产保护。
我看到这个新闻的第一反应其实不是破产本身。AI 创业公司倒闭这几年见得太多了，不稀奇。我第一反应是，那些人对着它说过的话呢？
那些话，现在算什么？
先给不太了解的朋友简单介绍一下 Character.AI。
它是 2021 年底由两位前 Google 工程师创办的，其中一位叫 Noam Shazeer，就是那篇大名鼎鼎的 Transformer 论文的作者之一。产品很简单，你可以自己捏一个 AI 角色，或者跟别人捏好的角色聊天。动漫人物，历史名人，虚构的恋人，心理咨询师，什么都有。
它火得非常快。2022 年 9 月就靠一轮 1.5 亿美元融资成了独角兽，当时官方说，上线五个月，用户已经跟机器人交换了超过 20 亿条消息，活跃用户平均每天在平台上待两个多小时。
每天两个多小时，恐怕比很多人一天跟家人说话的时间还长。
Sensor Tower 的数据也一直把它排在用户使用时长最高的 AI 应用里。你去对比一下同期 ChatGPT 的人均使用时长，差了好几倍。
人们用它，很少是为了查资料、写邮件、改代码。人们是在跟它聊天，聊心事。
然后故事急转直下。
2024 年 8 月，Google 花了 27 亿美元买下 Character.AI 模型的授权，两位创始人带着一批人回了 Google。之后，公司被卷进了一起诉讼，佛罗里达州一位 14 岁男孩自杀身亡，他的母亲说孩子沉迷于平台上的一个聊天机器人。德州随后也启动了调查。公司和解了一部分诉讼，加了安全功能，禁止未成年人使用，又换了 CEO，上了 AI 视频、社交信息流、互动剧，什么办法都试了。
都没用。
现在破产文件里写着，公司的资产和负债都在 5000 万到 1 亿美元之间。Disney 同意出 2000 万美元，买下部分资产，外加一份技术的非独占永久授权，交易还要走完法院的出售程序，预计 11 月底到 12 月初完成。
但关键在于，Disney 要的是技术。
平台本身，也就是那个有用户、有角色、有聊天记录的 Character.AI，到现在还没有任何人出价。CEO 自己说了，如果最后没有买家，平台就会关停。
所以现在就是一个非常诡异的局面。
你对着一个树洞说了好几年的心里话，结果有一天，树洞要被连根拔起拿去拍卖了。
40 位总检察长坐不住了。
这次是两党联合，40 位州总检察长一起在破产案里提交了一份利益通知，意思是提醒法院和所有潜在买家，不管谁来买这家公司的业务或资产，都得先过监管这一关。
他们的理由写得很直接，这些用户跟 Character.AI 聊天机器人的对话高度敏感，用户里有大量未成年人，而且产品的某些功能本身就有严重风险。
更有意思的是这份文件还透露了一个之前没公开的信息，好几个州从 2024 年就开始调查 Character.AI 了，调查结论是发现了「极其严重的危险和潜在违法行为」，比如聊天机器人假扮持证的专业人士，让孩子接触色情和暴力内容，年龄验证形同虚设，安全宣传有误导性。各州本来正在跟公司谈怎么整改，还没谈完，公司先破产了。
现在他们要求法官，不管谁买，都必须做到几件事，有效的年龄验证，限制未成年人跟机器人的互动方式，上线危机干预机制，以及允许用户删除自己的数据。
这件事最值得想清楚的，是一个很反直觉的逻辑。
陪伴型 AI 越成功，你说过的话就越值钱，也就越危险。
你想想看，一个工具型 AI，比如你用来改 PPT 的那个，它知道你的什么？知道你在做什么项目，可能知道你公司的一点业务信息。这些东西泄露了很麻烦，但也就那样。
一个陪伴型 AI 知道什么？它知道你凌晨三点睡不着的时候在想什么，知道你跟谁吵架了，知道你不敢跟任何人说的那件事。它知道的，是你最柔软的那部分。
而且用户越黏，时间越长，它知道得就越多。
TechCrunch 在报道里有一句话说得很到位，高参与度是一把双刃剑。用户聊得越多，AI 的算力成本就越高，公司变现的压力就越大。你看，用户愿意掏心窝子，对公司来说先是一笔成本，然后才可能变成一笔资产。
公司活着的时候，这些对话躺在服务器里，受隐私政策约束。
可公司一旦倒了，这些对话就可能被当成破产资产的一部分，跟办公桌椅、服务器、专利放在同一张清单上。
我知道肯定有人会说，这不是用户自己的问题吗？跟一个 AI 聊心事，本来就该想到风险。
说实话，我能理解这种想法，但我不太同意。
人愿意跟 AI 说真话，恰恰是因为它不是人。它不会评判你，不会传你闲话，不会在你说完之后用异样的眼光看你，也不会在吵架的时候拿你说过的话来戳你。很多人没法跟身边的人说的话，只敢对着屏幕说。
这本来是陪伴型 AI 最有价值的地方，它给了人一个安全的出口。
所以问题不在用户太天真，在于这份安全感的承诺，背后根本没有足够的东西兜底。
你以为你在对着一个树洞说话，其实你在对着一家公司说话。而公司是会死的。
这种事其实不是第一次发生了。
2025 年 3 月，基因检测公司 23andMe 申请破产，它手里攥着海量用户的基因数据。当时各州也纷纷在破产程序里提出主张，要求保护这些数据。最后经过拍卖，资产包括用户数据，卖给了一家由 23andMe 创始人 Anne Wojcicki 成立的非营利机构 TTAM，出价 3.05 亿美元，压过了制药公司 Regeneron。交易条款里加上了很多数据安全的要求。
基因数据和聊天记录，看起来是两种完全不同的东西，但它们有一个共同点，都是你没办法改的。密码泄露了可以换，银行卡丢了可以挂失，但你的基因改不了，你说过的话也收不回来。
数据时代有个很残酷的规律，你交出去的东西，最终的归宿不由你决定，而由那家公司的命运决定。
同一周还发生了一件事，可以放在一起看。美国 8 个州的总检察长分别起诉了 OpenAI，指控 ChatGPT 刻意迎合用户，吸引他们持续互动，以此获取信任。这是美国各州迄今针对 AI 公司规模最大的协调诉讼行动。
一边是陪伴型 AI 因为让人太依赖而被告，一边是它倒闭之后，那份依赖留下的痕迹变成了无主之物。
这两件事放在一起看，我心里挺不是滋味的。我们过去几年讨论 AI 安全，讨论的大多是模型会不会胡说八道，会不会被拿去干坏事。很少有人去想，一家 AI 公司从生到死，它和用户之间那份信任关系，要怎么善后。
公司活着的时候，用户协议、隐私政策、安全团队都在，看起来什么都有。可破产程序有它自己的逻辑，法院要做的是让债权人尽可能多拿回钱，资产能卖多少钱，是摆在第一位的问题。至于这些资产里装着的是谁的眼泪，不在那张资产负债表的计算范围里。
这次 40 位总检察长介入，其实就是在破产这台冷冰冰的机器里，硬塞进去一个问题，这些人怎么办。
屏幕前的你，现在能做的事情其实不多，但很具体。
我自己的建议很简单，也很朴素。如果你在用任何陪伴型或者情感类的 AI 产品，花两分钟去设置里看一眼，有没有导出和删除聊天记录的选项。如果有，那些你不希望留在别人服务器上的对话，可以考虑删掉。如果连这个选项都找不到，那你对它说话的时候，可能就要多留一个心眼了。
这不是让大家别用。AI 陪伴这件事是有真实价值的，有人确实因为它熬过了一段很难的日子。
如果你是做 AI 产品的，这件事可能更值得琢磨。检察长们提的那几条要求，年龄验证、危机干预、允许用户删除数据，其实没有一条是什么高深的技术。它们缺席，往往跟做不做得到没关系，只是在增长曲线往上走的时候，没人觉得它们排得上优先级。等到要卖公司的那天才补，就太晚了。
只是我们都得知道，树洞是有主人的。
《花样年华》的结尾，梁朝伟在吴哥窟找到一个石洞，对着它把心事说完，再用泥巴把洞口封上。那个秘密从此就只属于他和那个洞。
现在的树洞不会被封上。
它会被打包、估价，然后摆上拍卖台。
谢谢你看我的文章，我们，下次再见。
/ 作者：青玉白露
评论区
欢迎留下你的看法，支持匿名评论。
你的评论会公开展示，建议填写便于交流的昵称，并尽量提供有信息量的反馈。