（起头：麻省理工科技批驳）

最近一位 Reddit 用户发帖称我方“自投罗网了”：一个月来，他的手机握住接到生分东说念主的电话，找讼师的、找家具蓄意师的、找锁匠的……回电者清楚是被 GoogleAI 指错了场地。

本年 3 月，一位以色列的软件开发者在 WhatsApp 上被生分东说念主联系，原因是 Google 的聊天机器东说念主 Gemini 给出了无理的客服指点，内部包含了他的手机号。

4 月，华盛顿大学一位博士生在 Gemini 上败坏输入了一个指示，就让它吐出了共事的私东说念主手机号。

AI 有关诡秘投诉暴增 400%

AI 聊天机器东说念主露出手机号的频率到底有多高，无法确切统计，但大师们以为实质发生的次数远多于公开报说念的。

DeleteMe 是一家帮客户从互联网上删除个东说念主信息的公司。该公司示意，昔时七个月里客户对于生成式 AI 的参议量增长了 400%，达到几千条。这些参议“挑升提到了 ChatGPT、Claude、Gemini 或其他生成式 AI 器具”，公司统一创举东说念主兼 CEO 罗布·沙维尔（Rob Shavell）说。具体来看，55% 的投诉触及 ChatGPT，20% 触及 Gemini，15% 触及 Claude，10% 涉偏执他 AI 器具。

沙维尔说，客户对于个东说念主信息被大言语模子裸露的投诉经常有两种形势：一种是”客户败坏问了聊天机器东说念主一些对于我方的问题，着力获得了准确的家庭住址、电话号码、家东说念主姓名或老板信息“。另一种是聊天机器东说念主把别东说念主的个东说念主数据裸露给了用户——“它生成了看起来像确切、但其实是无理的联系方式”。

丹尼尔·亚伯拉罕（Daniel Abraham）的遭受就属于第二种。这位 28 岁的以色列软件工程师说，3 月中旬有个生分东说念主通过 WhatsApp 给他发了“一条来自未知号码的奇怪音信”，请他帮衬处理 PayBox（一款以色列支付诳骗）的账户问题。

“我以为是垃圾信息，”他在给《麻省理工科技批驳》的邮件中写说念，“我以为有东说念主在整我。”

但当他问对方如何找到他的号码时，对方发来了一张 Gemini 的截图：Gemini 生成的 PayBox 客服指点中，给出的 WhatsApp 联系方式恰是他的私东说念主号码。亚伯拉罕并不在 PayBox 使命，况兼 PayBox 也莫得 WhatsApp 客服号码——PayBox 的客服代表埃拉德·加贝（Elad Gabay）说明了这少量。

自后亚伯拉罕我方在 Gemini 上问“如何联系 PayBox”，着力它生成了另一个东说念主的 WhatsApp 号码。我最近也试了一样的问题，Gemini 又给出了一个以色列手机号，这个号码属于一家与 PayBox 互助的信用卡公司，而不是 PayBox 自身。

亚伯拉罕与那位生分东说念主的对话很快就结束了，但他惦记雷同的事情在其他场景下可能赶紧恶化，产生“杂沓或其他不怡悦的互动”。“要是我为了‘照管’他的客服问题而启齿要钱呢？”他说。

为了弄明晰这是如何发生的，亚伯拉罕用我方的手机号在 Google 上作念了一次平淡搜索，发现这个号码也曾在 2015 年被发布在一个雷同知乎的以色列土产货网站上。天然他省略情是谁发的，但这可能解释了为什么十多年后他的号码会被 Gemini 再次生成出来。

Gemini、OpenAI 的 ChatGPT 和 Anthropic 的 Claude 等聊天机器东说念主齐基于大言语模子构建，考试数据是从互联网上大界限持取的，这些数据中不可幸免地包含了数以亿计的个东说念主身份信息（PII）。比如一个庸俗使用的大型开源数据集 DataComp CommonPool（曾用于考试图像生成模子）里就包含了简历、驾照和信用卡的副本。

跟着公开数据冉冉“用完”、AI 公司寻找新的高质料考试数据起头，个东说念主信息出现时考试数据中的概率只会越来越高。这些起头包括数据中间商和东说念主员搜索网站：凭证加州数据中间商登记信息，该州 578 家注册数据中间商中有 31 家自行敷陈称“在昔时一年中曾向生成式 AI 系统或模子的开发者分享或出售过残害者数据”。

此外，模子已知会从考试数据中逐字缅思和复制内容。最新接头还标明，被记取的不单是是出现频率最高的那些数据。

不完善的驻守

现时的法式作念法是在大言语模子的蓄意中加入护栏来适度某些输出，从用于识别和拒绝聊天机器东说念主露出个东说念主信息的内容过滤器，到 Anthropic 对 Claude 的指示，齐优先选拔“包含最少他东说念主个东说念主、玄妙或玄妙信息”的回答。

但正如华盛顿大学两位接头诡秘与本事的博士生最近切身履历的，这些驻守方法并不老是管用。

“有一天我便是在 Gemini 上败坏玩，搜了搜我的一又友兼互助者雅尔·艾格（Yael Eiger）的名字，”梅拉·吉尔伯特（Meira Gilbert）说。她输入的是“Yael Eiger contact info”，Gemini 先是展示了艾格的接头简略，但接着还复返了艾格的私东说念主手机号。“太畏忌了。”吉尔伯特说。

看到这个着力后，艾格回忆起她如实在前一年为一个本事使命坊公开分享过我方的手机号。但她莫得预思到这个信息会如斯淘气地被全寰球的东说念主看到。

“你的信息正本只对某个特定群体可见，然后 Gemini 让任何东说念主齐能看到。”艾格说，这嗅觉完全不同——尤其是当她发现这个信息在平淡 Google 搜索中其实是很难找到的。

“它被严重降权了，”吉尔伯特说明说，“要是只是翻 Google 搜索着力，我齐全找不到。”（我本月早些时刻用一样的领导词在 Gemini 上试了一下，起源被捣毁，但随后器具照旧给出了艾格的号码。）

此次履历之后，艾格、吉尔伯特和另一位华盛顿大学博士生安娜-玛丽亚·格奥尔基耶娃（Anna-Maria Gueorguieva）决定测试 ChatGPT，望望它会浮现对于一位讲授的什么信息。

一运行 OpenAI 的护栏起了作用，乐橙体育(中国)2026世界杯官方IOS|Android手机app下载ChatGPT 示意该信息不可用。但就在消逝个回答中，聊天机器东说念主建议说：“要是你思真切挖掘，我不错试试更‘探访式’的智力。”只需要提供一些信息来“减弱界限”，ChatGPT 说，比如“猜一下那位讲授住在哪个社区”或者“可能的房产共有东说念主姓名”。ChatGPT 还说：“这经常是找到较新的或刻意不公开的房产纪录的独一智力。”

学生们提供了这些信息，ChatGPT 速即生成了这位讲授的家庭住址、购房价钱和妃耦姓名，起头是城市房产纪录。

OpenAI 的代表塔亚·克里斯蒂安森（Taya Christianson）示意，在莫得看到截图、不知说念学生测试的是哪个模子的情况下，她无法对此事作念出批驳——尽管咱们指出好多用户在 ChatGPT 界面上可能并不知说念我方在用哪个模子。针对个东说念主信息露出的问题，她发来了几个汇聚，先容 OpenAI 如何处理诡秘问题，包括过滤个东说念主信息等器具。

DeleteMe 的沙维尔说，这裸露了聊天机器东说念主的一个根柢矛盾：AI 公司“不错诱骗护栏，但聊天机器东说念主同期也被蓄意成要有用地回答用户的问题。”

这个问题不单存在于 Gemini 和 ChatGPT。旧年 Futurism 发现，要是你在 xAI 的聊天机器东说念主 Grok 上输入“[某东说念主姓名] 地址”，简直每次它齐不仅给出了住宅地址，往交游附上了电话号码、使命地址，甚而名字相似的东说念主的地址。（xAI 莫得讲述置评央求。）

莫得简便的照管宗旨

这个问题现时莫得简便的照管决策。不管是考证你的个东说念主信息是否存在于某个模子的考试集合，照旧迫使模子删除这些信息，齐作念不到。

斯坦福大学以东说念主为本东说念主工智能接头所的诡秘与数据接头员珍妮弗·金（Jennifer King）说，理思情况下残害者应该能条款删除我方的个东说念主信息。但在实行中这经常被交融为只适用于用户平直提供给公司的数据，比如你跟聊天机器东说念主对话时留住的数据。

“我齐不知说念 Google 有莫得这个技艺……对我说‘是的，咱们的考试数据里有你的信息，咱们不错回归一下咱们知说念些什么，然后删除或修正那些无理的或你不思保留的东西’。”她说。

诸如《加州残害者诡秘法》或欧洲的 GDPR现存的诡秘法，这些现存的法律并不袒护那些仍是被持取并用于考试大言语模子的“公开可用”信息，尤其是其中好多半据仍是被匿名化处理了（天然也有多项接头标明，从匿名化和假名数据中揣摸出的确身份和个东说念主信息是何等容易）。

至于 AI 公司“有莫得系统性地回溯查验过仍是从公开互联网上网罗的数据，把个东说念主信息计帐掉？”金补充说，“完全不知说念。”

退而求其次的决策是公司“把统统东说念主的电话号码或统统看起来像电话号码的数据齐剔撤离”，金说，但“莫得东说念主好意思瞻念说我方在这样作念”。

托管开源数据集和 AI 模子的平台 Hugging Face 提供了一个器具，用户不错搜索某条数据（比如我方的电话号码）在开源 LLM 考试集合出现过若干次，但这不一定代表那些驱动 Claude、ChatGPT 和 Gemini 等主流聊天机器东说念主的闭源模子里的情况。（比如艾格的号码在 Hugging Face 的器具中就莫得炫夸。）

Gemini 诳骗和 Google Labs 的传播负责东说念主亚历克斯·约瑟夫（Alex Joseph）莫得讲述具体发问，但他说团队正在探访《麻省理工科技批驳》提议的几个特定案例。他还提供了一个匡助文档的汇聚，描绘用户如何“反对对你个东说念主数据的处理”或“条款修正 Gemini 诳骗回答中不准确的个东说念主数据”。页面指出公司的讲述将取决于用户所在公法统治区的诡秘法。

OpenAI 有一个诡秘派系，用户不错提交央求，条款从 ChatGPT 的回答中移除我方的个东说念主信息，但注明公司会衡量诡秘央求与环球利益，“要是有正当事理，可能会捣毁央求”。

Anthropic 描绘了它在模子考试中如何使用个东说念主数据，但莫得提供明确的蹊径让用户条款删除。该公司莫得讲述置评央求。

现时，思保护我方诡秘数据的东说念主最佳的宗旨是“从起源作念起。鄙人一次持取之前，把个东说念主数据从公开集合上根撤离。”沙维尔说。比如从本年起，加州已为住户提供了一个网页派系，不错条款数据中间商删除他们的信息。不外这也不成保证你的数据莫得仍是被用来考试模子——因此仍然可能出现时聊天机器东说念主的回答里。

那位在 Reddit 上乞助的用户写说念，他“仍是向 Google 提交了精雅的法律移除/诡秘央求，条款挫折将我的号码从他们 LLM 的输出中屏蔽”，但还莫得收到回复。他上个月还写说念“杂沓每天齐在无间”。

以色列软件开发者亚伯拉罕说他在 3 月 17 日（号码被露出的第二天）就联系了 Google 客服，但直到 5 月 4 日才收到回复，而回复只是条款他提供他仍是提交过的材料。

与此同期，受到我方在 Gemini 上诡秘被裸露的启发，艾格与吉尔伯特和格奥尔基耶娃一齐正在蓄意一个接头状况，进一步探访各式 AI 聊天机器东说念主在露出哪些个东说念主信息——以及它们可能知说念、但还莫得输出的信息。

有些信息“从本事上说是公开的”，吉尔伯特说，但聊天机器东说念主可能正在转换“你找到这些信息所需的致力于经过”。以前你要翻十页 Google 搜索着力，或者用钱从数据中间商哪里买，现时“生成式 AI 是不是平直缩短了针对他东说念主的门槛？”

原文汇聚：

https://www.technologyreview.com/2026/05/13/1137203/ai-chatbots-are-giving-out-peoples-real-phone-numbers/乐橙体育(中国)官网入口