破案了！ChatGPT拒绝说出ta的名字，原因竟是.

ChatGPT的“不可说”之名：David Mayer及其他五位神秘人物

最近，一个有趣的现象在网络上引起了广泛关注：ChatGPT竟然对某些特定的名字讳莫如深，其中最引人注目的是David Mayer。a16z的合伙人Justine Moore首先发现了这个奇怪的现象，她注意到，每当试图让ChatGPT提及David Mayer时，对话总是戛然而止。这一现象迅速引发了网友们的热烈讨论。

尝试与挑战

为了揭开这个谜团，网友们尝试了多种方法，包括使用密码学技巧、修改个人资料名称以及利用ROT13编码等，但无一例外地失败了。即使是在ChatGPT崩溃后查看历史记录，或是通过拍手代替空格的方式，虽然偶尔能够绕过限制，但这些方法显然不符合严格的测试标准。

背后的秘密

随着讨论的深入，真相逐渐浮出水面。原来，这六位被ChatGPT“封口”的人士中，有一位名叫Guido Scorza的意大利律师，他曾公开表示自己提交了GDPR（通用数据保护条例）下的被遗忘权请求，要求OpenAI删除其个人数据。这似乎揭示了一个关键点：OpenAI为了避免潜在的法律风险，选择在系统中屏蔽这些名字。

其他五位“被遗忘者”

除了David Mayer和Guido Scorza，其他四位被ChatGPT“遗忘”的人士也各有故事：

- Brian Hood：一位澳大利亚市长，曾因ChatGPT编造其受贿入狱的故事而威胁起诉OpenAI。

- Jonathan Turley：美国法学教授，被ChatGPT错误地指控性侵学生，他在福克斯新闻上公开讨论了这一事件。

- Jonathan Zittrain：哈佛大学法学教授，专门研究AI和互联网审查，他自己也确认名字被限制。

- David Faber：记者兼电视节目主持人，曾在节目中谈及马斯克与OpenAI之间的法律纠纷。

这些人都因为各种原因与OpenAI产生了法律纠纷，最终导致他们的名字被系统屏蔽。

技术解析与反思

从技术角度来看，这个问题并非模型本身的问题，而是ChatGPT在输出阶段应用了某种文本过滤机制。这意味着，当模型尝试生成包含这些名字的文本时，输出会被拦截，从而避免了敏感信息的泄露。这也解释了为什么通过第三方平台调用API时，这些限制并不生效。

OpenAI的回应

面对网络上的热议，OpenAI最终做出了回应。他们在一份声明中表示：“在某些情况下，ChatGPT可能不会提供有关某些人的信息，以保护他们的隐私。”此外，OpenAI还确认“David Mayer”这个名字已经被内部隐私工具标记，并表示正在修复这一问题。

小编建议

尽管这一现象最终得到了合理的解释，但它仍然提醒我们，AI系统的隐私保护和法律合规是一个复杂且需要不断改进的领域。未来，如何在保障用户隐私的同时，确保AI系统的透明度和可靠性，将是技术开发者和监管机构共同面临的挑战。