OpenAI吹哨人之死：ChatGPT的阴暗面

人工智能伦理的悲剧：Suchir Balaji的离世

2023年11月26日，Suchir Balaji在旧金山的一间公寓中被发现自杀身亡，年仅26岁。Balaji被誉为“OpenAI吹哨人”，他的离世引发了广泛的关注和深思。Balaji的成长背景和对人工智能的痴迷，使他在加入OpenAI后迅速成为GPT-4开发团队的一员。然而，随着他对生成式人工智能伦理问题的深入思考，他的立场逐渐发生了变化。

从热情到质疑：Balaji的观点转变

Balaji在加利福尼亚州库比蒂诺长大，从小就对人工智能充满兴趣。2013年，DeepMind的突破性进展进一步激发了他的热情，促使他进入加州大学伯克利分校攻读计算机科学。2021年毕业后，他加入了OpenAI，参与了GPT-4的开发工作。最初，Balaji和其他许多人一样，相信人工智能能够解决从医疗到环保等一系列重大问题。对他而言，人工智能不仅是一串代码，更是一种将想象变为现实的神奇工具。

然而，随着时间的推移，Balaji开始注意到生成式人工智能带来的伦理问题。他在个人博客中详细阐述了自己的观点：OpenAI在数据使用方面存在不合理性，因为其未经许可就使用了大量受版权保护的材料来训练模型，从而侵犯了原创作者的知识产权。这种做法相当于在原创作品基础上生成“替代品”，并剥夺了原创者的利益。

生成式AI的侵权问题

Balaji的担忧并非空穴来风。无论是ChatGPT还是其他生成式AI应用，它们都是通过从互联网上抓取大量数据（包括受版权保护的内容）来构建自己的算法模型。这个过程大致分为三个步骤：

1. 数据收集：OpenAI从互联网上收集大量文本，包括博客、文章和书籍等。其中部分数据是公开的，但大部分数据受版权保护。

2. 数据分析：AI分析这些数据，学习如何生成人类理解的文本。

3. 生成回答：当用户向ChatGPT提问时，它会基于训练数据生成回答，但不会透露具体的原始数据来源。

Balaji认为，这种做法剥夺了原创者的利益。以知乎为例，如果ChatGPT能够生成类似知乎专业大V的回答，那么知乎的存在意义将大大削弱，大V们也将失去价值，整个生态系统将面临崩溃。

伦理困境与法律挑战

Balaji的离世引发了对生成式人工智能伦理问题的广泛关注。事实上，他并不是唯一一个提出质疑的人。2023年底，《纽约时报》对OpenAI及其合作伙伴微软提起诉讼，指控它们非法使用数百万篇原创文章来训练大模型。《纽约时报》认为，这种未经授权的使用直接损害了他们的业务，并可能导致人工智能取代传统新闻业。

2022年底，三位艺术家也联合起诉多个生成式AI平台，理由是这些平台未经许可使用他们的原创作品来训练模型，生成的作品与艺术家现有作品极为相似，应被视为“未经授权的衍生作品”。如果法院认定这些AI生成的作品未经授权且为衍生作品，将面临严厉的侵权处罚。

在国内，类似的案例也屡见不鲜。利用AI“魔改”经典影视剧的现象在短视频平台十分普遍。北京市两高（郑州）律师事务所副主任张博在接受央广网采访时指出，这种再创作行为可能侵犯演员的肖像权和名誉权。

法律与政策的挑战

面对生成式AI带来的版权风险，产业界迫切需要法律和公共政策提供明确的指引。然而，这一问题的解决难度很大，主要难点在于：

1. 侵权行为难以界定：著作权法保护的是具有独创性的作品，但AI生成的内容是否具备独创性，以及如何判断其独创性，是一个复杂且争议的问题。不同国家对此有不同的看法。例如，美国版权局明确表示AI自动生成的作品不受版权法保护，而中国法院则在一系列案例中认定，只要AI生成内容能体现自然人独创性智力投入，就应受著作权法保护。

2. 作者身份的认定：在传统的著作权法体系下，作品的作者是具有法律人格的自然人或法人。但AI作为生成内容的主体，其法律地位并不明确，无法直接作为作者享有著作权。这导致在立法时需要重新考虑作者身份的认定问题。

3. 利益平衡：立法者需要在保护著作权人权益和促进AI产业发展之间找到平衡点。过于严格的法律可能会抑制AI技术的创新和应用，而过于宽松的法律则可能损害著作权人的利益。

未来的解决方案

尽管当前面临诸多挑战，但一些专家提出了可能的解决方案。例如，印度裔创业者兼投资人Balaji在其著作《技术、真相和构建未来的指南》中指出，区块链技术的不可篡改性可以提供可信的真实记录。通过在工作流中加入激励机制和智能合约，可以推动协作，确保每个AI生成的作品都有独特的数字身份，可追溯其来源。

国内也有专家学者建议，相关部门应开发更高效的数字指纹技术和区块链技术，确保人工智能生成作品的版权得到保护。这些技术的应用将有助于建立一个更加透明和公正的版权保护体系。

小编建议

Suchir Balaji的离世或许只是AI伦理问题被揭开的“第一章”。技术的发展不以人类意志为转移，我们唯一能期待的是AI成为人类的工具，而非人类成为AI的奴隶。在这个过程中，我们需要不断探索和平衡技术进步与伦理责任之间的关系，确保技术的发展真正造福人类社会。