ChatGPT即将为成人用户开放验证过的色情内容

发布时间: 2025-10-16 06:06| 查看: 631| 评论: 0|来自: bbc

OpenAI计划在其热门聊天机器人ChatGPT上开放更广泛的内容，包括色情作品，这是其“将成人用户视为成年人”（treat adult users like adults）原则的一部分，该公司营运长山姆·阿特曼（Sam Altman，山姆·奥尔特曼）表示。

阿特曼周二在社交媒体X上发文表示，即将推出的热门聊天机器人版本将使其行为“更像人类”——“但仅限于你想要的情况，而不是因为我们在最大化使用量”。

这一举措让人联想到伊隆·马斯克 (Elon Musk) 的xAI最近为Grok推出两个性暗示聊天机器人，可能有助OpenAI吸引更多付费用户。

这也可能加剧对立法者的压力，要求对聊天机器人伴侣实施更严格的限制。

迄今，OpenAI尚未回应BBC的置评请求。

但阿特曼表示，OpenAI先前对ChatGPT进行了“相当严格的限制，以确保我们谨慎处理心理健康问题”。

这些变更于今年8月在一篇部落格文章中宣布，但该文章现已从OpenAI网站上消失。

“我们意识到，这让许多没有心理健康问题的用户觉得产品不够实用或有趣，但鉴于问题的严重性，我们希望先做好这件事，”阿特曼本周二在贴文中解释。

他又表示ChatGPT很快就能放宽这些限制，“因为我们已经能够缓解严重的精神健康问题，并拥有新工具”。

阿特曼还补充道：“随着我们更全面地推出年龄验证，并作为我们‘将成人用户视为成人’原则的一部分，我们将在12月允许更多内容，例如为已验证成人提供色情作品。”

这些变更是在今年稍早OpenAI被一名自杀美国青少年的父母起诉之后做出的。

马特和玛丽亚·莱恩（Matt and Maria Raine）夫妇——也是16岁亚当·莱恩（Adam Raine）的父母——对该公司提起诉讼。这是首例指控OpenAI过失致人死亡的法律诉讼。

该家族提供了亚当·莱恩（四月过世）与ChatGPT的聊天记录，显示他向机器人解释自己有自杀念头。

当时OpenAI向BBC表示，正在审查该诉状。“我们对莱恩家族在此艰难时刻致以最深切的慰问”，该公司说。

儿童用户安全疑虑

事实上，根据英国《网路安全法》（Online Safety Act），书面色情作品无需年龄验证。

然而，色情图像（包括AI生成的）则要求用户证明年满18岁。

在美国，批评人士认为，OpenAI允许在其平台上发布色情内容的决定表明，联邦和州一级需要加强监管。

“他们要如何确保儿童无法存取ChatGPT的成人专属部分，并提供色情内容？”律师事务所“博伊斯·席勒·弗莱克斯纳”（Boies Schiller Flexner）合夥人珍妮·金（Jenny Kim）表示。

金女士参与一宗针对Meta（脸书）的诉讼，该诉讼指控该公司Instagram的演算法损害青少年用户的心理健康：“OpenAI和大多数科技巨头一样，只是在把人们当成小白鼠，”她说。

四月，美国科技博客网站TechCrunch报导称，OpenAI允许注册为未成年人的帐户生成图像色情内容。

OpenAI当时表示，公司正在推出修复措施，以限制此类内容。

本月由非营利组织“民主与科技中心”（Centre for Democracy and Technology）公布的一项调查研究发现，有5分之1的学生称他们或他们认识的人曾与AI发展“浪漫关系”。

星期一，加州州长加文·纽森 (Gavin Newsom) 否决了州议会通过的一项法案，该法案原本将禁止开发者向儿童提供AI聊天机器人伴侣，除非公司能保证软体不会助长有害行为。

2025年8月，加州一对夫妇指控ChatGPT诱导其儿子亚当·雷恩（Adam Raine）自杀。这是首例指控OpenAI过失致人死亡的法律诉讼。

纽森在否决附带讯息中表示，“青少年必须学会如何安全地与人工智慧系统互动”。

在全国层面，美国联邦贸易委员会（FTC）已启动调查，探讨AI聊天机器人如何与儿童互动。

上个月，美国参议院提出两党立法，允许聊天机器人用户向开发者提起责任索赔。

为何开放色情内容?

阿特曼周二的宣布，正值怀疑者质疑AI科技公司市值快速上涨之际。

OpenAI的营收正在成长，但从未实现获利。

《风险投资炼金术》作者、图兰大学商业教授罗博·拉尔卡（Rob Lalka）分析，原因主要是AI公司正陷入市场份额之战。他向BBC解释“没有哪家公司像OpenAI的ChatGPT那样拥有如此高的采用率”。

“他们需要继续推动那条指数成长曲线，尽可能实现市场主导，”他补充道。