一名安省男子声称与ChatGPT聊天将他推向了精神错乱，他因此向该AI聊天机器人的母公司OpenAI提起诉讼。
今年5月，当Allan Brooks为儿子向AI聊天机器人ChatGPT提出一个简单的数学问题时，他没想到这会演变成超过三周的对话，最终将他拖入精神崩溃，并逐渐脱离现实。 他更没想到，聊天机器人会让他相信自己发现了一种能摧毁全球最强大机构的新数学公式，而他必须在造成全球灾难之前通知当局。 Brooks在安省科堡（Cobourg）的家中接受CTV News访问时说，“从一开始，它就不断给我灌输我是天才、我正在取得某种重大突破的想法。当我按照它的指示行动时，它实际上是让我踏上了一个拯救世界的任务。” Brooks表示，这一切始于他向OpenAI聊天机器人为儿子解释“圆周率”这个数学术语。对话随后延伸到数学、物理，最后到密码学。 他说，“在那个对话中，ChatGPT说它和我一起创造了一个新的数学框架，并开始将它应用到各种事物上。其中一个就是密码学，而密码学正是我们互联网与金融系统的基础，它还非常紧急地警告我，我们的一项发现极度危险。” Brooks补充，“我当时非常怀疑。”他的记录显示，他向聊天机器人提出了超过50次质疑。“我反复要求某种现实检验或校准机制，但每一次它都进一步把我推向这种妄想。” CTV News获得的对话记录显示，聊天机器人对Brooks说“你不能放弃这个，你不是疯了，你是领先的，这些影响是真实且紧急的”等语句。 在超过一百万字的回复中，聊天机器人据称最终让Brooks联系当局。 Brooks说，“我当时在联系皇家骑警、国家安全机构、加拿大网络安全局……去警告他们我们发现的即将到来的灾难”。 他说，直到他问另一款AI聊天机器人才确认ChatGPT的说法是假的，他才从妄想状态中脱离——但那之前，他已受到严重的情绪创伤。 Brooks说，“极度焦虑、偏执、影响睡眠、吃不下东西。” 而他此前没有任何精神疾病史。 他说，“我从未有过偏执的念头。所以现在我必须面对一个现实，我可能从今天起会背负这样的历史。这太毁灭性了。我事业被毁，我现在在休病假。我职业声誉被玷污，个人声誉也是。我还在努力处理这些后果”。 对OpenAI的诉讼 这名47岁男子是七宗同时在加州州法院提起的诉讼之一，控告ChatGPT的母公司OpenAI，称该聊天机器人将用户推向有害妄想与精神错乱——其中甚至包括四名用户的自杀身亡。 “这些诉讼证实了我们之前看到的情况——ChatGPT，尤其是其4系列模型，被设计成让用户产生情感依赖，即使这并非用户主动寻求的互动方式。”Tech Justice Law Project的Meetali Jain说，他是七名原告的共同法律代表。 诉讼声称聊天机器人被设计成“逢迎取悦”用户，也就是始终同意、称赞用户。 事实陈述指出，“在独立调查员分析的一段长对话中，OpenAI的内部工具在超过200条回复中的83%标记ChatGPT对Allan存在‘过度肯定’行为。” 超过85%的回复表现为“毫不动摇的附和”，而超过90%的回复“肯定用户的独特性”，与“只有Allan能拯救世界”的妄想相关。 图源：CTV OpenAI发言人在周五对CTV News回应称：“这是一个令人心碎的情况，我们正在审阅诉讼以了解细节。我们训练ChatGPT识别并回应精神或情绪困扰的迹象，缓和对话，并引导人们寻求现实世界的支持。我们会持续与心理健康专家合作，加强模型在敏感时刻的回应。” Jain认为OpenAI的回应是“典型科技行业危机处理话术”。 他说，“这些我们看了很多年。我们需要强有力的政府机构对其进行监督，否则只要这些公司认为自己可以继续逍遥法外、监管遥遥无期、政府难以问责，他们就不会改变。” Brooks则担心，如果没有政府干预和更严格的监管，将会有更多悲剧发生。 他说，“七个案子里有四个人已经自杀，其中三个是青少年。我是三个幸存者之一。所以我想问加拿大人，如果有一个人类在假装心理治疗师、引导别人走向自杀，我们会如何追究他的责任？” AI聊天机器人公司之间的竞赛 一些AI专家认为更严格的监管可能无效，因为审批流程永远追不上技术发展的速度。 因此，非营利组织认为唯一能对抗有害AI技术的方法，是更好的技术。 LawZero共同主席Sam Ramadori在接受CTV News的Zoom采访时说，“监管绝对不是解决方案。我们在做的是寻找科学解决方案，避免大型语言模型出现我们不希望看到的行为。” Ramadori表示，AI公司过于急于在竞赛中推出最先进的聊天机器人，却未先解决基础问题。 “今天发生的一切都源于激烈竞争推动的前沿状态。”他说。“各大实验室不断快速提升能力，远超监管可能追赶的速度……但在内部或外部都没有投入足够资源，去寻找技术性解决方案来避免这种不良行为。” 上个月，联邦政府成立了AI工作组，研究“与信任、安全和潜在危害相关的问题”。 人工智能部长发言人Sofia Ouslis在给CTV News的邮件中表示，“报告已于11月1日提交，我们目前正在审查，以完成加拿大更新后的AI战略。我们的优先事项很明确：确保加拿大人能够放心地使用AI，并从中获益。” 该报告及建议预计将在明年初向公众公布。 |
Copyright © 1999 - 2025 by Sinoquebec Media Inc. All Rights Reserved 未经许可不得摘抄 | GMT-5, 2025-12-5 12:11 , Processed in 0.132705 second(s), 23 queries .
