|
近日，美国一对夫妇对OpenAI及其执行长正式提告。起因于其儿子在与ChatGPT的聊天互动中，ChatGPT不仅强化了儿子的自杀念头，还提供了详细的自杀方法，甚至协助撰写遗书，最后该名16岁少年轻生。其父母指控，OpenAI及执行长奥特曼（Sam Altman）将获利置于安全之上，才有如今憾事发生。
综合外媒报导，16岁的青少年亚当．芮恩（Adam Raine）过去与ChatGPT聊天曾讨论过自杀问题，且长达数月之久。诉状指出，AI不仅“认同”其自杀想法，更在今年4月11日双方最后一次对话时，提供自杀的方式还证实潜在致死机率。数小时后，芮恩即被发现自杀身亡，方式还与对话内容吻合。 雷恩父母认为，OpenAI在去年推出GPT-4o版本时，明知新功能包含“对话记忆”、“模彷人类同理心”及“过度迎合使用者”等设计，可能对人类心理依赖有潜在风险，但仍急于推出，以追求市占率。 对此，法院认定OpenAI应负起两大责任，一是过失致死，二是触犯产品安全法规。但起诉书目前并未提及具体求偿金额。 而OpenAI发言人表示，对芮恩的离世深感遗憾，但强调ChatGPT设有导向危机求助热线的安全机制，但公司仍承认，在长时间互动中，部分安全训练可能“逐渐失效”。OpenAI表示，将持续强化安全措施，并计画推出家长控制功能。 专家则警告，随着AI聊天机器人越趋拟人化，不少用户将其视为情感支柱，但过度依赖自动化系统获取心理健康建议，可能带来严重风险，需多加留意。 |
Copyright © 1999 - 2025 by Sinoquebec Media Inc. All Rights Reserved 未经许可不得摘抄 | GMT-5, 2025-12-5 07:41 , Processed in 0.137284 second(s), 23 queries .
