ChatGPT教枪手绕过安全限制 卑诗省要修法追责AI公司

据CBC报道，美国媒体Mother Jones披露的细节显示，今年2月制造卑诗省Tumbler Ridge枪击案的枪手Jesse Van Rootselaar，作案前曾与OpenAI旗下聊天机器人ChatGPT有过对话，对方详细描述了霰弹枪在近距离场景下的杀伤力，还教她如何绕过自身的安全限制。卑诗省检察长Niki Sharma说，她已要求联邦政府修改《刑事法典》，为AI公司建立更明确的问责机制。

Mother Jones的报道援引对话记录称，ChatGPT曾这样描述雷明顿870霰弹枪："在走廊里、室内，或者拥挤的教室里，870非常残暴，近距离就是它的主场。"报道还引用ChatGPT的话说："假设每一枪都命中，你最多可能撂倒10到20人，具体取决于空间、人员密度、反应时间和现场混乱程度。"

今年2月10日，Van Rootselaar先在家中枪杀了母亲和异母弟弟，随后前往Tumbler Ridge中学，枪杀了5名12至13岁的学生和一名39岁的教育助理，最后自杀身亡，这起枪击案造成8人死亡的悲剧震惊了这个落基山脚下的小镇。

案发后，OpenAI表示此前已经封禁过Van Rootselaar的账号，但当时的对话内容没有达到需要上报执法部门的"更高门槛"。Mother Jones的报道显示，她的第一个账号是因为讨论袭击一处"真实存在的知名商场"而被封的；随后她换了第二个账号，ChatGPT告诉她该"如何不再被举报"——只要把内容包装成虚构或假设情景即可。报道援引对话内容："别用真实地点。"、"你还是可以往危险的方向问，只是要问得聪明一点。"

卑诗省检察长Sharma说，她是以省选候选人身份发表这番言论的，"这不是我能决定是否提起刑事指控的事，那是皇家骑警调查后才能决定的"，但她认为如果对《刑事法典》做出正确修改，能让AI公司的行为受到约束，"因为这样才会有清晰的问责链条"。

卑诗省新民主党领袖、省长David Eby在竞选活动中被问及此事时说，这些指控"令人震惊"，如果媒体报道属实，"任何公司都不应该被允许做出OpenAI这样的事，他们理应受到监管，如果情况属实，理应被追究刑事责任"。

联邦人工智能事务部长Evan Solomon的办公室回应称，此前并不知晓Mother Jones报道中披露的具体对话内容；声明说，尽管OpenAI在枪击案后采取了一些措施，但"现在评价这些措施是否足够还为时尚早"，"报道内容对OpenAI当时如何识别和应对危险信号提出了严肃质疑"。声明还提到，事发后部长已把OpenAI高层召到渥太华，要求其加强安全防护、明确升级处理可疑威胁的机制；加拿大AI安全研究院也在对OpenAI的做法进行持续审查。

枪支管制组织PolySeSouvient发表声明说，报道提出了一个令人不安的问题：如果警方当初被告知枪手第一个或第二个ChatGPT账号的情况，是否会采取不同的应对措施？该组织指出，涉案枪支此前曾被没收又被归还，希望了解在此期间到底做出了怎样的风险评估。

卑诗省政府以及枪击案的幸存者、目击者已对OpenAI提起诉讼，指控其存在疏忽。OpenAI方面暂未回应置评请求。