蒙特利尔知名医生遭深伪冒充，引发担忧

Dr. Francois Marquis在魁北克因经常提供医疗建议而广为人知。作为Maisonneuve-Rosemont医院重症监护部门的负责人，他在疫情期间经常公开发声。

但他说，自疫情以来，人们在社交媒体信息流中看到的由人工智能（AI）生成的Deepfake（深度伪造）内容越来越多。

“有意思的是，我根本不用任何社交媒体，所以实际上我自己从来没看到过这些冒充我的东西，”他说。“都是别人打电话给我，告诉我网上有一些Deepfake，你知道，到处都在传播。”

他说，在他看到的许多网络广告中，“他”会谈论关节疼痛，并推销营养补充剂。但更严重的是，他还看到过一些视频，其中“他”在兜售所谓的癌症疗法，并传播反制药行业的宣传。

他说，最近他在医院里还遇到了一名不满的“顾客”，当面对他提出质问。

“这个可怜的人最后竟然，你知道，闯进了重症监护室（ICU），要求我退款，因为他根本没有收到那些药，”Dr. Marquis说。“某种程度上，我还挺庆幸他什么都没收到。”

他说，虽然看到有人因为这些骗局损失钱财令他感到不安，但他更担心的是人们对医疗体系失去信任。

“当你告诉人们，停掉你的药、停止你的治疗，我这里有更好的东西。那么，这就危险得多了。”

Dr. Marquis已经向魁北克医师学院（Quebec’s College of Physicians）和蒙特利尔警方报告了这些Deepfake，但他说，除了公开站出来谈论此事外，他几乎没有其他办法阻止这些视频继续传播。

Concordia大学传播技术教授Fenwick McKelvey表示，人们往往只能靠自己应对这些问题，因为针对AI的安全保障政策已经落后于不断发展的技术。

“你会看到这些内容被合成出来，而平台似乎不愿意或者没有能力将它们删除，而且这种现象已经国际化。因此，这实际上同时造成了两个非常棘手的问题：如何追究平台的责任，以及如何确保来自国外的虚假信息也能够被追责，”McKelvey说。

在许多情况下，只能靠用户自己警惕骗局。

“无论你在网上看到的是不是广告，都要留意自己看到的内容，”他说。“对于网上那些试图向你推销东西的内容，始终要保持怀疑，”McKelvey补充说。

McGill科学与社会办公室（McGill Office for Science & Society）的科学传播者Jonathan Jarry告诉CTV新闻（CTV News），医生只是诈骗分子在网上用来欺骗人们的众多“傀儡”之一。

“他们针对的是非常广泛的人群。以Dr. Marquis为例，任何认出他的人，都很可能因此产生兴趣，”Jarry在一封电子邮件中说。

“我看到过很多由虚构的、AI生成的医生出镜的视频，它们通过聚焦老年人可能遇到的健康问题来锁定这一群体。一些操纵这些AI医生的幕后人员已经透露，他们会创造不同的人设，以接触不同群体的人：黑人AI网红、亚洲精神导师以及年长的白人男性医生。他们正在尝试不同的组合，以接触不同的人口群体，从而尽可能多地赚钱。”

他说，虽然AI技术正在不断进步，但目前仍然存在一些迹象，可以帮助人们判断一段视频并非看上去那么真实。

“比如他们在为某种特定产品代言，通常是膳食补充剂。大多数人并不需要膳食补充剂，而且绝大多数膳食补充剂从未被令人信服地证明有效。这是一个监管不足、充斥着利用消费者行为的行业。但我也看到过许多并不推销任何产品的AI医生视频。人们应该注意一些迹象，例如说话节奏略显机械、缺乏正常的面部表情，以及平淡、毫无特色的背景。但要记住，这项技术已经非常先进，你很可能已经被它骗过了。不要从网上随意出现的视频中获取健康建议，”Jarry补充说。

在Dr. Marquis的案例中，这些视频修改了他的声音，让他说话听起来带有Paris口音，但还有一个更加明显的线索可以证明视频里的人并不是真正的他。

“在魁北克，在加拿大，医生直接向人们销售东西是违法的，”Dr. Marquis说。“所以，这是一个非常明显的危险信号。如果你看到任何人冒充医生试图向你推销任何东西，那么，这就是骗局。”