|
继剑桥分析丑闻之后，Facebook的内容审核机制又一次陷入狂风骤雨。
日前，一位17岁的美国少女惨遭男友杀害，凶手随后将多张照片发布到Facebook旗下的社交平台。这些血腥、恐怖的照片在网上发酵了近一天才被平台删除。 “为什么在扎克伯克宣扬人工智能审核机制一年之后，还会发生这样的事？”“Facebook难道看不出来这些照片违反了社区规则吗？”人们发出诘问。 男子杀害女友后晒照片，网友打911报警 纽约少女Bianca Devins的生命终止在了17岁。她刚刚从高中毕业，准备去社区大学攻读心理学专业。 杀害Devins的不是别人，正是她21岁的男朋友Brandon Clark。两人在网上相识，原本关系亲密，Clark还见过Devins的家人。但近日的一次约会结束后，Clark用极其残忍的方式杀害了Devins：他切开了她的脖子，几乎砍掉了她的头。 很多人通过网络目睹了案发现场——当地时间 7月14日一早，杀害Devins之后，Clark在 Facebook 旗下的图片社交平台Instagram发布了多张照片。一张照片显示他浑身是血，标题是“Bianca我很抱歉”；一张照片是他用刀在脖子处自残；其他照片看起来是防水布遮盖的尸体。 在即时聊天应用Discord内，Clark发布了更多露骨的照片，包括已经死去的Devins。照片中，Devins躺在一辆车里，身旁有一把巨大的刀。 很快，当地警察局接到了数个911报警电话。通过多位报警者提供的线索，警方得知，有人声称杀害了自己的女朋友，正打算自杀，还在不同的社交平台晒出了多张照片。 警方很快赶到现场，发现Clark正躺在一辆黑色的SUV旁边。当他们问起Devins的下落，Clark拿出了手机，试图在Devins的尸体旁自拍。 当地时间上周一，Clark被指控为二级谋杀。 平台审核未发挥作用，Facebook遭受猛烈批评 Clark的照片发布后，在网上迅速发酵。一些厌恶女性者转发照片，并留言称应该杀掉更多的女人和女孩。 根据Instagram的社区准则，用户“禁止出于享受施虐与受虐快感或者颂扬暴力的目的分享血腥画面内容”。一些网友通过Instagram的举报功能进行反馈，客服却回复称Clark的照片“已经过平台审核，它们没有违反社区准则”。 将近一天后，Instagram才将相关照片删除。而在执法部门确认了案件信息之后，Instagram才删除了Clark的账户。 “我已经看过照片了。以后我一想到她，我永远都会想起那些画面。”当地时间上周一早上，Devins的继母Kaleigh Rimmer在Facebook上写道， “我一闭上眼睛，那些画面就会冒出来作祟。” 为什么这些血腥、残忍的照片能够被发布出来？平台的审核机制是摆设吗？案件发生后，Facebook和Instagram的“不作为”受到了网友的猛烈质疑和批评。 “我举报了，Instagram说没有违反社区准则。”“认真的吗？一个被残忍谋杀死去女孩的照片，没有违反你们的社区准则？”Clark归案后，众多网友在推特上继续@平台发表态度，有网友直言Instagram “令人恶心”。 “我们正采取一切措施从我们的平台上删除这些内容。”面对浪潮般的质疑与媒体的质询，Facebook发言人回应称，相关照片已被删除。然而，用户最早投诉时，平台为何声称照片内容不违规？该发言人没有就此作出说明。 不良信息成网络顽疾，有效的AI审核还有多远？ Facebook的用户量已超过20亿。随着用户数量达到庞大规模，每天有海量的内容被发布在平台上，这一社交巨头似乎陷入了内容审核的泥潭。 此前，Facebook的审核重心一直是与恐怖主义、仇恨言论有关的内容。2017年伦敦恐怖袭击发生后，Facebook曾表态称，将从其平台上“积极地移除恐怖主义内容”。 截至目前，Facebook在全球共有约1.5万名审核员，并且采用了人工智能技术辅助审核。然而，这些努力似乎还远远不够。今年3月，新西兰基督城发生恐怖袭击，一名枪手造成了51人死亡。枪手在Facebook上直播了袭击过程，Facebook因没有及时删除视频受到批评。 除此之外，假新闻的日益泛滥，也使得Facebook常常被指责审核不力。 此次Devins遇害案后，网络平台内容审核的短板再次暴露出来。“Facebook一直未能有效审核暴力、煽动等明显违反其平台准则的内容。”媒体人Brian Merchant评价。 曾担任世界经济论坛理事的网络研究员Kalev Leetaru指出，对于平台来说，血腥、暴力的内容也往往意味着流量，而流量意味着有利可图。考虑到目前的法律没有明确要求平台对此类内容严加审核，平台缺乏足够的审核动力也就不足为奇。 在这种背景下，人工智能的作用似乎也就指望不上了。事实上，去年接受质询时，Facebook创始人马克·扎克伯格曾表示，人工智能技术能改善内容审核机制，减少恐怖主义、假新闻等内容。但是要让人工智能工具能够准确标记违规内容，至少还需要5到10年。 “宣传人工智能算法准确性的同时拒绝提供错误率信息，似乎已经成为社交媒体公司的标准做法。”Kalev Leetaru说。 |
Copyright © 1999 - 2024 by Sinoquebec Media Inc. All Rights Reserved 未经许可不得摘抄 | GMT-4, 2024-4-19 09:55 , Processed in 0.125987 second(s), 23 queries .
