|
“有个上市公司老总手捧鲜花，说这辈子没啥遗憾，就等我，问我愿不愿意跟他走。”妈妈兴奋地跟翁瑶说。 这种“霸道总裁爱上我”的桥段已困扰翁瑶数月。翁瑶的妈妈今年68岁，二十多年前离异，平日消遣爱刷短视频。起初，翁瑶因短视频能给妈妈的生活增添乐趣并未过多干预。去年11月起，翁瑶逐渐发现妈妈不对劲。翁瑶告诉《中国新闻周刊》，妈妈总是频繁提及有富商想跟她在一起，接过手机才得知，妈妈的短视频账号已被“AI霸总”“攻陷”。 《中国新闻周刊》检索多个短视频平台发现，这类“AI霸总”实质上就是AI数字人。在视频中，其通常身处富丽堂皇的会客厅、办公室，展现出儒雅、深情款款的形象。这类视频通过添加“帅气大叔”“黄昏恋”等标签，被精准推送给缺乏情感关照的中老年女性。这些“AI霸总”瞄准老年群体，背后藏着带货、诈骗等多重陷阱。日前，全国人大代表李秋建议，为推动银发经济高质量发展，应严打欺诈、诱导老年人下单等行为。 要去外地“奔现” “姐姐，明天我就要走了，心里很舍不得你”“姐姐，你摸着良心说，我到底帅不帅”……类似的台词不断从姜小星奶奶的手机中传出，一度让姜小星觉得“脑壳疼”。 但姜小星的奶奶却乐此不疲。“帅，你太帅了。”姜小星奶奶对着手机屏幕里的“AI霸总”，隔空比出“点赞”的手势。姜小星说，奶奶关注了三四十位画风雷同的“AI霸总”。这样的视频，奶奶可以从早刷到晚。 老年人对于“AI霸总”的痴迷程度不止停留在“养眼”。《中国新闻周刊》梳理发现，在这类视频中，“AI霸总”往往会释放出求偶信号，“共度余生”“找个疼你的人”等都是常见的话术。 视频的评论区则汇集了大量老年人的真诚回应。有人会回复“好啊，等你来找我”，也有人实诚地表示“帅弟弟，我是普通人，年纪很大了，配不上你”。“我们觉得‘一眼假’的东西，奶奶是真的分不清。”姜小星说。 令姜小星苦恼的是，尽管已向奶奶多次解释视频的公共属性，但每当奶奶刷到“AI霸总”视频，她总会认为那些话术是“AI霸总”向自己释放的专属爱意。一个月前，奶奶还提到要去外地与一位“AI霸总”“奔现”，被家人及时劝止。 “用AI当着她的面做了一个视频，但还是劝阻无效。”罗珊珊告诉《中国新闻周刊》，两个月前，她的奶奶刷到了一条“AI霸总”的视频。““AI霸总”在视频里说，礼物到门口了要去拿。老人大半夜的就去了。老人本身有基础病，后来就得了重感冒。” 想要浇灭“AI霸总”与老年人之间的“火花”并不容易。罗珊珊给《中国新闻周刊》提供的截图显示，短视频平台首页给奶奶推荐的4条视频中，有3条都是“AI霸总”视频。罗珊珊说，自己尝试过取消关注、刷到视频就点“不感兴趣”等方法。当她以为这类账号不再“现身”，将手机拿给奶奶时，奶奶刷到的第一个视频还是AI合成视频。 北京红飒律师事务所主任律师黄启瑞今年年初也接触过有关“AI霸总”的咨询案例。咨询人的母亲从去年10月起开始接触“AI霸总”视频，后来与一位“AI霸总”私信交谈甚久，进而被推销保健品。 黄启瑞对《中国新闻周刊》指出，这类视频本质是利用AI合成的霸总形象，给中老年女性提供情绪价值，然后激发这一群体非理性消费或投资行为，进而实现骗财、敛财。 50元生成一个视频 《中国新闻周刊》在短视频平台检索发现，为积累私域流量，部分“AI霸总”账号会建立专属粉丝群。记者进入了4个百人以上的粉丝群，这些群聊消息更新频率很快，“AI霸总”每天都会在粉丝群中分享直播链接，诸多中老年女性在其中踊跃互动。 “人生就要活得漂亮，用积极态度为生活添彩，让每个平凡日子都闪耀梦想的光芒。此刻，师傅为你精心挑选了一些礼物，打开右下方小黄车就能看到……”记者点进一个名为“建国情感”的“AI霸总”直播间后发现，该直播正打着““AI霸总”给你送礼物”的名义，推销一款售价为59.9元的“武财神招财令挂件”，商品销量已达3.9万件。 还有“AI霸总”直接在商品销售页面的视频中演起苦情戏。“姐姐你快过来，我们差点就陷入阴谋，万劫不复……如果不是我开公司，想接你回家过好日子，我妈和小海也不会吃这些苦，受这些罪……”在一个售价99元的女士手镯销售页面中，一位“AI霸总”动情地讲述道。 这类以带货为目的的“AI霸总”视频，通常由商家外包给专业视频制作团队生产。在某电商平台，某视频制作团队的成员告诉记者，团队专业接商单，包括与跨境电商合作。“你只需要提供一个想法，文案、图片、声音和技术都可以由我们代劳。”该成员透露，团队对接的商家最少会要求做30—50个视频，量大的会合作几百个。报价方面，1分钟以内的视频，代做1个50元；代做50个，每个视频40元；代做100个视频则单价降到30元。 记者调查还发现，不少“AI霸总”背后由婚恋机构运作。在某短视频平台，记者给几位“AI霸总”点了关注后，私信即刻弹出对方发来的链接卡，声称“点击即可获得哥哥的联系方式”。 记者以中老年女性身份，按照链接卡的提示添加了贵州某婚恋服务公司的企业微信。记者提出想获得视频中“AI霸总”的电话，对方回复：“姐姐，我们是大哥的红娘，你要在我们这边花980元办会员，才能跟大哥联系。” 为了进一步了解这类“AI霸总”视频的生成、发布流程，日前，记者用生成式AI创作平台先后制作了3个10秒的“AI霸总”视频。在某平台，记者上传“AI霸总”角色图片后，系统自动识别匹配了“成熟总裁”的音色。设定完说话内容、动作描述，6小时后，记者得到了一个像模像样的“AI霸总”视频。另一App生成的“AI霸总”视频，耗时短至2—3小时。 该图片可能由AI生成  记者生成的“AI霸总”视频。图/截图 随后，记者在某短视频平台注册了一个全新账号，用以测试制作好的3个“AI霸总”视频。不到18小时，账号收获了500多位粉丝，3个视频中，浏览量最高的达1.2万，较低的也已超过5000。同时，记者收到了中老年女性的大量评论、私信，有的在私信中向记者透露了生日、年龄等信息。 实际上，记者发布的“AI霸总”视频并不完美。在其中一个视频的制作过程中，记者设置了“缓缓掏出钻戒”的精细指令，而生成的“AI霸总”在完成这一动作时仅拿起钻石，将戒托留在了戒指盒中。但视频发布后，这一不合常理之处并未被指出。 应建立负样本库 依据多位受访家属的讲述，在老龄化社会，中老年人的情感需求普遍存在。“其实没能约束奶奶看短视频的原因也较令人心酸，奶奶不识字，在农村的娱乐活动非常有限。家里的年轻人也没有经常陪伴在身边。看短视频是她和爷爷为数不多的消遣方式。”罗珊珊说。 数据也佐证了这一点。2024年10月，由民政部等共同组织发布的《第五次中国城乡老年人生活状况抽样调查基本数据公报》显示，2021年，我国老年人生活在空巢家庭（包括独居家庭、仅与配偶居住家庭）的比例为59.7%，较2010年上升10.4个百分点。 一些场合下，“AI霸总”的出现只是“主打一个陪伴”。日前，记者点进某个“AI霸总”直播间，看到一位奶奶边包饺子，边与“AI霸总”连麦聊天。直播间的“AI霸总”开了语音，其音色是一个带地方口音的中年真人男声，与此前发布的AI视频里的声音完全不一样，但此时，“AI霸总”是谁似乎已不重要。 为什么中老年人容易“中招”？快思慢想研究院院长田丰深耕AI领域多年。他分析称，一方面，中老年人作为AI时代下的“弱势群体”，更容易相信“眼见为实”；另一方面，2023年起，AI数字人在短视频赛道被大量运用，当其被滥用于黑灰产，在评论区不断有人造势的情况下，老年人出于从众心理更容易上当受骗。 黄启瑞指出，因相信“AI霸总”视频遭遇财产损害，维权困难的原因在于当前生成式AI的技术门槛较低。一旦被骗，受害者因缺乏取证技术及工具，难以独立完成证据收集，证据链无法形成闭环。这种情况下，如果委托律师维权，又要承受高昂的维权成本。 《中国新闻周刊》检索短视频平台发现，当前大多数“AI霸总”视频都标有“内容由AI生成”字样，但仍有少量视频缺乏标识。值得注意的是，这类标识往往通过一行小字的形式出现在视频左下角，难以对用户起到显著提示作用。 依据国家网信办2022年11月颁布的《互联网信息服务深度合成管理规定》，深度合成服务提供者提供人脸生成、姿态操控等人物图像、视频生成编辑服务时，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。 田丰告诉《中国新闻周刊》，当前，仍存在一些不法团队通过对国外的开源工具进行修改，使生成的视频产品缺乏AI标识。黄启瑞认为，在这一问题上，短视频平台应加强对视频内容的监测过滤。 近日，记者向某短视频平台客服咨询“AI霸总”视频管理、屏蔽相关事宜。客服回应称，平台会持续优化推荐和标注机制，若刷到不喜欢的视频，用户可通过长按视频，点击“不感兴趣”按钮，或通过“屏蔽设置”为不喜欢的内容添加屏蔽词，系统会根据用户反馈减少相关内容推荐。 田丰建议，AI视频生成模型应建立负样本库。“希望这类模型去预训练一些负面样本，使模型能第一时间识别诈骗、黑灰产等用途的不良素材和指令，直接从源头上阻止不良视频的生成。” |
Copyright © 1999 - 2026 by Sinoquebec Media Inc. All Rights Reserved 未经许可不得摘抄 | GMT-4, 2026-6-9 15:12 , Processed in 0.128530 second(s), 23 queries .
