中新网北京10月23日电(记者 刘星晨)老年人被“AI小海”盯上了。
据媒体报道,近日,一批名叫小海的“苦命男孩”AI数字人在短视频平台批量涌现。镜头里的“小海”哭诉着单亲、身世窘迫,不少中老年人在一声声“姨姨妈妈”中下了单。
记者在短视频平台搜索“小海”后看到,相关账号视频题材不一,有分享生活、唱歌、介绍工作等情况。但多个账号已删除带货视频并关闭橱窗。评论区中,不少网友将这个并不存在的AI形象当作自己的孩子,留下“儿子别哭”“孩子加油”的留言,并晒出下单截图。
图片来源:AI数字人小海。
家境不好的少年、单亲家庭缺乏母爱……苦情元素集中在一声声“姨姨妈妈”里,以悲惨叙事的方式引导消费者下单商品。这套剧本并不新鲜:从“AI王建国”到“AI小海”,脸换了,套路没换——利用中老年人的同情心,瞄准其情感空虚、缺乏陪伴的现实痛点,展开精准收割。
据媒体报道,这些账号带货的商品价格往往高于其他电商平台;有运营者称,“选对中老年赛道,一天赚两三千算是少的”。所谓“苦命”,不过是引流的话术。
即便有网友发布“小海”承认是AI的视频加以提醒,仍有老人没有意识到自己正在为一段虚构的身世付费,反而将其视为新的剧情内容。
记者检索发现,部分“小海”视频左下角确实标着“内容由AI生成”,可对不熟悉AI,甚至不识字的老人来说,这行小字能起到的提示作用有限。
记者注意到,相关报道发出后,“海海会努力”等账号已被封禁、改名或删除视频,但仍有其他账号在更新同类内容。
同一套形象和高度同质化的故事情节,换个“外皮”就能重新出现,这说明平台的事后处置仍在“打地鼠”。
上海九泽律师事务所律师芮欢月表示,利用AI形象虚构悲惨情节、情感诱导消费者(尤其是中老年人)购买商品的行为,依情节严重程度不同,或分别承担民事责任、行政责任乃至刑事责任。平台原则上也应当在事前、事中、事后落实法定义务。
“事前,平台应当对利用人工智能、数字视觉、虚拟现实、语音合成等技术的虚拟形象从事营销的,进行安全评估并以显著方式标识。事中,平台应当开展信息发布审核和实时巡查,建立健全风险识别模型,对高风险营销行为采取弹窗提示、违规警示、限制流量等措施。事后,平台应当建立健全投诉、举报机制,在消费者通过链接或二维码跳转购买发生争议时积极协助维权、提供必要证据支持。”
芮欢月称,依据《互联网信息服务算法推荐管理规定》,向老年人提供算法推荐服务的平台,应当保障老年人依法享有的权益,依法开展涉电信网络诈骗信息的监测、识别和处置。