9月,在微博上具有近900万粉丝的台湾网红陈亦如直播了自己吃鸡爪15个小时、使人瞠目结舌的视频。
他的追随者们适当地惊叹不已——直到一些人开始质疑这样的壮举对人类来讲是不是可能。视频流上的小字证实了他们的怀疑:“仅供展现,并不是真人。”
陈的许多粉丝都感到愤怒,据报导,他在 9 月 24 日至 26 日期间失去了 7,000 多名粉丝。就连法律界也参与了进来。中国媒体报导援用北京天泰律师事务所高级合伙人董媛媛的话说,人工智能头像不可能“与名人本人完全脱钩”,而且“虚拟直播......其实不能免除名人的法律责任”。
但陈其实不是一个将自己的职责外包给人工智能化身的人。中国的影响者或关键意见(KOL),特别是在电子商务行业,愈来愈多地转向数字克隆来全天候(24/7)地输出内容。对像陈这样的一些明星来讲,这使他们能够将自己的内容和收入推向更高的高度。但对不太知名的直播主来讲,随着媒体公司转向更便宜的数字明星,人工智能可能会让他们的工作面临风险。
“这类趋势可能会给低端直播主带来更大的压力,由于他们对品牌来讲更可有可无,”独立分析师、有关中国消费者的时事通讯《Follow the Yuan》的开创人蒋亚凌表示。
像陈这样的大粉丝依托他们在镜头外的个人资料来提高他们的地位和盈利能力。江说,成为一位成功的 KOL 较困难的部份“是成为炒作和媒体周期的一部份”。“人工智能影响者没有八卦,不像泰勒·斯威夫特那样出现在真人秀、街头或运动场里。如果他们不在公众视野中,他们还有甚么媒体价值呢?”
然后就是真实性的问题。10 月 11 日,中国发布了使用生成式人工智能技术的企业指南草案。拟议的法规称,使用人工智能进行克隆的个人应书面同意以这类方式使用其生物辨认数据,但他们没有详细说明如何向公众标记此类内容。一些平台,比如抖音,有自己的要求,但利用其实不广泛,据江说,“依然存在很多灰色地带”。
深度造假直播世界可能很快就会引发中国监管机构的关注。但在那之前,视频平台上的克隆数量不断增加,并且克隆视频宣扬克隆制作服务。