2024 5 月 29 By astrill是什么软件 0 comment

文:王凡(BBC记者)

「我不希望任何人认为我曾经说过这些可怕的话。用一个乌克兰女孩的面孔来宣传俄罗斯,这太疯狂了。」

奥尔加・洛伊克(Olga Loiek)看到自己的脸出现在中国社群媒体上的各种影片中,而这些影片由网上简易的生成式人工智慧(AI)工具制作。

「我可以看到我的脸,听到我的声音。但这一切都令人毛骨悚然,因为我看到自己说了一些我从未说过的话。」这位就读於宾夕法尼亚大学(University of Pennsylvania)的21岁学生告诉BBC。

使用她肖像的帐户有几十个不同的名字,如索菲亚(Sofia)、娜塔莎(Natasha)、艾普丽尔(April)和斯泰西(Stacy)。这些「女孩」说的是奥尔加从未学过的汉语普通话。在影片中,她们看上去来自俄罗斯,谈论着中俄友谊或推广俄罗斯产品。

「我看到90%的影片都在谈论中国和俄罗斯以及中俄友谊,像我们必须成为强大的盟友,还有食品广告。」

其中最大的一个帐号是「娜塔莎进口食品」,其拥有30多万关注者。「娜塔莎」说着「俄罗斯是最好的国家。可悲的是其他国家都在远离俄罗斯,俄罗斯女人想要来中国」之类的话,然後开始推销俄罗斯糖果等产品。

这让奥尔加感到愤怒,因为她的家人还在乌克兰。

但在更广泛的层面上,她的案例引起了人们对这项发展迅猛的技术所带来危险的关注,如何监管和保护人们已经成为一项真正的挑战。

从YouTube到小红书

奥尔加的说普通话的AI模仿者在2023年开始出现——就在她开设了一个不定期更新的YouTube频道之後不久。

大约一个月後,她开始收到一些人的讯息,声称在中国社群媒体平台上看到她说着普通话。

出於好奇,她开始寻找自己,并在中国类似於Instagram的平台「小红书」,以及类似於YouTube的影音网站哔哩哔哩(Bilibili)上发现了与她相似的AI人物。

「有很多这样的(帐户)。有些帐户的简介里有俄罗斯国旗之类的东西。」奥尔加说。她称,到目前为止,她已经发现了大约35个使用她肖像的帐户。

在她的未婚夫在社群媒体上发布了关於这些帐户的情况後,她声称被用於制作这些AI肖像的AI影音生成平台HeyGen做出了回应。

他们透露,已经有4900多个影片是用她的脸生成的,并表示该平台已经禁止再使用她的肖像。

该公司的一位发言人告诉BBC,他们的系统被侵入以创建了他们所谓的「未经授权的内容」,并补充称,他们立即更新了安全和验证协议,以防止平台被进一步滥用。

但香港大学副教授张湖月(Angela Zhang)说,奥尔加的经历「在中国很常见」。

她说,中国「拥有庞大的地下经济,专门从事仿造、盗用个人数据和进行深度伪造」。

不过,中国是最早尝试监管人工智慧及其使用的国家之一。中国甚至修改了民法典,以保护肖像权免受数位伪造技术的侵害。

中国公安部门在2023年披露的统计数据显示,当局逮捕了515名涉嫌参与「AI换脸」活动的人。中国法院也审理过这方面的案件。

那麽,为什麽会有这麽多关於奥尔加的影片在网上传播呢?

原因之一可能是这些影片宣传了中俄之间的友谊。

近年来,北京和莫斯科的关系日益密切。中国领导人习近平和俄罗斯总统普亭曾表示,中俄友谊「无上限」。

中国官方媒体一直在重覆俄罗斯为其入侵乌克兰辩解的说辞,社群媒体也一直在审查有关战争的讨论。

「目前还不清楚这些帐户是否出於集体目的而进行协调配合,但推广与政府宣传一致的讯息肯定对他们有利。」博洛尼亚大学(University of Bologna)和鲁汶大学(KU Leuven)的法律与技术研究员埃米・海因(Emmie Hine)说。

「即使这些帐户与中共没有明确联系,但宣传(意识形态)一致的讯息可能会降低他们的贴文被撤下的可能性。」

但专家警告说,这意味着像奥尔加这样的普通人仍然处於弱势,并有可能触犯中国法律。

牛津大学(Oxford University)技术与地缘政治研究员凯拉・布隆奎斯特(Kayla Blomquist)警告说,「存在个人被人为制造的政治敏感内容陷害的风险」,他们可能会受到「未经正当程序而迅速实施的惩罚」。

她补充说,中国政府在AI和网路隐私政策方面的重点一直是建立消费者权利,使其免受掠夺性私人行为者的侵害,但她强调说,「与政府相关的公民权利仍然极其薄弱」。…