文：王凡（BBC记者）
「我不希望任何人认为我曾经说过这些可怕的话。用一个乌克兰女孩的面孔来宣传俄罗斯，这太疯狂了。」
奥尔加・洛伊克（Olga Loiek）看到自己的脸出现在中国社群媒体上的各种影片中，而这些影片由网上简易的生成式人工智慧（AI）工具制作。
「我可以看到我的脸，听到我的声音。但这一切都令人毛骨悚然，因为我看到自己说了一些我从未说过的话。」这位就读於宾夕法尼亚大学（University of Pennsylvania）的21岁学生告诉BBC。
使用她肖像的帐户有几十个不同的名字，如索菲亚（Sofia）、娜塔莎（Natasha）、艾普丽尔（April）和斯泰西（Stacy）。这些「女孩」说的是奥尔加从未学过的汉语普通话。在影片中，她们看上去来自俄罗斯，谈论着中俄友谊或推广俄罗斯产品。
「我看到90%的影片都在谈论中国和俄罗斯以及中俄友谊，像我们必须成为强大的盟友，还有食品广告。」
其中最大的一个帐号是「娜塔莎进口食品」，其拥有30多万关注者。「娜塔莎」说着「俄罗斯是最好的国家。可悲的是其他国家都在远离俄罗斯，俄罗斯女人想要来中国」之类的话，然後开始推销俄罗斯糖果等产品。
这让奥尔加感到愤怒，因为她的家人还在乌克兰。
但在更广泛的层面上，她的案例引起了人们对这项发展迅猛的技术所带来危险的关注，如何监管和保护人们已经成为一项真正的挑战。
从YouTube到小红书
奥尔加的说普通话的AI模仿者在2023年开始出现——就在她开设了一个不定期更新的YouTube频道之後不久。
大约一个月後，她开始收到一些人的讯息，声称在中国社群媒体平台上看到她说着普通话。
出於好奇，她开始寻找自己，并在中国类似於Instagram的平台「小红书」，以及类似於YouTube的影音网站哔哩哔哩（Bilibili）上发现了与她相似的AI人物。
「有很多这样的（帐户）。有些帐户的简介里有俄罗斯国旗之类的东西。」奥尔加说。她称，到目前为止，她已经发现了大约35个使用她肖像的帐户。
在她的未婚夫在社群媒体上发布了关於这些帐户的情况後，她声称被用於制作这些AI肖像的AI影音生成平台HeyGen做出了回应。
他们透露，已经有4900多个影片是用她的脸生成的，并表示该平台已经禁止再使用她的肖像。
该公司的一位发言人告诉BBC，他们的系统被侵入以创建了他们所谓的「未经授权的内容」，并补充称，他们立即更新了安全和验证协议，以防止平台被进一步滥用。
但香港大学副教授张湖月（Angela Zhang）说，奥尔加的经历「在中国很常见」。
她说，中国「拥有庞大的地下经济，专门从事仿造、盗用个人数据和进行深度伪造」。
不过，中国是最早尝试监管人工智慧及其使用的国家之一。中国甚至修改了民法典，以保护肖像权免受数位伪造技术的侵害。
中国公安部门在2023年披露的统计数据显示，当局逮捕了515名涉嫌参与「AI换脸」活动的人。中国法院也审理过这方面的案件。
那麽，为什麽会有这麽多关於奥尔加的影片在网上传播呢？
原因之一可能是这些影片宣传了中俄之间的友谊。
近年来，北京和莫斯科的关系日益密切。中国领导人习近平和俄罗斯总统普亭曾表示，中俄友谊「无上限」。
中国官方媒体一直在重覆俄罗斯为其入侵乌克兰辩解的说辞，社群媒体也一直在审查有关战争的讨论。
「目前还不清楚这些帐户是否出於集体目的而进行协调配合，但推广与政府宣传一致的讯息肯定对他们有利。」博洛尼亚大学（University of Bologna）和鲁汶大学（KU Leuven）的法律与技术研究员埃米・海因（Emmie Hine）说。
「即使这些帐户与中共没有明确联系，但宣传（意识形态）一致的讯息可能会降低他们的贴文被撤下的可能性。」
但专家警告说，这意味着像奥尔加这样的普通人仍然处於弱势，并有可能触犯中国法律。
牛津大学（Oxford University）技术与地缘政治研究员凯拉・布隆奎斯特（Kayla Blomquist）警告说，「存在个人被人为制造的政治敏感内容陷害的风险」，他们可能会受到「未经正当程序而迅速实施的惩罚」。
她补充说，中国政府在AI和网路隐私政策方面的重点一直是建立消费者权利，使其免受掠夺性私人行为者的侵害，但她强调说，「与政府相关的公民权利仍然极其薄弱」。…