2024 5 月 29 By astrill是什么软件 0 comment

文:王凡(BBC记者)

「我不希望任何人认为我曾经说过这些可怕的话。用一个乌克兰女孩的面孔来宣传俄罗斯,这太疯狂了。」

奥尔加・洛伊克(Olga Loiek)看到自己的脸出现在中国社群媒体上的各种影片中,而这些影片由网上简易的生成式人工智慧(AI)工具制作。

「我可以看到我的脸,听到我的声音。但这一切都令人毛骨悚然,因为我看到自己说了一些我从未说过的话。」这位就读於宾夕法尼亚大学(University of Pennsylvania)的21岁学生告诉BBC。

使用她肖像的帐户有几十个不同的名字,如索菲亚(Sofia)、娜塔莎(Natasha)、艾普丽尔(April)和斯泰西(Stacy)。这些「女孩」说的是奥尔加从未学过的汉语普通话。在影片中,她们看上去来自俄罗斯,谈论着中俄友谊或推广俄罗斯产品。

「我看到90%的影片都在谈论中国和俄罗斯以及中俄友谊,像我们必须成为强大的盟友,还有食品广告。」

其中最大的一个帐号是「娜塔莎进口食品」,其拥有30多万关注者。「娜塔莎」说着「俄罗斯是最好的国家。可悲的是其他国家都在远离俄罗斯,俄罗斯女人想要来中国」之类的话,然後开始推销俄罗斯糖果等产品。

这让奥尔加感到愤怒,因为她的家人还在乌克兰。

但在更广泛的层面上,她的案例引起了人们对这项发展迅猛的技术所带来危险的关注,如何监管和保护人们已经成为一项真正的挑战。

从YouTube到小红书

奥尔加的说普通话的AI模仿者在2023年开始出现——就在她开设了一个不定期更新的YouTube频道之後不久。

大约一个月後,她开始收到一些人的讯息,声称在中国社群媒体平台上看到她说着普通话。

出於好奇,她开始寻找自己,并在中国类似於Instagram的平台「小红书」,以及类似於YouTube的影音网站哔哩哔哩(Bilibili)上发现了与她相似的AI人物。

「有很多这样的(帐户)。有些帐户的简介里有俄罗斯国旗之类的东西。」奥尔加说。她称,到目前为止,她已经发现了大约35个使用她肖像的帐户。

在她的未婚夫在社群媒体上发布了关於这些帐户的情况後,她声称被用於制作这些AI肖像的AI影音生成平台HeyGen做出了回应。

他们透露,已经有4900多个影片是用她的脸生成的,并表示该平台已经禁止再使用她的肖像。

该公司的一位发言人告诉BBC,他们的系统被侵入以创建了他们所谓的「未经授权的内容」,并补充称,他们立即更新了安全和验证协议,以防止平台被进一步滥用。

但香港大学副教授张湖月(Angela Zhang)说,奥尔加的经历「在中国很常见」。

她说,中国「拥有庞大的地下经济,专门从事仿造、盗用个人数据和进行深度伪造」。

不过,中国是最早尝试监管人工智慧及其使用的国家之一。中国甚至修改了民法典,以保护肖像权免受数位伪造技术的侵害。

中国公安部门在2023年披露的统计数据显示,当局逮捕了515名涉嫌参与「AI换脸」活动的人。中国法院也审理过这方面的案件。

那麽,为什麽会有这麽多关於奥尔加的影片在网上传播呢?

原因之一可能是这些影片宣传了中俄之间的友谊。

近年来,北京和莫斯科的关系日益密切。中国领导人习近平和俄罗斯总统普亭曾表示,中俄友谊「无上限」。

中国官方媒体一直在重覆俄罗斯为其入侵乌克兰辩解的说辞,社群媒体也一直在审查有关战争的讨论。

「目前还不清楚这些帐户是否出於集体目的而进行协调配合,但推广与政府宣传一致的讯息肯定对他们有利。」博洛尼亚大学(University of Bologna)和鲁汶大学(KU Leuven)的法律与技术研究员埃米・海因(Emmie Hine)说。

「即使这些帐户与中共没有明确联系,但宣传(意识形态)一致的讯息可能会降低他们的贴文被撤下的可能性。」

但专家警告说,这意味着像奥尔加这样的普通人仍然处於弱势,并有可能触犯中国法律。

牛津大学(Oxford University)技术与地缘政治研究员凯拉・布隆奎斯特(Kayla Blomquist)警告说,「存在个人被人为制造的政治敏感内容陷害的风险」,他们可能会受到「未经正当程序而迅速实施的惩罚」。

她补充说,中国政府在AI和网路隐私政策方面的重点一直是建立消费者权利,使其免受掠夺性私人行为者的侵害,但她强调说,「与政府相关的公民权利仍然极其薄弱」。…

2023 9 月 13 By 轻松上网高手 0 comment

(中央社)微软及若干机构披露,中国趁美国夏威夷州8月发生野火灾难,利用人工智慧(AI)散布假消息,称这是美国政府测试秘密「气候武器」所造成。这显示中国的资讯战出现新发展。

美国《纽约时报》(The New York Times)报导,中国的认知作战原本都是聚焦在夸大政治宣传,以扞卫其在台湾和其他事务上的政策;如今却是把天然灾害称作美国情治机关和军方的刻意行为,散布有关夏威夷野火的阴谋论,显示其手法已快速转变,更直接试图在美国挑拨离间。

这项最新发展是由美国的科技业巨擘微软(Microsoft)、资安公司记录未来(Recorded Future)、智库兰德公司(RAND Corporation)、假资讯查核软体公司NewsGuard及马里兰大学(University of Maryland)等机构的研究人员揭露。

研究人员发现,这些假资讯贴文为了加强可信度,会附上似乎是由AI程式生成的照片,可说是假新闻宣传战中首批利用这类新科技工具来强化真实性的案例。

夏威夷茂宜岛(Maui)8月8日爆发草原大火,延烧至滨海观光城镇拉海纳(Lahaina),造成至少111人丧生、摧毁约2200栋建筑物,酿成约55亿美元灾损,写下夏威夷州历来最惨重天灾纪录。美国总统拜登(Joe Biden)也宣布这场野火是「重大灾难」。

然而,记录未来最先通报,中国政府在8月中旬发动秘密资讯战,在各大社群网站散布贴文,将茂宜岛野火怪罪一项「气候武器」,并谎称是英国情报机关军情六处(MI6)揭露「这场野火背後惊人真相」。相同说法贴文露出的社群平台,包括Pinterest、Tumblr、Medium及用户多为艺术家的日本网站Pixiv。

其他一些假帐号也散布类似内容,且通常伴随标示错误的影片,包括来自受欢迎TikTok帐号The Paranormal Chic发布的一段影片,内容实际上是智利的一个变电站爆炸。

微软研究人员对这场资讯战行动进行分析,他们辨识出在多个社群媒体平台出现的一些夏威夷野火影像是由AI生成,包括附在Reddit上一则荷兰文贴文。

微软在报告中指出,「这些由AI生成的特定影像,似乎只有」这次资讯战利用的中国帐号在使用,「似乎不会出现在网路上其他地方」。

此外,中国这次发动的资讯战遍及各大社群媒体平台,且以多种语言发布,意味目的是要触及全球受众。微软的威胁分析中心(Threat Analysis Center)指认出用31种语言发布的不实贴文,包括用法语、德语、义大利语甚至较小众的伊博语(Igbo)、奥迪亚语(Odia)和瓜拉尼语(Guarani)。

微软副董事长兼总裁史密斯(Brad Smith)接受访问时,严厉批评中国利用天然灾害来获取政治利益的行为。他说:「我真的不认为,这麽做配得上任何国家,尤其是想成为一个伟大国家的任何国家。」

美国政府官员透露,美国总统拜登去年秋天在20国集团(G20)峇里岛峰会时,曾向中国国家主席习近平宣泄有关中国散布假消息的怒火,他为了有广发的消息谎称美国在乌克兰运作生物武器实验室,而批评习近平。

美国曾在2016年和2020年的总统大选期间,遭到俄罗斯的骇客和散播假资讯攻击,当时中国大致未参与其中。但研究人员暗示,中国如今正在建构一个假帐号网,可能用於未来的资讯战,包括明年的美国总统选举,如同俄罗斯在干预2016年美国大选前花数年发展的操作模式。

记录未来的研究人员李斯顿(Brian Liston)表示:「这正朝向新方向发展,方式大概是散布阴谋论,这些阴谋论不涉及与他们有直接利害关系的一些议题,例如台湾。」

尽管根据研究人员和美国政府官员的说法,没有迹象显示中国正和俄罗斯合作从事资讯战。不过,中俄的假消息常常相互呼应,尤其涉及批评美国政策时。如今两者力道结合,暗示假消息战争进入新阶段,且是利用AI工具加强效果。

兰德公司的研究人员马西里诺(William Marcellino)示警,人工智慧将能促使全球认知作战行动出现「重大跃进」。

新闻来源

  • 纽时:中国利用AI散布阴谋论 认知作战进入新阶段(中央社)