AI盗用乌女YouTuber肖像捏造亲俄言论
【2024年5月19日讯】
一位乌克兰女性发现,自己的样貌和声音被AI合成,在中国社交媒体宣扬中俄友谊及推销俄产品,令身处乌克兰的家人感愤怒。中国虽已立法规管AI,但专家指当地地下AI换脸活动猖獗,民众权益难获保障。
![](http://upload.wikimedia.org/wikipedia/commons/thumb/d/d1/A_trainer_instructing_a_data_annotator_on_how_to_label_images_by_Nacho_Kamenov_%26_Humans_in_the_Loop.jpg/220px-A_trainer_instructing_a_data_annotator_on_how_to_label_images_by_Nacho_Kamenov_%26_Humans_in_the_Loop.jpg)
年仅21岁、就读宾夕法尼亚大学的乌克兰YouTuber洛伊克(Olga Loiek)去年起发现,自己的脸出现在多个由AI制作的中国社交媒体影片中。影片中的“奥尔加”操著从未学过的普通话,宣扬中俄友谊,甚至化身俄国人推销俄产品。
洛伊克向BBC表示:“我不希望有人认为我说过这些可怕的话。利用乌克兰女孩的面孔宣传俄罗斯,实在太疯狂了。”中国是最早尝试规管人工智能的国家之一,2023年已有公安机关拘捕515人,法院亦处理相关案件,但仍有大量冒用奥尔加形象的影片流传。
这些使用奥尔加肖像的账号多达35个,影片内容90%都在谈论中俄友谊,其中最大的一个账号“娜塔莎进口食品”更有30多万关注者。“娜塔莎”除说着“俄罗斯是最好的国家”等言论,更推销起俄罗斯糖果等产品。
奥尔加的未婚夫在社交媒体上揭发此事后,AI视频生成平台HeyGen坦承已有4900多个使用奥尔加脸孔的影片被创建,并宣布禁止再使用其肖像。港大副教授张湖月指,奥尔加的遭遇在中国并不罕见,中国有庞大的地下经济,专门从事仿制、盗用个人数据和制作深度伪造。
博洛尼亚大学及鲁汶大学法律与技术研究员海因(Emmie Hine)认为,传播与政府宣传意识形态一致的资讯,有利于降低被削除帖文的可能,即使这些账户与中共并无直接关联。
牛津大学技术与地缘政治研究员布隆奎斯特(Kayla Blomquist)警告,普通人如奥尔加仍处弱势,或遭人为制造政治敏感内容陷害,面临未经正当程序的迅速惩罚。海因解释,中国AI法规旨在平衡社会稳定与创新发展,虽规定严格,但有证据表明存选择性执法,尤在生成式AI许可规则方面。
奥尔加遭遇引发外界关注AI监管。欧洲议会三月通过《人工智能法案》,美国总统拜登去年十月亦签署行政命令,要求AI开发者与政府共享数据。海因指出,个人层面上,除避免在网上发布内容,似乎无其他良策,不当利用者常有模仿他人的动机,即使政府打击,AI滥用活动仍难根绝。
布隆奎斯特认为,尽管各地法规进展缓慢,但我们需对最危险的AI威胁有清晰认识和共识,而美中作为关键角色,在建立共识和协调联合行动方面将面临挑战。
面对AI换脸,奥尔加决心不会因此退网。她在YouTube分享经历,部分中国网民亦有在造假影片留言揭穿真相、指出造假,令不少影片现已被删除。“我相信不会是AI技术的最后一名受害者。我想让人明白,网上资讯未必尽真。我喜爱与世界分享想法,骗子无法阻止我。”
延伸阅读
消息来源
- 王凡,乌克兰YouTube主播如何被用AI“变身”俄罗斯人,BBC News 中文,2024年5月16日。
- Fan Wang,How AI turned a Ukrainian YouTuber into a Russian,BBC News,2024年5月15日。