随后柏林议院发布了一条奇怪的推特:“谈话过程和话题设置引起了柏林方面的怀疑。”
柏林市长吉菲与电脑合成假人“克里琴科”
过了一会儿,议院又在推特上补充说:“没有线索表明视频会议是与真人进行的。这似乎是一起深度伪造(Deep Fake)案。”
也就是说,吉菲市长与一个电脑合成的假人视频了30分钟,才分辨出真伪。
事件爆发后,德国《图片报》发布了一段视频,基辅市长克里琴科出面澄清:“这是犯罪势力所为,需要尽快找出幕后黑手”。
这位真正的基辅市长说:“假克里琴科已经联系过欧洲的几位市长,对他们说了一些荒谬的话。”
《今日新闻》报道中选用的真假基辅市长克里琴科的照片
几名市长被骗、假克里琴科、深度伪造——这是什么情况?
原来欧洲另外两个首都市长也遇到了同样的事件。西班牙马德里市长何塞·路易斯·马丁内斯-阿尔梅达也应邀与所谓的克里琴科视频通话,但他也在中途产生了怀疑并中断了谈话。
而奥地利维也纳市长迈克尔·路德维希(Michael Ludwig)似乎完全被这个假克里琴科骗到,直到谈话结束都没有发觉对方有异。
更为经典的是,6月25日,周六中午,路德维希本人还用德语和英语在推特上总结了对话内容。该推文目前已被删除。
维也纳市长路德维希与假克里琴科对话
根据柏林的信息,假克里琴科在与吉菲的谈话主要提到,在德国的乌克兰人通过欺诈获得了社会福利,并请求吉菲支持将乌克兰男性送回国,以便他们可以参加战斗。
视频里的人无论动作还是声音看起来都是克里琴科,对于吉菲来说,唯一的疑点应该是克里琴科在谈话开始时询问是否可以用俄语对话并进行翻译,而克里琴科本人的德语和英语都非常好。
所谓的“深度伪造Deep Fake”是“深度学习Deep Learning”的一种特殊变体:由人工智能(简称 AI)通过对某个人视频或录音的“学习”来生成此人的肢体动作、面部表情或声音。
该技术已经被用于俄罗斯对乌克兰的战争中:有视频展示了泽伦斯基总统发表了一段他在现实中从未发表过的声明。Facebook 的母公司 Meta 已于3 月宣布,从其平台上删除了这段“深度伪造视频”。
AI真的已经这么厉害了吗?
纽伦堡工业大学相关专业的教授弗洛里安·加维茨表示,三位市长所经历的事情,最有可能的解释并不是深度伪造。虽然今天的AI已经可以生成一个人的面部表情、嘴唇动作或者声音,制作出视频,但这些技术仍然很脆弱,在实时情况下,效果往往无法令人信服,因此很难使用。
柏林-勃兰登堡广播公司(rbb)的调查记者劳弗(Daniel Laufer)在研究了一些线索之后,也持类似的看法。
从目前公布的对话截图来看,克里琴科的衣着和背景看起来和他在 4 月初的一段视频采访中完全一样。劳弗还发现图片中有重复的面部表情和可见背景,而且背景“有时清晰,有时模糊”。如果是深度伪造技术,AI不会简单地复制结果,而是重新生成,重复出现的几率非常小。而且实时生成动态图像时背景做不到完全稳定,长时间通话中很容易被柏林方面注意到。
劳弗推测,骗子更可能是巧妙地从一些原始视频片段中预先剪裁出片段,选取合适的面部表情实时重新组合。这个骗术成功的关键在于能够实时播放合适的预先准备的片段。
基辅市长克里琴科
目前看来,视频剪接似乎比创建实时深度伪造更容易实现。然而配音的真实性问题仍然不好解释:柏林方面显然没有人感觉到音画不同步。一个完美的深度伪造可以根据所说的内容生成正确的面部表情,而用视频剪接的话,骗子则需要一个比较像的语音模仿者来“同步”视频片段。即使假克里琴科用俄语说话,而吉菲的俄语并不是很流利,但骗子随意播放语音也会漏出破绽。
那么真人配音的话,需要模仿者掌控精准的时机,保证画面中的克里琴科闭上嘴时没有声音传出来。轻微的错误可以用网络信号不稳定来解释,但这个过程会有风险。
劳弗强调,他并不能证明这次的市长电话事件不是深度伪造技术,但这并不是第一次疑似深度伪造的新闻。例如去年曾发生过荷兰、英国、立陶宛、拉脱维亚和爱沙尼亚的议员在电话中被假的列昂尼德沃尔科夫愚弄的事情。几家知名媒体当时也将假冒者描述为AI的深度伪造,然而几周后的事实证明,议员们只是在跟一个高仿替身说话。
柏林政府是在 6 月 2 日收到的与克里琴科会谈的电子邮件,主题是关于两个城市在经济和文化领域的未来合作、乌克兰的人道主义项目以及该国的现状。对于柏林的负责人来说,这似乎很合乎逻辑。
电子邮件地址是mayor.kyiv@ukr.net。自战争开始以来,邮件地址没有机构签名或来自官方域并不奇怪,因此柏林政府并没有产生怀疑。
柏林市长吉菲
据维也纳方面的消息,他们也是在6月2日这一天收到了来自同一信箱的邀请邮件。据《图片报》报道,与马德里市长联系的也是同一个人。
然而目前为止,谁是这个邮箱背后的幕后黑手?究竟用什么技术以假乱真?目的又是什么?这许多问题都未得到解答。
真正的克里琴科强调,从现在开始,官方会谈只能通过基辅的官方渠道进行。他补充说,他从不需要翻译来进行德语或英语对话。
新闻资讯来源
https://www.spiegel.de/netzwelt/web/fiel-giffey-wirklich-auf-einen-computer-klitschko-herein-a-951e2d10-ce0d-46b3-bae8-79f62707c7e0
https://www.spiegel.de/politik/deutschland/telefonat-von-franziska-giffey-mit-flaschem-vitaly-klitschko-staatsschutz-ermittelt-a-e6ba8e03-2dea-45e4-8fde-ab9a724859e7
https://www.spiegel.de/ausland/vitali-klitschko-und-die-fake-anrufe-berlin-und-wien-ringen-um-erklaerungen-a-e7354a52-eca4-42f3-a04d-25f406f2f8c0
本文图片来源网络
转载需与本公众号联系,