AI技术日渐成熟的同时，深度造假引发了的监管难题。

编辑|易瑾

近日，美国著名歌手Taylor Swift泰勒·斯威夫特（霉霉）的一组AI不雅照片在网络上疯传。《纽约时报》称，该图片在禁封之前被浏览了4700万次。

“这非常令人震惊，因此我们将尽我们所能解决这个问题。”白宫发言人Karine Jean-Pierre在记者会上对此事时回应，“我们对此类图像流传感到担忧，更确切地说，是虚假图像，这令人担忧。”

她还补充说，“虽然社交媒体公司在内容管理方面可以独立做出决定，但我们认为他们在执行自己规定方面可以发挥重要作用，以防止错误信息和未经同意的真实人物私密图像传播。”

1月27日，X平台（原推特）采取了史无前例的措施：官方阻止任何对泰勒·斯威夫特的搜索。这一项规定，《华尔街日报》得到了X业务运营主管Joe Benarroch的确认：“这是一项临时行动，我们会非常谨慎地完成，因为我们在这个问题上优先考虑安全。”

相关话题登顶热搜，粉丝震怒

霉霉AI虚假“不雅照”在国外社交疯传的同时，热度也迅速蔓延至国内。在1月27日，#泰勒斯威夫特AI不雅照疯传#的话题，登顶微博热搜第四。

在这些照片被传播、封禁的过程中，据外媒报道，霉霉本人已得知此事，并针对网上流传的照片感到愤怒。

霉霉粉丝对此事也深表愤怒，在X平台上，有网友直接@马斯克的X账号：这是恶心的、未经同意的性内容，不应该出现在你的平台上。所以请关闭，迅速推动这个。在微博上，也有不少粉丝直言：明知道是AI还疯狂传播，这是对美女有多大的恶意。

在白宫方面对此事回应后，环球时报发现，霉霉粉丝对此仍有新的发现：美国现行的联邦法律中居然没有相关条文能够阻止创建或分享此类未经同意的“深度造假图像”。美国政界已经有人发现这一漏洞，纽约民主党议员乔·莫雷尔正在推动一项法案，将分享此类数码篡改的“露骨图像”的行为定为犯罪，违反者将被判罚款和入狱。

高勤律师事务所合伙人王源表示，AI换脸实际上是对传统人格权的侵害，只是体现形式和传统的侵害形式不同。“霉霉是很有影响力的公众人物，能迅速引起立法、立法监管机构的关注。实际上，AI换脸、Deepfake（深度造假）对每个人的权利都是有侵害的。”

据IT之家报道，微软CEO萨蒂亚・纳德拉在接受NBC新闻采访时对此事件发表了看法：“是的，我们必须采取行动……我认为，当网络世界成为一个安全的世界时，每个人都将因此受益，我们有必要在这方面迅速采取行动。”

平台肩负起“守门人”的责任

实际上，这也并不是霉霉第一次被AI造假。

据澎湃新闻报道，在不久前，由人工智能生成的假泰勒·斯威夫特（Taylor Swift）带货广告在社交媒体Facebook上传播。

广告词主要为：“嘿你们好，我是泰勒·斯威夫特。由于包装出错，有3000套Le Creuset炊具套装无法正常线下销售，转向线上出售。有一个好消息分享给你们，我与Le Creuset联手进行促销——有20位忠实粉丝将免费获得赠送的炊具套装。”

图源：澎湃新闻

事情发生后，涉事公司对此迅速做出回应称，Taylor Swift没有参与任何消费者赠品活动，所有关于产品促销的活动均来自官方社交活动。AI“深度造假”技术合成了她的声音，并将声音与她的形象和Le Creuset广告片段拼凑在一起。

当受害者被引导至虚假网站后，会被要求支付9.96美元的运费。但号称免费送的厨具不会真的送出去。Facebook母公司Meta也对这一欺诈活动迅速做出了回应。此后，Meta表示已经删除该广告。

值得注意的是，这两次事件中，无论是X还是Facebook平台，都在第一时间做出回应和处理。那么，在这类事件中，平台方又扮演怎样的角色呢？

王源表示随着大数据和人工智能的发展，平台方和传统市场主体不同的是，需要承担更大的责任。“不管是中国的个人信息保护法，还是欧盟的，比如说数字市场法，其实都强调了这个大平台要承担‘守门人’的责任，需要对利用平台对外提供服务的这些商家，有一定的监管责任。”

但是她也指出，目前存在的困难点是，平台承担多大的责任，在什么样的情况下承担责任，这仍是理论上的。而具体到实际问题中，责任划分目前是非绝对的。

 警惕AI深度造假

深度造假是英文“Deep learning”（深度学习）和“Fake”（伪造）的混成词，指利用深度学习技术生成合成图像、音频或视频的技术。

美国布法罗大学“媒体取证实验室”的计算机科学教授吕思伟曾表示，“霉霉”这起“深度造假”诈骗活动，很可能是利用文字转语音服务制作的。这类工具可将脚本转译成声音，并用唇语同步程序将其合成至视频片段。

值得注意的是，深度造假技术早在这次“霉霉AI照”之前就已存在并被大量使用。最常见的是，AI换脸和AI换声。

清华大学新闻与传播学院教授司若举例说，AI换脸及换声技术让已故的演员、历史人物可以通过换脸技术重现在屏幕上，在不同国家的语言转译上也可以通过AI的换声技术进行实时转译。

但技术不断迭代的另一面，出现了不法分子为了牟利，使得不少普通人成为深度造假技术的受害者。去年11月，新泽西一所中学的30多名女生的照片就被篡改和传播；西班牙小镇里的女学生也发现自己的“裸照”在学校和社区里流传……

去年7月初，德国电信还发了一条关于儿童数据安全的广告，展现个人数据被拿去使用是多么容易，后果又是多么严重，呼吁家长尽量少在互联网分享儿童隐私。

 图源：证券时报网

美国商业改善局也在去年警告，“深度造假”诈骗正在增加，“在购买商品之前，请花一点时间重新检查帖子和社交媒体账户，这些照片和视频很可能是假的，如果你购买了不合格或不存在的产品，你就会损失金钱（通常比你想象的还要多）。”

在呼吁警惕AI深度造假的同时，不少国家的监管机构也意识到了现行法律的不足，在AI监管的路上不断加大力度。2023年10月30日，美国总统拜登签署了人工智能监管原则，该行政令涉及范围之广，内容全面，针对美国内部人工智能治理，国际人工智能联结都做出了详细的指示。

行政令提出建立安全、可靠、可信赖的人工智能，其中最引人瞩目的是要求“最强大的AI系统”开发者必须与美国政府分享他们的安全测试结果和相关数据。

去年12月8日，据当地媒体报道，欧盟也已就监管人工智能的“里程碑式立法条款”达成一致，并推动制定全球对于人工智能发展最严格的限制制度。当天，欧盟内部市场专员蒂埃里·布雷顿在X平台上发文证实，这一协议已经达成。他称，这是一个历史性的协议，并写道：“欧洲成为第一个为人工智能的使用制定明确规则的大陆。”

综合自21世纪经济报道、IT之家、证券时报网等。

   推荐阅读   

END

微信号｜Taigeeker

新浪微博｜财经网科技

财经网科技