伪造|一秒识破“AI换脸术”
文章图片
图片来源：unsplash
采访人员 秦志伟
随着人工智能的迅猛发展 ， 一些使用Deepfake（人工智能换脸工具）深度伪造技术制作的换脸视频也在网络上屡见不鲜 。这项技术甚至被别有用心的人利用 ， 成为实施诈骗、诬陷等罪恶勾当的工具 。
“要用人工智能（AI）来检测恶意AI 。”清华大学人工智能研究院教授朱军说 。
在2021世界人工智能大会上 ， 依托清华大学人工智能研究院成立的孵化企业——北京瑞莱智慧科技有限公司（以下简称瑞莱科技） ， 发布了一款能够一秒识别真伪的鉴别“神器”——DeepReal深度伪造内容检测平台 ， 让“假脸”无处遁形 。
中国科学院院士、清华大学人工智能研究院院长张钹曾提出“第三代人工智能”的概念 ， 也就是安全、可靠、可信的人工智能 。在他看来 ， DeepReal平台是一个很好的技术应对 。
AI也会“作恶”
人脸是人类身份信息识别最为显著的特征之一 。然而 ， 随着AI技术的飞速发展 ， 这一切正在被深度伪造技术所瓦解 。
深度伪造也被译作深度造假 ， 译自英语Deepfake ， 是计算机的“深度学习”（Deeplearning）和“伪造”（fake）的组合 。所谓深度伪造 ， 是指把图片和声音输入机器学习的算法 ， 从而可以轻易地进行“面部操作” ， 即把一个人的脸部轮廓和表情放置在其他任何一个人的脸上 ， 同时利用对声音的逼真处理 ， 制造出实为合成却看似极真的视频 ， 用以躲避识别、混淆视听、娱乐用户及实现其他虚假宣传的目的 。
近年来 ， 非法利用AI技术伪造他人肖像吸引流量牟利 ， 甚至从事侮辱、诽谤、网络诈骗、色情宣传等违法犯罪活动的案例已屡见不鲜 。
“科技是发展的利器 ， 也可能成为风险的源头 ， AI的发展也不例外 。我们既要抓AI的创新发展 ， 也要抓AI的治理 ， 两手都要抓 。”张钹说 。
束之有“术”
门槛低、影响大、变化快是深度伪造技术的显著特征 ， 且肉眼难以识别 ， 更无法大量检测 。
朱军表示 ， 实网环境中的伪造视频不断变化 ， 需要有强对抗的手段加以遏制 ， 最好的方法就是“深度检测” 。而在检测效果上 ， 不仅要有高准确率与高效率 ， 还需要具有可解释性 ， 让检测结果可靠、可信服 。此外 ， 要能够快速即时应对新型的深度伪造类型 。
针对以上痛点 ， 瑞莱科技基于第三代人工智能技术研发出了DeepReal ， 能够通过研究深度伪造内容和真实内容的表征差异性辨识、不同生成途径的深度伪造内容一致性特征挖掘等问题 ， 快速、精准地对多种格式与质量的图像进行真伪鉴别 。
检测准确率是衡量该平台价值重要的指标 。
瑞莱科技副总裁唐家渝介绍 ， 检测效果主要受到数据集多元化程度和算法可靠程度两个因素的影响 。DeepReal深度伪造检测平台算法基于大数据量进行训练和测试 。
据介绍 ， 截至目前 ， 该平台数据量已达到千万级 ， 数据集已覆盖三大类 ， 包括学术深伪数据集、网络深伪数据集和自研深伪数据集 。同时 ， 通过结合贝叶斯学习框架和深度神经网络 ， 来估计模型在预测新样本时的不确定性 。
推荐阅读
- 玉米|剥玉米原来这么简单，一把剪刀就搞定，一秒一个，方法太实用了
- 伤感一秒泪崩的句子（描写难过的心情流泪的句子）
- 下饭菜|人气家常下饭菜甜酒羹，一秒征服家人的胃
- 酸菜|几道美味的家常菜，让你轻松变成厨房小能手，下一秒就会爱上厨房
- 鸡蛋|凉山：炭火炉边烤鸡蛋，刚放进调料，下一秒“烤蛋”变“炸蛋”
- 下饭菜|人气家常下饭菜草莓千层酥，一秒征服家人的胃
- 一秒让人心疼的句子（让人听了特别心疼的句子）
- 伪造驾驶证怎么处罚（怎么处罚伪造驾驶证）
- 年后开工说说（年后开工经典说说）
- 膻味|如何在3秒内快速识破街边的假“羊肉串”？只需要牢记这5点小技巧