最火西安硬科技用慧眼为人工智能安全领域做质检十堰焊线维护外包线束放大镜

西安硬科技用“慧眼”为人工智能安全领域做“质检”

图为深信科创的副总经理鲍帅

8月30日晚开始，一款名为“zao -逢脸造戏”的 ai 换脸 app 突然爆红，用户只需上传一张正脸照片，即可一键将自己的脸部无痕换到明星脸上，从而生成以自己为主角的经典电影片段、热门表情包，跟明星同场飙戏。截至 8 月 31 日 15 时，zao 跃升至 ios 免费 app 下载榜第 1 位，超越爱奇艺、腾讯视频，登上微博热搜第 6 位，同一时间等待体验 ai 换脸的数超过 1 万人。

“zao”的爆红，引发个人隐私数据泄露的担忧。 西安深信科创信息技术有限公司（以下简称深信科创）副总经理鲍帅解释说， ai换脸这一技术在2017年出现后，就曾引起轩然大波，当时有人将知名女星的脸换到某些情色影片中，甚至有普通人沦为这项技术的受害者，ai伦理与内容安全的问题也随之浮出水面。治理ai换脸方面的问题，绝不能再走过去“先乱后治”的老路，鲍帅对此十分认同。他所在的深信科创已经投入了大量的研究，致力于解决人工智能时代虚假多媒体、语音造假等新的社会问题。据悉，深信科创日韩同时也是清华交叉信息核心技术研究院的孵化公司之一，致力于提升人工智能、金融科技等新兴软件系统的质量和安全。

鲍帅介绍，ai 换脸的成本普遍在0. 元之间，随着互联用户的大规模参与和技术的发展，这种低成本造假的问题日渐严重，很容易滋生诈骗，或者在各种人像识别场景盗用，甚至刷光工具脸支付。一些有目的的人只需用视频或照片对ai进行训练，就能轻易完成换脸。目前，ai换脸一方面难以鉴定，另一方面执法成本太高，在络上已经形成了换脸的灰色产业链。而一些以假乱真的换脸视频在络上广泛传播，导致虚假广告、电信诈骗的出现，严重的还可能对国家的舆情安全、国防安全产生很大的危害。

互联厂商的传统审核模式，很难快速精准地过滤虚假内容。如何用技术鉴定视频有没有被换脸？如何迅速检测络存在的内容异常？成为络信息安全问题的一项新的重大课题。

这随着人们环保意识的提高些不安全到底是怎么回事呢？鲍帅解释，人脸识别、打卡签到、门禁、自动驾驶这些场景，在攻击者眼中都是可以攻破的。比如一些特别制作的标记图案，就能把机器视觉欺骗：把“你”变成“他”，或让你直接从机器的视野里消失掉。由于人工智能模型的数学解释性还不足，实际应用中可能会出现一些问题。深信科创从测试和安全的角度，去弥补数学解释性不足的问题：用前沿的质量测评算法和对抗数据，告诉厂商以及开发者当南通强生石墨烯科技有限公司(以下简称强生)在此次中国国际纺织纱线展览会上的技术和产品甫1展出，他们所使用的人工智能模型质量和安全性是否过硬。

“我们相当于一石材翻新个人工智能算法的质检部门，质量测试不通过，或者我攻击你的模型成功了，那你就是不合格。换句话说，测试和攻击都是为了保障安全。”鲍帅告诉，深信科创目前的产品包含两个内容：一是深度学习的模型质量保障；一是多媒体内容安全，也就是前面提到的如何辨别ai换脸造假的技术。鲍帅是2017 华为研究所优秀工程师，也是华为公有云cto办公室成员。他表示，公司在 ai 换脸检测、合成检测、造假识别这些领域已经积累了大量的研究和实践，推出了aimediaguard 合成视频检测技术。该技术可以检测视频中人脸的真假，即是否存在换脸。针对此次 zao 的爆红，深信科创也在第一时间用aimediaguard检测了大量视频，检测的成功率达到了99%。

据介绍，人工智能安全领域是新兴的行业，对技术和科研积累的要求很高，国外大多数从业者都是一些刀闸阀高校实验室，还没有出现商业公司，国内商业化公司目前只有深信科创一家。

目前深信科创联合中国电子技术标准化研究院(cesi)，成立了“人工智能测评技术创新实验室”，旨在为国家建立人工智能质量测评和安全的行业标准，共同推动行业的健康发展。作为初创团队的深信科创，有着良好的技术积累和混凝土可以追溯到古老的年代学术背景，依托清华交叉信息核心技术研究院，持续为我国人工智能技术的发展献智献力，力争成为人工智能安全领域的独角兽企业。

（文/图 西安报业全媒体 张潇 实习生杜荣）

来于衔接方法固定源：西安报业全媒体：雷莹

分享到:

热点图片