模拟音频数字化的过程不包括(警惕AI深度合成击穿风险底线)

Posted

篇首语:太斤斤计较的人,不适合恋爱,适合买菜。本文由小常识网(cha138.com)小编为大家整理,主要介绍了模拟音频数字化的过程不包括(警惕AI深度合成击穿风险底线)相关的知识,希望对你有一定的参考价值。

模拟音频数字化的过程不包括(警惕AI深度合成击穿风险底线)

半月谈记者 张漫子 张超

一段视频、一段语音,未必是真人拍摄或录制,在你不知道的手机App后台、支付界面、门禁闸机,或许有人正在盗刷你的脸。随着人工智能(AI)深度合成技术日益精湛,合成的音频、视频等伪造内容越来越能以假乱真。毫无疑问,我们生活的现实世界正在面临技术滥用的风险与挑战。

盗刷人脸、篡改声音,那都不叫事儿

近两年来,在浙江、安徽、江苏等地,多名盗取个人信息的犯罪嫌疑人被公安部门抓获。犯罪嫌疑人作案流程极为雷同:先是非法获取他人照片或有偿收购他人声音等“物料”,然后利用人工智能技术将照片“活化”、合成动态视频,之后或直接骗过社交平台、支付宝账户的人脸核验机制,进行非法获利;或骗过手机卡注册过程中的人工审核环节,继而利用他人名下的手机号进行电信网络诈骗、网络赌博等,使被收集信息的人遭受安全威胁和财产损失。

一张陌生人的图片,如何“活化”成为视频?

半月谈记者在清华大学人工智能研究院实验室的演示电脑前看到,一张刚从微信朋友圈中下载的陌生人的正脸静态照片导入电脑后,在技术人员的操作下,照片上的人物可瞬间“活”起来,根据指令做出相应的眨眼、张嘴、皱眉等精细动作和表情变化,并在短短十几秒内生成流畅视频。

“完成由静到动这一驱动操作的技术叫深度合成技术,是人工智能内容合成技术的一种。”清华大学人工智能研究院工程师萧子豪说,深度合成技术已经衍生出包括图像合成、视频合成、声音合成、文本生成等多种技术。

在技术加持下,盗刷人脸不再是难事。在手机卡注册、银行卡申请、支付软件登录等需要人脸动态识别的环节,这些伪造的合成视频可协助不法分子通过后台审核验证。

技术人员向半月谈记者演示了声音合成的操作。几段60秒的陌生人语音通过深度合成技术,即可生成“不用打卡,直接微信转账给我吧”“今天你不用去接孩子了。我就在学校附近,顺路去接孩子”等语音,效果如同真人发出的声音。这种声音合成令人“细思极恐”。

深度合成正瓦解“眼见为实”

在国内外内容平台、社交平台上,深度合成内容呈现“量质齐升”。其中合成的影视剧片段、话题人物的换脸视频等因具有较强娱乐性而被大量传播。

清华大学人工智能研究院、北京瑞莱智慧科技有限公司、清华大学智媒研究中心、国家工业信息安全发展研究中心、北京市大数据中心联合发布的《深度合成十大趋势报告(2022)》显示,2017年至2021年国内外主流音视频网站、社交媒体平台上,深度合成视频数量的年均增长率超过77.8%。2021年新发布的深度合成视频数量是2017年的11倍。与此同时,深度合成内容的曝光度、关注度、传播力也呈指数级增长,2021年新发布深度合成视频的点赞数已超3亿次。

“网上流传的视频、语音,未必是真人拍摄或录制。”浙江大学网络空间安全学院院长任奎说,是全脸合成、音频合成,还是真实拍摄录制,许多时候凭借人眼难以分辨。

清华大学计算机系教授、人工智能研究院基础理论研究中心主任朱军认为,深度合成技术正在改变信息传播内容信任链的底层逻辑和复杂程度,风险隐患在迅速加大。一方面,“眼见为实”的定义发生改变。尽管公众对照片等静态信息易被篡改已有认知,但对视频、声音等动态信息仍持有较高信任度,深度合成技术再次瓦解了“眼见为实”的信任逻辑。二是短视频的广泛传播,使深度合成技术的滥用产生了较大范围的影响力和破坏力。

清华大学苏世民书院院长、教授薛澜认为,当深度合成等人工智能技术走向“滥用”,就会带来一系列的伦理和治理问题:轻则侵犯个人财产安全、伤害个人尊严和隐私,重则威胁国家安全、影响社会稳定。

引导技术向善,完善AI风险治理体系

技术是一把双刃剑。用好这把双刃剑,既不能让技术成为脱缰的野马,也不能让技术创新原地踏步。

从善用技术的角度,中国工程院院士、信息技术专家邬贺铨提出,对于技术的新应用、新发展,不能“一刀切式”地禁止和干预,以免阻碍其创新。而应当从源头上解决技术衍生的安全问题,利用技术创新、技术对抗等方式,持续提升和迭代检测技术的能力。

朱军认为,当前针对深度合成应用的检测技术仍处于探索阶段,手段尚不成熟。建议充分发挥科研院所、科技企业等力量,尽快形成有效、高效的深度合成应用技术检测能力,以在舆论战、信息战中争取技术优势。

从风险治理的角度,国家工业信息安全发展研究中心副总工程师邱惠君指出,近年来的数字化转型倒逼多国人工智能安全风险治理落地。欧盟率先在人工智能领域开展了立法,基于风险分析的方法,重点明确针对高风险人工智能系统的监管框架。

“人工智能安全包括数据安全、框架安全、算法安全、模型安全、运营安全等组成部分。对此,我们应当构建‘规定+标准+法律’的一体化治理规则体系,出台风险治理的指南、标准、评估规范,在条件具备时完善立法。”邱惠君建议,重点围绕数据、算法、模型和运维的角度,一是构建数据采集质量规范;二是根据应用场景对人工智能进行系统风险分级分类;三是建立安全责任体系,明确设计开发单位、运维单位、数据提供方的各自责任。

中伦律师事务所合伙人陈际红表示,打击“变脸”诈骗犯罪,应从技术的合法使用边界、技术的安全评估程序、滥用技术的法律规制等方面予以规范,提高技术滥用的违法成本。

朱军提示,公众应当对深度合成新技术、新应用形成正确认知,对其不良应用提高防范意识,保护好个人声纹、照片等信息,不轻易提供人脸、指纹、虹膜等个人生物信息给他人。

来源:半月谈

相关参考

数字模拟调音台优点(调音台术语介绍)

ADAROpticalADAT光缆:一种由Alesis公司开发用于该公司ADAT设备的特殊光纤音频数据传输格式。ADAT光缆采用了和普通TosLink双声道光缆相同的接口,但同时还可传输8声道数字音频数据。ADAT光缆是上世纪90年代ADAT技术发展过程中重要的...

演出用数字调音台还是模拟调音台(音频线和音箱线有什么区别呢?)

一、音频线的用途音频线是音频设备之间的连接线。比如CD机接功放,话筒接调音台,音频处理器接功率放大器。音频线通过的是小电流小功率的信号,线的阻抗高,容易受干扰,所以一般都是屏蔽线,线径一般是比较细的。在...

演出用数字调音台还是模拟调音台(音频线和音箱线有什么区别呢?)

一、音频线的用途音频线是音频设备之间的连接线。比如CD机接功放,话筒接调音台,音频处理器接功率放大器。音频线通过的是小电流小功率的信号,线的阻抗高,容易受干扰,所以一般都是屏蔽线,线径一般是比较细的。在...

录像机与dv机区别(怎样将录像带上的视频拷贝到电脑(上))

...贝到电脑(上)视频采集卡:普通录像带上的视频信号是模拟信号,电脑上可以播放的无论视频、音频均为数字信号;以下是模拟信号和数字信号的波形图:因此如果想要把录像带上(包括磁带录音机)的内容拷贝到电脑上,首...

模拟转数字视频转换器(一大堆转换器不会接?音视频转换器使用大全奉上,拿走不谢)

...、HDMI转S-Video转换器等,原理是将数字HDMI音视频信号转成模拟视频信号和模拟音频输出,部分转换器会支持同轴或光纤数字音频输出,分辨率一般不超过1920*1080p此类转换器的连接步骤一般如下:第一步:将HDMI输出(HDMI主机,如...

户外铝合金旗杆(抖音混剪软件推荐 ai智能混剪软件哪个好)

...0个、86短视频形成4个、随机视频合成长视频、自动提取音频、自动加入背景音,并智能调节音量、加入背景图、竖转竖(背景图片填充)、向上向下模糊打开转场、整个视频分割8个、1个短视频分裂06个、视频自动合成功能、通过...

桥式滤水管(半导体模拟芯片行业深度报告:本土厂商加速成长)

...报告出品方/作者:中信建投证券,刘双锋、乔磊)一、模拟IC全景概述——信号链和电源管理1.1模拟IC用于处理模拟信号,是沟通现实与数字世界的桥梁集成电路按其信号不同可分为模拟IC和数字IC两大类。模拟IC用来产生、放大...

感应耐压为什么要3倍频(2022电气试验模拟试卷1)

对电力系统中的电气设备专门进行交接试验及预防性试验等的作业,从事相关行业的就需要考电气试验特种作业操作证。机考满分100分,80分通过。第1题:牌号为DB-25的变压器油可用于气温不低于-20℃的地区作为户外断路器、油...

机械设备故障诊断的内容包括(机床也要健康监测?AI博士回国创业成为机器设备“保健员”)

...与了信润富联的筹建工作,聚焦后道工业质检无法在生产过程中及时发现异常的痛点,运用博士就读期间机械设备故障诊断、健康管理和运筹优化等专业知识,并在百度飞桨深度学习平台开源时序建模算法库PaddleTS的加持下,推...

数字传感器(打造数字鼻子传感器芯片+机器学习,AI也懂闻香说味)

...(WesternGeneralHospital)等单位的研究人员开发了一种基于深度学习的方法,可以分析人体呼吸中的化合物,并检测疾病如癌症。参与这项研究计划的拉夫堡大学讲师AndreaSoltoggio