手机面部识别是靠什么识别(如何防止AI在自拍中识别出你的脸)

Posted

篇首语:学向勤中得,萤窗万卷书。本文由小常识网(cha138.com)小编为大家整理,主要介绍了手机面部识别是靠什么识别(如何防止AI在自拍中识别出你的脸)相关的知识,希望对你有一定的参考价值。

手机面部识别是靠什么识别(如何防止AI在自拍中识别出你的脸)


将个人照片上传到互联网似乎是件很轻松的事,那么问题来了,照片在互联网上发布之后,谁可以访问它们?如何处理它们?用哪些机器学习算法来训练它们?

Clearview公司已经为美国执法机构提供了一个面部识别工具,利用这个工具训练了公共网络上数百万张私人照片,这似乎只是一个开始。任何拥有基本编码技能的人都可以开发面部识别软件,这意味着从性骚扰、种族歧视、政治压迫和宗教迫害等多个角度来看,这项技术比以往任何时候都更有可能被滥用。

许多人工智能研究人员正在推动并开发让AI无法从个人数据中学习的方法。本周,最新的两项报告将在人工智能会议ICLR上发表。

芝加哥大学的艾米丽·温格说“我不喜欢人们从我这拿走不属于他们的东西,我想很多人也有类似的想法。” 去年夏天,温格和她的同事们开发出了最早的防AI工具。

数据中毒并不是件新鲜事。通过删除公司的数据,或者用伪示例污染数据集,从而使得公司更难训练出精确的机器学习模型。但这些努力通常需要采取集体行动,有数百万或成千上万的人参与,才能产生影响。温格新技术的独到之处在于:可以通过一张人脸照片便能达到目的。

澳大利亚迪肯大学的丹尼尔·马说,“这项技术可以利用单个人的照片作为密钥来锁定数据,在人工智能时代,它是保护人们数字权利的新一线防御工具。”

隐匿于视野中

包括Fawke在内,目前大多数工具都采用了同样的基本方法:对图像进行微小的改动,这些改动很难被人眼识别,但却能骗过人工智能,使得人工智能错误地识别出照片中的具体信息。这种技术非常接近于对抗性攻击,输入数据的微小变动会迫使深度学习模型犯大错。

给Fawkes输入一组自拍照,它就会给图像添加像素级的扰动,从而阻止最先进的面部识别系统识别照片中是谁。与先前的方法不同,它没有对图像做明显的改动。

温格和她的同事们在一些广泛使用的商业面部识别系统上测试了这一工具,包括亚马逊的AWS识别系统、微软的Azure和中国Megvii技术公司开发的Face++系统。在一个包含50张图像的数据集的小实验中,Fawkes对所有图像都100%有效,经过调整的人图像训练的模型无法在新图像中识别这些人的图像。篡改后的训练图像阻止了这些工具准确表达出人的表情。

Fawkes项目网站上已经有了近50万次的下载量。其中的一个用户还搭建了一个在线版本,使人们更容易使用(尽管温格不会对第三方使用代码做出保证,并警告说:“您并不知道处理数据时发生了什么。”)。目前还没有手机应用程序,但也无法阻止有人制作一个手机应用程序,温格说。

Fawkes会阻止一个新的面部识别系统识别你——下一个是Clearview。但它无法破坏在未保护图像上已经训练好的现有系统。然而,这项技术一直在不断改进。温格认为,由瓦莱里亚·切雷帕诺瓦和她在马里兰大学的同事们开发的一个工具,很可能会解决上述问题。

该工具名为LowKey,通过基于一种更强大的对抗性攻击,对图像应用扰动实现对Fawkes的扩展,骗过了预先训练好的商业模型。和Fawkes一样,也可以在网上找到LowKey。

马和他的同事们开发出了更为强大的工具,将图像变成所谓的无法学习的示例,有效地让人工智能完全忽略你的自拍。温格说:“我认为这非常棒,Fawkes可以骗过人工智能模型,让训练得出错误的结果,而这个工具使得训练模型对你一无所知。”

图中上面三张照片是从网上下载的图片,将它们变成了下面三张无法学习的示例,面部识别系统忽略了它们的存在。

与Fawkes不同的是,无法学习的示例并不是基于对抗性攻击。马的团队没有引入对图像的改变,迫使人工智能犯错误,而是增加了微小的变动,使得人工智能在训练过程中忽略掉它。当稍后显示图像时,它对图像中内容的评估并不比随机猜测出的结果要好多少。

实验证明,无法学习的示例比对抗性攻击更为有效,因为它们无法实现逆向训练。人工智能看到示例的对抗性越强,就越容易识别出它们,但是马和他的同事们从根本上便阻止了人工智能进行图像训练。

温格已经投入了一场正在进行的新战斗,她的团队最近注意到,微软Azure的面部识别服务不再被他们的某些图像所欺骗。她说:“对于我们生成的隐藏图像,它的鲁棒性突然变得非常强大。不知道其中发生了什么事。”

微软可能已经改变了的算法,或者人工智能可能已经训练了足够多的Fawkes影像,已经学会了如何识别它们。无论如何,温格的团队上周发布了工具的更新版本,再次对抗Azure。“这是另一场猫鼠军备竞赛。”她说。

对温格来说,这是一个关于互联网的故事。她说:“像Clearview这样的公司正在利用免费获得的数据,做他们想做的事情。”

从长远来看,监管可能会有帮助,但这并不能阻止公司利用漏洞。她说:“法律上可以接受的东西和人们真正想要的东西之间总是会有脱节。像Fawkes这样的工具正是填补了这个空白。”

“让我们赋予大众一些他们以前没有的权力。” 温格说。

相关参考

手机人脸识别别人怎么才能解开(人脸识别被破解?快看看你的微信、支付宝)

...宝、微信等支付软件中的人脸识别系统,甚至成功地使用手机屏幕上的照片,在荷兰最大的机场通过人脸识别验证登机。这家叫做Kneron的人工智能公司成立于2015年,总部位于美国加利福尼亚州圣地亚哥市。据

新款手机柜(学校人脸识别智能手机柜,科学解决学生手机管理难题)

随着手机的日益普及,学生使用手机对学校管理和学生发展带来诸多不利影响。为保护学生视力,让学生在学校专心学习,防止沉迷网络和游戏,促进学生身心健康发展,加强学生手机管理工作势在必行。解决学生手机管理的方...

捷顺智慧停车人脸识别(捷顺科技推出口罩人脸识别+自动测温门禁,人脸识别无需再脱口罩)

...,记者从捷顺科技获悉,捷顺科技研发了戴口罩人脸精准识别算法,推出口罩人脸识别+自动测温门禁。员工上班打卡,无需再脱口罩,只要在人脸识别门禁面前露个脸,即可秒速识别出员工身份并完成打卡。同时,人脸识别门...

手机外壳喷漆线丝印(荣耀20i首发评测:3200万AI自拍成就新一代自拍神器)

随着智能手机的广泛普及,用手机记录自己生活的点点滴滴,已经成为我们最重要的日常需求之一。手机中记录着我们相聚时的快意人生、失意时的落寞孤寂,记录着我们每一天遇到的人和事,我们对手机拍照的需求从未像今天...

最强人工智能(超强AI智能识别对焦的顶级全画幅双影像旗舰—索尼A7R5)

...他们组合在一起能碰撞什么火花呢?不、不、不。这不是手机影像模块下的高度集成计算摄影。为什么这么说呢?你有什么依据?请你听我讲解索尼首台搭载AI智能芯片A7R5的超强实力吧!2022年10月26日,索尼更新了全新一代的A7R...

手机怎么才能不被扫到(“一天下来,脸要被扫十几次”,如何防止人脸识别技术滥用?)

打开手机,上海市民陈宽发现,每天需要进行人脸识别的App太多。“从手机银行App到购物软件,从化妆类App到游戏防沉迷……一天下来,脸要被扫十几次。”对此,陈宽感到颇为担忧:“虽然有些App使用人脸识别是出于使用需求...

手机从哪里扫码验证真伪(手机NFC能检查出茅台真假吗?有哪些茅台无法使用手机NFC识别)

...事,茅台已经为我们打上了另一层更强的防作假措施.....手机NFC扫描,但这功能对于很多茅粉来说很少去尝试使用,简单的说很多时候碍于不会用这个功能而忽略了这点。今天就来给大伙介绍怎样用手机NFC扫描茅台酒验其真假。1...

意大利品牌衣服都啥牌子(穿上这种来自意大利时尚品牌Capable的服装可以人脸识别系统认不出你)

...说它的视觉混乱和极其昂贵的棉织品是为了甩开人工智能面部识别系统,通过欺骗机器学习系统,使其认为你是一种动物而不是人类。人们不希望被广泛的面部识别技术追踪的原因有很多--对大多数人来说,现在全世界的政府都...

梯控系统接线图(AI语音识别电梯门禁、语音梯控、语音电梯)

AI语音识别电梯门禁、语音梯控、语音电梯AI语音识别器技术参数产品图片功能特点AI语音识别模块基于深圳多奥流式识别技术的,实现边说边识别,并实时输出指令实现硬件控制。语音识别准确率达99%,多奥语音电梯识别技术高...

打卡机结构设计(戈埃尔面部识别打卡机气密性防水检测测试实例)

...而不能打卡的问题,使考勤统计更真实、准确。那么如果面部识别打卡机安装在室外需要具备什么条件呢?面部识别打卡机要用在户外露天的场合,就需要具有良好防水功能,以免在使用过程中因为天气的原因造成雨水等的水进...