欺骗计算机视觉软件越来越容易?一个纸片就搞定!

转载 2018年01月10日 00:00:00



硅谷Live / 实地探访 / 热点探秘 / 深度探讨



一张纸片,香蕉秒变烤箱!




如果你想要尝试欺骗一下 AI 视觉系统,这篇文章介绍的这些小纸片可以帮不少忙。


很长一段时间,计算机科学家都在尝试生成可以欺骗AI的特殊图像。这些图画或是形状被称为“对抗性图像”,它们可以利用计算机看世界的弱点来进行攻击。你可以将他们想成一种错觉,一种 AI 的错觉。它们可以被制成眼镜来欺骗面部识别系统,也可以被打印成真实物体,而现在,谷歌的研究者们将他们缩小成了一块纸片。


日前,谷歌研究人员发布了一篇记录这些纸片发明过程的论文。虽然这算不上标志一个新技术天翻地覆的分水岭,但也是对抗性图像技术的一个重要突破。这些图像不仅可以在世界各地被打印出来,还非常的灵活。不像其他对抗性攻击,他们不需要附着在被识别的图像上面,研究人员也不需要小心调整他们在图像中的位置。在展示的视频中,研究人员轻松将香蕉变成了一只烤箱。



研究者们在论文中写到,这些纸片“允许攻击者在对实际亮度,摄像机角度,真实事物的标签,甚至是旁边还有没有其他物体都不知情的情况下进行攻击。”所以,当这样的图像被生产之后,“它可以被上传在网络上,供所有攻击者打印使用。”


这就是为什么很多人工智能研究者担心这样的攻击会被运用到无人车运行系统中。想像一下这样一个小纸片就可以让你的座驾以为自己识别到了一个减速标记,或者可以让你的车子在人工智能监督系统中消失。“即使人们可以看到这些纸片,他们也无法知道它们究竟有什么功能。”



还好,现阶段我们还不需要担心这样的攻击。虽然对抗性图像可以非常有效,他们并不是对所有 AI 系统都一样有效。这篇论文中的谷歌研究者花费了很长的时间来制作这样的图像,而且知道他们想要攻击的视觉系统的代码。但这一研究仍然显示出类似攻击正在变得越来越灵活和有效。而这一切只是个开始。


本文编译自 The Verge


想和探长聊一聊?来加探长个人微信号 svinsight




推荐阅读

区块链报告 脑机接口报告 

硅谷人工智能 | 斯坦福校长

卫哲 | 姚劲波 | 胡海泉 

垂直种植 | 无人车

王者荣耀 | 返老还童 



计算机视觉领域稍微容易中的期刊(二)

计算机视觉领域稍微容易中的期刊系列 (1)适合于图像处理方向的SCI期刊杂志列表 (2)模式识别、计算机视觉领域期刊 模式识别、计算机视觉领域期刊   (1)pattern reco...
  • tiandijun
  • tiandijun
  • 2015年09月06日 15:54
  • 1385

计算机视觉软件介绍

计算机视觉软件介绍 原位置:http://www.facedetection.com/facedetection/software.htm WEB SERVICES WEB SERVICES 通...
  • yueguanyun
  • yueguanyun
  • 2013年02月16日 16:58
  • 1913

【计算机视觉】【视频处理】开源计算机视觉工具

开源生物特征识别库 OpenBR OpenBR 是一个用来从照片中识别人脸的工具。还支持推算性别与年龄。 使用方法:$ br -algorithm FaceRecognition...
  • LG1259156776
  • LG1259156776
  • 2017年03月10日 22:49
  • 767

计算机视觉开源项目

特征提取 SURF特征: http://www.vision.ee.ethz.ch/software/index.de.html(当然这只是其中之一) LBP特征(一种纹理特征):http://w...
  • Linear_Luo
  • Linear_Luo
  • 2016年08月27日 13:43
  • 2109

计算机视觉(一)

大多数常用的OpenCv函数都在cv2模块内,cv2并非指OpenCv2.x.x,是指该模块引入了一个跟好的API接口 一、二维Numpy创建图像 cvtColor:格式转换 def cvtColo...
  • m0_37264397
  • m0_37264397
  • 2017年12月22日 20:19
  • 34

计算机视觉和AI | CV小结 | 附资源分享 | 解读技术

|懒人阅读:计算机视觉的应用无处不在,就像视觉是我们感知世界的最主要方式之一,所以其应用场景和公司也数不胜数。机器学习、深度学习等技术使用到CV之中后,为很多复杂视觉信号的处理带来了可能,从而可以进行...
  • u9Oo9xkM169LeLDR84
  • u9Oo9xkM169LeLDR84
  • 2017年12月22日 00:00
  • 98

别被你的双眼所欺骗!100张神奇的视觉欺骗图

人类的大脑分工不同,所导致的眼睛所见到的图像在左右脑中处理时产生了不同的应激反应。人在看某些特殊的图像景物时,出现的视幻觉。这种幻觉使人感受到的和现实中的景物不符,使人感到有一种被欺骗的感觉。今天为大...
  • pizi0475
  • pizi0475
  • 2015年04月16日 15:04
  • 13443

计算机视觉的专家和网站

计算机视觉的专家和网站 分类: cv 2013-11-20 21:04 112人阅读 评论(0) 收藏 举报 DIP cv 目录(?)[+] 通用库Gener...
  • worldy
  • worldy
  • 2013年12月22日 17:19
  • 3649

【好玩的计算机视觉】物体跟踪及屏幕涂鸦

好久没来CSDN了,还是写博客的岁月更加充实。这次开个新的专栏【好玩的计算机视觉】,打算做一些从入门到进阶过程中好玩的程序分享给大家,抛砖引玉。因为计算机视觉和摄像头分不开,所以以后这个专题标配一个d...
  • littlethunder
  • littlethunder
  • 2016年06月08日 19:23
  • 3758

深度学习在计算机视觉领域的前沿进展

在今年的神经网络顶级会议NIPS2016上,深度学习三大牛之一的Yann Lecun教授给出了一个关于机器学习中的有监督学习、无监督学习和增强学习的一个有趣的比喻,他说:如果把智能(Intellige...
  • u012507022
  • u012507022
  • 2017年01月08日 08:21
  • 3040
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:欺骗计算机视觉软件越来越容易?一个纸片就搞定!
举报原因:
原因补充:

(最多只允许输入30个字)