欺骗计算机视觉软件越来越容易?一个纸片就搞定!

转载 2018年01月10日 00:00:00

?wx_fmt=jpeg&wxfrom=5&wx_lazy=1


硅谷Live / 实地探访 / 热点探秘 / 深度探讨



一张纸片,香蕉秒变烤箱!




如果你想要尝试欺骗一下 AI 视觉系统,这篇文章介绍的这些小纸片可以帮不少忙。


很长一段时间,计算机科学家都在尝试生成可以欺骗AI的特殊图像。这些图画或是形状被称为“对抗性图像”,它们可以利用计算机看世界的弱点来进行攻击。你可以将他们想成一种错觉,一种 AI 的错觉。它们可以被制成眼镜来欺骗面部识别系统,也可以被打印成真实物体,而现在,谷歌的研究者们将他们缩小成了一块纸片。


日前,谷歌研究人员发布了一篇记录这些纸片发明过程的论文。虽然这算不上标志一个新技术天翻地覆的分水岭,但也是对抗性图像技术的一个重要突破。这些图像不仅可以在世界各地被打印出来,还非常的灵活。不像其他对抗性攻击,他们不需要附着在被识别的图像上面,研究人员也不需要小心调整他们在图像中的位置。在展示的视频中,研究人员轻松将香蕉变成了一只烤箱。


640?wx_fmt=png&wxfrom=5&wx_lazy=1


研究者们在论文中写到,这些纸片“允许攻击者在对实际亮度,摄像机角度,真实事物的标签,甚至是旁边还有没有其他物体都不知情的情况下进行攻击。”所以,当这样的图像被生产之后,“它可以被上传在网络上,供所有攻击者打印使用。”


这就是为什么很多人工智能研究者担心这样的攻击会被运用到无人车运行系统中。想像一下这样一个小纸片就可以让你的座驾以为自己识别到了一个减速标记,或者可以让你的车子在人工智能监督系统中消失。“即使人们可以看到这些纸片,他们也无法知道它们究竟有什么功能。”


640?wx_fmt=jpeg


还好,现阶段我们还不需要担心这样的攻击。虽然对抗性图像可以非常有效,他们并不是对所有 AI 系统都一样有效。这篇论文中的谷歌研究者花费了很长的时间来制作这样的图像,而且知道他们想要攻击的视觉系统的代码。但这一研究仍然显示出类似攻击正在变得越来越灵活和有效。而这一切只是个开始。


本文编译自 The Verge


想和探长聊一聊?来加探长个人微信号 svinsight




推荐阅读

?wx_fmt=jpeg

区块链报告 脑机接口报告 

硅谷人工智能 | 斯坦福校长

卫哲 | 姚劲波 | 胡海泉 

垂直种植 | 无人车

王者荣耀 | 返老还童 



?wx_fmt=jpeg

计算机视觉领域稍微容易中的期刊(二)

计算机视觉领域稍微容易中的期刊系列 (1)适合于图像处理方向的SCI期刊杂志列表 (2)模式识别、计算机视觉领域期刊 模式识别、计算机视觉领域期刊   (1)pattern reco...
  • tiandijun
  • tiandijun
  • 2015年09月06日 15:54
  • 1363

计算机视觉领域稍微容易中的期刊系列(二)

表1. 适合于图像处理方向的SCI期刊杂志列表 ISSN 期刊名 出版周期 1057-7149 IEEE TRANSACTIONS ON IMAGE ...
  • tiandijun
  • tiandijun
  • 2015年07月28日 17:36
  • 1946

利用WinPcap编程,实现基于ARP欺骗的中间人攻击

*******此实验旨在交流学习,请勿用在非正常合法途径*******利用WinPcap编程,实现基于ARP欺骗的中间人攻击 一、实验内容 利用WinPcap,分别向被欺骗主机和网关发送APR请求包,...
  • Ni9htMar3
  • Ni9htMar3
  • 2017年01月19日 08:51
  • 2122

计算机视觉领域稍微容易中的期刊

计算机视觉领域稍微容易中的期刊 转载自:/carson2005/article/details/6292748。因为自己毕业也要求发SCI,特此收藏。...
  • tiandijun
  • tiandijun
  • 2014年10月15日 15:31
  • 1502

计算机视觉领域稍微容易中的期刊

/carson2005/article/details/6292748
  • YLH9604
  • YLH9604
  • 2015年12月28日 16:40
  • 272

计算机视觉相对容易的期刊

模式识别,计算机视觉领域,期刊 转自:/carson2005/article/details/6292748  (1)pattern recogni...
  • a200800170331
  • a200800170331
  • 2013年12月13日 17:23
  • 554

自己整理的计算机视觉领域稍微容易中的期刊(第一版)

模式识别,计算机视觉领域,期刊   (1)pattern recognition letters, 从投稿到发表,一年半时间 (2)Pattern recognition 不好中,时间长 (3)IEI...
  • u013035197
  • u013035197
  • 2017年05月31日 12:14
  • 270

计算机视觉领域稍微容易中的期刊(第一版)

模式识别,计算机视觉领域,期刊   (1)pattern recognition letters, 从投稿到发表,一年半时间 (2)Pattern recognition 不好中,时间长 (3...
  • aa512690069
  • aa512690069
  • 2013年11月15日 10:25
  • 855

计算机视觉领域稍微容易中的期刊

(1)pattern recognition letters, 从投稿到发表,一年半时间 (2)Pattern recognition 不好中,时间长 (3)IEICE Transacti...
  • u013360881
  • u013360881
  • 2014年09月25日 13:06
  • 369

图像处理、计算机视觉领域稍微容易中的期刊

模式识别,计算机视觉领域,期刊   (1)pattern recognition letters, 从投稿到发表,一年半时间 (2)Pattern recognition 不好中,时...
  • charlene_bo
  • charlene_bo
  • 2017年06月27日 14:54
  • 168
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:欺骗计算机视觉软件越来越容易?一个纸片就搞定!
举报原因:
原因补充:

(最多只允许输入30个字)