北京联盟 | 科技 | 登录

人工智能对抗样本攻击:男变女,标识牌“停止”变“限速” 南都讯记者陈志芳12月5日...

北京联盟 - 科技频道 | | 来源:东方资讯

北京联盟科技频道:【本文标题是人工智能对抗样本攻击:男变女,标识牌“停止”变“限速”。。】---来源是:东方资讯

南都讯采访人员陈志芳12月5日 , 在南都2019啄木鸟数据治理论坛上 , 中国电子技术标准化研究院信息安全研究中心数据安全部主任胡影说 , 目前针对人工智能出现了新的攻击威胁 , 如对抗样本、数据投毒、模型窃取、人工智能系统攻击等 。

1

对抗样本攻击导致人脸识别失效

据介绍 , 以对抗样本为例 , 如果在意为“停止”的交通标识牌上贴上一些标签 , 人工智能可能就识别不出“停止”的意思 , 而会识别成“限速45公里” 。

胡影还介绍了针对人脸识别的对抗样本 , 当一名男性佩戴上3D打印的奇特眼镜 , 人工智能可能会将其识别成另一名女性

人工智能对抗样本攻击:男变女,标识牌“停止”变“限速”

----人工智能对抗样本攻击:男变女 , 标识牌“停止”变“限速”//----北京联盟科技频道 http://tech.010lm.com //

3D打印的眼镜对抗人脸识别系统 。 图自网络

胡影说 , 人工智能技术距离“很好用”仍存在诸多瓶颈 , 通用人工智能研究与应用依然任重道远 。

即使在没有外界攻击的情况下 , 人工智能技术在实际应用中仍存在问题 。 就在去年 , 美国亚利桑那州发生了全球首例自动驾驶车辆撞死行人的事故 。 当时 , Uber的自动驾驶汽车的后台系统没有识别出马路上的行人 , 仅将其识别为“物体” 。 据外媒报道 , 美国国家运输安全委员表示 , 当时该行人是横穿马路 , 而Uber自动驾驶汽车系统设计中并没有考虑到横穿马路的行人 。

你会喜欢下面的文章?

新光源盛行!传统灯泡4K投影机器还有市场吗?

- 阅44

激光光源现在已经褪去最初“青涩”的模样 , 现在正在一步步的发展壮大 , 逐步占领......

划重点!如何get一款有颜又有料的家用投影机?

- 阅19

家用投影市场竞争日益激烈 , 各种家用投影机产品也层出不穷 , 市面上那么多家用投......

核心小性能高 AMD 7nm产品令人惊艳

- 阅32

今年CES上AMD7nm产品闪亮登场 , 其中作为高端旗舰的AMD Radeon VII更是让人眼馋 ,......

新线索!诺基亚9五摄设计极有可能本月发布

- 阅38

IT之家1月11日消息 PhoneArena今日报道称 , 世界首款后置五摄像头的智能手机很可能......

微软正测试面向Windows 10 2018年十月更新的累积更新

- 阅38

微软最近发布了Windows 10的2019年1月累积更新 , 其中包含各种修复和改进 。 而与此......

新消息:2019 年 iPhone 不会支持 5G,但会支持 Wi-Fi 6

- 阅50

今天 WJS 在一篇文章中曝光了更多2019年 iPhone 的信息 , 如下: 今年还会有3 款新......

联想就是卖手机电脑的?那你也想得太简单了!

- 阅18

相信不少跟我一样 , 一提到联想 , 第一时间会觉得它是一家专门从事电脑和手机的公......

【签到】买手机到移动!2019华为新年照相馆送全家福活动火热来袭

- 阅45

领跑4G!周周有特惠 , 月月有好礼! ----【签到】买手机到移动!2019华为新年照相馆......

百度电商之心不死:四处挖人 要copy“网易严选”?

- 阅18

话说 , 八姐最近听说 , 百度在各种挖人和招人做自己的电商业务啊 。 比如 , 在各......

研究人员开发神经网络 可读取食谱并生成熟食产品的图像

- 阅25

来自特拉维夫大学的一组研究人员开发了一种神经网络 , 能够读取食谱并生成烹饪完成......