http://tech.010lm.com

人工智能对抗样本攻击:男变女,标识牌“停止”变“限速”

『北京联盟摘要_人工智能对抗样本攻击:男变女,标识牌“停止”变“限速”』南都讯采访人员陈志芳12月5日 , 在南都2019啄木鸟数据治理论坛上 , 中国电子技术标...


南都讯采访人员陈志芳12月5日 , 在南都2019啄木鸟数据治理论坛上 , 中国电子技术标准化研究院信息安全研究中心数据安全部主任胡影说 , 目前针对人工智能出现了新的攻击威胁 , 如对抗样本、数据投毒、模型窃取、人工智能系统攻击等 。

1

对抗样本攻击导致人脸识别失效

据介绍 , 以对抗样本为例 , 如果在意为“停止”的交通标识牌上贴上一些标签 , 人工智能可能就识别不出“停止”的意思 , 而会识别成“限速45公里” 。

胡影还介绍了针对人脸识别的对抗样本 , 当一名男性佩戴上3D打印的奇特眼镜 , 人工智能可能会将其识别成另一名女性 。

----人工智能对抗样本攻击:男变女 , 标识牌“停止”变“限速”//----北京联盟科技频道 http://tech.010lm.com //

3D打印的眼镜对抗人脸识别系统 。 图自网络 。

胡影说 , 人工智能技术距离“很好用”仍存在诸多瓶颈 , 通用人工智能研究与应用依然任重道远 。

即使在没有外界攻击的情况下 , 人工智能技术在实际应用中仍存在问题 。 就在去年 , 美国亚利桑那州发生了全球首例自动驾驶车辆撞死行人的事故 。 当时 , Uber的自动驾驶汽车的后台系统没有识别出马路上的行人 , 仅将其识别为“物体” 。 据外媒报道 , 美国国家运输安全委员表示 , 当时该行人是横穿马路 , 而Uber自动驾驶汽车系统设计中并没有考虑到横穿马路的行人 。

推荐

广告素材冷知识 - 休闲游戏
科技

广告素材冷知识 - 休闲游戏

ironSource旗下的广告创意工作室PlayworksStudio,也是目前全球最大的广告创意工作室,特地分析了数千万个交互式广告素材,根据超休闲,休闲,三消类,中度四大类型,总结了游戏素材特征及基准,希望对您最优化试玩广告并最大化用户获取有所帮助。休闲游戏第一期,我们...

除了华为外!谁还会用鸿蒙系统?米OV们不可能:这些巨头才会用
科技

除了华为外!谁还会用鸿蒙系统?米OV们不可能:这些巨头才会用

但实际上对于小米、OV们而言,其实也是很难会去选择使用鸿蒙OS系统,因为目前国内手机厂商都已经基于Android系统进行了二次开发,定制了属于自己的操作系统,虽然系统底层依旧是Android系统,但各家手机厂商也拥有各自的亮点以及特色,所以如今想要再次选择使用鸿蒙O系...

华为哈勃入股芯视界微电子,后者经营范围含半导体芯片
科技

华为哈勃入股芯视界微电子,后者经营范围含半导体芯片

企查查APP显示 , 9月27日 , 南京芯视界微电子科技有限公司发生工商变更 , 公司新增股东哈勃科技投资有限公司、南京芯视晶源电子科技合伙企业(有限合伙), 同时注册资本由131.25万增加至145.06万 , 增幅为10.53% 。 企查查工商信息显示 , 南京芯视界微电子科技有限...

营收增速创新低,净利润跌80%,穿戴巨头想和小米分手可不容易
科技

营收增速创新低,净利润跌80%,穿戴巨头想和小米分手可不容易

与此同时,雷军也定下了5年内投资100家生态链企业的目标。小米生态链有两个核心理念,即“竹林理论”和“航母舰队理论”。“竹林理论”形容的是生态链中的企业的关系,米家以投资的方式栽种下一片竹林,竹林有着相互补给的生态系统,一棵竹子死去后,立即会有新生的竹笋...

马云,不再担任!
科技

马云,不再担任!

9月30日晚,阿里巴巴(NYSE:BABA,09988.HK)在港交所发布的公告显示,于本公告日期,阿里巴巴的董事会包括董事张勇(董事会主席)、蔡崇信、武卫、J.MichaelEVANS、井贤栋及KabirMisra;以及独立董事董建华、郭德明、杨致远、E.B?rjeEKHOLM及WanLingMARTELLO。公告显示...

提升客户留存率的六大秘诀都在这了
科技

提升客户留存率的六大秘诀都在这了

穸┰囊滴裎薹ㄉ妗U獠皇且恢钟行У脑龀し绞剑蛭竦每突П攘糇】突Ч?7倍。今天的客户旅程已经远远超出了交易时刻,在最初的购买之后,仍然有越来越多赚取收入的机会。这意味着你必须尽一切努力,在客户离开之前延长他们的终身价值。幸运的是:你的许多客户并不...

“电亮”山城之夜,今夜他们在坚守
科技

“电亮”山城之夜,今夜他们在坚守

灯火辉煌的背后是可靠供电的坚守。为保障首届山水重庆夜景文化节相关仪式的顺利进行,国网重庆市南供电公司提前组织国网红岩(市南抢修)共产党员服务队、国网红岩(市南南岸)共产党员服务队对南滨路沿线灯饰工程供电设备开展特巡,做好供电服务保障,并安排发电车辆和...

不读书去“搬砖”?AI机器人一小时搬1000块,你行吗?
科技

不读书去“搬砖”?AI机器人一小时搬1000块,你行吗?

这条消息其实并不显眼,在当前新冠肺炎全球大年夜爆发的态势下,掉颐魅这件工作已经是全世界所有国度和群众都要面对的问题。然则这条消息却让我打了一个激灵——如不雅是正常的人事调剂或者惯例裁人确切不是什么值得存眷的消息,然则微软此次的裁人相当于用人工智能AI来...

「中国人工智能安防峰会」首批嘉宾重磅公布
科技

「中国人工智能安防峰会」首批嘉宾重磅公布

前两届峰会,我们邀请到了全行业绝大年夜部分Top级有名企业总裁级高管,汇聚了国表里百位顶尖专家、1000多位政企治理层和技巧研究察。本届峰会以「洗牌停止格局重构」为主题,邀请经由畎玛贸易剧变与人工智能浸礼,参军千家AI&安防公司中突围,并成为引领行业下一...

浙江上线冷链食品溯源系统“浙冷链” 蚂蚁区块链提供技术支持
科技

浙江上线冷链食品溯源系统“浙冷链” 蚂蚁区块链提供技术支持

据悉,浙江省市场监督治理局就已同阿里云、蚂蚁集团加强合作,阿里云供给云计算、端应用开辟的才能,及基于数据分析的食物安然追溯应用,蚂蚁供给区块链技巧。此次上线的“浙冷链”就是多方合作的最新应用。自2015年开端投入区块链,今朝蚂蚁区块链已落地到商品溯源、司...

罗永浩又来带货啦!一元秒杀,半价iPhone、iPad任你抢
科技

罗永浩又来带货啦!一元秒杀,半价iPhone、iPad任你抢

他曾经是锤子科技的CEO,是自视甚高的企业家,是目标收购苹果的野心家,是手机业界里的争议人物。而现在的他,成为了一名带货主播。6月11日讯,今天上午10:00,罗永浩在微博上传了一则新的短视频,并在短视频末尾宣布将于6月12日晚上8点开启新一期直播带货。本次带货直...

特斯拉即将自产电池!
科技

特斯拉即将自产电池!

近日,特斯拉与韩国韩华集团签订了电池制造机械的订单,预备自行临盆电池。韩国时报的报道称,特斯拉已与韩国韩华集团签订了电池化成设备的订单,用来自行临盆电池组。韩华集团是韩国最大年夜的工业企业集团,在美国以太阳能产品而有名,同时也临盆很多制造设备,除了用...