bt365手机平台-下载首页

  • bt365手机app的研究生洛根恩斯特龙(左)和安德鲁·伊利亚斯·发表了五份文件一起有探索计算机视觉系统的漏洞,他们有半打更多的管道。

    bt365手机app的研究生洛根恩斯特龙(左)和安德鲁·伊利亚斯·发表了五份文件一起有探索计算机视觉系统的漏洞,他们有半打更多的管道。

    照片:金·马蒂诺

    全屏

为什么我的分类只是误以为步枪乌龟?

bt365手机app的研究生洛根恩斯特龙(左)和安德鲁·伊利亚斯·发表了五份文件一起有探索计算机视觉系统的漏洞,他们有半打更多的管道。

两名老朋友探讨计算机视觉系统是如何出差错。


记者联系

金·马蒂诺
电子邮件: kimmarti@mit.edu
电话:617-710-5216
bt365手机app追求情报

几年前,一个图像或路牌在欺骗通过巧妙地改变像素的计算机视觉系统的概念,黑客似乎比什么假想威胁的严重担心。毕竟,在现实世界自驾车将其感知从多个角度操纵的对象,抵消任何误导性的信息。至少,这就是一项研究 声称.

“我们认为,有没有办法,这是真的!”说bt365手机app的博士研究生 安德鲁·伊利亚斯,然后在bt365手机app大二。我和他的朋友 - 阿尼什athalye,洛根恩斯特龙,和杰西林 - 龟缩在bt365手机app的学生中心,并想出了一个实验,以反驳的研究。他们会打印一组三维海龟,并显示在计算机视觉分类可能误以为是步枪。

他们的实验结果, 发表 在去年的国际会议上的机器学习(ICML)被广泛覆盖的 媒体,并担任多么脆弱的人工智能系统自动驾驶汽车的后面,面部识别软件可能是一个提醒。 “即使你不认为将意味着扰乱攻击你的站牌,它的困扰,这是一个可能性,说:”伊利亚斯。 “关于敌对例如研究是不是优化的平均情况最坏的情况。”

由于没有教师的合着者为他们提供担保,伊利亚斯和他的朋友研究化名他们的“实验室6,”上戏下发布 当然6,他们的 电气工程和计算机科学系 (EECS)专业。伊利亚斯·恩斯特龙和,现在bt365手机app的研究生,将继续发布五个文件一起,用半打更多的管道。

当时,通过实例所带来的风险仍然很差对抗性解读。亚·莱卡,脸谱的头部AI,著名 淡化问题 在推特上。 “这是深度学习的说法的先驱之一,这是怎么回事,他们说,罗!” EECS教授说: 亚历山大madry。 “这只是不好听他们,他们决心证明为什么。他们大胆很MIT“。 

问题的程度的增长更加清晰。在2017年,IBM公司的研究员 针宇晨 显示 一个计算机视觉模型可以在所谓的黑盒攻击通过简单地喂养它逐渐改变的图像,直到有导致系统失败会受到影响。去年扩大对陈的工作在ICML,实验室6组 突出 多分类情况下这可能是受骗分别为滑雪者和猫鳄梨,狗,令人目不暇接。

ESTA春天,伊利亚斯,恩斯特龙,和madry提出了一个框架,在ICML制作暗箱攻击几次从每个欺骗尝试利用信息更快的体会。安装更高效的黑箱攻击的能力允许工程师重新设计他们的车型更加有弹性。

“当我遇到本科生安德鲁和洛根,他们好像已经经历研究,”陈表示,世卫组织通过与他们现在的作品 MIT-IBM沃森人工智能实验室。 “此外,他们是伟大的合作者。如果一个人在说话,其他的跳跃,并完成他的思想。“

这是动态展示最近的伊利亚斯·恩斯特龙和在Stata坐下来讨论他们的工作。似乎伊利亚斯内省和谨慎,恩斯特龙,外向,有时候,性情急躁。

“在研究中,我们认为有很多,说:”伊利亚斯。 “如果你喜欢,你也加强彼此的坏主意。”恩斯特龙点了点头。 “它会变得非常紧张。”

当谈到时间写论文,他们轮流在键盘上。 “如果是我,我添加词语,说:”伊利亚斯。 “如果是我,我砍的话,”恩斯特龙说。

恩斯特龙加盟madry实验室的superurop项目作为小辈;伊利亚斯加入去年秋天早完成他的本科学位和孟后第一年的学生攻读博士学位。与其他面顶尖研究生院计划书,伊利亚斯的选择留在bt365手机app。一年后,随后恩斯特龙。

ESTA春天一对回来的消息再次,用 新方法 望着对抗性的例子:不是错误,但特点相应图案太微妙了人类感知仍在学习算法有用。我们知道本能人和机器不同的看世界,但文件表明,该差异可能是分离和测定。

他们训练模式的基础上的猫“稳健”来标识身份特征识别的人类,“非强大的”,具有典型的忽视人类,并发现可能只是视觉分类从非强大的功能为强大的轻松猫识别身份。如果有的话,该模式似乎更多地依靠非强大的功能,因为这表明提高了精度,模型可能会变得容易更具对抗性的例子。 

“唯一的特殊功能,使得这些是我们作为人类是不是对他们来说,敏感的”伊利亚斯 告诉有线.

他们的灵光一现来晚了一个晚上在madry的实验室,因为他们经常做的,下面的谈话小时。 “最强大的谈话是科学发现的工具,” madry喜欢说。很快球队勾勒出实验来测试他们的想法。

“有中提出深度学习许多美丽的理论,说:” madry。 “但是,没有假设之前,可以拿出检验它的方式被接受。”

“这是一个新的领域,”我补充道。 “我们不知道这个问题的答案,并且我认为我们甚至不知道正确的问题。安德鲁·洛根有辉煌和驱动,以帮助带路。“


主题: Electrical Engineering & Computer Science (eecs), MIT-IBM沃森人工智能实验室, superurop, 追求智慧, 科学学院, 计算机科学和人工智能实验室(CSAIL), 工程学院, 人工智能, 算法, 计算机建模, 计算机科学与技术, 机器学习, 计算机视觉, 学生们, 研究生,博士后

回到顶部