自动AI警卫跟踪互联网与黑客的斗争

 作者:黄啄     |      日期:2017-10-27 01:03:03
DARPA由Hal Hodson和Sally Adee坐下来欣赏表演本月早些时候,计算机做了他们以前从未做过的事情 - 他们在没有人帮助的情况下互相攻击这场战斗将成为众多战斗中的第一场,特别是如果这些机器成为我们的在线保护者拉斯维加斯黑帽网络安全会议上的大网络挑战赛将人工智能相互对抗,而他们的人类创造者则坐下来观看为了争取美国国防高级研究计划局(DARPA)400万美元的奖金,每个人工智能试图破解其对手的计算机系统他们在保护自己的计算机的同时寻找弱点,并想出如何利用它们人造黑客的复杂程度给许多在场的人留下了深刻的印象 “这真让我感到惊讶,”华盛顿特区网络安全公司FusionX的Matt Devost说他说,这可能会改变未来10年的安全状况竞赛的目的是鼓励开发能够保护互联网免受黑客侵害的自动化系统获奖者名为Mayhem,由位于宾夕法尼亚州匹兹堡的ForAllSecure创建该公司的首席执行官大卫布鲁姆利(David Brumley)也是卡内基梅隆大学(Carnegie Mellon University)的网络安全研究员,这是该软件第一次显示出来连接设备的世界变得过于复杂,人类无法自己进行防御因此,像Brumley这样的人正在开发工具,可以扫描互联网上的易受攻击的设备并协助保护它们 “你可以建立自主防御实体,”Devost说 “你可能会释​​放其中的一个,它的唯一工作就是四处奔波,探测你的网络,找到漏洞并修补它们”ForAllSecure已经开始探索Linux操作系统,许多运行互联网的计算机都在使用它该公司计划在线发布其软件,并对其遇到的系统的安全性进行评分 “转折点是我们现在可以开始自主检查每一块软件,”布鲁姆利说 “你可以释放其中的一个并让它探测你的网络,寻找漏洞并修补它们”这个想法是让消费者在购买之前了解一个设备的安全性,让他们避免一个被发现易受攻击的婴儿监视器以黑客为例 “所有这些设备都没有得到深入研究,”他说 “如果你去亚马逊购买路由器,那么它就有很大的机会存在重大漏洞”但是还有另一面 “你现在也有可能创造自主攻击者,”Devost说 “启动其中一个,你就可以自动完成像2014索尼黑客这样的事情”Devost并不是唯一一个有顾虑的人拉斯维加斯比赛结束后不久,旧金山电子前沿基金会(EFF)的数字权利组织在其网站上发表了一篇赞美DARPA倡议的文章,但呼吁研究人员聚集在一起讨论如何防止这些系统流氓行为灾难性的破坏像Mayhem这样的软件可以用来控制连接设备的数量远远超过人类黑客自己的数量,从而开辟了新的攻击方式例如,通过劫持智能恒温器,网络犯罪分子可以通过威胁启动空调并使电网崩溃来让电力供应商赎金 EFF希望研究人员能够解决构建可以自行探测和攻击的软件的风险这些问题与处理高传染性疾病时面临的问题类似正如在实验室中修改和研究H5N1流感病毒让我们为流行病做好准备,例如,它也为该研究用于传播疾病打开了大门在Black Hat的一次演讲中,Devost开玩笑说,这场比赛预示着Skynet的发布,天网是终结者电影中的恶意AI “每个人都笑了,”他说 “人类为他们自己的死亡鼓掌!”这篇文章以标题“AI观察者”的形式出现在这些主题的更多内容: