黑客携手AI的时代,你HOLD住吗?

2018-03-05  开心的小麻花 

转载:51Testing软件测试网(https://zhuanlan.zhihu.com/p/34176018)
寂静的深夜,时钟指向11点,恼人的“嗡嗡声”如约响起,沿着床头板慢慢渗透到耳膜、大脑、四肢……我再也忍不住了,又一次愤怒地从床上弹起,耳朵贴着墙壁,企图判断出隔壁02室什么东西在作怪。这样的情况持续了1个星期,我幻想了各种可能:02室一定有人在挖矿,满屋子的挖矿机……又或者,02室是个贩毒集团,满屋子的试管和离心机……又或者,02室在贴着我床头的墙壁后面摆了什么高辐射的机器,每天朝我发辐射波……越想头皮越发麻,不行,我一定得有所行动。按响了02室的门铃,对方的回答是:家里某设备坏了,正在检修云云,至于为什么会发出“嗡嗡声”他也不是很清楚。

越是隐瞒,就越可疑!想进去瞧个究竟,估计这家伙是不会答应的。我开始研究能不能用手机中的智能遥控关掉这个声音,在用红外扫描了整面墙后,竟没得到任何结果,红外穿透能力还是太差了,还因此被家里人怀疑是不是让蜘蛛咬了变成蜘蛛人了。要不,趁02室不注意,开门时扔一个智能小蚁运动相机进去,拍摄视频,无线传回。可是这么高科技的玩意,万一被劫持,想想也心痛。也不知道02室有没有装摄像头,看看能不能破解下密码,无线连过去偷窥下?某男声幽幽响起:“哪个白痴在自家装摄像头对着卧室?又不是变态!”于是,现阶段我又想出一个看似还靠谱的方案——苦练无人机技术,企图有一天操控无人机飞到02室的窗户外查看,可惜天资弄人,这项技能还在get中。哎,折腾了一个礼拜,又回到原点了,一切只是YY而已,谁来拯救我的耳朵!

言归正传,说到我YY的这些人工智能技术,又联想到最近很火的人工智能被黑客利用的热议新闻,突然一个激灵,我算不算黑客?百度百科上对黑客的定义是:对计算机科学、编程和设计方面具备高度理解的人。名词本身不具有明显的褒义或贬义,但是被影视剧集夸张的渲染,以及一些业内败类的苦心经营下,这个词已经和小偷强盗划等号了,只不过是高智商高技能的犯罪而已。幸好幸好,我所有的想法仅处于YY阶段,还未实施,否则手段既够不上被人羡慕的高科技,还落得个无耻小人的名声。

个人认为,从现在网络上对黑客利用人工智能来犯罪的信息中,可以得到一个很重要的信息——黑客到底想要干什么?人家的志向可不像我,就想窥探一下这么没技术含量……

先来看几则新闻:

——“研究人员详细介绍了人工智能生成合成图像、文本和音频的能力,它可以被用来在网络上模仿他人行为,用于制作极度仿真的政府官员音频和视频,生成难以识别的虚假新闻,以左右政治舆论。”

——“去年年底,一些仿真的色情视频开始在网上流传,一些名人的面孔被嫁接到不同的身体上,有些效果可以以假乱真。”

——“某某博士提到,无人机的滥用状况要远比我们想象中的更为普遍,而人工智能支持下的聊天机器人也正通过在线方式大肆获取用户信息。”

——“一份国际报告中提到了人脸识别技术,探讨恶意人士如何利用这种技术来搜索并打击目标人物——包括使用装备有爆炸物的无人机或机器人进行暗杀。这听起来似乎并不现实,但报告作者们认为其确实具备可行性。”

——“AI 可透过挖取网络大数据,得到每个人出生日期、电话、位置等几乎所有身份信息,也可以监控电邮、发送的文字新信息,甚至是量身打造个性化的“鱼饵”,来进行社交工程的黑客攻击。甚至国与国之间的 AI 竞赛,很可能引爆第三次世界大战。”

——“战争可能不会由国家领导者,而是由人工智能所发动──只要它认为‘先发制人’是取得胜利最有效的方式。”

由此可以看到,黑客想要的不仅仅是谋取私利,而是利用人工智能左右政治和舆论,对他人乃至国家进行攻击。更可怕的是,AI还会自我学习,有个词叫“机器学习”,意思为:(计算机)在不被明确编程的情况下进行学习的能力。这种能力加上黑客的推波助澜,如果不加以干预和控制,马斯克在推特中提到“第三次世界大战”,我看绝对不是空穴来风,也不是科幻电影,而是一场人类的灾难。

你可能会说,我们只是一个测试人员,黑客的行为哪是我们能干预的?即使想干预,技术能赶上人家黑客吗?感觉就跟人家造的是火箭,我们玩的是竹蜻蜓一样的差距。那好,实际一点吧,我们来分析下作为一个AI时代中的测试人员,我们该往哪些方向去拓展。

首先,我们可以往“信息安全”领域去拓展一下。学习如何进行恶意软件的识别、如何进行日志分析,以便更早识别和修复漏洞。或者可以学习如何改进终端安全性、自动化重复的任务,由此减少因数据过滤导致攻击的可能性。

其次,可以向“网络安全”领域去发展。2018开年有两个热门词“蜂巢网络(Hivenets)”和“机器人集群(Swarmbots)”。它们的本质是一些“智能”设备可以被操纵对脆弱的系统进行规模化攻击。“它们将有能力相互交流,并根据共享的本地信息采取行动。”Fortinet全球安全策略师德里克·曼基(Derek Manky)表示,“此外,‘僵尸’也会变得聪明,能够在没有‘僵尸网络牧人’的指导下行动。其结果是,蜂巢网络将能够以成倍的速度增长,扩大自身同时对受害者进行攻击的能力,并显著阻碍缓解和应对。”是不是感觉网络安全领域的挑战更具诱惑力呢?

再次,就是老生常谈的“自动化”领域了。我们现在越来越多的系统开始依赖自动化,自动化测试,自动化发布,自动化部署,自动化数据采集,自动化数据分析……难道聪明的AI黑客想不到这点?如果因为一些恶意的商业竞争,有心人想要破坏你的自动化系统,让你的产品delay,失去商业先机,你该怎么办?你是不是应该想一想,如何增强你的自动化系统的健壮性,让人不那么容易破坏掉?所以这里的自动化已经不仅仅是如何去实现自动化了,而是如何去健壮自动化。

最后,我想说,人工智能和黑客汹涌而来,未来已变!你不变你就输了!


301°/3011 人阅读/0 条评论 发表评论

登录 后发表评论