人工AI智能的飞速进步正在将世界带入一个全新的维度,但这同一时间也将网络世界的正邪抗衡推入下一个战场。
美利坚当地时间8月10日,由 GeekPwn 主办的 CAAD Village 登陆世界天花板极客大会 DEF CON。腾讯安全云鼎实验室在 CAAD Village 上弄来前沿议题共享,云鼎实验室安全专家张壮、史博以基于卷积神经网络的多形态恶意应用检测为例,共享了安全厂商应用人工AI智能之后抗衡病毒免杀技术的效果;同一时间还站立在进攻方的视角,讲解了恶意应用使用了生成式抗衡网络之后,可绕过应用机器学习检测模型的案例。为人工AI智能趋势下的正邪抗衡弄来全新思路,受到了与会专家的重要时机关注。
“检测”与“免杀”不停进化 AI 成下一个战略高地
面对不停涌现的新型病毒和已知病毒的变异,基于病毒代码文件特性的古典检测方法逐渐变得“捉襟见肘”。张壮对此表示,针对杀毒应用的查杀机制,病毒研究者通过改写特性码、指令加花、应用加壳、改写 PE 文件等手法使病毒免于杀毒应用的查杀。
此外,免杀技术也已从黑客的专业技能变成了一项应该用低廉售价轻易获取的标准服务:在暗网只需370美元,在本国花费1800元就可获取一套免杀服务。这无疑进一步加剧了安全厂商应对病毒进攻的挑战。
而人工AI智能的急速进步,则让安全厂商观看到的了未来。张壮指出,在面对新增病毒样本数量巨大,无法有效通过手工及时添加玩法、手动玩法提取在一些问题中的不适性、人工玩法主观性较高等检测难点,人工AI智能查杀都能轻易克服。
世界各大安全厂商因此纷纷应用这一前沿科技,但详细的实现过程千差万别,云鼎实验室在会上共享了自己的实践,通过机器学习处理繁琐问题,将二进制病毒转化为一[A1] 个灰度图,使用深度学习中的卷积神经网络(Convolutional Neural Networks,简称CNN)来进行图片分类,达到高效检测新增样本和样本变种,查看出病毒的家族关系和不一样家族曾经的区别,发现再多更深层次的特性关联。
人工AI智能查杀应该处理超级多的样本,检测特性纬度更广,病毒免杀难度增大。对于加壳或者多态变形病毒也有着良好的效果,检测过程不用脱壳。但是张壮指出,人工AI智能的模型本身存在一些“视觉盲点”,简无脑单受到生成样本的进攻,更重要的是,人工AI智能的有关技术一样应该为病毒研究者所用。
没有所有的疑问,人工AI智能介入后,杀毒与反杀毒的较量将进入到下一个回合。
今年3月,《麻省理工科技评论》公布了2018年“世界十大突破性技术”,生成抗衡网络(Generative Adversarial Networks,简称 GAN)赫然在列。GeekPwn曾经对这种前沿的深度学习模型作出解读:GAN 应该无脑理解为一位创造仿制品的名画仿造者与一位名画鉴定师,两者在互相博弈的过程中健身自己的技术,让各自的技能获取提高。最终,仿造者会生成鉴定师无法判断的赝品。
《麻省理工科技评论》也表示,“它(GAN)给机器弄来一种类似想象力的实力,因此可能让它们变得不再那么依赖我们,但也把它们变成了一种实力惊人的数字造假工具”。
张壮在 DEF CON 2018大会上验证了这一预言的线下性。他表示,通过 GAN 生成器和判别器互相抗衡,应该提高病毒的伪装实力,最终生成在杀毒应用判断标准下的“非恶意程序”,使病毒成功绕过基于机器学习的检测模型 。
例如,机器对一张图片以57.7%的置信度将其归为“熊猫”,但是在应用 GAN 之后,应该使其以99.3%的置信度将其归为“长臂猿”;在被进攻前后,图像一个像素的变化,就让机器查看一个图像为“青蛙”的几率从99.999714%变为7.460092%,而这前后的巨大差额转化变成了89.782685%的几率查看成“猫咪”。
张壮进一步表示,GAN 应用在免杀中,进攻者对于被进攻模型的结构和权重都有完整的了解,而常规的进攻手法对于被进攻的模型却一无所知,“最终通过把‘黑文件’伪装变成有着高可信度的‘白文件’,以达到欺骗机器学习模型,甚至欺骗我们的目的”。
针对病毒免杀技术的新进步,张壮也给安全厂商提出了如下抵抗建议:
1、 红蓝军抗衡式的自我检测:安全厂商需要未雨绸缪,可提早自己进攻自己的模型,发现本身模型“盲点”,并及时修造复原盲点,从而提高抵抗实力;
2、 玩法不暴露:安全厂商不要暴露对恶意文件的评分状态,这样模型(鉴定器)会直支持到针对特性的进攻,给出的评分会跟你说进攻者进攻效果,对进攻者下一步的进攻方向有着指导作用,例如:哪些些特性波及大,哪些特性有效果;
3、 多维度检测:提取再多有效、稳固的特性,使得针对广泛普遍的特性生成的免杀样本一样难逃查杀。
未知攻焉知防,白帽黑客站立在进攻方的角度研究前沿技术,正在加速安全厂商学会新时代攻防的主动性。以本次研究为例,腾讯安全云鼎实验室的研究果实已应用在攻防一线,进一步提高腾讯云的云主机病毒查杀实力,守护广大客户的网络安全。