AI技术黑暗的一面——犯罪份子和人工智能的孽缘

　　机器学习是现在咱们都打了鸡血想用或许在用的技能。

　　可是，你认为只需好人能用它吗?Too young too simple!

　　接下来，我将揭秘AI技能漆黑的一面——违法份子和人工智能的孽缘。

　　当核算科学发展的不行完善，还没能处理启发式问题的时分，许多安全问题都是运用规矩来处理的，这些规矩都是“死”的。

　　那时分没人觉得核算机可以破解暗码、读出来验证码内容或许把握马路交通的规矩。可是现在，人工智能发展极快，老掉牙的依据规矩的安全保障系统垂手可得的就被AI秒成渣。

　　验证码和AI的不解情缘

　　当咱们上网的时分，最烦的就是验证码，它老是来让你填。这是核算机在断定你却是是个“大活人”，而不是一个程序在歹意进犯拜访它。

　　这样做是由于咱们人类用户经过鼠标键盘拜访某个网站或资源的这个操作，核算机都能用一段程序来相同做到。

　　比方说，当你连续三次在登陆Facebook的时分输错暗码，网站必定会跳出来一个验证码来断定你是个活人而不是歹意暴力破解暗码的程序(当然了，我会首先想到梯子被踹了)。Facebook还有许多公司的服务器都是这种安全措施，而这种安全措施都是用验证码的，比方常见的验证码长成这样：

　　多年以来，验证码都能有用的区别歹意进犯代码还有人类用户。可是现在聪明AI年代到来了，验证码在它面前仿佛就是送分题。

　　CNN(卷积神经网络)就是一个很简略的技能来破解验证码，只需你能给他许多的验证码学习数据集。每张验证码都有一个特定的方针，辨认文字或许辨认物体之类的。

　　可是，这些问题在CNN面前都将形同虚设。上述说的仅仅一个简略的栗子，没太多的技能术语，只需知道简略的神经网络的原理就能看懂。

　　已然验证码的维护都不起作用了，暴力破解的要挟就更可怕了。你或许会说，我看到过更难的那种验证码，就是从一堆图片里找出个公交车或许找出路牌儿之类的那种(你必定没少上Youtube!) 。但其实，它们关于AI来说也不难，你必定听说过谷歌大法的方针检测有多巨大，尽管谷歌仅仅把它作为搜索引擎的一个根底功用来用。

　　GAN和暗码的那些事

　　注：GAN = Generative Adversarial Networks，读音：干!翻译是对立生成网络。

　　咱们的暗码一般不会设的特别古怪，长这样的毕竟是少类： 5f2#V0”P?oz3(几乎就是异类了)。

　　差不多咱们的暗码都长成这样：kronebourg1664，姓名加数字大小写什么好记还好输入。

　　当然了，也有少部分不怕死的这么设暗码：password(必定老被盗)。

　　关于猜到第一种暗码，我天，太难了，不论是对人脑来说仍是对一块GTX 1080 GPU来说都太难猜中了(GTX 1080是一块英伟达家的GPU，不仅仅能用来玩游戏，现在更多人用来跑深度学习工程)。

　　可是其他的暗码嘛，相对来说就简略一些了。所以咱们怎样猜这些暗码呢?最简略的办法就是翻一本厚厚的字典，然后将每个单词都当成暗码去试。这种情况下假如你也就能猜顶用“password”当暗码的童鞋了。

　　什么?你真的拿“password”当暗码?哥们儿，英语不错呀，你怎样不试试拼音“mima”当暗码?赶忙换一个靠谱的吧……

　　现在，来点高科技的，用AI来猜你的暗码。你认为AI还会翻字典?当然不是，神经网络会自己发生一大堆暗码候选项。咱们就用这堆候选来攻破你的暗码。很玄幻?读一读PassGAN这篇文章吧，下面这个图讲了这堆候选项是怎样发生的。

　　PassGAN：A Deep Learning Approach for Password Guessing的arxiv链接是：

　　就算你对神经网络很熟，这篇论文可能看起来也不是那么轻松。 这不是简略的经过输入来猜想成果，它是先从数据里边学习数据的特色，然后让生成器生成一些具有相似特色的样本出来的特殊网络结构。

　　专业上叫Generative Adversarial Network(对立生成网络，一般简写成GAN，提出GAN的就是那个写深度学习花书的大神古德菲洛)。GAN里边包含了两个神经网络，一个生成器和一个查看器。

　　查看器用于查验输入的数据是否合理，生成器用于来回折腾演化自己让生成的数据能在查看器眼皮子底下蒙混过关。

　　译者注：这里有个链接，我觉得可以不加，由于就是在一个门户里搜了一下神经网络关键词的成果，毫无养分……然后那个啥，GAN的解说我没用原文，由于太单调了怕他人看不懂，我就结合自己的认识写了一个，假如翻译的欠好的话再联络我翻译这句。

　　为了运用PassGAN，咱们要有一个不知道哪儿来的实在的暗码数据集(或许是某东某讯某度走漏的?)。从这个数据集里最少能知道人们实在运用的数据集大约长成什么样。一般就是有一些大写字母，一些日期，一些随机的数字，一些姓名之类的。

　　然后呢，咱们要用到一个噪声发生器，就是生成一些随机数用的。噪声发生器和暗码数据集就是咱们神经网络模型的输入了。

　　网络的输出就是二分类值，也就是说在有监督练习的时分，网络模型会被告倾诉这个暗码是实在的仍是假的。

　　在每次神经网络前向传递的时分，网络的输出都会跟实在的标签值进行比较，然后带着这个误差值反向传递回去迭代修正网络的权重。生成器也会跟着模型的练习而生长，由于跟着网络模型改变，生成器依据噪声所发生的成果也越挨近实在的暗码。

　　当生成器练习结束之后，之后咱们再输入一个噪声，网络就能输出一个特别实在的暗码。所以咱们只需让PassGAN运转几个小时，就能得到一堆暗码候选项了。

　　AI和网络垂钓的那些事儿

　　垂钓是很常见的黑客技能。你必定收到过一些看着不太对劲的邮件，自称是银行、移动联通或许微博的人。然后邮件里边还给你一个链接，跳到一个能让你中毒的网页。

　　想做这样一个垂钓邮件，你只需照着Facebook或许什么其他大公司的邮件款式外观和语言仿制一封即可。然后又见里边说你的软件得更新，或许点开看看这里有什么惊喜，或许让你填写登陆信息等。

　　简略粗犷还老套。不论你写了什么，成果都会被发送到不法分子的服务器上。先不说这个，AI是怎样跟垂钓勾搭上的?

　　机器学习里边有个利器叫爬虫，它能经过爬取方针网站的各种信息来改善垂钓技能。经过爬虫保存下来的数据，黑客们可以学习到这些网站的外观，还有文字书写的风格，然后据此产出许多的假邮件然后大规模发送。可是有邮件不知道往哪儿发也是个问题。所以聪明的黑客还能经过前面咱们说的GAN技能来猜想邮件地址，这就增加了让人受骗的时机。

　　有的童鞋可能说了，现在咱们用的邮箱里边都有反垂钓的安全措施～安全的很。但悲惨剧的是，现在的机器学习现已知道怎样发生可以经过垂钓查看的垂钓邮件了!

　　练习集是这样婶儿的，一大堆邮件，一些邮件是被反垂钓拦住的，还有一些是能成功发送的。然后咱们就能据此练习处一个神经网络模型，来知道垂钓算法是怎样检测的。在不久的将来，垂钓邮件或许都是这种反垂钓巨网下的“漏网之鱼”。

　　https://albahnsen.com/wp-content/uploads/2018/05/deepphish-simulating-malicious-ai_submitted.pdf

　　咳咳，总结一下

　　好消息是，目前只需三种被AI霸占的安全范畴。坏消息是，还有巨多的场景正面临着AI黑客的要挟，比方欺诈广告等。可是我信任AI在合法的范畴中使用所带来的优点要远大于不法之徒将它们用于作恶上的害处。

　　其实，挺挖苦的，现在有许多将人工智能用于侦破违法活动的事例，从街头的巡查到网络欺诈都有所规划。最终总结一下：

　　1.假如你觉的自己的暗码能让GAN给猜到的话，赶忙换个暗码吧，比方xiaobianhenshuai就很不错(由于没人觉得小编帅，所以GAN学不到这个信息)。

　　2.别点开不知道谁发给你的链接，除非你非常断定发邮件的人没问题;

　　3.千万别用AI做恶呀!