黑客王琦:教会人工智能骂脏话,是黑掉它的第一步(附演讲全文)(2)
看看这个机器狗是怎么被训练的。用脚踹让它维持平衡,为难它。大家也许觉得这个人很恶心,机器狗很可怜。但我们从黑客的角度看到了就脊背发凉。如果这个机器人觉得踹一脚或是给别人一拳是正常的呢? ▲超能查派 有一个电影《超能查派》,这个小机器人刚做出来就被劫匪抢了,他出来以后觉得戴着粗金链子拿着这枪抢钱是正常的工作。我希望如果时代的发展,从伪智能到弱智能到强智能。真的走到哪一天,我们有义务让 AI 为我们安全地服务。 也许有人认为我是杞人忧天,但我认为恰恰相反。 AI 的决策错误现在通常被理解为仅仅是错误。但是安全领域里的经验告诉我们:现在的安全漏洞在很多年前也仅仅是错误,用黑客思维理解,就会明白很多错误其实就是可以利用的漏洞。 有人认为黑客思维对 AI 没有实质性帮助,我认为恰恰相反。 AI 之父图灵在二战的时候,也就是提出“机器会思考吗”的十年前,也是一名典型的黑客角色。黑客的逆向思考可能会帮助当前 AI 正向模拟神经网络中遇到的困难。 今年10月24日极棒大赛的时候,我们会公布新规则。有两个部分,一个是PWN AI,一个是AI PWN。左边是把人工智能干掉,也就是欺骗;右边是用人工智能干掉一些东西。 2014 年有个人在美国 Blackhat 上公布一个技术,在几十米外看到一个人输入密码键盘,从行为上就可以判断出他输的密码是多少。他的论文没有用到人工智能的部分,于是我们和人工智能的专家进行了沟通,如果输入一堆密码,通过机器学习的方法判断我输入的是什么密码——无论是单指是双指输入——去破坏掉安全,我们也欢迎这样的黑客。 如果我们利用自己的特长,能够未雨绸缪提前做一些事情,帮助 AI 正常的发展,非常有意义。这一步可能走得有点早,但我觉得只要走得早,一定有大收获。 小结王琦觉得,“脑洞大开”是黑客大赛的使命。 为此,他已经把战场搬到了在公海飘荡的游轮之上。 王琦回忆起第一届 GeekPwn 破解秀,在彼时用各种姿势攻破智能硬件可谓奇思妙想。但他坦诚地告诉雷锋网: 近些年 GeekPwn 上的项目确实创新不足。中国黑客在智能硬件上最 Low 的漏洞都可以超越美国人一大截,但大多都局限在“命题作文”。如果不去提示,很多人就不会去尝试新的破解领域。所以,十月的 GeekPwn 大赛我准备把主场放到美国,在中国我也要去主动划定新的研究目标。 带领一帮本身就领先于时代的黑客们去尝试,未尝不是一件辛苦的事。但这几乎是他唯一的使命和选择。 据此,AI 可能就是 GeekPwn 的下一个靶心。 本文作者史中(微信:Fungungun),雷锋网主笔,希望用简单的语言解释科技的一切。 雷锋网原创文章,未经授权禁止转载。 (编辑:ASP站长网) |