| taiyu |
2018-07-03 17:23 |
无人驾驶汽车有望成为未来普遍的交通工具，但随之而来的安全问题更引人关注，如果高速行驶的无人驾驶汽车被黑客入侵，无疑将性命交给他人。
之前，360董事长周鸿祎就曾向无人驾驶汽车泼冷水，表示上个时代的汽车是“四个轮子的沙发”，今天则是四个轮子上驮着一堆电脑加一堆手机。要跟服务器保持连接，那就一定可以被劫持。
近日，在2018全球人工智能与机器人峰会（CCF-GAIR）上，阿里巴巴安全部算法资深总监路全也指出，人工智能带来更多可能的同时，也带来了诸多安全风险，尤其黑灰产正在使用“数据污染”、“数据中毒”等新型复杂化手段，与人工智能行业的正向发展进行激烈对抗。
他以人工智能汽车的安全问题举例称，除了“利用智能算法本身缺陷改变交通标志”或以“传统的黑客入侵渗透控制其他平民汽车”等方式，可以控制攻击智能汽车外，通过向智能设备云端或系统输入污染、“中毒”数据，同样可以用来攻击人工智能系统及设备。
其攻击原理是，人工智能都基于大数据算法来实现精准运算，最终产生实际行为，正是利用这一特性，对抗方可以输入一些受污染的数据“喂养”、“训练”人工智能系统，使其偏离正常的运算目标，最终产生失焦的运算行为，从而引发一系列安全风险。
“黑灰产对抗方会用大量低级爬虫或低级流量，来试图爬取互联网公司的数据信息，他们明知低级爬虫很容易被杀掉，但仍会不惜成本投入。”这些低级爬虫样本产生的“污染数据”会影响和扭曲算法模型，最终他们还会利用少量掺杂其中的高级爬虫进行攻击。
为此，阿里巴巴除了在传统网络安全上建立安全防御体系防御黑客入侵和渗透外，还建立了全新的流量清洗智能防御系统。”路全介绍，阿里巴巴建立的机器流量防控体系主要由三部分组成，其中包括相当于“眼睛”的检测模块；以及等同“大脑”的分类模型，还有辅助系统。
|
|