AI解锁无人时代，仍需数据安全保驾护航

侯树文 科技日报记者 王春

验证码登陆、移动在线支付、人脸识别门禁……技术是一把双刃剑，在给我们生产生活带来效率提升的同时，安全问题不可忽视。

随着新一代信息技术的发展，数据成为重要生产要素。在互联网、人工智能技术应用蓬勃发展的今天，数据更被视为一种无形的资产。近几年，科技企业在推广新一代信息技术产品时，数据安全、数据隐私等问题广受诟病。数据安全和个人数据保护成为当今数字化转型时代的关键紧迫议题。

在7月8日至10日举行的2021世界人工智能大会上，数据安全、数据治理、网络安全等问题备受关注。在人工智能深入推进城市数字化转型过程中，产业界应积极主动拥抱监管，推动产业健康持续发展。

AI行进路上数据安全的隐忧

日前，滴滴出行”因App存在严重违法违规收集使用个人信息问题，被国家互联网信息办公室依据《中华人民共和国网络安全法》相关规定下架。

此前在上海车展特斯拉车主维权事件中，特斯拉公布了维权车主车辆事发前半小时的行车数据。车企该不该将行车数据进行公开，人们如何确定数据的可靠性等问题引发社会广泛热议。

“大数据驱动业务意味着数据安全对城市运转变得前所未有的重要，数据一旦遭到攻击意味着业务停转，造成严重的经济损失和社会后果。”360公司创始人、董事长兼CEO周鸿祎在2021世界人工智能大会开幕式上表示，最近几年，360公司在国内接到大量医院的报警，被勒索软件攻击之后导致医院不能做手术，不能给病人挂号看病，带来很严重的影响。 

没有大数据的收集和基础，人工智能是无本之木。数据作为这次驱动本轮人工智能快速发展的重要基础，数据的安全决定了人工智能的安全。人工智能的加速发展给数据的安全治理带来了新的机遇和挑战。

最近几年城市已经成为勒索供给的重要目标，网络攻击的对象，不仅限于电脑、手机、设备、系统而是扩展到数据，对政府、城市公共事业单位的数据的勒索，会造成城市运转和服务陷入停摆。

数据安全也直接影响到国家安全。今年5月，美国最大的燃油输送管线遭遇网络攻击被迫关停，这导致美国东海岸45%的汽油、柴油等燃料供应受到影响。

人工智能数据的获取、处理和应用具有极强的隐私性与领域扩展性，因此关乎公民个人信息安全甚至国家信息安全。人工智能技术头顶上仍然要高悬一把达摩克里斯之剑。如何保证公众数据不被用作商业化用途？不仅是公众，更是国内公共安全部门时刻关心的问题。

哪些环节容易出现数据安全漏洞？

数据非法跨境流通可能危害国家主权和国家安全；数字信息的过度采集和非法使用，可能侵犯公民的权利和隐私；算法的偏好可能加剧社会的偏见或歧视，威胁公平正义；无人驾驶汽车紧急避险等智能决策可能威胁特定的人群生命……

全国政协社会和法制委员会副主任陈智敏在人工智能大会安全高端对话上指出，人工智能发展与安全发展风险同时并存，不仅是一个技术问题，也是一个安全问题，同时还涉及到伦理、法律和国际规则的相关问题。

国家工业信息安全发展研究中心副主任何小龙在人工智能大会上表示，人工智能带来的数据安全问题主要体现在一方面加速了传统数据安全问题。人工智能大规模的运用使得过度采集数据安全问题进一步加剧。另一方面，带来了新型数据安全的问题。人工智能的算法对数据具有较强的依赖性，可能会带来数据投毒等类似新型的数据安全挑战。

算法、模型和数据构成机器学习三大基石。腾讯朱雀实验室首席AI安全专家朱季峰在人工智能大会主题论坛上表示，以算法构建过程中上下游的产业链来看，从数据的输入、数据的分析、模型的训练、模型的决策、模型的上线部署应用以及模型的改造过程当中都存在相应的风险。

例如，在数据输入环节，如果攻击者控制了数据来源，或者攻击者能够对收集数据的设备本身产生安全攻击，最终将通过这个链条影响到算法模型。通过超声波影响陀螺仪，最终可以使无人机坠落。或者在模型决策阶段，可以通过物理攻击，使得自动驾驶车辆最终视觉识别系统出问题，这样可能影响车辆自动的赛道或者左右行驶或者对行人的判断。

随着AI的应用，技术的滥用带来失控风险。验证码验证机制首当其中。朱季峰介绍，早在2017年，地下的黑产就已经开始用机器学习的方法做二维码识别训练。资料表明，80%以上验证的准确性都可以通过机器学习算法自动完成线上的注册，这就产生了一系列的安全问题。

技术、法律、治理体系，筑起数据安全防火墙

人脸识别技术依托于对海量视图数据的分析，数据安全问题直接影响着人脸识别技术的实战应用。人工智能技术在安防领域的应用是技术寻求落地进程最快、应用最早的训练场。

云从科技安防上海公司总经理杨漾表示，技术上，云从的技术部署不会采集数据，所有数据是存放在客户私有云上，最后用于识别的数据是脱敏过后的编码，理论上不具有回溯性。严格按照这种技术标准，将减轻公众的疑虑；制度上，云从与公安部、民航总局、三大运营商、四大行、证通股份等建立联合实验室，推动人工智能产品标准的建立，受邀参与数个国标和行标的制定，按照国家要求进行隐私安全规范。

达闼创始人、董事长兼CEO黄晓庆表示，从数据采集到数据处理到数据传输，解决数据网络安全问题有很多手段。从网络和数据角度要完成三个重要的任务——物理隔离、网络隔离、应用端到端的保护。

除了技术，我国利用法律武器在数据立法上做出了探索。

今年6月我国颁布了《数据安全法》，9月1日开始正式实施，提出以数据分级分类为核心，搭建数据安全的监管制度，要求强化落实各级数据处理活动主体数据安全保护的义务与责任，为规范数据处理活动，保障数据安全提供法律依据。另外，《个人信息保护法（草案）》也即将进入三审阶段，两项法案相辅相成，推动我国个人信息保护和数据安全治理进入全新阶段。

在人工智能大会“大爱无疆·共生”论坛上，清华大学苏世民书院院长薛澜回顾人工智能治理模式历经回应式治理、集中治理和敏捷治理三个阶段。“现在我们进入了相对比较集中的治理模式。该模式明确了国家加强行业监管，促进制度落地的决心，对暴露出来的各种问题采取比较坚决的措施落实监管规则，同时触及到需要进一步研究的问题。”薛澜说到。

日前上海市委常委副市长吴清在世界人工智能大会治理论坛表示，上海已正研究立项公共场所人脸识别分级分类应用规范的地方标准，将成为全国首个立项的人脸识别的地方性标准。 上海正开展全市人工智能数据立法调研，规范数据确权，数据共享等重要内容，推动可信人工智能的研究。此外，上海市人大正在起草《上海市数据条例》。

此外，上海市数字证书认证中心、复旦大学计算机学院、上海交通大学电子信息与电气工程学院、移动互联网系统与应用安全国家工程实验室、上海赛博网络安全产业创新研究院共同发起筹建数字身份与数据流通信任技术实验室，该实验室将基于数字信任技术的产学研生态合作，开展隐私计算、区块链、前沿密码等数字信任技术攻关和产业应用，支撑城市数字化转型、数据要素市场构建和网络安全体系建设。

记者获悉，上海浦东新区将在数据资源共享、数据交易、数据开发利用等方面进行立法探索。临港新片区将试点开展企业法人数据的跨境流通的安全评估和服务监管，加强个人数据的全生命周期安全监控和防护。