「高度」《人工智能标准化白皮书（2018）》发布（完整版）(12)

权责一致原则，指的是未来政策和法律应该做出明确规定：一方面必要的商 业数据应被合理记录、相应算法应受到监督、商业应用应受到合理审查；另一方 面商业主体仍可利用合理的知识产权或者商业秘密来保护本企业的核心参数。在 人工智能的应用领域，权利和责任一致的原则尚未在商界、政府对伦理的实践中 完全实现。主要是由于在人工智能产品和服务的开发和生产过程中，工程师和设 计团队往往忽视伦理问题，此外人工智能的整个行业尚未习惯于综合考量各个利 益相关者需求的工作流程，人工智能相关企业对商业秘密的保护也未与透明度相 平衡。

3.3.3 人工智能的隐私问题

人工智能的近期发展是建立在大量数据的信息技术应用之上，不可避免地涉 及到个人信息的合理使用问题，因此对于隐私应该有明确且可操作的定义。人工 智能技术的发展也让侵犯个人隐私（的行为）更为便利，因此相关法律和标准应 该为个人隐私提供更强有力的保护。已有的对隐私信息的管制包括对使用者未明 示同意的收集，以及使用者明示同意条件下的个人信息收集两种类型的处理。人 工智能技术的发展对原有的管制框架带来了新的挑战，原因是使用者所同意的个 人信息收集范围不再有确定的界限。利用人工智能技术很容易推导出公民不愿意 泄露的隐私，例如从公共数据中推导出私人信息，从个人信息中推导出和个人有 关的其他人员（如朋友、亲人、同事）信息（在线行为、人际关系等）。这类信 息超出了最初个人同意披露的个人信息范围。

此外，人工智能技术的发展使得政府对于公民个人数据信息的收集和使用更 加便利。大量个人数据信息能够帮助政府各个部门更好地了解所服务的人群状态， 确保个性化服务的机会和质量。但随之而来的是，政府部门和政府工作人员个人 不恰当使用个人数据信息的风险和潜在的危害应当得到足够的重视。

人工智能语境下的个人数据的获取和知情同意应该重新进行定义。首先，相关政策、法律和标准应直接对数据的收集和使用进行规制，而不能仅仅征得数据 所有者的同意；其次，应当建立实用、可执行的、适应于不同使用场景的标准流 程以供设计者和开发者保护数据来源的隐私；再次，对于利用人工智能可能推导 出超过公民最初同意披露的信息的行为应该进行规制。最后，政策、法律和标准 对于个人数据管理应该采取延伸式保护，鼓励发展相关技术，探索将算法工具作 为个体在数字和现实世界中的代理人。这种方式使得控制和使用两者得以共存， 因为算法代理人可以根据不同的情况，设定不同的使用权限，同时管理个人同意 与拒绝分享的信息。

本章节所涉及的安全、伦理和隐私问题是人工智能发展面临的挑战。安全问 题是让技术能够持续发展的前提。技术的发展给社会信任带来了风险，如何增加 社会信任，让技术发展遵循伦理要求，特别是保障隐私不会被侵犯是亟需解决的 问题。为此，需要（制订）合理的政策、法律、标准基础，并与国际社会协作。 在制订政策、法律和标准时，应当摆脱肤浅的新闻炒作和广告式的热点宣传，必 须促进对人工智能技术产品更深层地理解，聚焦这一新技术给社会产生重大利益 的同时也带来的巨大挑战。作为国际社会的重要成员，中国对保障人工智能技术 应用在正确的道路上、基于正确的理由得到健康发展担负重要的责任。

• 3.4 人工智能标准化的重要作用

当今，经济全球化和市场国际化深入发展，标准作为经济和社会活动的主要 技术依据，已成为衡量国家或地区技术发展水平的重要标志、产品进入市场的基 本准则、企业市场竞争力的具体体现。标准化工作对人工智能及其产业发展具有 基础性、支撑性、引领性的作用，既是推动产业创新发展的关键抓手，也是产业 竞争的制高点。人工智能标准的先进与完善与否，关系到产业的健康发展、以及 产品国际市场竞争力的强弱。

美国、欧盟、日本等发达国家高度重视人工智能标准化工作。美国发布的《国 家人工智能研究与发展策略规划》，欧盟发布的“人脑计划”，日本实施的“人工 智能/大数据/物联网/网络安全综合项目”，均提出围绕核心技术、顶尖人才、标 准规范等强化部署，力图抢占新一轮科技主导权。 我国高度重视人工智能标准化工作。在国务院《新一代人工智能发展规划》中将人工智能标准化作为重要支撑保障，提出要“加强人工智能标准框架体系研 究。坚持安全性、可用性、互操作性、可追溯性原则，逐步建立并完善人工智能 基础共性、互联互通、行业应用、网络安全、隐私保护等技术标准。加快推动无 人驾驶、服务机器人等细分应用领域的行业协会和联盟制定相关标准”。工信部 在《促进新一代人工智能产业发展三年行动计划（2018-2020 年）》中指出，要建 设人工智能产业标准规范体系，建立并完善基础共性、互联互通、安全隐私、行 业应用等技术标准；同时构建人工智能产品评估评测体系。

我国虽然在人工智能领域虽然具备了良好基础，语音识别、视觉识别、中文 信息处理等核心技术实现了突破，也具有巨大的应用市场环境，但整体发展水平 仍落后于发达国家，在核心算法、关键设备、高端芯片、重大产品与系统等方面 差距较大，适应人工智能发展的基础设施、政策法规、标准体系亟待完善。

综上分析，更应重视人工智能标准化工作对于促进技术创新、支撑产业发展 具有的重要引领作用：

（一）标准化工作有利于加快人工智能技术创新和成果转化。现阶段人工智 能技术发展迅速，市场上逐步出现了可规模化、可商业化的产品和应用，需要以 标准化的手段固化技术成果，实现快速创新推广；

（二）标准化工作有助于提升人工智能产品和服务质量。如市场上出现的人 脸识别系统、智能音箱、服务机器人等产品，质量残次不齐，需要标准的统一规 范，并配合以开展符合性测试评估的方式，提升产品和服务质量；

（三）标准化工作有助于切实保障用户安全。例如自动驾驶领域的“电车难 题”伦理难题、苹果手机指纹泄露用户隐私等问题，引起了人们的广泛关注。如 何保护用户权益是难点也是重点，这需要通过建立以人为本的原则，制定相关安 全标准规范，确保智能系统遵从并服务于人类伦理，并确保信息安全；

（编辑：ASP站长网）