原文链接：https://mp.weixin.qq.com/s/B5fJwUWxz2kXNTaB-xmAN
作者/
刘志毅 商汤智能产业研究院主任
编辑/
王静旋 商汤智能产业研究院助理研究员
2021年6月份，联合国经济和社会事务部面向全球发布“人工智能战略资源指南”，立足国家、地区及国际层面，列举了有关人工智能伦理、政策和战略的现有资源，并针对全球范围内的人工智能战略发展讨论概览，收录了大量关键参考文献，而商汤去年发布的《AI可持续发展白皮书》相关内容入选该“指南”，为全球贡献人工智能伦理方向的中国思路和成功案例。
时隔不久，商汤科技就在2021年11月11日的中新科技大会上，联合上海交通大学清源研究院、AIII人工智能国际研究院，共同发布《平衡发展的AI伦理观——AI可持续发展报告2021-2022》（以下简称“报告”），倡导“发展”的伦理观，打造技术可控、以人为本、可持续发展的AI均衡伦理治理范式，推动发展负责任且可持续的AI技术。同期发布的，还有商汤与上海开源信息技术协会、AIII人工智能国际研究院共同倡议构建的《联合国可持续发展目标正面案例集》，这也属于业界首次推动可持续发展目标案例在AI领域的开源研究的工作。正是因为商汤在治理与伦理上的前瞻性实践，也获得了由哈佛商业评论所颁发的2021年度的拉姆.查兰管理实践奖，这也是国内首个因为在技术伦理与治理方面的实践而获得的顶尖商学院媒体刊物授予的企业。
图:2021年度的拉姆.查兰管理实践奖
这份报告的主笔，商汤智能产业研究院主任刘志毅对白皮书报告进行了如下解读。
图：《平衡发展的AI伦理观——AI可持续发展报告2021-2022》
首先从原则层面分析，“平衡发展”的人工智能伦理观。AI治理其实是一个多目标、多维度的平衡过程。比如，就在抗疫期间，保护集体利益的目标与尊重个人行程隐私的目标权衡；健康码快速人群分类进行针对性防治、与老年人数码产品使用问题的权衡；各国利益与全球协同集体防疫抗疫；技术发展与国际竞争等等。而AI治理的多维目标，始终围绕着技术安全可控、以人为本和可持续发展的均衡伦理治理规范。不同地区在不同的发展阶段，需要实现三者之间的平衡发展。为此，商汤提出和倡导“发展”的人工智能伦理治理观。其一是在谈论伦理治理时，考虑普惠发展的目标，即用人工智能技术推动社会进步；其二是在先进技术落地的同时，要考虑行业变革的快速性，针对不同的发展阶段，找出不同治理框架下的发展平衡。
具体来说，包含三个层面：
1. 技术可控
我们认为人工智能是由人类开发并为人类服务的超级工具，所以AI应完全受人类控制（技术可控），科技伦理责任由其控制者（人类）承担。2017年12月，工业和信息化部发布了《促进新一代人工智能产业发展三年行动计划》。在此之后，中国的科技公司纷纷提出了可信人工智能发展规划，而技术可控原则就是推动可信AI的基本要求，也是落实可信AI的根本目标。
2. 以人为本
我们认为，人工智能的发展需要以人为价值的核心和社会的本位，把人的生存与发展作为最高的价值目标，一切为了人，一切服务于人，这是我们理解以人为本的基本要义。在人工智能发展过程中，要立足于人工智能作为工具这一特性，将人的价值放到最重要的方面，这是我们认为AI伦理与治理的又一重要原则。在众多关于人工智能的讨论中，人的价值往往容易被忽略，技术的创新容易被高估，而我们认为将人作为目的而非手段是人工智能伦理与治理的根本要求，也是科技伦理在AI领域实践的重要思考。
3. 可持续发展
联合国可持续发展目标旨在到2030年解决社会、经济和环境三个维度的发展问题，走上可持续发展道路。可持续发展目标呼吁“所有国家（不论该国是贫穷、富裕还是中等收入）行动起来，在促进经济繁荣的同时保护地球”。该目标指出，应长期致力于消除贫困、实现良好健康与福祉、实现优质教育、性别平等、清洁饮水和卫生设施、经济适用的清洁能源、创新和基础设施、减少不平等、可持续城市、气候变化和保护环境等。而如今，人们越来越意识到，人工智能在这些领域全都大有可为。我们看到人工智能推动可持续发展目标的实现已引起不同国家和地区的广泛关注与推动，而可持续发展也应该成为伦理与治理原则的一部分，将可持续发展目标作为正向的伦理原则，一方面符合“科技为善”的科技伦理要求，另一方面也让伦理与治理有的放矢，能够有具体的评估方式。
我们认为，以上这三条原则是人工智能技术得到信任、发展和广泛接受的重要支柱，而关键目标是促进技术发展过程中人们对人工智能的包容性。包容的程度取决于人们对人工智能的认知程度。而全球不同国家由于所处的经济、技术发展阶段不同，他们对人工智能的认知也就存在不同，因而对伦理治理思考的角度也会略有差异。故而，我们相信人工智能的伦理治理是一个多目标、多维度的平衡过程，我们要在技术可控、以人为本和可持续三条核心原则的基础上，寻求均衡的发展，即以“发展”的眼光，来看待人工智能的伦理治理问题。
在梳理好原则的基础上，我们来看商汤的伦理治理实践行为，具体有以下几个方面：
（一）领先全球业界实践，组建AI伦理与治理委员会
随着AI产业的发展，AI伦理已经成为产业各方都关注的重要课题之一，也是AI企业发展过程中面对的巨大挑战。AI伦理不仅仅是AI企业承担社会责任的重要因素，也是客户信任的基石。我们认为科技公司需要在法律合规这一最低要求之外，积极履行伦理责任。而伦理委员会是科技公司履行AI伦理责任的最基础机制。成立伦理委员会，对AI相关业务与应用进行必要的伦理审查，已经成为了科技行业的重要治理方式，例如微软的AETHER委员会、谷歌的AI原则审查小组、IBM的AI伦理委员会等。
伦理委员会的主要职责是制定AI伦理相关的内部标准与流程，并基于此对AI相关业务进行伦理审查，以识别、预防、消除AI相关应用在安全、公平、隐私等方面风险。在具体运作上，伦理委员会需要多元参与，即技术、法律、伦理等不同专业领域人士的协作配合；伦理委员会负责建立案例、标准、程序、工具、资源等，成为制度知识的资料库，发挥治理主体的作用。
2020年1月，商汤人工智能伦理与治理委员会正式成立，人工智能伦理与治理委员会由六名成员组成，包括两名外部顾问（其为人工智能伦理领域的学术专家）及四名高级管理层成员。作为集团在人工智能伦理方面的第一责任机构，人工智能伦理与治理委员会负责确定及实施人工智能伦理相关原则、战略及具体政策举措，在公司内部设计并推动整体组织践行AI伦理规范，推动商汤落实AI的可持续发展战略，同时发挥商汤作为行业领袖的影响力，在产业中倡导负责任的、可持续的AI发展观。商汤是国内最先组建AI伦理委员会的科技创新企业之一，也是最先将伦理委员会的工作作为公司战略级方向的科技创新企业之一。
（二）人工智能伦理与治理风险控制机制
从全球的人工智能的科技创新发展的实践来看，伦理风险控制与审查已经成为科技企业履行社会责任，落实AI治理实践的重要方式。
从报告中可以看到，商汤已建立人工智能伦理审查程序，以审查及监测我们产品及服务的潜在伦理风险，涵盖从项目审批、产品及服务的发布，到持续运营监控，及其后的产品及解决方案迭代的整个生命周期。我们的伦理审查程序根据符合我们上述三项人工智能伦理原则的标准评估项目及服务。在评估过程中，我们可选择驳回新产品方案，中断进行中的产品开发项目，或停止不符合我们原则及标准的现有产品。我们亦非常重视数据隐私保护，并会对我们所有的项目及解决方案的数据隐私相关事项进行全面审查。
从2019年至今，为紧密跟踪全球人工智能产业违法事件、伦理挑战，已在商汤内部建立起“全球AI伦理风险库”，包括涵盖百余项全球AI伦理正面及负面事件、案例分析，我们从产品立项、发布、运营全生命周期设置AI伦理审核环节，自发布日起审核商汤内部100%的新产品研发立项，并根据伦理准则拒绝了10%的产品立项提案。我们已经实现了严格的伦理领域的风险控制体系和专业的伦理风险控制的机制，关注数据风险、算法风险和社会风险等领域，努力做到了全方位的伦理风险控制和合规。2021年商汤开始重点推动在线风险控制系统的建构以提升AI伦理审核的深度，通过引入外部专家对整个审核过程和风控模型的提升提供专业指导，基于商汤的实践实现基于以人为本、技术可控、可持续发展体系的伦理标准工作， 我们在内部实现了人工智能产品伦理风险管理模型如图：
图：人工智能产品伦理风险管理模型
（三）AI伦理标准制定
人工智能标准也是重要的伦理与治理的工具，符合AI伦理标准的AI产品与服务可以申请相应的认证。目前，我们看到IEEE、ISO等国际标准化组织在积极组织制定相关的标准，并尝试推出认证项目，而商汤也正在推动相关标准工作的落实。2020年8月，国家标准化管理委员会、中央网信办、国家发展改革委、科技部、工业和信息化部等五部门联合印发《国家新一代人工智能标准体系建设指南》,加强人工智能领域标准化顶层设计，推动人工智能产业技术研发和标准制定，促进产业健康可持续发展。《指南》指出，到2021年，明确人工智能标准化顶层设计，研究标准体系建设和标准研制的总体规则；明确标准之间的关系，指导人工智能标准化工作的有序开展，完成关键通用技术、关键领域技术、伦理等20项以上重点标准的预研工作，可见标准工作的重要性。
商汤担任了人工智能可信赖国家标准工作组的副主席，参与起草由人工智能可信赖国家标准工作组发起的13项国家或组织人工智能伦理标准，其中包括《人工智能风险评估模型》、《机器学习算法安全评估规范》、《人工智能伦理与治理规范》、《人脸识别系统可信要求》、《人工智能数据采集及标注安全规范指引》、《可信人工智能研发管理指南》、《人工智能可信赖白皮书》等十余项与伦理相关的标准项目。除了积极参与可信人工智能（AI伦理与数据安全）领域的多个标准工作的落实，商汤科技通过担任人脸识别国家标准工作组组长，AI可信赖国家标准组副组长，以及上海市人工智能标准化技术委员会副主任委员，联合工作组成员，推进人工智能技术、产品的标准体系建设，制定具体标准计划，全面开展国家标准制修订工作，促进行业更健康发展，为全球标准化事业贡献商汤智慧。
除了以上工作以外，商汤与第三方机构及智库的合作使我们能够实时了解人工智能伦理领域的最新发展，并在实施人工智能伦理实践时保持中立及客观。该等合作亦巩固了商汤作为人工智能生态体系中的行业领导者的地位，并进一步提升我们在倡导负责任及可持续人工智能方面的影响力。为推进商汤在人工智能治理领域以人为本的原则，商汤承担清华大学人工智能国际治理研究院的副理事长单位角色，该研究院是中国人工智能治理领域的领先学术机构，由国内外知名学者代表。通过与该等学者合作，推动诸如敏捷治理等创新及可持续的治理模式的研究。通过在人工智能及合规领域倡导技术可控原则，商汤与上海交通大学共同成立计算法学与人工智能伦理研究中心，在数据安全、隐私保护、无偏算法等领域推行研究。
总结下， 从上述的内容中我们可以看到商汤作为前沿科技公司在AI伦理与治理领域的实践与思考，也就能够理解作为中国企业想要持续引领全球科技创新浪潮，不仅仅要在科技创新研发领域取得非常好的成就，也需要在全球共同关心的科技伦理与治理领域发挥其领袖作用，从而形成一种更为广泛的共识，推动“科技为善”，实现人类社会的长久繁荣和可持续发展。
