旷视徐云程“云对话”北大光华卢瑞昌教授：企业AI治理造就“可持续发展的AI”

　　AI将是引发社会深刻变革的新一波科技浪潮。“可持续发展的AI”，将会是AI技术与人类社会长期共存的基本形态，也是旷视致力推动的行业发展的正确方向。

　　如何建立可持续发展的AI？这不仅是学界、AI产业界、监管机构、政府等各界都关注的问题，更是每一家AI企业每天都在思考的内容。肩负“用人工智能造福大众”为使命的旷视，自2019年7月对外发布《人工智能应用准则》之后，在AI治理方向上的探索和实践就从未停止过。

　　这并不是一条有成熟模式、既定规划的清晰的路，而是一条汇集各种考量、在摸索中前行的探索之旅。中国，乃至全球的AI治理大环境是怎样的？旷视为什么要走这条路？他是如何落地推进的？面对各种问题，他是如何思考、如何决定的？这种种心路历程，都收录在旷视与北京大学光华管理学院、北京大学管理案例研究中心合作撰写的《旷视科技：人工智能治理的新征程》当中。这份案例不仅是旷视在将近一年的时间里，对自身治理实践的回顾和梳理，更是包含了对AI治理整体的深刻思考和洞察。

　　2020年6月13日，在首届北大光华案例日论坛上，这份凝聚了北大光华管理学院几位老师精心采写、旷视多个部门支持配合访谈的案例《旷视科技：人工智能治理的新征程》首次亮相，并以旷视首席运营官徐云程“云对话”北大光华卢瑞昌教授的方式精彩呈现在公众面前。

　　旷视的思考：AI治理的必要性与紧迫性

　　如果说AI的广泛应用是一座高山，那么现阶段我们还处于半山腰。不同于其它先进科技在初期可以先发展再治理的做法，AI在一开始就被各界关注。为什么AI行业如此与众不同？而且目前许多行业都有各自的伦理要求和治理准则，AI行业为什么不能拿来借用，而是要重新探索？北大卢瑞昌教授在案例的开始就提出了这些深刻的问题。

　　旷视徐云程认为，正是由于AI技术的普遍性与其对于社会影响的深刻性，促使社会各界在AI的商业化还在比较早期的时候，就非常积极的在探索AI治理的这条道路。卢瑞昌教授完全同意这个看法，他认为人工智能行业将带来第四次工业革命，颠覆许多现有行业。AI所能带来的突破不只是某一领域的突破，而是整个社会关系和生产关系的解构和重组。因此，由于人工智能行业影响的深度和广度，我们可能无法承受“先治理，后发展”带来的结果。

　　事实上，无论是国外还是国内，AI技术引发的伦理道德问题已频频见诸报端。公众对AI将取代人类工作等各种担忧也在日益加剧。在现阶段就对AI治理进行积极探索是一件刻不容缓的事情。

　　作为参与并见证了中国AI商业化进程的旷视，也经历了对AI治理逐步认清的过程。在接受案例访谈时，旷视联合创始人兼CEO印奇提到他在与国内外学者、产业界人士、投资人等各界交流的过程中，AI治理开始作为一个高频词汇进入他的视野，大家都在关心AI行业如何能秉持长期主义发展思路，成长为造福大众的“好生意、长久的生意”。他认为，一个行业只有被大众拥抱，才能有长远的发展；而旷视作为AI行业的从业者，就肩负了建立“可持续发展的AI”这一责任。

　　旷视的探索：企业AI治理推进中的权衡与考量

　　尽管近些年国内外学界对于AI治理有着诸多讨论，但大多数集中在理论层面。关于企业如何进行AI治理的落地，目前尚未有成熟的既定模式可循。企业做AI治理的边界在哪里？应该做什么？做到什么样的程度？是否需要上升到公司战略的高度？毕竟在公司推行一项制度，大家的认知可能是不一致的，更多的要求，可能意味着更高的成本。卢瑞昌教授就是带着这些问题，开始了与旷视各位受访人的对话。经过了将近一年的探索，旷视在尝试给出一份AI企业治理的答卷。

　　首先是商业利益和企业社会责任的平衡。企业作为以盈利为目的的商业机构，如何建立一套适宜公司自身发展需求的人工智能治理的体系，既以负责任的态度承担企业社会责任，又不阻碍甚至是促进业务的发展，是摆在旷视在进行AI治理落地时的首要考量。这其中牵扯到技术研发、产品应用、场景落地、商业竞争等各个方面。旷视一直都在小步迭代中谨慎前行。正如在访谈中旷视科技首席科学家、研究院院长孙剑所说：“技术研究与探索本无禁区，但是作为存在商业化目标的企业来说，无论是不是高科技企业都应该有禁区。”

　　其次是企业道德标准和个人道德标准的统一。对外交往中，每个人的道德标准都是不一样的，看问题的角度更是各有侧重。这时就需要企业能够在最初创立的使命、愿景、价值观的基础上，协同大家的意见，形成自己的道德标准，与员工统一认知。这也是个反复商榷、磨合的过程。正如徐云程在论坛上坦言，有很多次在和产品团队讨论新产品的某个功能或设计时，会对其是否符合企业的AI伦理观而争论，大家会有不同的看法，但是最终都能够通过开放性地讨论和深入思考而形成共识。这个过程中，公司管理层的坚持功不可没。