当前，科学技术创新在经济社会发展中发挥着越来越关键的作用。如何把握科技创新对经济社会产生的各种影响，把人文和伦理的思考带到科技发展与治理的过程中，降低各种潜在的风险，促进科技向善，就变得比以往任何时候都更加重要。清华大学文科资深教授、公管学院学术委员会主任、苏世民书院院长薛澜就新兴科技发展中的人工智能治理发表了观点。
现代科技创新的发展趋势及潜在影响
现代科技创新有很多非常重要的前沿发展方向，人工智能便是其中最具典型 的技术之一。2017年，alphago战胜职业围棋选手柯洁，此后人工智能发展愈加 迅速。2020年，alphafold解决了国际生物学界预测蛋白质折叠的问题，让很多科学家叹为观止。近年来，人工智能的应用领域有进一步拓展的发展趋势，包括智能机器人对于新冠病毒的诊断等方面。
人工智能的广泛应用不仅仅是效率的提高，甚至有可能意味着科研范式和业态的重塑。例如，在十维参数空间的研究实验方案设计中，人工智能的应用可以帮助科学家从上亿个候选实验方案中选择出几百个，大大节约了人力物力成本，提升了科研效率。
在生命科学领域中，人类对生命的认识经历了从解读、修饰到创造的过程，从世纪之交破译人类基因密码之后，生命科学的发展日新月异。例如，原来是异养的大肠杆菌，现在可以改造成自养型生物；再如，人类历史上首个单条染色体酵母成功实现人工合成；以及最近中科院天津工业生物技术研究所成功实现的人工合成淀粉，这一颠覆性成果有可能会带来人类的“食物革命”。此外，还有很多技术创新改变了传统的规模饲养、屠宰流通、物流消费等肉类生产过程，比如直接在实验室培养纤维来生产人造肉，并且已有各式创新产品上市销售。
此外，很多交叉领域的科学技术也取得了快速发展，如生命科学与计算机技术交叉产生的脑机结合。埃隆·马斯克创办的公司实现了猴子用“意念控制”光标打游戏；美国食品药品监督管理局（fda）于2019年发布了脑机接口设备指南，并于2020年8月份批准了脑机接口产品的临床研究性器械豁免申请。
诚然，科技创新的发展与应用对人类生活各方面的影响是巨大的，但同时也会带来风险与挑战。例如，人工智能在人脸识别方面给我们带来很多便利的同时也面临数据滥用或泄露的风险与隐患。从更加长远的角度考虑，人们也担心这些应用长期下来是否会给人类社会带来积累性的风险。
在就业领域，2020年世界经济论坛的一份报告提到，近年来新兴科技创造的就业机会落后于其消除的就业机会，也就是说，科技的发展会导致失业问题。此外，还存在某些技术的滥用可能会深刻改变我们人类自身，如基因编辑技术的应用便是如此，需要保持高度关注。
新兴技术治理的生成逻辑
面对新兴技术可能带来的巨大收益和潜在风险，我们必须在发展新兴技术的同时，高度关注其治理问题。
新兴技术治理背后有其生成逻辑和治理实践。回顾历史，不管是现代科技还是传统科技，背后都有治理体系形成的过程。我们可以把这个过程分成四个阶段。
第一，核心驱动阶段。所有的新兴技术在初期都有知识的重大进步或技术上的关键创新，推动新产品的产生，从而形成核心驱动。
第二，市场变革阶段。新技术的应用必须与市场应用不断交流互动，并拓展新的应用场景和新的需求，最终形成技术的应用领域和范式。
第三，认知适配阶段。这是一个技术的社会认知过程。社会如何认识新兴技术？这个技术对社会是友好的还是会带来风险？我们需要服从这个技术还是让技术服从人类？这些问题是在技术的社会认知过程中必须回答的，也是在技术发展尤其在应用过程中所需要的认知适配过程。曾经有一些新兴技术在发展中的社会认知方面产生了问题，最终导致技术的应用失败。
第四，治理范式形成阶段。在社会认知构建的过程中，不同的治理模式也在逐渐形成，包括治理主体、路径选择、工具应用等。
那么，为什么以前在中国没有明显感到这个治理体系形成的过程？在前几次的工业革命中，核心的技术产生、应用过程、社会认知等都主要是在其他发达国家首先发生的，中国只是在较为后期的阶段才成为技术的应用者，享受成熟的技术并借鉴采纳相关的治理模式。
但是，身处正在发生的第四次工业革命中，中国通过努力已经赶上了创新的头班车，成为越来越多新兴技术的开发者和领先的应用者，因此，也将逐步面临社会认知和治理范式方面的挑战。
以人工智能为例的新兴技术治理
人工智能的治理是新兴技术治理领域面临的具有代表性的重大挑战。其中首要回答的问题是，如何能够让我们的治理模式适应人工智能技术的高速发展？笔者认为，最近提出的“敏捷治理”比较适合人工智能技术的治理模式。
所谓敏捷治理，其核心是创新治理模式，把传统的治理流程和范式改变成为适应技术高速发展的敏捷灵活的模式。
在敏捷治理的基本框架中，首先要识别治理对象。对人工智能而言，治理对象就是数据的问题、算法的问题、算力的问题、平台企业的问题。数据层面的挑战在于如何进行高质量的数据集建设，以及如何让公共数据集更大程度地开放，此外数据自主可控和宏观安全也要高度关注。算法的问题是如何提高稳定性、安全性、可解释性和公平性。算力层面的挑战是如何推动核心硬件的持续性创新，寻求多边合作共赢，避免出现技术垄断等问题，同时需要突破技术创新范式，探索未来的新兴技术。平台企业的治理也需要突破传统反垄断的概念，根据平台企业所在行业的特点分析其行为及市场效果。
其次是治理理念，也就是在效率、公平、安全、自由等基本价值目标上做出选择或排序。敏捷治理框架的第三个方面是参与的主体，包括政府、企业、公众，还有很多的社会组织等。最后一个方面是治理工具，包括法律法规、行业标准、技术手段、社会共识等。
框架明确之后，我们就可以推动敏捷治理的运行机制，研究在新技术带动下的新经济特征，跟踪市场的发展，加强监管与市场的沟通，根据不同情况和风险场景提出更加具体的准则，并更加具体灵活地运用多元工具改善治理。
在具体实践过程中，治理的价值观念非常关键。例如，中国始终坚持以确保人工智能的安全和平等为底线，在此基础上鼓励创新，进而利用人工智能赋能经济社会发展，推动可持续发展目标的实现。同时，我们要及时识别人工智能带来的风险，在适当的时候予以规制，使得创新驱动和敏捷治理“两个轮子”并驾齐驱。
基于敏捷治理的模式，治理主体（如政府）要积极参与到与治理对象（如企业）的协同互动过程中。与传统治理过程中政府与企业的关系不同，在新兴技术的发展过程中，企业和政府都面临不完全信息，应该坐到一起进行有效的对话，让政府更好地了解技术发展的过程和走向，同时也让企业了解政府和公众对潜在风险有何顾虑，从而找到更好的治理方式来弥合双方的认知鸿沟。
此外，治理工具要做到灵活运用、刚柔并济。从宏观层面要制定原则性的法律法规，如我国最近出台的个人信息保护法。中观层面要有行为准则等来规范企业行为。国家新一代人工智能治理专家委员会于2019年出台的人工智能治理准则就属于这一类。微观层面也需要有相应的技术标准和监管技术。在这些工具的综合运用下，为新兴技术更好的发展、更健康的应用提供了治理方面的保障。
目前，中国的人工智能治理在宏观、中观层面已经做了不少工作，从理念层面逐渐进入到实践层面，既要鼓励企业的创新发展，也要提供有效的治理框架和落地的标准及监管技术。
建立以共识为基础的人工智能全球治理
在国际层面，人工智能技术的发展受到各国的高度关注。根据经合组织（oecd）人工智能政策观察站的数据显示，经合组织国家共出台了236项（截至2021年）与人工智能相关的国家战略、国家计划等政策举措。与此同时，人工智能技术应用带来的各种挑战也引起国际社会各方面的关注。
全球很多国家都采取措施构建人工智能治理的框架，包括出台各种人工智能治理原则或伦理指南。例如，德国一家非营利组织统计数据库显示，在过去五年中，全球范围内有160多个人工智能伦理原则指南相继出台。从内容上看，这些伦理原则或指南差别并不显著，因此，非常有可能在这些原则的基础上，通过协商形成基本的全球共识。
近年来，美国等西方国家在人工智能治理方面试图与中国脱钩，以意识形态划线，推动形成全球人工智能伙伴的国际机制，企图在人工智能治理领域遏制中国的发展。但是，中国始终坚持多边主义，坚持科技向善，强调求同存异，争取各国文明之间的最大公约数，积极参与联合国和其他人工智能治理的多边机制。
在中国的积极参与下，二十国集团于2019年通过《g20人工智能原则》，该原则提倡需要以人为中心和以负责任的态度开发人工智能。2021年11月25日，联合国教科文组织在法国巴黎发布《人工智能伦理建议书》，提出发展和应用人工智能首先要体现出四大价值，即尊重、保护、提升人权及人类尊严，促进环境与生态系统的发展，保证多样性和包容性，构建和平、公正与相互依存的人类社会。
展望人工智能全球治理的未来前景，特别需要通过建立多边协同共治的机制，把伦理准则、行业规则、技术标准和治理技术等纳入统一的治理框架中，从而促进在各国基本共识基础上形成包容但有区别的人工智能国际治理格局。
具体而言，包括三个层面。首先是形成基本的治理价值共识。目前各国的治理准则虽然表述各有不同，但核心较为相似，即涵盖包容、共享、审慎、负责等基本价值原则。其次是促进治理主体分工协作，发挥治理主体各自优势，形成治理合力。具体来看，政府要担负其赋权和监管职责，技术提供方需要进行赋能，从而形成迭代优化。同时，技术研究者和使用者也要促进更多的合作交流，社会要提供及时有效的监督。最后是治理体系和能力的迭代优化。人工智能发展的特点之一表现为技术进步的速度超过治理体系和能力更新的速度，迫使治理体系和能力的不断创新，其中包括更好地发挥技术手段在治理过程中的作用，如联邦学习、隐私计算、区块链等相关的监管性技术。
来源丨《中国网信》杂志
供稿丨清华大学科技发展与治理研究中心