人工智能治理体系如何平衡包容？中外专家把脉建言******

　　中新网北京12月4日电(记者 孙自法)作为有望引领人类未来变革的一项战略性技术，人工智能(AI)近年来在快速发展并赋能千行百业的同时，也带来安全、隐私、公平等系列问题和挑战，人工智能治理概念应运而生，备受关注。

　　由清华大学主办、联合国开发计划署支持的2021人工智能合作与治理国际论坛12月4日在北京开幕，中国科技部副部长李萌致辞时形象表示，“我们现在正站在智能化社会的门槛上，人工智能这条大船正载着我们向智能化世界驶去，而治理正是随时校正大船航向，确保大船行稳致远”。

　　在随后举行的“如何构建一个平衡包容的人工智能治理体系”主论坛上，中外专家学者线上线下对话，把脉人工智能发展，聚焦治理体系构建。

　　中国国家新一代人工智能治理专业委员会主任、清华大学人工智能国际治理研究院院长薛澜提出，人工智能治理直面数据、算法、算力、场景等四大要素挑战，价值导向上要坚持人工智能技术安全可控的底线思维、维护个人权益尊严与平等的人本思维、人工智能赋能经济社会发展的发展思维和人工智能促进可持续发展的全球思维，遵循“和谐友好、公平公正、包容共享、尊重隐私、安全可控、共同责任、开放协作、敏捷治理”的治理原则，着重从“包容、共享、审慎、负责”价值原则来平衡人工智能治理中的发展和安全需求，形成人工智能治理机制的价值共识，推动实现全球协同治理。

　　关于“审慎”价值原则，薛澜强调，要对人工智能治理给出明确的安全底线，既不能放任不管，任其野蛮生长，也不能出现“一管就死”，避免矫枉过正。

　　世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长龚克表示，人工智能是第四次工业革命的代表性技术，人工智能治理旨在促进具有人类价值的人工智能创新发展，以造福人类和地球，因此，人工智能治理应遵循人工智能发展规律，具有开放的多利益相关者共治的结构，应综合运用技术、规则、教育等多种工具，并有效植入到人工智能应用平台之中。他还特别强调，不仅要发展人工智能各式各样的应用技术，还要发展一批保护隐私和公平、加强监管的人工智能治理支撑技术。

　　联合国助理秘书长、联合国开发计划署政策与方案支助局局长徐浩良指出，人工智能不是万能灵药，它的好坏取决于使用人工智能的人及数据基础、治理标准。“我们需要全面地看待人工智能，需要跨越国界、跨行业和跨代际的合作，来制定必要的治理框架”。他说，国际机构和国家间的合作至关重要，联合国教科文组织最近通过有关人工智能伦理的提案，得到许多成员国的支持，这是积极的一步。联合国开发计划署已做好准备，为政府和其他利益攸关方构建人工智能治理框架提供支持，让人工智能成为推动可持续发展的重要力量。

　　“为什么我们需要一种新的、21世纪国际合作方式来治理人工智能？”卡内基理事会资深研究员、人工智能与平等倡议联席主任温德尔·瓦拉赫认为，首先是以数字和生物革命为代表的新兴技术正在重新定义人类的意义，并且重塑世界和未来前景；二是技术速度远远快于道德和法律监督到位的速度，新的人工智能部署的绝对普遍性和速度，颠覆了行业政府、传统机构以及与人们生活息息相关的社会技术结构；三是人工智能和机器学习存在基本控制问题，作为关键系统组建部署时会构成潜在危险。

　　他说，建立一个合作的人工智能国际治理机制，应该是敏捷的、适应性的、预见性的、响应性的、包容性的，“但是我们应该很清楚，如果没有中国和美国的参与，所有人工智能国际治理方案都只能是幻想。如果不大力转向国际合作，我们将无法成功度过未来几十年”。

　　“今天社会不仅仅是外卖小哥被困在算法里，我们每个人都被困在各式各样的算法里。”清华大学智库中心主任、智能社会治理研究院院长苏竣认为，人类即将从工业社会迈向以科技进步和智能技术为基础的智能社会，人工智能技术在颠覆性地重组人类社会的同时，也给人类社会的法律隐私、道德伦理、公共治理带来诸多严峻挑战。

　　他说，技术是中性的，算法是无辜的，在这场人工智能掀起的人类社会巨变中，需要科学的方法研究和应对科技发展带来的种种风险、问题和挑战。“开展人工智能社会实验、探索智能社会治理的中国道路”的倡议自2019年发起以来，经过两年多努力，已在全国有序展开，实现智能技术治理与智能社会治理齐头并举，将为构建有人文温度的智能社会作贡献。

　　加拿大国际治理创新中心总裁罗欣顿·麦德拉指出，人工智能治理体系在数据领域，要有全球所有国家都接受的数据伦理方面的标准，包括如何搜集数据、收集谁的数据、如何储存数据、如何整合数据、如何分析数据、如何加密、如何保证数据安全、如何使用数据等，“在全球层面共同创建普遍性的标准，它需要很多很多的努力，这就是我们这个世纪的治理挑战”。针对现在越来越多的全球价值链当中，因为机器的替代，很多工作机会被失去的问题，他建议由来自不同社会、不同文化或宗教背景的哲学家组建一个全球性委员会，来思考应对和解决之策。

　　清华大学人工智能国际治理研究院副院长梁正表示，当前，中国人工智能发展水平已跻身世界第一梯队，也肩负着参与国际治理规则制定的职责。因此，如何助力全球社会共同构建一个平衡包容的人工智能治理体系，需要进行系统思考，开展国际对话。(完)

2022西湖论剑|谭建荣院士：为数据安全筑起更多防火墙、安全墙******

　　前沿技术在数据安全可控方面发挥着哪些作用？在2022西湖论剑·网络安全大会期间，中国工程院院士谭建荣就新兴数字产业、工业互联网、智能制造、区块链技术等热点话题接受了媒体记者提问，阐述了他对未来网络安全的思考。

　　记者：“十四五”规划指出要培育壮大网络安全等新兴数字产业，在新业态背景下，我们应该如何把握这个机遇，加速推动网络安全产业成长壮大和持续发展？

　　谭建荣：网络安全产业随着网络安全技术的发展而发展，网络技术开放了，网络技术推广应用了，网络安全产业就随之形成，并且壮大。网络技术的先进性是关键，只有具备先进的网络安全技术，网络安全产业才可能具有自主知识产权，才可能做到自主创新、自主可控。有了先进的网络安全产业，我们就形成了网络安全队伍，有了高水平人才，我们才能做大网络安全产业，做到可靠性、可用性、可信性、可控性，才能把网络安全技术应用好、推广好，才能做大做强网络安全产业。

　　记者：近年来数据泄露等网络安全事件不时发生，您认为各相关方应该怎样携手应对，才能确保网络安全、信息安全和数据安全？

　　谭建荣：网络安全本身就是“矛”和“盾”的关系。网络安全既有攻又有防，没有一劳永逸的网络安全。网络安全只有起点没有终点，我们要不断的追求网络安全技术的先进性，才能够有效进行网络安全的“攻和防”。网络安全既要攻得下，又要防得牢，所以这是一对矛盾，就是这对矛盾促进了网络安全技术不断提升、不断发展。只有掌握最先进的技术，才能防得牢。我们首先要有正确的网络安全观，在这个正确的网络安全观指导下，不断提升我们的技术，使我们的防护能力不断增强。

　　记者：您之前提到在工业互联网中数据是至关重要的元素，请您谈一谈数据对于工业互联网发展的重要性体现在哪些方面？

　　谭建荣：我们通过网络产生了工业互联网，把互联网技术用到工业领域，而在工业领域中很大一方面是制造业。在制造过程当中，从产品设计、加工、装配、销售、使用、维护全生命周期来看，每一个环节都产生了大量数据，我们既是大量数据的产生者，又是大量数据的利用者。工业数据，技术数据、管理数据、服务数据、商业数据，对每个企业来说都至关重要，企业的核心竞争力体现在产品上、标准上、自主知识产权上，而最核心、最底层的就体现在工业数据上。企业是行业的领头羊，也是行业的大数据中心，必须要掌握行业数据、发展趋势、商业模式的数据等。

　　工业互联网最核心问题是产生了大量工业数据，而工业产品加工生产的过程，既是数据利用的过程，也是利用数据产生的源头，在这方面同时要利用好、维护好、保护好这些数据。工业数据、数据安全、工业互联是一个三角形关系，每一个环节都必不可少。

　　记者：在智能制造转型升级过程中，需要不断推动智能化大数据创新。如何保障数据安全，推进智能制造又好又快发展？

　　谭建荣：智能制造过程，就是把人工智能技术跟产品实际制造技术融合起来，用人工智能技术解决产品设计、加工、装配、使用、维护等过程当中出现的技术问题，用人工智能提升产品创新能力，改善产品质量。在这个过程中，每一个环节都产生了大量数据，而人工智能一个重要方法就是深度学习，通过人工神经网络训练，用数据训练。人工智能、智能制造归根到底是数据挖掘、数据利用、数据演练的过程，在这个过程当中数据安全是非常重要的，这些数据在哪些行业中，在多大范围使用，给多少人使用，这些都涉及到数据安全。

　　第二个方面，在贸易过程当中，客户服务产生了大量商业数据、技术数据，也包括管理上的数据，这三部分数据安全使用的范围、使用的权限、使用的密码都有一整套管理方法。我们要把智能制造推向深入，必须要通过数据挖掘、数据训练，而在这个过程当中我们要把数据安全做的更好，筑起更多的防火墙、安全墙，这样企业才可以放心地用数据，客户也可以放心地用这些数据。

　　记者：区块链技术在数据安全保障中发挥了哪些具体作用？

　　谭建荣：区块链是基于零信任，把数据公开、透明、去中心化，然后再加密和进行权限管理。区块链技术在数据安全保护方面非常重要，区块链技术应用的最成功、最必要的是金融管理行业、投资融资行业，区块链是公开、透明、去中心化、权限分散等一整套管理制度。我个人理解，区块链技术是互相制约的一个机制，互相制约、互相约束，才能够做到数据安全。（姚坤森）