首页
人工智能技术的快速进步为人类社会带来前所未有的机遇，同时也引发了安全、隐私、伦理等一系列挑战，全球范围内的治理工作亟待加强。
举办了7年的世界人工智能大会，在今年首次更名为“世界人工智能大会暨人工智能全球治理高级别会议”，大会主题是“以共商促共享，以善治促善智”。
在大会开幕式上，上海向全球发布了《人工智能全球治理上海宣言》。宣言提出要促进人工智能发展，维护人工智能安全，构建人工智能的治理体系，共同推动人工智能造福全人类。
当天，不论是发表演讲的嘉宾或是参与对谈的企业家、学者们，讨论的主题都与AI治理有关。大会期间，与全球治理相关的论坛有10个，来自联合国、美国、法国等世界各地的大咖们集中探讨AI的伦理与安全，试图通过技术手段让AI向善。
可以看到，全球治理，已成为2024世界人工智能大会的关键词。人工智能的全球治理和伦理等问题，亟需通过对话与合作凝聚共识。
首先，为建立有效合作机制共同应对人工智能带来的全球性问题，就要建立一套共同的国际规范和标准。这套标准应该涵盖AI的发展、部署、监管、隐私和数据保护等，确保在该规范和标准的基础上推进AI技术的应用。要开发和推广国际认可的AI伦理和法律框架，包括数据保护、隐私权、算法透明度和责任归属等问题的指导原则。
去年10月，习近平主席宣布提出《全球人工智能治理倡议》，围绕人工智能发展、安全、治理三方面系统阐述人工智能治理的中国方案，得到国际社会的高度评价。
对于人工智能全球治理，中国主张坚持广泛参与、协商一致原则，在充分尊重各国政策和实践差异性的基础上，推动多利益攸关方积极参与，形成广泛国际共识。这也是举办2024世界人工智能大会暨人工智能全球治理高级别会议的总体背景。
其次，发展通用人工智能要兼顾安全与性能，因此需要找到AI安全优先但又能保证AI能力长期发展的技术体系。
当下，AI模型安全能力的提升还远远落后于性能，这种失衡导致AI的发展是跛脚的，发展不均衡的背后是两者投入上的巨大差异。目前，世界上99%的算力用于模型预训练，而只有不到1%用于对齐安全优先的考量。
本届大会上，上海人工智能实验室主任、首席科学家周伯文就提出探索“AI的45度平衡律”。
简单来说，如果横轴代表性能，纵轴代表安全，那么长期来看AI要大体沿着45度的安全与性能平衡发展。也就是，在追求AI技术提升的同时，确保安全和道德边界不被突破。
第三，在人工智能发展的全新阶段，需要全人类凝聚合力、合理发展。当前，全球人工智能发展和治理权力呈现不均衡现象，全球数字鸿沟仍有扩大之势。在算力、算法、数据、人才、资本、基础设施等方面处于劣势的发展中国家，将可能在这一轮人工智能竞赛中被动地拉大与发达国家在技术实力和治理能力上的差距。
弥合智能鸿沟，实现更大程度的数字包容，需要携手打造开放、公平、非歧视的人工智能发展环境。
因此，我们需要通过多途径建立国际交流及防控体系，加强政府间的多边对话机制；同时，也希望联合国等国际组织能够真正起到综合全面协调的作用，加强国际合作协议，提升发展中国家的代表性和发言权，在产业、科学界共同努力下推动人工智能合理发展。
■叶赟
放大
