统筹发展和安全 提升人工智能安全治理水平

　　习近平总书记指出：“当前，人工智能技术加速迭代演进，正在深刻改变人类生产生活方式、重塑全球产业格局。中国高度重视人工智能的发展和治理，积极推动人工智能科技创新与产业创新深度融合，赋能经济社会高质量发展，助力提升人民群众生活品质。”人工智能作为新一轮科技革命和产业变革的核心驱动力，以其技术属性与社会属性的深度交织，正以前所未有的速度重塑经济格局和社会形态，其在释放巨大生产力潜能的同时，也伴生着复杂多元的安全风险与治理挑战。一方面，人工智能赋能网络攻防、开源情报等国家安全相关领域，是筑牢国家安全屏障的有力抓手。另一方面，人工智能因其脆弱性、不稳定性、不可解释性等特点，在与经济社会深度融合应用的过程中，极易引发国家、社会、企业和个人等层面的安全风险。国务院印发的《关于深入实施“人工智能+”行动的意见》提出，要“提升安全能力水平”。在席卷全球的人工智能浪潮中，如何统筹发展和安全，成为应对人工智能风险、把握发展战略主动、有效维护和保障国家安全的重要内容。

　　●正确认识人工智能安全治理面临的形势

　　人工智能技术创新迭代加快。当前，人工智能技术呈现出快速创新迭代的态势，以大模型为代表的人工智能技术取得了突破性进展，模型的规模、性能和应用能力不断提升。同时，人工智能技术与其他新兴技术的融合也在加速。比如，与物联网、区块链、量子计算等技术的结合，为人工智能的发展带来了新的机遇和挑战。这种快速的技术创新迭代逐渐将物理世界与数字世界相结合，智能体和具身智能等新范式使得人工智能的应用场景和能力边界不断拓展，对经济社会的影响也日益深远。

　　人工智能安全风险挑战增多。随着人工智能技术的广泛应用，其安全风险也日益凸显。从技术层面来看，人工智能系统存在着数据安全、算法安全、模型安全等多方面的风险，数据泄露、数据偏见、算法歧视、模型被攻击等问题都可能导致人工智能系统的失效或被恶意利用。从应用层面来看，人工智能在医疗、金融、交通、能源等关键领域的应用，一旦出现安全问题，可能会对国家安全和社会稳定造成严重影响。此外，人工智能技术的滥用还可能引发伦理道德、隐私保护等方面的问题。

　　人工智能安全治理难度加大。人工智能技术的快速发展和广泛应用，使得安全治理的难度不断加大。一方面，人工智能技术的复杂性和多样性，使得传统的安全治理手段难以有效应对。另一方面，人工智能的应用场景广泛，每个领域的风险特征和治理要求都不相同，其引发的责任和监管归属问题需要跨部门、跨领域协同治理。此外，人工智能技术的快速发展容易导致监管滞后，对相关法律法规和监管政策及时制定出台提出了很高要求。

　　●准确把握人工智能安全治理的关键问题

　　一是技术创新与安全保障的平衡。在推动人工智能技术创新的同时，必须高度重视安全保障。一方面，加大对人工智能技术研发的投入，鼓励科研人员开展基础研究和应用创新，提高我国人工智能技术的核心竞争力。另一方面，加强人工智能安全技术研发。比如，加大对数据加密、隐私保护、安全审计、模型验证等技术的研发力度，为人工智能系统安全运行提供技术支撑。同时，建立健全人工智能安全评估体系，对人工智能技术和应用进行全面、客观的安全评估，及时发现和解决安全隐患。

　　二是产业发展与安全监管的协调。在技术创新与商业应用驱动下，人工智能产业规模呈现爆发式增长态势，但人工智能产业的可持续发展离不开安全监管的保障。一方面，相关政策法规要明确人工智能产业发展的规范和标准，更好地实现对人工智能企业的监管，规范企业行为。另一方面，采取适应性监管、敏捷监管等新型监管模式，提高监管的效率和灵活性。此外，还应加强对人工智能产业的引导和支持，鼓励企业加大安全投入，提高安全防护能力，促进人工智能产业健康发展。

　　三是国内发展与国际合作的统筹。在全球化背景下，人工智能的发展离不开国际合作。一方面，积极参与全球人工智能治理规则的制定，集中力量突破高端芯片、基础算法、基础软件等核心技术瓶颈，提升我国在国际人工智能领域的话语权和影响力。另一方面，秉持开放合作理念，拥抱开源协作模式，打破封闭垄断，加强与其他国家在人工智能技术研发、安全治理等方面的合作，共同应对全球性挑战。

　　●全面提升人工智能安全治理水平的路径选择

　　加强技术创新，筑牢安全基础。加大对人工智能基础研究的投入，鼓励高校、科研院所与企业联合组建创新实验室开展原创性研究，重点支持类脑智能、因果推理与可解释性模型等前沿领域。加强人工智能安全技术研发，在可信人工智能技术方面研发具备内生安全机制的人工智能系统，从算法设计源头保障模型的安全性与可靠性。推动人工智能技术与其他新兴技术的融合创新。比如，在与区块链技术融合方面，利用区块链的分布式存储、不可篡改等特性，构建安全可信的数据共享平台，解决数据在人工智能应用中的隐私保护和确权问题，提高数据的安全性和可信度；在与量子计算技术融合方面，借助量子计算的超强并行计算能力，加速人工智能模型的训练与优化，同时利用量子加密技术，提升人工智能系统的数据传输和存储安全性能，为人工智能的发展开辟新路径。

　　完善治理体系，强化安全监管。建立健全人工智能安全法律法规体系，针对人工智能生成内容的版权归属等新领域的法律问题，制定专门的法律法规、司法解释，明确人工智能研发者、使用者、运营者等相关主体的权利和义务，规范人工智能技术从研发、应用到管理的全生命周期行为。完善人工智能安全监管体制机制，明确网信、工信、公安等监管部门的职责边界，建立跨部门、跨领域的协同监管工作机制，引入第三方专业机构参与监管，提高监管的科学性和公正性。构建智能化的人工智能安全风险监测预警平台，运用大数据分析、机器学习等技术，对人工智能系统的运行状态、数据流动、安全事件等进行实时监测，建立科学的安全风险评估指标体系。推动企业建立健全内部安全管理制度，将安全要求嵌入产品研发、测试、部署等各个环节，定期组织安全知识讲座和技能培训，提高员工的安全意识和防范能力。

　　促进产业发展，提升安全能力。加大对人工智能产业的政策支持力度，出台财政补贴等扶持政策，引导社会资本向人工智能领域集聚，重点支持具有创新性和发展潜力的人工智能企业。积极推动人工智能产业园区建设，促进产业集聚和协同创新。加大对人工智能产业的安全服务支持，针对人工智能企业的需求，提供专业化、定制化的安全咨询、安全评估、安全防护等服务；建立安全服务供需对接平台，促进安全企业与人工智能企业的合作交流。推动人工智能在安全领域的应用，提升整体安全防范能力，为经济社会发展创造安全稳定的环境。

　　深化国际合作，共筑安全防线。深入研究全球人工智能发展趋势和治理需求，推动构建公平合理、互利共赢的全球人工智能治理体系，提升我国在全球人工智能治理领域的话语权和影响力。建立多边合作机制，共同开展人工智能关键技术研发项目，共享科研资源和数据，攻克技术难题，开展国际学术交流和人才联合培养，提升我国人工智能领域的创新能力和国际合作水平。制定完善的跨境数据流动安全管理制度，建立人工智能产品和服务进出口安全审查机制，确保符合我国安全标准。推动我国人工智能企业“走出去”，鼓励企业通过合资、设立海外研发中心等方式拓展国际市场，提升品牌知名度和国际竞争力。

　　陈运平 余永华

　　（作者分别系江西省社科院党组书记、二级教授，江西省社科院经济研究所副研究员）