如何理解
“打造人工智能发展和治理创新高地”
编者的话 7月24日，十二届市委九次全会审议通过了《中共上海市委关于加快建设人工智能发展和治理创新高地的意见》等三个重要文件。全会指出，要全面落实习近平总书记关于人工智能的重要论述，按照国家统一部署，秉持以人为本、向上向善的理念，坚持创新驱动，突出市场导向，强化政策支持，完善治理机制，深化普惠共享，保持战略定力和行动敏捷，坚定不移走好自主创新、应用牵引、生态协同、开放共赢、安全可控的人工智能发展之路，加快建设具有全球影响力的人工智能创新高地，助力构建公正合理的全球人工智能治理体系，在人工智能发展和治理方面走在世界前列。
8月25日，市委书记陈吉宁在市委中心组学习会上强调，奋力把上海打造成为人工智能发展和治理创新高地。
为深入学习贯彻落实十二届市委九次全会精神，本刊编辑部联合上海社会科学院党委宣传部、上海社会科学院信息研究所，特约专家学者撰写一组解读文章，供读者参考。
以高水平安全治理
建设人工智能发展和治理创新高地
赵蔡晶
人工智能带来的不只是技术革新，更是发展模式、社会结构与治理秩序的深度变革。十二届市委九次全会审议通过《中共上海市委关于加快建设人工智能发展和治理创新高地的意见》（以下简称《意见》），对上海人工智能发展和治理创新作出新的顶层设计。统筹发展和安全，着力提高人工智能治理水平，是落实这一部署的关键。
深刻把握人工智能安全治理的复杂形势
从国际看，规则博弈态势错综复杂。各国安全测评标准、监管要求差异较大，缺少有效协调机制，落地性国际规则供给不足。部分国家将技术武器化、规则政治化，借助出口管制、技术脱钩构建排他性技术联盟。算力、数据、模型、人才等创新资源不断向少数国家和头部企业集聚，广大发展中国家在全球规则制定中话语权不足。
从国内看，多重安全风险交织叠加。我国人工智能广泛应用于制造、金融、医疗、交通、政务等重点领域，用户基数庞大。大模型具备跨任务推理、工具调用、泛化迁移能力，行为不完全由开发者预设，在真实应用场景下容易出现偏见放大、信息误导、价值冲突等衍生风险。
从上海看，安全治理先行破题使命紧迫。上海是国内人工智能创新的重要策源地，产业基础雄厚、应用场景丰富、国际开放平台高度集聚。建设人工智能发展和治理创新高地，既要实现技术创新、产业能级领先，更要在安全治理领域先行探索、率先破局。
正确处理人工智能安全治理的“四组关系”
统筹评测与监管。一方面，《意见》强化评测标准供给，推进大模型技术标准创新基地建设，完善大模型、智能体等新技术安全评测指标；另一方面，《意见》健全全链条安全监管体系，统筹制度建设、监管平台、标准体系与安全技术研发。前端依托沙箱测试、安全评估识别模型内生风险，为监管提供科学依据；后端以监管制度压实企业主体责任，形成评测识别风险、监管处置风险的完整闭环。
协同技术与制度。《意见》部署人工智能安全关键技术攻关，重点突破算法价值对齐、行为规约等核心技术，降低模型涌现带来的不确定性风险；同步建立重点行业、关键领域人工智能分类分级监管制度，完善技术监测、风险预警和应急响应机制。以技术补齐安全短板，以制度划定行为边界，形成双向赋能的治理合力。
兼顾安全与伦理。《意见》既明确技术安全、数据安全、内容安全等硬性要求，也给出重点领域伦理准则与合规指引，推动伦理审查嵌入研发落地全流程。针对人工智能对产业、就业带来的结构性影响，上海从产业拓岗、技能重塑、就业保障、人机协同等多维度应对，打造“培训+就业”服务平台，兼顾产业升级与劳动者权益，推动技术服务人的全面发展。
联动国内与国际。对内，上海立足我国人工智能产业发展阶段与丰富的城市应用场景，提炼超大城市治理实践，形成本土化的人工智能治理规则；对外，主动参与人工智能安全国际标准研制，用好世界人工智能合作组织等平台，倡导构建公平、包容、非歧视的全球治理框架，贡献实践经验，助力化解全球治理分歧。
以高水平安全治理助力
上海人工智能走在世界前列
推动安全治理嵌入科研应用全链条。强化安全标准的前置引领，推动安全合规成为企业创新内生自觉。在各类场景落地过程中，建立常态化风险评估机制，针对政务、医疗、金融等高风险领域落实事前评估、事中动态监测。完善分类分级监管机制，统筹政府监管、行业自律、社会监督，做到发展与安全一体谋划、一体部署、一体推进。
依托上海特色创新平台开展治理示范。发挥“模速空间”“模力社区”等载体作用，用好大模型合规指导服务中心，打造安全评测、合规服务、伦理审查等一体化服务模式。在智算集群建设中筑牢网络与数据安全底座，在专业语料建设中打通全流程数据合规路径，在城市应用场景中明晰安全与伦理红线，有序开展人工智能社会实验，输出一批可复制的场景治理示范。
打造全球人工智能安全治理重要节点。持续办好世界人工智能大会，保障世界人工智能合作组织实体化运行，发挥平台枢纽功能。积极参与国际标准制定、安全测评互认、跨境风险信息共享，把上海大模型监管、伦理建设、场景治理的实践转化为可推广的制度成果，为构建公正合理的全球人工智能治理体系输出“上海方案”。
（作者为上海社会科学院信息研究所助理研究员）
本文刊于《上海宣传通讯》
2026年第18期“专题”栏目
