8月30日，2024年国家网络安全宣传周上海地区活动——徐汇区大模型主题分论坛在上海“模速空间”创新生态社区举行。本次论坛主题为“大模型浪潮下的安全挑战”，记者从会上获悉，截至目前，全国已有188款大模型完成备案，其中上海共34款，徐汇占21款；全国已有26款大模型服务完成登记上线，其中我市共20款，徐汇区占7款。目前，上海还有两批次共17款大模型正在备案流程中。

上海市委网信办总工程师杨海军在论坛上表示，2022年底以来，以大语言模型为代表的生成式人工智能技术与应用快速发展，上海创新成立了全国首个大模型合规指导服务中心，目前已组织开展大规模政策宣贯7次、上门服务近30次，覆盖人工智能企业240余家。中心还进驻模速空间、浦东张江、杨浦等人工智能产业生态聚集区，开展一对一、个性化的指导和专场交流活动，帮助大模型企业守牢安全底线。

论坛现场

在徐汇区，模速空间的生态集聚效应正加速显现。自去年9月揭牌成立以来，模速空间及其周边已集聚约170家大模型企业，形成了覆盖上游基础层、中游模型层、下游应用层的大模型全产业链共创生态，面向消费、文娱、金融、医疗、教育等垂直应用领域打造若干个行业级生态社区，推动各类垂直场景的小模型开展“首发首秀”。目前，上海三分之二的备案大模型企业集聚在模速空间。

杨海军表示，大模型产业加速发展的同时，也引发业界和公众对人工智能安全与伦理的担忧。现阶段，大模型具有以下几个亟待攻克的难题和挑战：“内生幻觉”导致大模型出现事实错误或逻辑错误，生成虚假信息；大模型供应链的安全漏洞被利用后，生成违法信息，被用于网络诈骗等违法犯罪活动；大模型的训练、微调等需要语料，对个人信息保护、数据安全和知识产权等提出新挑战。

去年8月，我国先行出台了《生成式人工智能服务管理暂行办法》，成为全球生成式人工智能服务监管立法的先行者；今年世界人工智能大会期间，《人工智能全球治理上海宣言》发布，同步成立了“上海人工智能安全治理实验室”。徐汇区委宣传部部长赵懿表示，徐汇坚持源头治理，积极搭建平台，已建立大模型合规指导中心，组织生成式人工智能服务备案培训，将进一步加强市区联动、区域协同，聚焦大模型企业的实际需求全力护航企业合规发展。

“很多大模型初创企业都需要开展合规训练，学习提升安全能力、适配监管要求、保障内网安全，确保企业的核心业务和资产安全落地。”华盖科技负责人昌齐介绍，目前企业正为米哈游、莉莉丝、游族等游戏企业以及杉德等第三方支付企业开展网络安全培训，服务新质生产力行业企业发展。“在此过程中，我们希望有一个广阔的平台，让网络安全保障能够产生的价值为更多企业和用户所知。”

市集现场  舒抒 摄

为此，论坛当天，徐汇区在“模速空间”还举办了一场别开生面的“网络安全市集”活动，三零卫士、纽顿科技等网络安全企业，米哈游、鹰角等网络游戏企业均积极响应并参与。市集现场设置了专家咨询区、技术展示区、互动体验区等多个功能区，前来参与的白领和市民可参与网络安全知识竞赛、游戏活动，了解、辨别和应对包括网络谣言、电信诈骗等在内的网络威胁情景。

位于市集入口处的米哈游当天组织了一场趣味打卡活动，参与者在米哈游摊位前领取任务清单，随后在现场20余家互联网和人工智能企业的摊位上打卡，逐一了解网络安全、数据安全的相关信息，集齐20个“安全标语”打卡点后，可回到米哈游的摊位抽取奖品。“希望通过‘趣味普法’的方式，让更多年轻从业者学习和掌握网络安全的相关技能，助力行业健康有序发展。”活动现场负责人说。