□胡婷

你用过DeepSeek吗？随着AI大模型迅猛发展，以DeepSeek为代表的国产大模型正掀起技术革新浪潮，席卷、赋能众多产业。有人说AI大模型是工作生活好帮手，有人视之为洪水猛兽。AI大模型在网络安全、知识产权、社会治理等领域的风险引起广泛关注，构建风险防控体系成为当务之急。

网络安全问题日益凸显，一些不法分子以AI大模型的名义，进行网络钓鱼诈骗活动，发布虚假信息，以轻松赚取高额收入为诱饵，诱骗用户购买内容多为注水拼凑的课程。知识产权保护问题亟待解决，AI大模型的训练依赖于大量数据，部分用户未经授权，便将他人的文字、图片等数据“投喂”AI大模型，生成的作品与原作高度相似，并应用于营利性商业渠道，侵犯原作者权益，易造成知识产权纠纷。

这些现象的背后，是技术工具属性与社会责任意识的失衡。如何在技术创新与风险防范之间找到平衡？我们在享受技术红利的同时，应积极应对可能出现的各种风险，加强网络安全监管，完善知识产权保护体系，健全监管体制机制。

治理AI大模型‌风险，需要构筑“技术+制度”双重防线。比如，构建AI创作溯源系统，通过实时监测、溯源追踪，一旦发现虚假信息便可介入，快速阻断扩散路径。用AI制约AI，但技术防御永远需要制度托底。面对新情况，‌监管体系应从被动响应向主动设计转型。我国针对高风险AI应用的实施细则在不断完善，除了《生成式人工智能服务管理暂行办法》，《人工智能生成合成内容标识办法》也将于9月1日起施行，重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，规范人工智能生成合成内容标识。这种精细化的治理思维，既避免了一刀切对创新的扼杀，又守住了安全底线。

技术创新是一把双刃剑，与其在风险爆发后被动应对，不如在浪潮兴起时构筑堤坝。只有建立涵盖技术防控、制度约束、伦理引导的立体化治理体系，才能让AI大模型释放创新动能，实现科技向善的终极价值。