筑牢人工智能发展安全防线

  党的二十届三中全会通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》指出，“加强网络安全体制建设，建立人工智能安全监管制度”。当前，新一轮科技革命和产业变革蓬勃发展，人工智能、生物技术、新能源等前沿技术方兴未艾。其中，以DeepSeek、ChatGPT等为代表的生成式人工智能热潮席卷全球，成为现象级话题。生成式人工智能技术在重塑全球科技创新与产业发展格局的同时，也可能引发价值导向偏差、AI技术滥用等复杂挑战。面对这场深刻影响国家发展与未来的技术革命，着力筑牢生成式人工智能发展的安全防线，构建科学完备、运行高效、多维协同的风险防范体系，不仅关乎技术本身的应用效能，更直接关系到国家安全、社会稳定、文化繁荣和国际竞争力提升，是摆在我们面前的重大时代课题。

图片来源于网络，如有侵权，请联系删除

  明确价值导向，牢固树立科技发展的正确理念。首先，坚持科技为民、技术向善。习近平总书记强调，“要把满足人民对美好生活的向往作为科技创新的落脚点，把惠民、利民、富民、改善民生作为科技创新的重要方向”。这彰显了我国科技创新的人民性特征，意味着要使生成式人工智能技术更好服务于人民对美好生活的向往，确保技术成果能够广泛惠及全体社会成员，促进社会公平正义与和谐稳定。政府、企业、高校、科研机构等各主体都应将技术向善理念融入生成式人工智能技术发展过程，实现从研发到应用全生命周期的价值导向把控，确保技术发展不偏离为人类谋福祉的初衷，实现社会价值与经济价值的兼顾。其次，统筹好发展与安全的关系。安全是发展的前提，发展是安全的保障，发展生成式人工智能技术，需深刻把握技术创新活力释放与风险有效管控的辩证统一。这就要求我们既要克服“谈AI色变”的过度担忧心理，为技术探索、产业孵化、应用场景落地等创造包容审慎的发展空间，激发其赋能生产力发展的巨大潜能；也要坚决摒弃“技术至上”“先发展后治理”的思维观念，将安全理念、合规标准深度内嵌于技术研发、模型训练、场景应用等全链条、全流程、全生命周期中，确保生成式人工智能技术在保持创新活力的同时，始终运行在安全可靠的轨道上。

  强化源头管理，提升数据治理能力。数据是训练人工智能模型的基础要素，也是人工智能模型应用的核心资源。生成式人工智能发展依赖海量的训练数据，包括个人数据、企业数据和政府数据等，一旦这些数据失控流动、造成泄漏，将可能导致个人身份盗用、财产损失，甚至对国家安全带来不利影响。因此，针对重点行业的重要数据、核心数据，可参照欧盟《通用数据保护条例》和我国数据安全法等的管控要求，按照“境内存储+安全评估”的方式进行管理；构建跨模态数据安全与隐私保护体系，依托区块链技术实现全链路数据存证，通过可信执行环境技术，实现“原始数据不出域，数据可用不可见”；构建风险预警和动态评估平台，实时监测和分析平台运行状态、数据流向等信息，加强对违规内容与行为的实时识别与研判。同时，数据质量直接影响大语言模型的性能与可靠性。要加快建立数据使用的标准与规范，提高数据的可解释性与可用性；加强对数据的清洗与筛选等预处理，提升数据质量。建立健全大数据审计工作机制，定期对数据的收集、存储、使用和共享情况进行审查，及时发现并纠正数据滥用、隐私泄露等问题，确保数据使用和技术发展始终在可控范围内。数据提供者也需遵循合法性与合规性原则，确保数据来源合法、内容真实准确，减少深度伪造技术带来的负面影响。

  健全制度保障，推进人工智能监管治理体系化。一方面，立法先行，明确基本法律框架和责任边界。依托网络安全法、数据安全法和个人信息保护法构建的法律框架体系，可考虑将目前已有的相关政策包括《生成式人工智能服务管理暂行办法》等逐步上升为具有更高法律效力的文件，加快推动全面系统的人工智能专门性法律制定，明确技术研发者、使用者、监管者等各主体的权利、义务与责任边界。要明确规定相关企业在数据收集、存储、使用过程中的安全保障责任，界定监管部门在监督检查、风险防范、应急处置等方面的职权范围和执法程序，确保监管工作的合法性、规范性和有效性，使各参与主体能够在明确的法律框架内开展活动，有法可依、有章可循。另一方面，协同共治，建立健全跨部门监管体系。可整合相关部门的监管资源与力量，明确各部门在风险防范中的具体职责和角色，通过信息共享、联合执法等方式，建立高效的协同工作机制，形成监管合力，提高监管效率和执法效果，避免产生职责不清、推诿等现象。同时，建立跨地区、跨平台的协同监管机制，减少监管盲区，确保生成式人工智能技术在各个应用领域都受到严格有效的监管，保障社会公共利益和广大用户的合法权益。

  此外，维护生成式人工智能安全，构建风险防范体系，也离不开全社会的共同参与。普及人工智能教育、提升公众科学素养是重要一环。在中小学的基础教育阶段，可通过科普课程、实践活动等多种形式，向广大青少年普及人工智能基本原理、技术应用及其潜在风险等知识，培养他们对技术的理性认知和正确的价值判断能力。在大学教育和职业培训中，可开设专门的人工智能课程和培训模块，系统讲授法律法规、风险案例等内容，提高相关从业人员在技术研究、开发与应用中的安全责任意识。同时，面向社会公众广泛开展人工智能素养的宣传教育活动，借助短视频平台、社区宣传、线上线下讲座等多种渠道，提高全社会对人工智能的关注度与认知水平，增强人们的风险防范意识和对技术发展的理性态度，形成全民参与、共同监督的良好社会氛围。鼓励和支持社会组织、行业协会发挥社会监督作用，加强对生成式人工智能技术应用过程中的违法违规行为和风险问题等的揭露，形成全社会共同参与监督的强大合力，打造健康有序、可持续的生成式人工智能发展环境。

  生成式人工智能技术以其强大的颠覆性和创新性，正在逐渐改变我们的世界，在这一过程中，也伴生着未知的系统性风险挑战，构建安全可靠的风险防范体系是引导其健康有序发展的重要时代课题。筑牢生成式人工智能安全防线不是束缚技术发展，而是为了更好引导技术创新向服务人类发展和文明进步的方向前进。这就要求既要保持对技术风险的警惕性，也要保持对技术创新的包容性，尽可能将潜在风险转化为发展契机，形成推动社会发展的强大动力，为我们赢得全球科技竞争主动权、抢占未来发展制高点提供技术支撑与保障。

  （张 静 作者系北京邮电大学马克思主义学院副教授、北京市习近平新时代中国特色社会主义思想研究中心特约研究员）