赛芯半导体官网

新闻中心

人工智能数据安全刻不容缓,国标已为你集齐

人工智能大模型数据安全相关国标意义重大,它们为行业提供安全指引与操作准则,规范行业行为,保障数据质量与安全,提升服务安全性与可信度,保护用户权益,还有助于构建监管体系,促进技术创新与产业可持续发展,增强我国在该领域的话语权与影响力。

以下是人工智能大模型数据安全相关国标的意义:

GB/T 45652-2025《网络安全技术 生成式人工智能预训练和优化训练数据安全规范》:

◎保障数据质量与安全:对预训练和优化训练数据处理活动提出安全要求,确保数据在收集、存储、处理等环节的安全性,避免数据泄露、篡改等问题,为生成式人工智能提供高质量、安全可靠的训练数据基础。

◎规范行业数据处理行为:为生成式人工智能服务提供者开展相关数据处理活动及安全自评估提供明确指引,也为第三方评估提供参考,有助于规范整个行业在训练数据处理方面的行为,促进行业健康发展。

 

GB/T 45654-2025《网络安全技术 生成式人工智能服务安全基本要求》:

◎全面保障服务安全:制定了生成式人工智能服务在训练数据安全、模型安全、安全措施等方面的网络安全基本要求,涵盖了服务的关键环节,为生成式人工智能服务的安全提供全面保障。

◎提供管理与评估依据:适用于服务提供者开展相关活动,也为相关主管部门以及第三方评估机构提供参考,为国家人工智能安全的管理工作及产业发展提供标准支撑,有助于加强对生成式人工智能服务的监管和评估。

 

GB/T 45576-2025《网络安全技术 网络安全保险应用指南》:

◎规范网络安全保险应用:为组织购买和使用网络安全保险,以及网络安全保险机构开展业务提供指导,明确了相关角色的责任、应用流程、保障事件和损失类型等,有助于规范网络安全保险市场,促进其健康发展。

2.助力网络安全风险应对:通过提供网络安全保险应用指南,帮助组织更好地应对网络安全风险,转移部分风险损失,同时也推动保险机构与网络安全行业的合作,共同助力构建更加规范、安全的网络生态。

总体而言,这些标准的发布具有多方面重要意义:

对行业发展:为人工智能大模型相关领域提供了明确的安全指引和操作准则,规范行业行为,统一标准,促进市场秩序的规范,推动产业健康、可持续发展,加速技术创新迭代4。

对企业:虽然短期内可能增加企业的合规成本,但从长远来看,有助于企业建立可信的 AI 生态,提升企业的安全性和可信度,增强企业竞争力,吸引更多用户和合作伙伴,也为企业在数据安全管理等方面提供了明确的指导方向,降低潜在风险。

对用户:保障用户的数据隐私和安全,减少用户在使用人工智能大模型相关服务时面临的隐私泄露、信息误导等风险,使用户能够享受到更安全可靠、值得信赖的 AI 服务。

对国家层面:有利于构建贯穿研发到应用的全链条 AI 监管体系,实现 AI 发展与安全之间的平衡,提升我国在人工智能领域的话语权和影响力,助力我国从 AI 大国向 AI 强国转变,也有助于促进 AI 技术与经济社会的深度融合,更好地服务于人民生活和社会治理。

 

GB/T 45654-2025 《网络安全技术 生成式人工智能服务安全基本要求》发布日期:2025-04-25

实施日期:2025-11-01

归口单位:由全国网络安全标准化技术委员会提出并归口

适用范围:本文件规定了生成式人工智能服务在训练数据安全、模型安全、安全措施等方面的要求。本文件适用于服务提供者开展生成式人工智能服务相关活动,也为相关主管部门以及第三方评估机构提供参考。本文件重点面向具有舆论属性或者社会动员能力的生成式人工智能服务,支撑备案管理、检测评估等方面工作开展。重点关注数据标注安全时,本文件可与 GB/T45674《网络安全技术 生成式人工智能数据标注安全规范》结合使用;重点关注预训练和优化训练数据安全时,本文件可与GB/T45652《网络安全技术 生成式人工智能预训练和优化训练数据安全规范》结合使用。

GB/T 45652-2025网络安全技术 生成式人工智能预训练和优化训练数据安全规范》发布日期:2025-04-25

实施日期:2025-11-01

归口单位:由全国网络安全标准化技术委员会提出并归口

适用范围:预训练和优化训练数据是生成式人工智能的基础,直接决定了生成内容的质量和安全水平,但由于预训练和优化训练数据在收集、预处理、使用等处理活动中存在安全风险,亟需标准规范用于提高预训练和优化训练数据的安全水平。本文件规定了生成式人工智能预训练和优化训练数据及其处理活动的安全要求,描述了相应的评价方法适用于生成式人工智能服务提供者开展预训练和优化训练数据处理活动以及安全自评估,也适用于第三方机构对预训练和优化训练数据进行安全性评估。

GB/T 45674-2025《网络安全技术 生成式人工智能数据标注安全规范》布日期:2025-04-25

实施日期:2025-11-01

归口单位:由全国网络安全标准化技术委员会提出并归口

适用范围:数据标注是生成式人工智能的关键活动,直接决定了训练数据以及生成内容的质量和安全水平,但由于标注规则不完善、人员管理不规范、核验标准不明确等原因,在数据标注过程中也可能为生成式人工智能引入新的风险隐患,亟需标准规范用于提高数据标注的安全水平。本文件规定了生成式人工智能训练的数据标注平台或工具安全要求、数据标注规则安全要求、数据标注人员要求、数据标注核验要求,描述了数据标注安全评价方法,适用于生成式人工智能数据标注组织方开展训练数据标注活动,并为生成式人工智能数据需求方对于数据标注进行检查、验收或第三方机构对数据标注进行安全性评估提供参考。

 

来源:“老任数智化”微信公众号。 如有侵权,请联系删除。