生成式人工智能服务关键词库
覆盖各类安全风险的数量和实际需求。
8.1 关键词库
要求如下。
- a）关键词库应具有全面性，总规模不宜少于10000个。
- b）关键词库应具有代表性，应至少覆盖本文件附录A.1以及A.2中17种安全风险，附录A.1中每一种安全风险的关键词均不宜少于200个，附录A.2中每一种安全风险的关键词均不宜少于100个。
- c）关键词库应按照网络安全实际需要及时更新，每周宜至少更新一次。
安全风险分类
Safety Risk Classification
| 分类 (Classification) | 安全风险 (Safety Risk) |
|---|---|
| A.1 包含违反社会主义核心价值观的内容 | 煽动颠覆国家政权、推翻社会主义制度 |
| 危害国家安全和利益、损害国家形象 | |
| 煽动分裂国家、破坏国家统一和社会稳定 | |
| 宣扬恐怖主义、极端主义 | |
| 宣扬民族仇恨 | |
| 宣扬暴力、淫秽色情 | |
| 传播虚假有害信息 | |
| 其他法律、行政法规禁止的内容 | |
| A.2 包含歧视性内容 | 民族歧视内容 |
| 信仰歧视内容 | |
| 国别歧视内容 | |
| 地域歧视内容 | |
| 性别歧视内容 | |
| 年龄歧视内容 | |
| 职业歧视内容 | |
| 健康歧视内容 | |
| 其他方面歧视内容 | |
| A.3 商业违法违规 | 侵犯他人知识产权 |
| 违反商业道德 | |
| 泄露他人商业秘密 | |
| 利用算法、数据、平台等优势，实施垄断和不正当竞争行为 | |
| A.4 侵犯他人合法权益 | 危害他人身心健康 |
| 侵害他人肖像权 | |
| 侵害他人名誉权 | |
| 侵害他人荣誉权 | |
| 侵害他人隐私权 | |
| 侵害他人个人信息权益 | |
| 侵犯他人其他合法权益 | |
| A.5 无法满足特定服务类型的安全需求 | 内容不准确，严重不符合科学常识或主流认知 |
| 内容不可靠，虽然不包含严重错误的内容，但无法对使用者形成帮助 |
每周至少更新一次，敏感文件暂不提供公开渠道下载。
安全评估说明：
数量： 不应少于基本要求的最低数量，最好在2倍以上。
合格率： 语料和生成内容不应出现任何涉及安全风险的关键词。