2024生成式AI应用程序安全测试和验证标准(英译中)
目录1. 范围1
2. 目标受众4
3. 规范性引用文件5
4. 术语和定义6
5. AI应用安全和验证标准9
- 5.1 基本模型选择测试标准9
5.1.1 模型合规性和上下文测试9
5.1.2 数据使用检查测试11
5.1.3 基本模型推理API安全测试15
5.2 嵌入和矢量数据库20
5.2.1 数据清理和匿名化测试20
5.2.2 矢量数据库安全测试21
5.3 使用RAG 23进行提示和知识检索
5.3.1 快速施工测试23
5.3.2 提示模板测试25
5.3.3 外部API集成测试 (函数调用、 插件) 27
5.3.4 从矢量数据库检索测试28
5.4 迅速执行/推理28
5.4 1 LLM应用程序api测试29
5.4.2缓存和验证测试32
......