跳到正文

Haonan S010 安全工程

进行应用与 AI 系统的威胁建模、安全审查、授权测试及修复验证;交付威胁矩阵、适用对抗用例和实际证据,分别核查权限拒绝与合法业务成功。

个人 Skill产品研发4 个文件浏览次数 0
开始使用

下载前阅读 SKILL.md 中的使用条件,并确认所用工具支持对应能力。

输入资料
读取以下适用资料,明确资产、信任边界、目标环境与授权。资料不足时保留未知项并继续有依据的威胁分析;未获准的运行攻击保持受阻。 【SKILL02/04】业务合规红线:提取系统处理的数据敏感级别(如:是否包含 PII/PHI 隐私数据?是否受等保三级/HIPAA 约束?)。 【SKILL05-3】Agent 权限清单:提取 Agent 配置的 Tools 列表与隔离策略(这是越权攻击的核心靶点)。 【SKILL05-1】异构四库架构:明确向… 阅读本节完整说明
交付内容
按建模、工程防护、AI 防护和报告四阶段执行。完整授权下连续推进,攻击测试限定授权目标、环境与数据;必要新增授权只暂停相关动作。 第一阶段 (Threat Modeling & Assets):[核心交付] 输出 【第 1 节:STRIDE 威胁模型与 AI 红队恶意攻击数据集】。询问:“全场景安全威胁模型与对抗 Payload 样本已生成,是否作为安全防御的验收基准?” 第二阶段 (Traditional Sec: 工程防线):输出 … 阅读本节完整说明
  1. 获取完整包,保留配套文件的目录结构。
  2. 按照原文准备所需工具、依赖与输入资料。
  3. 阅读对应使用步骤与输入输出说明,在自己的环境中验证结果。

使用提示摘自原文,配套文件保留来源版本;实际运行条件以各包说明为准。

正文

获取原文件

references/security-matrix.md

范围记录

target,owner_or_authorization,environment,allowed_methods,excluded_methods,rate_limit,time_window,data_policy,stop_condition

威胁记录

threat_id,asset,actor,trust_boundary,entry,precondition,attack_path,impact,existing_control,detection,residual_risk,owner

传统应用面

  • 身份、会话、授权、租户隔离和审计。
  • 输入、查询、模板、文件、URL、反序列化和输出编码。
  • 密钥、依赖、构建、制品、CI 权限和供应链。
  • 网络、CORS/CSRF、速率限制、错误泄露和日志敏感数据。
  • 数据最小化、加密、备份、删除、保留和环境隔离。

AI 系统面

  • 直接/间接 Prompt Injection 和指令/数据边界。
  • 不可信模型输出进入 HTML、代码、SQL、URL 或工具参数。
  • 工具越权、跨租户、重复调用、成本耗尽和循环。
  • RAG 投毒、来源许可、引用伪造、删除传播和数据泄露。
  • Prompt/模型/工具/数据集供应链与版本回滚。
  • 记忆污染、跨会话泄露和人工审批绕过。

发现记录

finding_id,evidence,reproduction,impact,likelihood,severity,control_gap,remediation,verification,residual_risk,status

Payload 使用最小无害样本,真实攻击执行遵守授权范围和停止条件。

每项控制记录需求或风险来源、适用环境、合法操作路径与拒绝路径。附加审核和发布条件有依据,不能通过阻断全部操作取得通过。身份在请求、异步结果、跳转及采用时一致。

修复与证据交接

发现记录关联 task_id、开发记录、实际代码版本和复验入口。授权修复后同时复验触发问题的路径、对应合法路径及受影响共享权限机制。将当前结果交给 S006 发布检查、S011 环境验证和 S012 知识维护;其他角色、环境或版本没有执行时保持未验证,不能直接继承通过状态。

可公开报告记录脱敏结果与证据位置;秘密、会话凭据及敏感原始数据遵循项目访问规则,不复制进入通用开发记录。

Haonan S010 安全工程 · 原理图

查看原图
Haonan S010 安全工程 原理图

CONTACT HAONAN

联系haonan

医疗 AI · 产品与独立开发

刘浩南

关注医疗 AI 从 demo 到真实落地,聚焦产品化、商业化与院内工作流效率提升。

12年医疗产研经验,大湾区头部医疗AI公司前产品总监,独立开发者

医疗 AI 产品化医疗 AI 商业化院内工作流效率
刘浩南的微信联系二维码
微信扫一扫,联系 haonan