LLM 测试 Skill:从事实正确性到拒答与安全边界验证
从事实准确性、引用依据、拒答、隐私、时延和成本设计大模型测试,并固定模型参数、重复运行以评估随机输出。
质量分析师,而非质量保证师。
从事实准确性、引用依据、拒答、隐私、时延和成本设计大模型测试,并固定模型参数、重复运行以评估随机输出。
核对 AI 生成的测试是否对应真实接口、覆盖关键边界并保留可追溯证据,再决定是否纳入测试集。
用多样样本、固定模型参数和量表评估 Prompt 变更,覆盖指令遵循、事实引用、多轮一致性、边界拒答与版本回归。
从资产与权限梳理攻击面,按可利用性和影响排序,并保留复现、修复与复测证据。
整合产品、QA、研发和运维的质量判断,同时保留证据冲突、假设与未解风险,支撑跨职能发布决策。
结合范围、依赖、里程碑和验证证据判断交付准备度;计划变化时记录取舍与责任人。
把架构、可用性、可维护性、恢复能力和依赖边界连接到运行后果,形成有依据的系统质量评估。
检查任务流、等待、反馈、可访问性和恢复路径,发现界面无报错但用户无法完成任务的体验风险。
从用户任务、业务规则、信任和转化风险评估产品质量,不让缺陷数量替代用户结果。
结合覆盖范围、执行证据、未测路径和残余风险支持发布判断,避免把全绿结果说成风险清零。
先控制生产事故影响并整理证据时间线,再验证多个原因假设,避免过早把猜测定为根因。
生产验证指南:发布后结合真实业务流程、技术指标、日志与告警观察影响,并以观察窗口和回滚条件决定继续放量或停止。