Slack的安全工程团队开发了一套人工智能代理系统,该系统能够自主调查安全警报——并且它正在发现人类分析师所未能察觉到的威胁。该系统使用三个代理角色,通过结构化输出进行协作,处理数十亿次日常安全事件,并自发地发现超出其初始范围的事件。
三个不同的角色负责调查:主管代理协调并提出问题,四个专家代理分析特定领域(访问、云、代码、威胁),批评代理审查调查结果的质量并分配可信度分数。评论家和专家之间的对抗关系减轻了幻觉。
每个代理都使用结构化的JSON输出,而不是希望单个提示能产生可靠的结果。这取代了性能高度可变的300字原型,代之以一个将定义明确的任务链接在一起的系统。
“知识金字塔”将低成本模型用于象征密集型专家工作,中等成本模型用于批评家评审,高成本模型用于总监决策。只有最可信的发现才会冒出昂贵的模型,在保持质量的同时优化成本。
该系统表现出突发性行为——在一个案例中,批评者在荟萃分析中发现了专家遗漏的认证暴露。主任自主地将整个调查工作集中在这一更优先的问题上。
🤔为什么重要:
这就是生产型人工智能代理的真实面貌——由具有对抗性关系的精心编排系统构成,而非聊天机器人。对于每天忙于处理数十亿次事件的安全团队来说,这让工程师们从收集证据转向调查监督。
推荐学习书籍 《CDA一级教材》适合CDA一级考生备考,也适合业务及数据分析岗位的从业者提升自我。完整电子版已上线CDA网校,累计已有10万+在读~ !