定义
在 Proof of Actor 中,AI辅助交互标记为 Human + AI,指的是由人主导、同时使用 AI 辅助的交互。人决定要做什么并保持控制权;AI 系统帮助起草文本、总结信息、建议下一步,或补全部分任务。
它处于另外两类之间。与纯人工交互不同,AI 参与了应用收到的内容。与自主代理不同,仍然是人在选择并确认这些动作。关于这一类与 Human 和 Agent 的关系,请参见Human, AI-assisted or agent: a practical taxonomy for application traffic。
为什么这很重要
许多应用都有这样的工作流:AI 辅助会改变合适的响应方式:
- 支持平台可能希望对用 AI 起草的工单打标签,以便客服人员按合适方式路由和审核。
- 内容或审核平台可能欢迎 AI 帮助,但要求披露。
- 评估或认证工作流可能会对特定步骤限制 AI 辅助。
- 生产力应用可能希望衡量其内置助手被使用的频率。
在每种情况下,应用都受益于知道其中涉及了辅助,同时仍然向用户提供正常、得体的体验。
如何识别 AI 辅助
关键字是 可观察。应用只能识别它实际看得到的 AI 辅助,或者被告知的 AI 辅助。
已声明的辅助
由用户或应用明确说明。例如: “使用 AI 起草”复选框、表单中的披露字段,或当用户调用应用自身助手时设置的应用标记。在 Proof of Actor 的术语中,这属于已声明的 evidence basis。
直接观察到的辅助
支持的集成会看到辅助过程发生。最清楚的例子是应用内置的 AI 功能: 应用知道自己何时为用户生成了内容。
通常看不到的情况
当用户在另一个浏览器标签页里,或在手机上,向聊天机器人提问,然后把结果输入或粘贴到表单中时,普通 Web 流量通常不会显示任何相关信息。会话看起来像是人主导的,因为确实是人主导的。可靠的分类需要证据,而在这种情况下证据并不存在。
常见误解
“AI 写的文本总能被检测出来。” 基于内容的猜测并不可靠,也不能作为区别对待某人的依据。Human + AI 应当建立在已声明或可观察的证据之上。
“Human + AI 是较低一级的类别。” 这不是风险标签。在许多产品中,它恰恰是预期且受鼓励的工作方式。这个类别的存在是为了让应用能够作出合适响应,而不是为了惩罚任何人。
“如果没有检测到辅助,就说明没有使用。” Human 结果意味着可观察信号表明是人主导。这并不证明在任何地方都没有使用 AI。
为 AI 辅助用户设计
良好的做法是让披露更容易,并让后果更清楚。如果某个工作流限制辅助,请在界面中说明,并在合适的时机要求声明。如果欢迎辅助,就用该声明来改进路由、分析或审核,而不是增加阻力。
Proof of Actor 如何处理它
Proof of Actor 只有在支持的集成声明或观察到辅助时,才会报告 Human + AI,并且始终说明依据。由你的应用决定这一类别对每个工作流意味着什么。更多内容请参见Detection & Limitations,或申请早期访问。