Proof of Actor가 입증할 수 있는 것과 없는 것.
분류, 그 뒤에 있는 증거, 적용되는 맥락, 그리고 우리가 설계에서 고려하는 한계를 평이하게 설명한 내용입니다.
- 요청 서명valid · sample-crawler.exampleverified
- 클라이언트 선언"research-assistant/2.1"declared
- 브라우저 상호작용pointer + keyboard eventsinferred
- 지원되는 신호 없음route not instrumentedunknown
간단히 말해
| Proof of Actor가 알려줄 수 있는 것 (지원되는 경우) | 보장할 수 없는 것 |
|---|---|
| 지원되는 agent 요청 서명이 검증되는지 | 에이전트가 정직하고 안전하며, 어떤 작업이든 수행하도록 허용되었다는 것 |
| 세션이 특정 상호작용 또는 자동화 신호를 노출하는지 | 관찰 가능한 통합 범위 밖에서 사람이 AI를 사용하지 않았다는 것 |
| 지원되는 워크플로우에서 AI 사용이 declared 되었는지 또는 관찰 가능한지 | AI 지원, 복사된 콘텐츠, 또는 다른 기기의 범용 탐지 |
| 그 증거가 불충분했다는 것 | 알 수 없는 상호작용이 악의적이라는 것 |
이용 가능 여부는 통합 방식과 활성화된 검사에 따라 달라집니다. 애플리케이션 소유자가 집행 결정에 대한 통제권을 유지합니다.
분류
네 가지 public class. 각 class는 정의된 의미와 명시적인 한계를 가집니다.
- 사람
지원되는 관찰 가능 신호는 사람이 지시한 상호작용을 나타냅니다.
의미하지 않는 것: AI를 사용하지 않았거나, 해당 व्यक्ति의 실제 신원이 검증되었다는 것.
- 사람 + AI
AI 지원이 선언되었거나, 실제로 이를 관찰할 수 있는 지원되는 통합에 의해 감지되었습니다.
의미하지 않는 것: 다른 탭이나 다른 기기에서의 사용을 포함해 숨겨진 모든 AI 사용을 탐지할 수 있다는 것.
- 에이전트
검증 가능한 신원 또는 신중하게 제한된 추론으로 뒷받침되는 자동화 또는 Agent 기원 상호작용.
의미하지 않는 것: 에이전트가 승인되었고 안전하며, 사람으로부터 유효한 위임을 받아 행동하고 있다는 것.
- 알 수 없음
사용 가능한 증거만으로는 신뢰할 수 있는 판단을 뒷받침하지 못합니다.
의미하지 않는 것: 그 상호작용이 의심스럽거나 악의적이라는 것.
Verified, declared, inferred, unknown
모든 결과에는 근거가 붙습니다. class가 inference를 cryptographic verification으로 가장하지 않으며, 이는 security-sensitive application에서 가장 중요합니다.
- verified
- 검증됨. 예를 들어 공개된 키에 대한 요청 서명처럼 암호학적이거나 다른 방식으로 검증 가능한 주장이 검증된 상태입니다. 이는 그 검증만을 입증할 뿐, 그 이상은 아닙니다.
- declared
- 선언됨. 행위자 또는 귀하의 애플리케이션이 그렇게 밝힌 경우입니다. 예를 들어 AI 지원 공개 또는 자신을 에이전트라고 밝히는 클라이언트가 이에 해당합니다. 선언은 사실이 아닐 수 있습니다.
- inferred
- 추론됨. 행동 또는 맥락 신호에서 도출한 결론입니다. 추론은 틀릴 수 있으며 항상 추론으로 표시됩니다.
- unknown
- 알 수 없음. 판단하기에 증거가 충분하지 않습니다. 결과는 추측하지 않고 Unknown으로 보고됩니다.
신뢰도 수치 뒤에 검증되고 보정된 모델이 필요하다면, 우리는 대신 정성적인 증거 강도를 사용합니다. 측정되고 설명되지 않은 한, 99.7% human 같은 수치는 보지 못할 것입니다.
지원되는 맥락과 그 한계
브라우저
브라우저 수집기는 실행되는 페이지의 상호작용 세션만 볼 수 있습니다. JavaScript를 실행하지 않는 클라이언트, 다른 탭의 활동, 애플리케이션이나 기기, 또는 사람이 다른 곳에서 복사해 온 텍스트는 볼 수 없습니다.
서버 및 API
서버 측 통합은 요청 컨텍스트와, 클라이언트가 지원하는 경우 요청 서명을 봅니다. 사람의 화면은 볼 수 없으며, 서명되지 않은 대부분의 클라이언트는 자신을 원하는 대로 설명할 수 있습니다.
MCP
MCP server는 클라이언트가 선언한 세부 정보와 수행한 도구 호출을 봅니다. 선언된 클라이언트 이름은 선언이지 검증이 아닙니다.
이해할 가치가 있는 두 가지 한계
다른 탭 또는 기기에서 생성된 AI 텍스트
사람이 다른 탭이나 휴대폰에서 챗봇에 묻고 그 답을 귀하의 폼에 붙여넣더라도, 일반적인 웹 트래픽에서는 보통 이를 알 수 없습니다. 세션은 사람이 지시한 것으로 보입니다. 왜냐하면 사람이 지시했기 때문입니다.
Proof of Actor는 assistance가 declared되었거나, 앱 자체 assistant 기능처럼 실제로 이를 볼 수 있는 지원되는 integration에 의해 관측된 경우에만 Human + AI로 report합니다.
서명된 bot 요청이 증명하는 것
공개된 키에 대해 검증되는 HTTP message signature는 요청이 운영자 도메인과 같은 해당 식별자에 연결된 키로 서명되었음을 보여줍니다.
이것은 요청 뒤에 있는 사람의 실제 세계 신원을 확립하지 않으며, 누군가가 그에게 권한을 위임했는지, 또는 그 행위가 안전하거나 허용되는지도 보여주지 않습니다. IETF Web Bot Auth 작업을 포함한 이 영역의 표준은 아직 Internet-Drafts 상태입니다.
기본 차단 없음
Proof of Actor는 기본적으로 어떤 것도 block, reject 또는 challenge하지 않습니다. inferred actor result 하나만을 근거로 block하거나 reject하는 것은 권장하지 않으며, 특히 그것만을 바탕으로 사람에 대한 중요한 결정(고용, 신용, 금융 서비스, 교육 또는 필수 서비스 접근)을 내리는 것은 더욱 권장하지 않습니다.
적용은 귀하의 애플리케이션에서 이루어지며, 팀이 선택하고 확인한 정책에 따라 Unknown 및 시간 초과에 대한 명시적 대체 동작이 포함됩니다.
Unknown과 보류
증거가 신뢰할 수 있는 판단을 뒷받침하지 못하면 결과는 Unknown입니다. Unknown은 절대 Human으로 바뀌지 않으며, 의심스럽다는 뜻도 아닙니다. 이를 보이게 유지하면 적용 범위가 어디까지인지 알 수 있고, 어떤 것을 강제하기 전에 필요한 정보가 됩니다.
privacy와 governance 원칙
목적 제한
증거는 애플리케이션 소유자에게 상호작용을 설명합니다. 교차 사이트 프로필 구축에 사용되지 않습니다.
최소 수집
각 통합은 해당 맥락에 필요한 것만 수집합니다. 민감한 telemetry는 명시적 opt-in이 필요합니다.
테넌트 격리
한 고객의 증거는 다른 고객에게 절대 보이지 않습니다.
구성 가능한 보존 기간
보관 기간은 온보딩 중 각 창립 팀과 합의합니다.
고객 제어 액세스
팀 내 누가 증거와 결과를 볼 수 있는지 당신이 결정합니다.
신원 확인 없음
Proof of Actor에는 생체 정보 수집과 신원 확인이 포함되지 않습니다.
모든 팀과 합의됨
성능과 methodology
coverage, Unknown 비율, false positive, calibration은 각 지원 맥락에서 founding team과 함께, 그 팀이 이미 알고 있는 결과를 기준으로 측정됩니다. 방법론과 결과는 각 맥락이 성숙해짐에 따라 여기에 공개됩니다.
privacy 또는 security에 대한 질문이 있나요? [email protected]