Proof of Actor có thể xác định điều gì, và không thể xác định điều gì.
Một mô tả trực tiếp về các phân loại, bằng chứng đứng sau chúng, các ngữ cảnh áp dụng, và những giới hạn mà chúng tôi thiết kế xung quanh.
- Chữ ký yêu cầuvalid · sample-crawler.exampleverified
- Khai báo của client"research-assistant/2.1"declared
- Tương tác trình duyệtpointer + keyboard eventsinferred
- Không có tín hiệu được hỗ trợroute not instrumentedunknown
Phiên bản ngắn gọn
| Proof of Actor có thể cho bạn biết điều gì (khi được hỗ trợ) | Điều nó không thể đảm bảo |
|---|---|
| Chữ ký yêu cầu agent được hỗ trợ có xác thực hay không | Rằng tác nhân là trung thực, an toàn, hoặc được phép thực hiện bất kỳ hành động nào |
| Một phiên có lộ ra các tín hiệu tương tác hoặc tự động hóa nhất định hay không | Rằng một Human không dùng AI bên ngoài tích hợp bạn quan sát được |
| Việc sử dụng AI có được khai báo hoặc có thể quan sát trong một workflow được hỗ trợ hay không | Phát hiện phổ quát việc hỗ trợ AI, nội dung sao chép hoặc thiết bị khác |
| Rằng bằng chứng đó là không đủ | Rằng một tương tác Unknown là độc hại |
Tính khả dụng phụ thuộc vào tích hợp của bạn và các kiểm tra đã bật. Chủ sở hữu ứng dụng vẫn giữ quyền kiểm soát các quyết định thực thi.
Phân loại
Bốn lớp công khai. Mỗi lớp có ý nghĩa được xác định và giới hạn rõ ràng.
- Con người
Các tín hiệu quan sát được được hỗ trợ cho thấy tương tác do con người điều hướng.
Không có nghĩa là: Rằng không có AI nào được dùng, hoặc danh tính ngoài đời thực của người đó đã được xác minh.
- Con người + AI
Sự hỗ trợ AI đã được khai báo, hoặc được phát hiện bởi một tích hợp được hỗ trợ có thể thực sự quan sát được nó.
Không có nghĩa là: Rằng mọi việc sử dụng AI ẩn đều có thể được phát hiện, bao gồm cả tab khác hoặc thiết bị khác.
- Tác nhân
Tương tác tự động hoặc có nguồn gốc từ agent, được hỗ trợ bởi danh tính có thể xác minh hoặc một suy luận được định tính cẩn thận.
Không có nghĩa là: Rằng tác nhân được ủy quyền, an toàn, hoặc đang hành động với sự ủy quyền hợp lệ từ một người.
- Không xác định
Bằng chứng hiện có không đủ để đưa ra một kết luận đáng tin cậy.
Không có nghĩa là: Rằng tương tác đó đáng ngờ hoặc độc hại.
Verified, Declared, Inferred, Unknown
Mỗi kết quả đều có một cơ sở. Một lớp không bao giờ ngụy trang suy luận thành xác minh mật mã, điều này đặc biệt quan trọng đối với các ứng dụng nhạy cảm về bảo mật.
- verified
- Đã xác minh. Một khẳng định có thể kiểm tra bằng mật mã hoặc theo cách khác, được xác thực, ví dụ chữ ký yêu cầu đối chiếu với một khóa đã công bố. Nó chỉ chứng minh phép kiểm tra đó, không hơn.
- declared
- Khai báo. Actor hoặc ứng dụng của bạn đã nói như vậy, ví dụ như việc tiết lộ có hỗ trợ AI hoặc một client tự nhận là tác nhân. Một khai báo có thể không đúng.
- inferred
- Suy luận. Một kết luận được rút ra từ các tín hiệu hành vi hoặc ngữ cảnh. Suy luận có thể sai và luôn được gắn nhãn là suy luận.
- unknown
- Không xác định. Không đủ evidence để đưa ra kết luận. Kết quả được báo cáo là Unknown thay vì phỏng đoán.
Khi một con số độ tin cậy sẽ cần một mô hình đã được kiểm thử và hiệu chỉnh phía sau, chúng tôi dùng thay vào đó mức độ mạnh của bằng chứng định tính. Bạn sẽ không thấy một con số như 99.7% human từ chúng tôi trừ khi nó đã được đo lường và giải thích.
Các ngữ cảnh được hỗ trợ và giới hạn của chúng
Trình duyệt
Một bộ thu thập trên trình duyệt nhìn thấy các phiên tương tác trên những trang mà nó chạy. Nó không thể nhìn thấy các client không chạy JavaScript, hoạt động trong các tab khác, ứng dụng hoặc thiết bị khác, hay văn bản mà một người đã sao chép từ nơi khác vào.
Máy chủ và API
Một tích hợp phía máy chủ nhìn thấy ngữ cảnh yêu cầu và, khi client hỗ trợ, chữ ký yêu cầu. Nó không thể nhìn thấy màn hình của một người, và hầu hết các client không ký có thể tự mô tả theo bất kỳ cách nào họ muốn.
MCP
Một MCP server nhìn thấy các chi tiết đã khai báo của client và các lệnh gọi công cụ mà nó thực hiện. Tên client đã khai báo chỉ là một khai báo, không phải một xác minh.
Hai giới hạn đáng hiểu
Văn bản do AI tạo ra từ một thẻ hoặc thiết bị khác
Nếu một người hỏi một chatbot ở tab khác, hoặc trên điện thoại của họ, rồi dán câu trả lời vào biểu mẫu của bạn, lưu lượng web thông thường thường không cho thấy điều đó. Phiên làm việc trông như do Human chỉ đạo vì đúng là Human đã chỉ đạo nó.
Proof of Actor chỉ báo cáo Human + AI khi có khai báo về sự hỗ trợ, hoặc được quan sát bởi một tích hợp được hỗ trợ có thể thực sự nhìn thấy điều đó, chẳng hạn như tính năng trợ lý riêng của ứng dụng bạn.
Một request bot đã ký chứng minh điều gì
Một HTTP message signature được xác thực bằng khóa đã công bố cho thấy yêu cầu đã được ký bằng một khóa gắn với định danh đó, chẳng hạn miền của nhà vận hành.
Nó không xác lập danh tính thực tế của bất kỳ ai đứng sau yêu cầu, việc một người có ủy quyền cho nó hay không, hoặc việc hành động đó có an toàn hay được phép hay không. Các tiêu chuẩn trong lĩnh vực này, bao gồm công việc IETF Web Bot Auth, vẫn còn là Internet-Drafts.
Không chặn theo mặc định
Proof of Actor không tự động chặn, từ chối hoặc thách thức bất kỳ thứ gì. Chúng tôi không khuyến nghị chặn hoặc từ chối chỉ dựa trên kết quả actor Inferred, và đặc biệt không khuyến nghị đưa ra các quyết định quan trọng về con người (việc làm, tín dụng, dịch vụ tài chính, giáo dục hoặc quyền tiếp cận các dịch vụ thiết yếu) chỉ dựa trên kết quả đó.
Việc thực thi diễn ra trong ứng dụng của bạn, theo các chính sách mà nhóm của bạn chọn và xác nhận, với các phương án dự phòng rõ ràng cho Unknown và cho thời gian chờ.
Unknown và từ chối kết luận
Khi bằng chứng không đủ để đưa ra một xác định đáng tin cậy, kết quả là Unknown. Unknown không bao giờ được chuyển thành Human, và nó không có nghĩa là đáng ngờ. Việc giữ nó hiển thị cho bạn biết phạm vi bao phủ của bạn kết thúc ở đâu, và đó là thông tin bạn cần trước khi thực thi bất kỳ điều gì.
Nguyên tắc về quyền riêng tư và quản trị
Giới hạn mục đích
Bằng chứng mô tả các tương tác cho chủ sở hữu ứng dụng. Nó không được dùng để xây dựng hồ sơ trên nhiều trang.
Thu thập tối thiểu
Mỗi tích hợp thu thập những gì ngữ cảnh của nó cần. Telemetry nhạy cảm yêu cầu opt-in rõ ràng.
Cô lập tenant
Evidence của một khách hàng sẽ không bao giờ hiển thị cho khách hàng khác.
Thời gian lưu trữ có thể cấu hình
Thời hạn lưu giữ được thống nhất với từng nhóm sáng lập trong quá trình onboarding.
Quyền truy cập do khách hàng kiểm soát
Bạn quyết định ai trong nhóm của bạn có thể xem bằng chứng và kết quả.
Không kiểm tra danh tính
Không thu thập sinh trắc học và không xác minh danh tính là một phần của Proof of Actor.
Đã thống nhất với mọi nhóm
Hiệu năng và phương pháp luận
Coverage, tỷ lệ Unknown, false positive và hiệu chỉnh được đo cùng các nhóm founding trong từng ngữ cảnh được hỗ trợ, đối chiếu với các kết quả mà chính các nhóm đó đã biết. Phương pháp và kết quả sẽ được công bố tại đây khi từng ngữ cảnh trưởng thành.
Có câu hỏi về quyền riêng tư hoặc bảo mật? [email protected]