Proof of Actor'ın neleri belirleyebildiği ve neleri belirleyemediği.
Sınıfların, bunların arkasındaki kanıtın, uygulandıkları bağlamların ve tasarımını bunların etrafında kurduğumuz sınırların sade bir açıklaması.
- İstek imzasıvalid · sample-crawler.exampleverified
- İstemci beyanı"research-assistant/2.1"declared
- Tarayıcı etkileşimipointer + keyboard eventsinferred
- Desteklenen sinyal yokroute not instrumentedunknown
Kısa sürüm
| Proof of Actor'ın size neleri söyleyebileceği (desteklendiğinde) | Garanti edemeyecekleri |
|---|---|
| Desteklenen bir ajan istek imzasının doğrulanıp doğrulanmadığı | Agent'in dürüst, güvenli veya herhangi bir işlemi yapmasına izin verildiğini |
| Bir oturumun belirli etkileşim veya otomasyon sinyallerini açığa çıkarıp çıkarmadığı | Gözlemlenebilir entegrasyonunuzun dışında bir insanın AI kullanmadığını |
| Desteklenen bir iş akışında yapay zeka kullanımının beyan edilip edilmediği veya gözlemlenebilir olup olmadığı | Yapay zeka desteğinin, kopyalanmış içeriğin veya başka bir cihazın evrensel tespiti |
| Kanıtın yetersiz olduğunu | Bilinmeyen bir etkileşimin kötü niyetli olduğunu |
Kullanılabilirlik, entegrasyonunuza ve etkinleştirilmiş kontrollerinize bağlıdır. Uygulama sahibi, uygulama kararları üzerinde kontrolü elinde tutar.
Sınıflandırmalar
Dört herkese açık sınıf. Her birinin tanımlı bir anlamı ve açık bir sınırı vardır.
- İnsan
Desteklenen gözlemlenebilir sinyaller, insan yönlendirmeli etkileşimi gösteriyor.
Şu anlama gelmez: AI kullanılmadığını veya kişinin gerçek dünya kimliğinin doğrulandığını.
- İnsan + Yapay Zeka
AI yardımı beyan edildi ya da bunu gerçekten gözlemleyebilen desteklenen bir entegrasyon tarafından tespit edildi.
Şu anlama gelmez: Gizli AI kullanımının tamamının, başka bir sekme veya başka bir cihaz dahil, tespit edilebildiğini.
- Ajan
Doğrulanabilir kimlik veya dikkatle nitelendirilmiş bir çıkarım ile desteklenen otomatik veya ajan kaynaklı etkileşim.
Şu anlama gelmez: Agent'in yetkili, güvenli veya bir kişiden geçerli yetki devriyle hareket ettiğini.
- Bilinmiyor
Mevcut kanıt güvenilir bir belirlemeyi desteklemiyor.
Şu anlama gelmez: Etkileşimin şüpheli veya kötü niyetli olduğunu.
Verified, Declared, Inferred, Unknown
Her sonucun bir dayanağı vardır. Bir sınıf, bir çıkarımı asla kriptografik doğrulama gibi göstermez; bu, güvenliğe duyarlı uygulamalarda özellikle önemlidir.
- verified
- Doğrulanmış. Kriptografik veya başka bir şekilde doğrulanabilir bir iddianın doğrulanması, örneğin yayımlanmış bir anahtara karşı bir istek imzası. Bu yalnızca o kontrolü kanıtlar, başka bir şeyi değil.
- declared
- Beyan edilen. Bunu actor veya uygulamanız beyan etti, örneğin bir AI yardımı açıklaması veya kendini bir agent olarak adlandıran bir istemci. Bir beyan doğru olmayabilir.
- inferred
- Çıkarımsal. Davranışsal veya bağlamsal sinyallerden çıkarılan bir sonuç. Çıkarımlar yanlış olabilir ve her zaman çıkarım olarak etiketlenir.
- unknown
- Bilinmiyor. Karar vermek için yeterli kanıt yok. Sonuç tahmin edilmek yerine Unknown olarak raporlanır.
Bir güven değeri için arkasında test edilmiş, kalibre edilmiş bir model gerekiyorsa, bunun yerine niteliksel kanıt gücü kullanırız. Ölçülüp açıklanmadıkça bizden 99.7% human gibi bir değer görmezsiniz.
Desteklenen bağlamlar ve sınırları
Tarayıcı
Bir tarayıcı toplayıcı, çalıştığı sayfalardaki etkileşimli oturumları görür. JavaScript çalıştırmayan istemcileri, diğer sekmelerdeki, uygulamalardaki veya cihazlardaki etkinliği ya da bir kişinin başka bir yerden kopyaladığı metni göremez.
Sunucu ve API
Sunucu taraflı bir entegrasyon, istek bağlamını ve istemcilerin desteklediği durumlarda istek imzalarını görür. Bir kişinin ekranını göremez ve imzasız istemcilerin çoğu kendilerini istedikleri gibi tanımlayabilir.
MCP
Bir MCP server, istemcinin beyan edilen ayrıntılarını ve yaptığı araç çağrılarını görür. Beyan edilen bir istemci adı, doğrulama değil, beyandır.
Anlaşılması gereken iki sınır
Başka bir sekmeden veya cihazdan gelen AI tarafından oluşturulmuş metin
Bir kişi başka bir sekmede veya telefonunda bir sohbet botuna sorup yanıtı formunuza yapıştırırsa, sıradan web trafiği genellikle bununla ilgili hiçbir şey göstermez. Oturum insan yönlendirmeli görünür çünkü onu bir insan yönlendirmiştir.
Proof of Actor, Human + AI sonucunu yalnızca yardım declared edildiğinde veya uygulamanızın kendi yardımcı özelliği gibi bunu gerçekten görebilen desteklenen bir entegrasyon tarafından gözlemlendiğinde bildirir.
İmzalı bir bot request'in neyi kanıtladığı
Yayımlanmış bir anahtara karşı doğrulanan bir HTTP message signature, isteğin, operatörün alan adı gibi o tanımlayıcıyla ilişkili bir anahtarla imzalandığını gösterir.
İsteğin arkasında kim varsa onun gerçek dünyadaki kimliğini, bir kişinin ona yetki devredip devretmediğini ya da eylemin güvenli veya izinli olup olmadığını belirlemez. Bu alandaki standartlar, IETF Web Bot Auth çalışması dahil, hala Internet-Draft aşamasındadır.
Varsayılan blocking yok
Proof of Actor varsayılan olarak hiçbir şeyi block etmez, reject etmez veya challenge etmez. Yalnızca inferred bir actor sonucuna dayanarak block veya reject etmeyi önermiyoruz, özellikle de insanlar hakkında (istihdam, kredi, finansal hizmetler, eğitim veya temel hizmetlere erişim) bunun üzerine sonuç doğuran kararlar alınmasını önermiyoruz.
Uygulamanızda uygulama yapılır, ekibinizin seçtiği ve onayladığı politikalar altında, Unknown ve zaman aşımı için açık yedek davranışlarla.
Unknown ve çekimserlik
Kanıt güvenilir bir belirlemeyi desteklemediğinde sonuç Unknown olur. Unknown hiçbir zaman Human'a dönüştürülmez ve bu, şüpheli olduğu anlamına gelmez. Bunu görünür tutmak, kapsamınızın nerede bittiğini gösterir ve herhangi bir şeyi enforce etmeden önce ihtiyacınız olan bilgidir.
Gizlilik ve yönetişim ilkeleri
Amaç sınırlaması
Kanıt, etkileşimleri uygulama sahibine açıklar. Siteler arası profiller oluşturmak için kullanılmaz.
Minimum veri toplama
Her entegrasyon, kendi bağlamının ihtiyaç duyduğu verileri toplar. Hassas telemetri açıkça etkinleştirme gerektirir.
Kiracı izolasyonu
Bir müşterinin kanıtı başka bir müşteri tarafından asla görülemez.
Yapılandırılabilir saklama
Saklama süresi, onboarding sırasında her kurucu ekiple mutabık kalınarak belirlenir.
Müşteri kontrollü erişim
Ekibinizde kimlerin kanıtları ve sonuçları görebileceğine siz karar verirsiniz.
Kimlik kontrolü yok
Proof of Actor kapsamında biyometrik veri toplanmaz ve kimlik doğrulaması yapılmaz.
Her ekiple mutabık kalındı
Performans ve yöntem
Kapsam, unknown oranı, false positive'ler ve kalibrasyon, her desteklenen bağlamda kurucu ekiplerle birlikte, bu ekiplerin zaten bildiği sonuçlara karşı ölçülür. Yöntem ve sonuçlar, her bağlam olgunlaştıkça burada yayımlanır.
Gizlilik veya güvenlik hakkında sorunuz mu var? [email protected]