Что Proof of Actor может установить, а что нет.
Простое описание классификаций, данных, на которых они основаны, контекстов их применения и ограничений, вокруг которых мы проектируем систему.
- Подпись запросаvalid · sample-crawler.exampleverified
- Заявление клиента"research-assistant/2.1"declared
- Взаимодействие в браузереpointer + keyboard eventsinferred
- Нет supported signalsroute not instrumentedunknown
Коротко
| Что Proof of Actor может сообщить вам (where supported) | Что он не может гарантировать |
|---|---|
| Проверяется ли signature запроса поддерживаемого агента | Что агент честен, безопасен или ему разрешено выполнять какие-либо действия |
| Выявляет ли сеанс определенные интерактивные или автоматизационные сигналы | Что человек не использовал AI вне вашей наблюдаемой интеграции |
| Было ли использование AI заявлено или наблюдаемо в поддерживаемом рабочем процессе | Universal detection AI assistance, copied content или другого device |
| Этих доказательств было недостаточно | Что неизвестное взаимодействие является вредоносным |
Доступность зависит от вашей интеграции и включенных проверок. Владелец приложения сохраняет контроль над решениями по принуждению.
Классификации
Четыре публичных класса. У каждого есть определенное значение и явное ограничение.
- Человек
Поддерживаемые наблюдаемые сигналы указывают на взаимодействие, инициированное человеком.
Не означает: Что AI не использовался или что реальная личность человека подтверждена.
- Человек + ИИ
Использование помощи ИИ было заявлено или обнаружено поддерживаемой интеграцией, которая действительно может его наблюдать.
Не означает: Что все скрытое использование AI можно обнаружить, включая другую вкладку или другое устройство.
- Агент
Автоматизированное взаимодействие или взаимодействие, исходящее от агента, подтвержденное проверяемой идентичностью или аккуратно квалифицированным выводом.
Не означает: Что агент авторизован, безопасен или действует на основании действительной делегации от человека.
- Неизвестно
Имеющихся доказательств недостаточно для надежного определения.
Не означает: Что взаимодействие является подозрительным или вредоносным.
Verified, declared, inferred, unknown
Каждый результат имеет основу. Класс никогда не выдает inference за cryptographic verification, что особенно важно для security-sensitive applications.
- verified
- Проверено. Криптографическое или иным образом проверяемое утверждение, подтвержденное, например, подписью запроса по опубликованному ключу. Оно доказывает только эту проверку, и ничего более.
- declared
- Заявленный. Это было заявлено актором или вашим приложением, например раскрытием использования AI или клиентом, который называет себя агентом. Заявление может быть ложным.
- inferred
- Выведено. Вывод, сделанный на основе поведенческих или контекстных сигналов. Инференсы могут быть ошибочными и всегда помечаются как инференсы.
- unknown
- Неизвестно. Недостаточно evidence для определения. Результат сообщается как Unknown, а не предполагается.
Если для показателя уверенности нужен проверенный и откалиброванный model behind it, мы вместо этого используем качественную силу evidence. Вы не увидите от нас показатель вроде 99.7% human, если он не был измерен и объяснен.
Поддерживаемые context и их ограничения
Браузер
Сборщик в браузере видит интерактивные сеансы на страницах, где он работает. Он не видит клиентов, которые не запускают JavaScript, активность в других вкладках, приложениях или на других устройствах, а также текст, который человек вставил откуда-либо еще.
Сервер и API
Серверная интеграция видит контекст запроса и, где клиенты это поддерживают, подписи запросов. Она не видит экран человека, а большинство неподписанных клиентов могут описывать себя как угодно.
MCP
MCP server видит заявленные клиентом данные и вызовы инструментов, которые он делает. Заявленное имя клиента - это декларация, а не проверка.
Два ограничения, которые стоит понимать
Текст, сгенерированный AI, из другой вкладки или устройства
Если человек задает вопрос чатботу в другой вкладке или на телефоне и вставляет ответ в вашу форму, обычный веб-трафик обычно ничего об этом не показывает. Сеанс выглядит как Human-directed, потому что им управлял человек.
Proof of Actor сообщает Human + AI только когда помощь была declared или observed поддерживаемой интеграцией, которая действительно может это видеть, например собственной функцией ассистента вашего приложения.
Что доказывает signed bot request
HTTP message signature, который проходит проверку по опубликованному ключу, показывает, что запрос был подписан ключом, связанным с этим идентификатором, например с доменом оператора.
Это не устанавливает реальную личность того, кто стоит за запросом, делегировал ли человек ему полномочия и безопасно ли действие или разрешено ли оно. Стандарты в этой области, включая работу IETF Web Bot Auth, по-прежнему находятся в статусе Internet-Drafts.
Нет блокировки по умолчанию
Proof of Actor по умолчанию ничего не блокирует, не отклоняет и не оспаривает. Мы не рекомендуем блокировать или отклонять только на основании inferred-результата по actor, и особенно не рекомендуем принимать на его основе значимые решения о людях (занятость, кредит, финансовые услуги, образование или доступ к базовым услугам).
Enforcement происходит в вашем приложении, по policies, которые ваша команда выбирает и подтверждает, с явными fallbacks для Unknown и для timeouts.
Unknown и abstention
Когда evidence не позволяют сделать надежное определение, результатом будет Unknown. Unknown никогда не преобразуется в Human и не означает подозрительность. Сохранение его видимым показывает, где заканчивается ваше покрытие, и это информация, которая нужна вам до введения любого enforcement.
Принципы конфиденциальности и governance
Ограничение по цели
Evidence описывает interactions для владельца application. Оно не используется для построения cross-site profiles.
Минимальный сбор
Каждая интеграция собирает только то, что требуется ее контексту. Sensitive telemetry требует явного opt-in.
Изоляция арендаторов
Evidence одного customer никогда не видно другому customer.
Настраиваемое хранение
Сроки хранения согласуются с каждой командой-основателем во время онбординга.
Доступ под контролем клиента
Вы решаете, кто в вашей команде может видеть доказательства и результаты.
Без identity checks
Сбор биометрии и identity verification не входят в Proof of Actor.
Согласовано с каждой командой
Производительность и методология
Coverage, unknown rate, false positives и calibration измеряются вместе с founding teams в каждом поддерживаемом контексте, на основе результатов, которые эти команды уже знают. Методология и результаты публикуются здесь по мере зрелости каждого контекста.
Вопросы о конфиденциальности или безопасности? [email protected]