Определение
Взаимодействие с помощью ИИ, обозначенное в Proof of Actor как Human + AI, - это взаимодействие, которым управляет человек, используя помощь ИИ. Человек сам решает, что делать, и сохраняет контроль; система ИИ помогает составить текст, кратко изложить информацию, предложить следующие шаги или заполнить части задачи.
Оно находится между двумя другими классами. В отличие от чисто человеческого взаимодействия, в то, что получает приложение, внес вклад ИИ. В отличие от автономного агента, человек по-прежнему выбирает и подтверждает действия. О том, как этот класс соотносится с Human и Agent, см. Human, AI-assisted or agent: a practical taxonomy for application traffic.
Почему это важно
У многих приложений есть сценарии, в которых помощь ИИ меняет правильный ответ системы:
- Платформа поддержки может захотеть помечать заявки, подготовленные с помощью ИИ, чтобы агенты могли направлять их и просматривать надлежащим образом.
- Платформа для контента или проверок может приветствовать помощь ИИ, но требовать раскрытия этого факта.
- Рабочий процесс оценки или сертификации может ограничивать помощь ИИ на отдельных шагах.
- Приложение для повышения продуктивности может захотеть измерять, как часто используется встроенный помощник.
В каждом случае приложение выигрывает от понимания того, что помощь была задействована, при этом человек получает обычный, уважительный опыт работы.
Как можно распознать помощь ИИ
Ключевое слово - observable. Приложение может распознать только ту помощь ИИ, которую оно действительно видит, или ту, которая была ему заявлена.
Заявленная помощь
Об этом сообщает человек или само приложение. Примеры: флажок "drafted with AI", поле раскрытия в форме или флаг приложения, установленный, когда пользователь вызывает встроенного помощника самого приложения. В терминах Proof of Actor это заявленный evidence basis.
Наблюдаемая напрямую помощь
Поддерживаемая интеграция видит, как помощь оказывается. Самый наглядный пример - встроенная функция ИИ в самом приложении: приложение знает, когда оно сгенерировало контент для пользователя.
Что обычно нельзя увидеть
Когда человек обращается к чат-боту во вкладке другого браузера или на телефоне, а затем вводит или вставляет результат в форму, обычный веб-трафик, как правило, ничего об этом не показывает. Сеанс выглядит как управляемый человеком, потому что им действительно управляет человек. Надежная классификация требует доказательств, а в этом случае доказательства отсутствуют.
Распространенные заблуждения
"Текст, написанный ИИ, всегда можно обнаружить." Предположения на основе содержимого ненадежны и не должны служить основанием для иного обращения с человеком. Human + AI должно опираться на заявленные или наблюдаемые признаки.
"Human + AI - это более низкая категория." Это не ярлык риска. Во многих продуктах это ожидаемый и предпочтительный способ работы. Этот класс нужен, чтобы приложение могло корректно реагировать, а не для наказания.
"Если помощь не обнаружена, значит ее не использовали." Результат Human означает, что наблюдаемые сигналы указывают на управление со стороны человека. Это не доказывает, что ИИ нигде не использовался.
Проектирование для пользователей, использующих помощь ИИ
Хорошая практика - сделать раскрытие факта помощи простым, а последствия - понятными. Если рабочий процесс ограничивает помощь, укажите это в интерфейсе и запросите заявление в нужный момент. Если помощь допустима, используйте это заявление для улучшения маршрутизации, аналитики или проверки, а не для создания лишних препятствий.
Как Proof of Actor относится к этому классу
Proof of Actor сообщает Human + AI только тогда, когда помощь заявлена или наблюдается через поддерживаемую интеграцию, и всегда указывает основание. Ваше приложение само определяет, что этот класс означает для каждого рабочего процесса. Подробнее см. в Detection & Limitations или apply for early access.