Агенти · 2026-11-06
Скільки AI може вирішувати без твого дозволу
Zapier на власному досвіді з ШІ-асистентом Sidekick показує, що і постійні запити дозволу, і повна самостійність погано працюють, тому потрібні чіткі правила.
Проблема, яка є в усіх ШІ-продуктах, що щось роблять
Як тільки ШІ починає не лише відповідати на питання, а й виконувати дії, наприклад редагувати файли чи писати повідомлення, постає питання: чи має він спершу спитати дозвіл, чи діяти й потім розповісти. Обидві прості відповіді погані. Якщо програма питає щоразу, людина перестає читати запити і натискає «так» автоматично. Якщо не питає ніколи, все добре, поки один раз вона не зробить щось несподіване, і це може підірвати довіру.
Як це виглядало в Sidekick
Спочатку Sidekick питав дозвіл на кожну дію, що змінює дані: запис файлу, редагування документа, переміщення чи видалення. Варіанти були Block, Once і Always. Це створювало кілька проблем: запит зникав, якщо закрити вкладку, на нього не можна було відповісти з іншого місця, наприклад зі Slack, а вибір «Always» скидався після оновлення сторінки. Команда зберігала дозволи на своїх серверах і переписала кнопки так, щоб було видно, що саме дозволяється, наприклад «Дозволити редагування файлів для цього чату».
Далі команда помітила глибшу проблему: правила прив’язувалися до інструмента, а людей турбує ризик, наприклад конкретна папка, важливий документ або акаунт Slack. Тому правила перебудували навколо того, що захищається. Тепер можна задати, наприклад, «ніколи не змінювати нічого в цій папці» або «надсилати повідомлення в Slack лише мені». Якщо будь-яке правило каже «ніколи», воно має перевагу. Якщо правило каже «спершу запитати», асистент питає. Без дозволу він діє лише тоді, коли нічого його не блокує.
Що корисного з цього для звичайної людини
Частий запит дозволу не робить вас безпечнішими, бо ви перестаєте його читати. Важливо, щоб запити стосувалися справді ризикових дій, а не кожного читання файлу. Також варто звертати увагу на кнопки з розпливчастими написами: якщо не зрозуміло, що саме ви дозволяєте, краще відмовити.
У Sidekick запити дозволів з’являються в окремій панелі біля поля введення і в загальній вхідній скриньці, щоб їх не пропустити. Команда також не хотіла змушувати людей налаштовувати все заздалегідь, тож панель лишається збоку, поки асистент працює, і відкривається, коли потрібне рішення користувача.
Джерела: 🔗 Zapier Blog