Дослідження · 2026-10-18
Anthropic дає зовнішньому контролеру ШІ доступ, схожий на доступ співробітника
Компанія Anthropic, яка створює ШІ-модель Claude, дозволила незалежному наглядовому органу перевіряти свою роботу з доступом, схожим на доступ працівника, і цей орган може публікувати висновки без її згоди.
Що сталося
Компанія Anthropic, яка розробляє ШІ-модель Claude, надала зовнішньому наглядовому органу доступ, схожий на доступ власних співробітників. Це означає, що контролер може глибше ознайомитися з роботою компанії, ніж звичайний сторонній спостерігач.
Головна особливість домовленості в тому, що орган може оприлюднити свої висновки без погодження з Anthropic. Тобто компанія не може заборонити публікувати критичні або неприємні для неї результати перевірки.
Чому це важливо
ШІ-компанії часто самі оцінюють безпеку своїх систем, тому людям важко перевірити їхні слова. Незалежний нагляд допомагає розуміти, як працюють такі моделі і чи не створюють вони зайвих ризиків.
Для звичайних користувачів це означає, що прозорість у сфері ШІ поступово зростає. Водночас поки що не зрозуміло, які саме перевірки буде проведено і наскільки детальними будуть публічні звіти.
Джерела: 🔗 Ars Technica — AI