Anthropic запропонувала дати уряду право блокувати розгортання небезпечних ШІ-моделей. Правила мають охоплювати моделі, для навчання яких використали понад 10²⁵ FLOPs, і лише розробників, що перевищують визначені фінансові пороги.
Це рамка рекомендацій, написана насамперед для федерального уряду США. CEO Anthropic Даріо Амодеї виклав політичні пропозиції в есе 10 червня 2026 року, за даними Punchbowl News. Видання пише, що частина пунктів іде далі за плани законодавців і адміністрації Трампа.
Кого стосуватимуться запропоновані правила?
Рамка Anthropic охоплює моделі, для навчання яких використали понад 10²⁵ операцій із рухомою комою (FLOPs), від компаній із доходом від ШІ понад $500 млн або витратами на дослідження й розробку ШІ понад $1 млрд, за даними Anthropic. Компанія пропонує зосередити правила на чотирьох видах катастрофічного ризику:
- Біологічний ризик: моделі без захисних механізмів можуть здешевити та спростити створення біологічної зброї.
- Кіберризик: передові моделі можуть знаходити критичні вразливості у великому масштабі, що підвищує загрози для критичної інфраструктури.
- Втрата контролю: зі зростанням можливостей ШІ розробникам може стати складніше контролювати його дії.
- Автоматизовані дослідження й розробка ШІ: ці можливості можуть посилити три попередні ризики.
Кіберризик компанія ілюструє власною моделлю. За твердженням Anthropic, Claude Mythos Preview цього року виявила тисячі вразливостей високого рівня небезпеки, зокрема в кожній основній операційній системі та браузері. Прозорості, на думку компанії, вже недостатньо: уряди мають відігравати більшу роль.
Які обов’язки Anthropic пропонує для розробників?
Anthropic пропонує зобов’язати розробників тестувати моделі, публікувати результати, залучати незалежних оцінювачів і захищати середовище розробки.
- Прозорість: публікувати рамку безпеки та картки моделей з оцінкою їхніх можливостей і ризиків. За словами Anthropic, цього вже вимагають закони Каліфорнії та Нью-Йорка. Пропозиція додає регулярні звіти про ризики й залучення незалежних оцінювачів.
- Незалежна оцінка: залучати щонайменше одного кваліфікованого незалежного оцінювача, який публікуватиме огляд оцінок і звітів розробника. Уряди та індустрія мають розробити стандарти для таких оцінювачів, забезпечити фінансування й достатній доступ до моделей.
- Безпека: захищати ваги моделей і всю інфраструктуру розробки від зовнішніх та внутрішніх загроз. Розробники мають публічно описувати програму захисту в загальних рисах, надавати деталі визначеному агентству на запит, регулярно перевіряти захист і мати канали для повідомлень агентству про атаки дистиляції моделей.
Як уряд міг би зупиняти небезпечні моделі?
Уряд, за пропозицією Anthropic, має отримати право блокувати або стримувати розгортання моделей зі значним ризиком катастрофічної шкоди. Компанія також пропонує цивільно-правові штрафи, прив’язані до світового річного доходу, які зростатимуть за повторних порушень.
Anthropic пропонує запобіжники від зловживання цими повноваженнями. Компанія допускає, що влада почне з м’якшого підходу й адаптуватиме його зі зростанням можливостей моделей та розвитком незалежного оцінювання.
Що це означає для команд, які будують на чужих моделях?
Команди, які використовують чужі моделі, ймовірно, відчують вплив через доступність нових релізів. Якщо уряд отримає запропоновані повноваження, вихід моделі, на яку розраховує команда, може залежати від оцінки її ризиків. Це можливий наслідок пропозиції, а не вже чинне обмеження.
Самого використання API недостатньо, щоб за наведеним описом визначити, чи підпадатиме компанія під правила: рамка задає пороги для моделей і фінансових показників розробників.
Anthropic також пропонує, щоб держава та індустрія спільно розробляли захисні механізми моделей. Мета — зробити кіберможливості ШІ широко доступними із запобіжниками.
Що буде із законами окремих штатів?
Anthropic виступає проти того, щоб Конгрес витісняв закони штатів федеральним регулюванням, доки не ухвалить закон, щонайменше такий самий суворий, як запропонована рамка. Навіть тоді компанія пропонує зберегти за штатами право регулювати питання поза конкретними безпековими функціями федерального закону, зокрема безпеку дітей і захист споживачів.
Окремо ШІ-робоча група Дональда Трампа на першому засіданні оголосила про плани замовити звіт про ризики ШІ та розробити протоколи ранніх попереджень від лабораторій, за даними Techmeme. Джерело не вказує на зв’язок цих планів із рамкою Anthropic.
Що рамка пропонує для стійкості суспільства?
Anthropic пропонує урядам зміцнювати захист від біологічних і кіберзагроз; заходи щодо втрати контролю та автоматизованих досліджень ШІ компанія визнає менш опрацьованими.
Для біологічних ризиків компанія радить перевіряти замовлення на синтез генів, запроваджувати біомоніторинг для раннього виявлення нових спалахів, створювати запаси захисного спорядження та готувати засоби зменшення передачі збудників повітрям.
Для кібербезпеки Anthropic пропонує зміцнювати програмне забезпечення, на якому працює інтернет, надавати технічну підтримку операторам критичної інфраструктури й замінювати в ній застаріле ПЗ. Окремо компанія радить доручити визначеній урядовій структурі відстежувати кіберможливості передових моделей.
Щодо втрати контролю й автоматизованих досліджень Anthropic називає попередні напрями роботи: розвивати здатність виявляти системи, що діють поза контролем розробників, реагувати на них і будувати інфраструктуру для їх стримування або вимкнення.
