Правительство США приостановило работу ИИ-моделей Fable 5 и Mythos 5 компании Anthropic

Правительство США приняло беспрецедентное решение приостановить работу самых мощных на данный момент моделей искусственного интеллекта — Fable 5 и Mythos 5 компании Anthropic. Это первый случай, когда ведущие ИИ-модели выводятся с рынка по решению государства.

Всего два месяца назад Anthropic представила Mythos — модель, которая считается одной из самых мощных и эффективных в сфере ИИ. Однако из-за её способности выявлять неизвестные уязвимости в защищённых электронных инфраструктурах компания не стала открывать к ней широкий доступ, предоставив модель крупным корпорациям. Для массового использования была разработана Fable 5 — более слабая версия, представленная пользователям несколько дней назад. Но даже эта «облегчённая» модель, по мнению правительства США, несёт серьёзные риски.

Примечательно, что накануне инженеры Anthropic опубликовали статью, в которой отмечали ускорение темпов развития ИИ и возможную утрату контроля над такими системами, призывая к замедлению. Решение властей фактически «услышало» архитекторов компании.