США испугались слишком умного ИИ и отключили его через три дня
Власти США ограничили доступ к новейшим моделям нейросетей Anthropic Fable 5 и Mythos 5, посчитав их потенциальной угрозой национальной безопасности. По данным компании, правительство потребовало закрыть доступ для всех иностранных граждан — как за пределами США, так и внутри страны, включая сотрудников Anthropic без американского гражданства.
Главные опасения связаны с возможностями моделей в кибербезопасности. Fable 5 и Mythos 5 могли находить серьезные уязвимости, создавать рабочие способы взлома и обходить собственные ограничения. После распоряжения властей Anthropic решила полностью отключить модели для всех пользователей, чтобы гарантированно выполнить требования экспортного контроля.
Публичная версия Fable 5 проработала всего три дня. Ее называли одной из самых мощных моделей для программирования, научных задач и автономной работы. Более продвинутая Mythos 5 изначально была доступна только ограниченному кругу клиентов.
Anthropic не согласилась с решением властей. В компании заявили, что выявленный способ обхода защиты не давал модели принципиально новых возможностей по сравнению с другими современными системами.
