Генеральный директор Amazon Энди Джасси вошёл в число руководителей технологических компаний, которые на этой неделе подняли перед старшими чиновниками администрации Трампа вопросы безопасности, связанные с самыми продвинутыми моделями искусственного интеллекта компании Anthropic. По информации, доступной Reuters, разговоры касались потенциальных рисков, которые, по мнению собеседников, могут возникнуть при использовании моделей Fable 5 и Mythos 5. В пятницу администрация Трампа по соображениям национальной безопасности распорядилась ограничить доступ к этим моделям для любых иностранных граждан, находящихся как внутри, так и за пределами США. В ответ Anthropic объявила о намерении отключить доступ к моделям на глобальном уровне, а Amazon на момент публикации не дала официального комментария.
В блоге Anthropic отмечено, что власти США полагают: существует способ обхода защитных механизмов, то есть «jailbreak», который позволил бы Fable 5 использоваться для идентификации уязвимостей в программном обеспечении. Ограничение было введено как экспортный контроль, и Бюро промышленности и безопасности Минторга США, курирующее такие меры, на запрос Reuters оперативно не ответило. Некоторые эксперты, поддерживающие экспортный контроль в отношении передовых ИИ-моделей, сочли распоряжение администрации некорректно продуманным, поскольку оно распространяется и на союзников США. «Это решение плохо продумано, — сказал Джимми Гудрич из Калифорнийского института глобального конфликта и сотрудничества. — Оно даже запрещает канадцам и британцам, работающим в Anthropic, заниматься исследованиями и разработками». При этом распоряжение последовало как раз в тот момент, когда разногласия между администрацией и Anthropic, которая в закрытом порядке подала заявку на первичное размещение акций в США, начали показывать признаки смягчения в отдельных ведомствах.