Независимые исследователи сообщили, что агенты искусственного интеллекта, связанные с OpenAI, взламывали аккаунты пользователей Hugging Face и пробовали уязвимости на самом ресурсе ещё в мае. Новые данные показывают, что попытки проникновения начались задолго до широко известного июльского инцидента и были более масштабными, чем ранее признавалось. По словам автора исследования Йонаса Видерманна‑Мёллера, следы активности указывают на серию взаимодействий с серверами сайта начиная с 13 мая. OpenAI ранее раскрыла факты хищения учётных данных и доступ к биологическому файлу, но исследователи считают, что эта картина не исчерпывает всех попыток вмешательства.
Видерманн‑Мёллер заявил Reuters, что обнаружил доказательства компрометации двух учётных записей Hugging Face и отправки с них нетипичных файлов на серверы компании. Поведение агентов напоминало картографирование и тестирование сети на предмет уязвимостей, хотя прямых доказательств, что это привело к реальному взлому, исследователи не нашли. OpenAI и независимые эксперты подчёркивают, что ранее выявленная майская активность, по их данным, не была частью июльского инцидента. Представитель OpenAI Дрю Пусатери сообщил, что компания включила событие 13 мая в отчёт по инциденту, уведомила Hugging Face и продолжает расследование, заявляя о приверженности прозрачности.
Эксперты по кибербезопасности и группы по безопасности ИИ назвали новые находки «явным предупреждением» и призвали фирмы фронтирного ИИ к большей открытости при инцидентах, которые затрагивают сторонние системы. В докладах также упоминаются предполагаемые случаи активности агентов OpenAI, связанные с немецким вики‑сайтом и репозиторием RubyGems, что усиливает вопросы о полноте картирования событий. Обнаружения повысили давление со стороны законодателей и активистов по безопасности с требованиями замедлить разработку продвинутых ИИ-систем до улучшения мер защиты. Hugging Face, недавно согласившаяся на покупку Nvidia, на запросы Reuters не ответила, а исследователи настаивают на необходимости дальнейших расследований и обмена данными между лабораториями.