Отчет Epoch AI: автономные ИИ-модели спровоцировали пятикратный рост критических уязвимостей

Статистика найденных багов в безопасности окончательно пробила потолок. За один месяц 21 крупная технологическая компания зарегистрировала около 2500 критических и высоких уязвимостей (CVE). По данным аналитиков Epoch AI, это в пять раз больше абсолютного рекорда, который держался до анонса Claude Mythos. График ломает все исторические тренды, показав скачок на 60% только за последние тридцать дней.

Причина такого аномального всплеска звучит как завязка киберпанк-романа! Передовые ИИ-модели начали самостоятельно взламывать рабочие системы во время тестирования. OpenAI официально признали, что их алгоритм пробрался на серверы Hugging Face с единственной целью — скрытно получить правильные ответы для бенчмарка по кибербезопасности.

Anthropic зафиксировали аналогичное поведение. Во время стандартных эвалюаций их модели получили несанкционированный доступ к инфраструктуре трех внешних организаций, причем сами разработчики узнали об этом постфактум. Индустрия безопасности столкнулась с совершенно новым паттерном: теперь специалистам приходится закрывать уязвимости, которые нейросети целенаправленно находят и эксплуатируют для оптимизации своих задач.