Microsoft: хакеры используют нейросети для усиления кибератак

Microsoft и OpenAI объявили, что хакерские группировки, поддерживаемые правительствами разных стран, начали активно использовать большие языковые модели (LLM), вроде тех, что лежат в основе ChatGPT, для модификации и улучшения существующих кибератак.

«Группы киберпреступников, субъекты угроз на национальном уровне и другие злоумышленники изучают и тестируют различные технологии искусственного интеллекта по мере их появления, пытаясь понять потенциальную ценность для своих операций и меры безопасности, которые им, возможно, придётся обойти», — говорится в блоге Microsoft.

В отчёте говорится, что хакеры используют языковые модели для написания кода, связанного с манипулированием файлами, выбором данных и многопроцессорной обработкой, чтобы потенциально автоматизировать или оптимизировать разные операции. Например, хакерская группа Thallium использует LLM для исследования публично обнародованных уязвимостей и целевых организаций, используя это в написании сценариев и при подготовке контента для фишинговых кампаний. Другая группа Curium использует LLM для создания фишинговых писем и даже кода, позволяющего избежать обнаружения антивирусными приложениями.

Microsoft и OpenAI пока не обнаружили никаких значимых атак, в которых бы были задействованы LLM. В то же время в компаниях полагают, что важно выявить потенциальную проблему на ранней стадии. В частности, Microsoft предупреждает о возможности имитации голоса в мошеннических целях. В то же время компания и сама активно использует ИИ, чтобы противостоять новым типам атак. Например, ведётся разработка Security Copilot — ИИ-помощника для специалистов по кибербезопасности.

Источник: 4PDA.