Отчет: ИИ стал главным помощником хакеров

Инструменты на основе искусственного интеллекта встроились в реальные кибератаки — от первичной разведки до генерации вредоносного кода. Об этом говорится в отчете F6, охватывающим 2025 год и первую половину 2026. 

ИИ в атаках 

По данным аналитиков, за полтора года как минимум 18 APT-группировок провели атаки с использованием ИИ. В F6 описали несколько задокументированных случаев применения искусственного интеллекта в реальных атаках. 

Группировка GTG-1002 использовала языковые модели для генерации фишинговых писем — тексты адаптировались под конкретную жертву и обходили стандартные спам-фильтры. Кластер TAT26-12 применял ИИ для автоматизации разведки: сбора данных о сотрудниках, инфраструктуре и уязвимостях организаций.

Отдельно выделили инструмент PromptSpy — специализированное ПО для атак на корпоративные системы, построенные на базе LLM. Его задача заключается в извлечении системных промптов и манипуляции поведением моделей. 

Еще один инструмент, LAMEHUG, использовался для генерации вредоносного кода с минимальным участием человека.

Обсуждения на форумах

Исследователи обратили внимание, что хакеры стали чаще обсуждать различные ИИ-модели на тематических форумах. 

Хотя самым популярным решением среди хакеров-новичков оказался ChatGPT от OpenAI, чаще в полноценных атаках используется Gemini от Google.

Сами участники форумов обсуждают способы обхода ограничений у моделей. Некоторые пытались создать с помощью общедоступного ИИ вредоносное приложение.

Эволюция вымогателей

За отслеживаемый период появилось более 50 новых группировок, которые распространяют шифровальщики, и более 9300 связанных с ними инцидентов.

Характерная тенденция — отказ от блокировки данных как основного инструмента давления. Вместо него атакующие делают ставку на угрозу публикации похищенной информации. Это снижает технические требования к атаке и усложняет защиту. 

За полтора года было закрыто шесть крупных теневых торговых площадок для торговли данными. Однако на их месте появились пять новых. 

В действующих кардшопах зафиксировано более 16,5 млн скомпрометированных платежных карт, выставленных на продажу.

Напомним, в августе OpenAI замедлила разработку передовых ИИ-систем после инцидента с Hugging Face и предварительной оценки Astra.