«Многие думают, что социальная инженерия, это про звонки от «сотрудника банка». Но реальная угроза уже не требует голоса. Она пишет идеальные письма, изучает ваши интересы и создаёт контекст, в котором даже осторожный человек может совершить ошибку. И делает это с помощью инструментов, которые мы сами считаем помощниками.»
От фишинга к персонализированному взлому
Традиционная социальная инженерия опиралась на массовость и простые уловки. Стандартное письмо о блокировке карты, рассылаемое тысячам адресов, рассчитывало на случайную жертву. Современные языковые модели меняют правила игры. Они позволяют автоматизировать не рассылку, а создание контента — уникального, убедительного и адаптированного под конкретного человека или организацию.
Злоумышленник больше не ищет шаблон. Он задаёт модели цель: «Напиши официальное письмо от службы безопасности для сотрудников компании «Альфа», ссылаясь на внутренний приказ №45-Д об обновлении учётных данных. Стиль — строгий, от лица начальника отдела ИБ». Модель генерирует безупречный текст с нужными реквизитами и тоном. Такой подход превращает грубый фишинг в целевую атаку, которую сложно отличить от реальной служебной переписки.
Как модели создают убедительный контент для атак
Сила ChatGPT, Claude и им подобных — в глубоком понимании контекста и языковых норм. Для социального инженера это инструмент для решения нескольких ключевых задач.
Имитация стиля и тона
Если злоумышленнику нужно выдать себя за коллегу или руководителя, он может «обучить» модель на образцах текстов. Достаточно скопировать несколько реальных писем или сообщений из публичных источников (корпоративные блоги, соцсети) и попросить модель анализировать стилистические особенности: частоту использования определённых слов, структуру предложений, типичные формулировки. На выходе получается текст, который звучит «как свой».
Создание правдоподобных предлогов
Слабый элемент большинства фишинговых атак — надуманная причина для действия. Языковые модели устраняют эту проблему. Они могут генерировать сложные, многоуровневые сценарии. Например, не просто «обновите пароль», а цепочку событий: «В связи с проведённым аудитом ФСТЭК и выявленными замечаниями по политике паролей (п. 3.2 ГОСТ Р 57580.1-2022) требуется срочная ротация учётных данных для доступа к контуру УЦ. Доступ к инструкциям по ссылке ниже». Предлог звучит технически грамотно и вызывает доверие у сотрудника, знакомого с регуляторикой.
Адаптация под целевую аудиторию
Атака на финансовый отдел будет использовать один лексикон, на отдел разработки — другой. Модели легко переключаются между профессиональными жаргонами. Запрос «объясни необходимость установки обновления безопасности для бухгалтера» и тот же запрос «для DevOps-инженера» дадут два принципиально разных текста, каждый из которых будет релевантен для своей аудитории.
Новые векторы атак, порождённые ИИ
Автоматизация создания текстов открывает возможности для атак, которые раньше были слишком трудоёмкими.
- Глубокая разведка (OSINT) с аналитикой. Модель можно нацелить на анализ открытых данных о компании: новостей на сайте, вакансий, отчётов. На основе этой информации она сформулирует уязвимые места. Например: «В новостях за прошлый месяц упоминался переход на новую CRM-систему. Создай сценарий письма от техподдержки вендора этой CRM с предложением пройти обязательное обучение по безопасности работы с системой».
- Многоэтапные сценарии. Вместо одного письма-ловушки злоумышленник может выстроить целую коммуникационную цепочку. Первое письмо — уведомление о предстоящем событии. Второе — напоминание с деталями. Третье — «срочное изменение условий» с вредоносной ссылкой. Модель поддерживает контекст всей переписки, обеспечивая последовательность и правдоподобие на каждом этапе.
- Генерация вспомогательных материалов. Для полного погружения жертвы в легенду недостаточно письма. Могут быть сгенерированы фейковые страницы входа, PDF-инструкции, скриншоты «интерфейса обновления» или даже тексты для чат-бота, имитирующего техподдержку. Всё это создаёт комплексную иллюзию реальности.
Почему традиционная защита проигрывает
Почтовые фильтры и системы обнаружения атак часто ищут известные шаблоны, вредоносные ссылки или подозрительные вложения. Атака, сгенерированная ИИ, обходит эти защиты.
Текст уникален и не содержится в базах сигнатур. В письме может не быть ссылок вовсе — только просьба ответить или выполнить внутреннее действие. Орфографических и стилистических ошибок, которые раньше были красным флагом, нет. Письмо идеально с точки зрения языка. Угроза смещается из технической плоскости в психологическую: теперь система защиты должна оценивать не признаки вредоносности кода, а правдоподобность контекста, что является гораздо более сложной задачей.
Что можно сделать для защиты
Борьба с этим новым типом угроз требует смещения акцентов в политиках безопасности и обучении сотрудников.
- Обучение, основанное на сомнении, а не на распознавании. Вместо того чтобы учить сотрудников зазубривать признаки фишинга (которые теперь отсутствуют), нужно тренировать культуру верификации. Ключевой вопрос должен звучать не «Похоже ли это на фишинг?», а «Как я могу независимо проверить эту информацию?». Алгоритм действий: не переходить по ссылкам из письма, а заходить на сайт напрямую; не звонить по указанному номеру, а найти контакты в официальном источнике; переспрашивать коллег через другой канал связи.
- Внедрение технических контролей для людей. Использование систем принудительной маркировки внешних писем, требование многофакторной аутентификации для любых критичных действий (даже если инициатива исходит «изнутри»), установленные регламенты на выполнение распоряжений, поступивших по электронной почте.
- Моделирование целевых атак с использованием ИИ в рамках учебных тревог. Чтобы сотрудники столкнулись с высококачественной имитацией в контролируемой среде. Это поможет выработать иммунитет к сложным сценариям.
- Анализ метаданных и поведенческих паттернов. Поскольку содержание письма перестаёт быть индикатором, системы защиты должны активнее анализировать аномалии в метаданных: необычное время отправки, маршрут прохождения письма через серверы, частоту коммуникации с отправителем. Также полезно отслеживать действия пользователя после получения подобных писем.
Эволюция угрозы: что будет дальше
Уже сейчас появляются специализированные инструменты (вроде FraudGPT или WormGPT), которые снимают этические ограничения коммерческих моделей. В будущем можно ожидать полной автоматизации цикла атаки: от сбора информации о цели через открытые источники до генерации персонализированного контента и управления диалогом с жертвой в реальном времени через чат-интерфейс.
Главный вывод не в том, что ChatGPT и Claude, это «зло». Они — мощные инструменты. Их использование в социальной инженерии лишь демонстрирует, что область кибербезопасности вступает в эру, где искусственный интеллект будет использоваться по обе стороны баррикад. Защита теперь должна быть нацелена не на обнаружение ошибок в тексте злоумышленника, а на укрепление человеческого критического мышления и создание процедур, устойчивых к идеально составленному обману.