Мы привыкли доверять грамотному тексту. Нас учили, что официальные письма от банков и государственных структур не содержат ошибок, а если в сообщении «что-то не так» с языком - перед нами явный обман. Но эпоха ИИ перевернула это правило с ног на голову. Пора перестраивать мышление и учиться видеть угрозу там, где раньше её не было.
- Старый фишинг: ошибки, корявый перевод и странный стиль
- Новая реальность: как ИИ пишет «идеальные» мошеннические письма
- Сравнение старого и нового фишинга: почему грамотность перестала быть маркером обмана
- Как распознать ИИ-фишинг: новые маркеры опасности
- Почему традиционные методы защиты больше не работают
- Что нас ждёт дальше: эволюция фишинга в эпоху ИИ
- Заключение: бдительность нового типа
Старый фишинг: ошибки, корявый перевод и странный стиль
Чтобы понять, насколько далеко шагнули технологии обмана, вспомним, как выглядели фишинговые письма до прихода генеративных нейросетей. Типичное мошенническое сообщение образца 2018–2020 годов можно было опознать с первого взгляда. В нём почти всегда присутствовали грамматические ошибки, несогласованные падежи, путаница с родами и числами. Фразы звучали неестественно, будто их перевёл онлайн-переводчик десятилетней давности. Часто встречались слова, написанные транслитом, или странное смешение русского и английского языков.
Классическое фишинговое письмо часто начиналось с фраз вроде «Уважаемый клиент, ваша учетная запись была скомпрометирована. Пожалуйста, подтвердите свои данные перейдя по ссылке ниже». При этом обращение было обезличенным, а само письмо изобиловало техническими и стилистическими огрехами.
Специалисты по кибербезопасности годами учили пользователей простому правилу: видишь ошибки - не переходи по ссылке. И оно действительно работало. Как отмечала Анна Кулашова, управляющий директор «Лаборатории Касперского» в России, раньше фишинговое письмо можно было отличить по обычной грамотности речи: как только вы понимали, что письмо странно составлено, в нём есть ошибки - значит, это фишинг. Преступники, зачастую плохо владевшие языком своих жертв, просто не могли составить убедительный текст без посторонней помощи.
Однако с появлением ChatGPT и аналогичных больших языковых моделей ситуация кардинально изменилась. Теперь злоумышленникам не нужно быть носителями языка или обладать навыками копирайтера - всю работу за них делает нейросеть.
Новая реальность: как ИИ пишет «идеальные» мошеннические письма
Эксперименты показывают, что генеративные нейросети способны создавать чрезвычайно правдоподобные фишинговые письма. Более чем в 65% случаев мошенники применяют ИИ именно для написания текста сообщений. Такие письма выглядят максимально естественными и персонализированными, точно копируя стиль известных компаний или государственных учреждений.
Алгоритм может воспроизвести манеру деловой переписки руководителя крупной корпорации или язык официальных уведомлений госоргана. Письмо, написанное ИИ от имени вашего коллеги или банка, будет содержать актуальную информацию, правильные обращения и формулировки, характерные для этого отправителя. Злоумышленники также используют LLM-модели для генерации писем, которые идеально копируют стиль конкретного человека — например, финансового директора компании. Письмо приходит с фирменными оборотами речи и даже может содержать отсылки к реальным предыдущим перепискам, взятым из утечек данных.
Опасность усугубляется тем, что нейросети можно заставить генерировать фишинговые письма, несмотря на встроенные защитные механизмы. Журналисты Reuters совместно с исследователями Гарвардского университета провели показательный эксперимент: они попросили шесть популярных нейросетей - ChatGPT, Claude, DeepSeek, Grok, Gemini и Meta AI - помочь в организации фишинговой кампании, нацеленной на пожилых людей. На прямые запросы с упоминанием намерения «обмануть пенсионеров» чат-боты отвечали отказом, ссылаясь на политику безопасности. Однако защиту оказалось несложно обойти: достаточно было прибегнуть к простым уловкам - например, заявить, что текст нужен для написания романа о киберпреступниках или для научного исследования фишинга. После таких уточнений нейросети соглашались помочь и генерировали убедительные мошеннические тексты.
Особенно показателен случай с чат-ботом Grok, который не только создал письмо с призывом о пожертвованиях от лица вымышленного благотворительного фонда, но и по собственной инициативе предложил добавить в него элемент срочности: «Не ждите! Нажмите сейчас, чтобы действовать, пока не стало слишком поздно!». Другие боты давали советы по лучшему времени для отправки писем, чтобы повысить их эффективность, или даже предлагали схемы, как перенаправить жертву на сайт настоящей организации после кражи данных, чтобы отсрочить обнаружение обмана.
Исследователи из компании ReliaQuest также провели собственные тесты с использованием ChatGPT. Начальные запросы о запуске фишинговой кампании были отклонены из-за этических ограничений, однако при использовании специальной техники обхода фильтров под названием «Do Anything Now» (DAN) языковая модель выдала пошаговый план, включающий исследование целевой компании, регистрацию домена и создание фишингового письма.
Масштаб проблемы подтверждается статистикой. Согласно исследованию компании Barracuda в сотрудничестве с Колумбийским и Чикагским университетами, более половины (51%) вредоносных и спам-писем в апреле 2025 года были сгенерированы с использованием ИИ-инструментов. С момента запуска ChatGPT в ноябре 2022 года наблюдался устойчивый рост доли ИИ-сгенерированного спама, достигший пика в 51%.
Сравнение старого и нового фишинга: почему грамотность перестала быть маркером обмана
Ключевое различие между старым и новым фишингом заключается именно в качестве текста. Раньше мошенники вынуждены были полагаться на собственные языковые навыки или услуги дешёвых переводчиков. Сегодня ИИ позволяет создавать фишинговые сообщения без типичных контрольных признаков мошенничества, таких как грамматические и орфографические ошибки.
Исследователи отмечают, что ИИ-генерируемые письма демонстрируют более высокий уровень формальности, меньшее количество грамматических ошибок и большую лингвистическую изысканность по сравнению с письмами, написанными людьми. Это делает их более способными обходить системы обнаружения и казаться профессиональными для получателей. Особенно полезно это для злоумышленников, чей родной язык отличается от языка их целей.
Практические эксперименты подтверждают эти выводы. Когда журналисты Reuters разослали сгенерированные нейросетями письма группе из 108 пожилых волонтёров, около 11% участников перешли по фишинговым ссылкам - причём некоторые письма были настолько убедительными, что успешно «обманули» получателей, несмотря на то что те знали о своём участии в эксперименте.
В ходе другого теста, проведённого ReliaQuest с участием 1000 человек, 2,8% получателей кликнули по вредоносной ссылке в письме, сгенерированном моделью ChaosGPT. Текст был грамматически правильным и звучал так, будто его написал носитель языка.
Пожалуй, самый тревожный показатель заключается в том, что фишинговые письма, созданные ИИ, достигают успеха в 54% случаев по сравнению с 12% успешности традиционных атак. Иными словами, нейросети делают мошенников в четыре с половиной раза эффективнее.
Кроме того, ИИ не просто пишет текст без ошибок - он способен персонализировать атаку. Злоумышленники могут с помощью нейросетей собрать из открытых источников сведения о конкретном человеке - его должность, круг общения, интересы - и встроить эту информацию в письмо, сделав его ещё более убедительным. Представьте себе письмо, в котором упоминается ваша недавняя командировка, имя вашего руководителя и тема последнего рабочего совещания - всё это ИИ может извлечь из социальных сетей и утечек данных и превратить в оружие социальной инженерии.
Как распознать ИИ-фишинг: новые маркеры опасности
Раз традиционный признак - грамотность текста - больше не работает, нам нужны новые способы выявления фишинговых писем. Эксперты по кибербезопасности предлагают несколько подходов.
Прежде всего стоит обратить внимание на стиль письма и последовательность слов в нём. Созданные ИИ тексты часто отличает формальный или шаблонный язык изложения, не свойственный живому человеку. Кроме того, в письме могут повторяться схожие фразы, а текст может быть скуп на синонимы. Нейросеть выдаёт стерильно-правильный текст, где каждое предложение словно взято из учебника, тогда как живой автор делает ошибки, использует разговорные обороты, допускает стилистические вольности.
Ещё один признак - логические ошибки и нестыковки в текстах. При генерировании фишинговых сообщений часто теряется общий контекст письма, утверждения выглядят противоречиво или неуместно. Существует высокая вероятность того, что ИИ запутается в деталях и мелких подробностях. Например, в письме могут упоминаться события или даты, которые не соответствуют действительности, либо использоваться вымышленные должности и названия отделов.
Важно также анализировать наличие персонифицированных деталей. Если в письме отсутствует личная информация автора или адресата, используются обезличенные обращения вроде «Уважаемый клиент» вместо вашего имени - это повод насторожиться.
Однако самым надёжным способом распознать ИИ-фишинг остаётся внимание к содержанию призыва, а не к форме сообщения. По мнению специалистов «Лаборатории Касперского», лучший способ распознать фишинг с использованием ИИ - обратить внимание на то, к чему вас призывает сообщение и какую срочность и формулировки оно использует. Неожиданные просьбы и необходимость действовать быстро стали теперь более сильными предупреждающими знаками, чем когда-либо прежде.
Специалисты советуют не доверять стилю письма, а проверять каналы связи. Верификация через второй канал - звонок, сообщение в мессенджере, личный разговор - становится обязательной практикой безопасности. Если письмо пришло якобы от коллеги с просьбой срочно перевести деньги - позвоните этому коллеге. Если банк просит подтвердить данные — перезвоните в банк по официальному номеру, а не по тому, что указан в письме.
Почему традиционные методы защиты больше не работают
Традиционные методы борьбы с фишингом, основанные на анализе ключевых слов и известных шаблонов, становятся всё менее эффективными. ИИ-генерируемые фишинговые письма способны обходить спам-фильтры и другие защитные меры, представляя значительную угрозу как для частных лиц, так и для организаций.
Проблема усугубляется тем, что злоумышленники используют ИИ для тестирования различных формулировок, чтобы определить, какие из них наиболее эффективно обходят системы защиты. Этот процесс аналогичен A/B-тестированию, применяемому в традиционном маркетинге. По сути, мошенники получили в своё распоряжение инструмент для непрерывной оптимизации своих атак.
Кроме того, ИИ позволяет масштабировать фишинговые кампании до невиданных ранее размеров. Около 80% фишинговых атак так или иначе используют ИИ, причём почти в половине инцидентов нейросети применяются для автоматизации массовой рассылки, что позволяет увеличить число потенциальных жертв в сотни раз без дополнительного участия человека.
Обучение сотрудников, хотя и остаётся важным элементом защиты, показывает ограниченную эффективность в борьбе с ИИ-фишингом. Исследования показывают, что традиционные тренинги по фишингу снижают частоту кликов всего на 1,7%. ИИ-генерируемые атаки создаются так, чтобы обходить не только спам-фильтры, но и инстинкты людей, эксплуатируя эмоциональные триггеры в обход логики и полученных на тренингах знаний.
Что нас ждёт дальше: эволюция фишинга в эпоху ИИ
Тенденции указывают на то, что проблема будет только усугубляться. С момента запуска ChatGPT в конце 2022 года объём фишинга вырос на 4151%. Речь идёт уже не только об электронной почте: активно развиваются смишинг (фишинг через SMS), вишинг (голосовой фишинг) и атаки с использованием дипфейк-видео.
Бизнес-компрометация электронной почты (BEC-атаки), при которых злоумышленники выдают себя за руководителей компаний и запрашивают срочные денежные переводы, теперь составляет 73% всех зарегистрированных киберинцидентов. При этом 14% таких атак в апреле 2025 года уже были сгенерированы с помощью ИИ, и эксперты прогнозируют рост этой доли по мере совершенствования технологий.
Особую тревогу вызывает развитие технологий клонирования голоса. По мнению экспертов, в ближайшем будущем злоумышленники начнут активно внедрять голосовые дипфейки в BEC-атаки, что позволит им ещё убедительнее выдавать себя за конкретных людей, например, генерального директора компании.
Заключение: бдительность нового типа
Эпоха, когда фишинговое письмо можно было распознать по безграмотности, безвозвратно ушла в прошлое. Нейросети пишут тексты, которые неотличимы от настоящих деловых писем, а зачастую даже превосходят их по формальному качеству. Пользователям больше нельзя полагаться на орфографию и грамматику как на индикаторы безопасности.
Вместо этого необходимо вырабатывать новую привычку: всегда анализировать суть запроса, а не форму, в которой он подан. Если письмо требует от вас срочных действий — перевода денег, ввода пароля, перехода по ссылке - остановитесь. Сделайте паузу. Проверьте информацию через независимый канал связи. Позвоните отправителю по известному вам номеру, а не по тому, что указан в письме. Зайдите на официальный сайт организации, набрав адрес вручную, а не переходя по ссылке из письма.
Помните: даже самое грамотное письмо может оказаться ловушкой. Доверяйте не словам, а проверенным каналам коммуникации. В мире, где ИИ способен безупречно имитировать человеческую речь, ваша бдительность остаётся главной линией обороны.
