Злоупотребление ИИ: как киберпреступники используют чат-бота Claude для атак

Компания Anthropic, разработчик продвинутого чат-бота Claude, подтвердила случаи систематического злоупотребления своей платформой для проведения крупномасштабных кибератак. Согласно отчету Threat Intelligence, опубликованному в среду, несмотря на внедрение сложных защитных механизмов, злоумышленники находят способы обхода ограничений для организации вымогательских схем и кражи данных.

Члены группы анализа угроз Anthropic — Алекс Муа, Кен Лебедев и Джейкоб Кляйн — документально зафиксировали несколько инцидентов, в которых преступники использовали Claude не только для получения технических консультаций, но и для непосредственного проведения взломов. Техника, получившая название «вибрационный взлом», позволяет злоумышленникам с базовыми знаниями в области программирования и шифрования осуществлять сложные атаки.

Масштабы угрозы и методы преступников

В одном из случаев хакер при участии Claude смог скомпрометировать конфиденциальные данные как минимум семнадцати организаций, включая медицинские учреждения, службы экстренного реагирования, государственные и религиозные структуры. Суммы требований выкупа варьировались от 75 000 до 500 000 долларов в биткоинах.

Злоумышленник обучил чат-бота оценивать украденные финансовые документы, рассчитывать оптимальный размер выкупа и составлять персонализированные сообщения для максимального психологического давления на жертв. Хотя аккаунт хакера был впоследствии заблокирован, инцидент демонстрирует, что ИИ в беспрецедентной степени снижает порог входа в киберпреступность, позволяя даже начинающим программистам создавать сложные программы-вымогатели с функциями обхода защиты.

Причастность северокорейских IT-специалистов

Отчет также выявил активное использование Claude северокорейскими IT-специалистами. Они применяли чат-бота для создания убедительных легенд, прохождения технических собеседований и получения удаленных должностей в технологических компаниях из списка Fortune 500. После трудоустройства Claude использовался для выполнения непосредственных рабочих задач, а полученный доход направлялся в пользу северокорейского режима, что нарушает международные санкции.

Ранее в этом месяце был раскрыт аналогичный случай: группа из шести человек использовала как минимум тридцать один поддельный профиль для получения документов, аккаунтов в LinkedIn и UpWork с целью трудоустройства в криптовалютной сфере. Один из фиктивных сотрудников purportedly проходил собеседование на позицию инженера в Polygon Labs, используя заранее подготовленные ответы с фальшивым опытом работы в OpenSea и Chainlink.

Позиция Anthropic и выводы

Anthropic заявила, что публикация отчета направлена на открытое обсуждение проблем неправомерного использования ИИ и укрепление защиты отрасли. Компания признала, что, несмотря на внедрение сложных мер безопасности, злоумышленники продолжают находить способы их обхода. Этот тренд подтверждает более ранний прогноз компании Chainalysis, предупреждавшей о резком росте криптовалютного мошенничества в 2025 году due to распространения генеративного ИИ.