Компанія Anthropic виявила та заблокувала низку випадків небезпечного використання своїх моделей Claude — від російського кібершпигунства проти українських державних і військових структур до розробки автономних ударних дронів та досліджень, потенційно застосовних для створення біологічної зброї. Окремо компанія звинуватила китайські ШІ-компанії у спробах копіювати можливості Claude. Про це йдеться у новому звіті Anthropic про загрози, що охоплює виявлені компанією операції з грудня 2025-го по серпень 2026 року.
Reuters зазначає, що серед найпомітніших епізодів опинилися пов'язана з Росією кібершпигунська кампанія та дії китайських розробників штучного інтелекту. Російські хакери атакували українські структуриОдну з виявлених груп Anthropic пов'язує за характером дій із російським кібершпигунським угрупованням Midnight Blizzard. Його цілями були українські та європейські урядові установи, військові та розвідувальні структури, дипломати, оборонні компанії та люди, пов'язані із зовнішньою політикою США.
У Anthropic стверджують, що зловмисники застосовували ШІ майже на всіх етапах операцій — від розвідки та створення фішингової інфраструктури до проникнення в системи, крадіжки облікових даних та обробки викраденої інформації. У планах і реальних атаках фігурували понад 20 організацій, причому найчастішими цілями були представники українських державних, військових та дипломатичних структур. Особливий інтерес група виявляла до української індустрії безпілотників.
За даними Anthropic, зловмисники отримали доступ до поштових скриньок щонайменше двох виробників компонентів для дронів, атакували виробника військових безпілотників і викрали програмний комплект для системи комп'ютерного зору одного з дронів. Для атак також використовувалися скомпрометовані системи готельного Wi-Fi, фішинг і захоплення облікових записів WhatsApp. Anthropic стверджує, що серед цілей були щонайменше два колишні високопосадовці з України.
Однією з найпримітніших особливостей операції стала автоматизація обходу захисту. Якщо системи безпеки виявляли шкідливе програмне забезпечення, ШІ-агенти допомагали змінювати та заново збирати його доти, доки воно знову не переставало визначатися захисними продуктами. Reuters також виділяє цю схему як один із прикладів того, наскільки автономними стають кібератаки з використанням ШІ.
Claude використовували при створенні російського рою ударних дронівВ іншому випадку Anthropic виявила невелику групу розробників, що перебували в Росії, яка використовувала Claude Code під час роботи над автономним роєм FPV-дронів-камікадзе. Компанія вважає їх радше спеціалізованою командою фрилансерів, а не безпосередньо російською державною структурою. Розробники застосовували Claude при створенні програмного забезпечення для координації дронів, наведення та комп'ютерного зору.
Система проєктувалася таким чином, щоб безпілотники могли автономно обирати цілі та виконувати бойові завдання. Для навчання використовувалися в тому числі відеоматеріали бойових дій в Україні, а як географія сценаріїв фігурувала Донецька область. Учасники проєкту заявляли про фінансування з боку російського Фонду перспективних досліджень, Національної технологічної ініціативи та Міноборони РФ, однак Anthropic підкреслює, що не змогла підтвердити ці заяви.
Компанія заблокувала пов'язані з проєктом акаунти. Anthropic виявила дослідження з ризиком застосування у біологічній зброїОкремий розділ звіту присвячений біологічним ризикам. Anthropic описала п'ять випадків, коли її моделі використовувалися у дослідженнях, які потенційно могли сприяти розробці біологічної зброї.
При цьому компанія особливо підкреслює: вона не у всіх випадках змогла визначити, чи переслідували вчені військові цілі, чи займалися легітимними дослідженнями подвійного призначення. Серед виявлених епізодів були дослідження вірусу чікунгунья, робота з ортопоксвірусами, а також вивчення токсинів і біологічно активних молекул. В одному випадку дослідник працював у рамках підтримуваного державою проєкту і намагався використати Claude для досліджень, здатних змінити властивості вірусу.
Anthropic заблокувала відповідну активність і після подібних випадків посилила обмеження для запитів у сфері біології подвійного призначення. Китайські ШІ-компанії намагалися копіювати ClaudeЩе один напрям пов'язаний з китайськими розробниками ШІ. Anthropic заявила, що виявила масштабні спроби так званої дистиляції — використання відповідей більш потужної моделі для навчання та покращення інших систем.
За версією Anthropic, DeepSeek та розробник Kimi компанія Moonshot у деяких випадках перенаправляли реальні запити власних користувачів до Claude, не повідомляючи їх про це, а потім використовували отримані відповіді для навчання своїх моделей. У таких запитах могла міститися конфіденційна корпоративна та персональна інформація. Reuters також повідомляє про звинувачення Anthropic на адресу китайських компаній, які намагалися витягти та відтворити можливості Claude.
Масштаб таких операцій був значним: Anthropic пов'язує з Moonshot понад 23 млн обмінів повідомленнями з травня по липень, а з DeepSeek — понад 12,1 млн обмінів лише за два тижні липня. Компанія стверджує, що блокує виявлені акаунти та впроваджує додаткові технічні заходи проти копіювання можливостей своїх моделей. Загалом звіт показує зміну характеру загроз: ШІ все частіше використовується не просто як довідник або помічник для написання коду, а як інструмент автоматизації цілих операцій — від розвідки і кібератак до розробки військових систем.
Anthropic заявляє, що заблокувала описані у звіті кампанії та передала частину інформації державним органам та іншим компаніям галузі.