Коротко: Компанія Anthropic, що займається безпекою та дослідженнями в галузі штучного інтелекту, заявила, що запобігла використанню свого програмного забезпечення Claude для створення програмного забезпечення для автономних камікадзе-дронів російськими розробниками. Система була розроблена для вибору та ураження цілей, включаючи осіб, без участі оператора.
З огляду на зростаюче занепокоєння щодо напрямку, в якому може рухатися неконтрольований розвиток штучного інтелекту, звіт компанії Anthropic, що займається безпекою та дослідженнями в галузі ШІ, підкреслює необхідність нагляду за використанням та розробкою технологій ШІ, щоб уникнути сценарію “кінця світу”.
Хто використовував програмне забезпечення Claude для розробки бойових дронів?
У своєму квартальному звіті “Виявлення та протидія зловживанням ШІ”, опублікованому на початку цього місяця, компанія ідентифікувала групу розробників, пов’язаних з Росією, з позначкою GTG-27005, яка використовувала програмне забезпечення Claude для створення програмного забезпечення для автономних камікадзе-дронів. Anthropic вважає, що, хоча система розроблялася для військового використання, члени групи, ймовірно, були незалежними фахівцями з університетів. Компанія не виявила жодних конкретних зв’язків з російськими збройними силами, оскільки група використовувала низку віртуальних серверів для уникнення географічних обмежень. Зазначається, що група демонструвала якості, подібні до російської хакерської групи “Midnight Blizzard”, яка використовувала генеративні інструменти ШІ для підготовки кібератак. Перехід до розробки автономних бойових систем був новим напрямком для групи.
Чого прагнули досягти розробники?
Згідно зі звітом Anthropic, операції мали назви “DroneDoc” та “Seraphim”. Група зареєструвала свої облікові записи наприкінці 2025 року, але активно розпочала діяльність у середині травня 2026 року. Вони використовували програмне забезпечення Claude для написання та перевірки програмного коду, а також для збереження отриманих компонентів безпосередньо у своїх файлах проекту. Код був інтегрований з програмним забезпеченням для симуляції дронів та моделями навчання обчислювальних ресурсів, орендованими у комерційних постачальників. Отримана система була розроблена для вибору цілей, включаючи людей, та видачі команд на атаку без подальшого втручання оператора. Кінцева мета, схоже, полягала в управлінні роями ударних дронів та автономному прийнятті рішень. Використання Claude дозволило б розробити спільну пам’ять для рою в системі координації, стійкій до збоїв, – розподілену мережеву архітектуру, яка підтримує синхронізацію та розподіл завдань навіть при збоях окремих дронів або компонентів, втраті зв’язку чи відмові окремих компонентів. Команда також розробляла компактну бортову мовну модель, яка б визначала наступну дію дрона після ураження цілі: атакувати іншу ціль, продовжувати спостереження або повертатися на базу.
Навчання на реальних бойових кадрах з України
Розробники використовували бойові кадри з боїв в Україні, отримані через соціальні мережі, для навчання системи комп’ютерного зору. Український особовий склад та техніка були позначені як ворожі, тоді як російські військові системи були додані до списку цілей, які не можна атакувати. Демонстраційні симуляції проводилися в Донецькій області України, біля українських передових міст та транспортних коридорів.
Anthropic бореться з незаконним використанням ШІ у війні в Україні
Загалом компанія виявила та згодом заблокувала дев’ять облікових записів, пов’язаних з проектом. Разом з регіональним університетом Anthropic також виявила зв’язки з Російською академією наук. У звіті також описується зростаюче використання ШІ для організації кібератак проти українських урядовців та військових цілей. Одна група, пов’язана з Росією, використовувала ШІ у фішингових кампаніях, розповсюдженні шкідливого програмного забезпечення, захопленні акаунтів WhatsApp та атаках через скомпрометовані мережі Wi-Fi готелів.
Девіз Національної стрілецької асоціації США (NRA): “Зброя не вбиває людей, люди вбивають людей”, так само може стосуватися і штучного інтелекту, судячи з цього останнього інциденту. Це підкреслює, що заклики до пильності щодо розвитку ШІ не перебільшені, але контролю потребує саме користувач, а не технологія.