• Публікації
  • ШІ поза контролем: як американська армія втратила контроль над власною зброєю
1419

ШІ поза контролем: як американська армія втратила контроль над власною зброєю

Штучний інтелект. Фото: depositphotos
Штучний інтелект. Фото: depositphotos

Штучний інтелект уже планує військові удари, зламує державні бази даних і розробляє токсини, які не залишають слідів. І поки одні намагаються це зупинити, інші змагаються за те, хто встигне використати його першим. Компанія, яка наважилась сказати "ні" Пентагону, отримала ярлик іноземного ворога - і того ж дня подвоїла свою аудиторію. Китай роздає свої моделі безкоштовно всьому світу разом із вбудованою пропагандою. Це не звична людству до цього гонка озброєнь із чіткими правилами і зрозумілими сторонами. Це щось, для чого назви ще не придумали.

Корпоративна конституція проти бойового наказу

26 лютого 2026 року Anthropic відхилила контракт Пентагону на $200 млн. Офіційна причина один рядок, якого армія не погодилась прибрати: заборона на "аналіз масово зібраних даних" американських громадян.

Американська армія роками будувала свою технологічну перевагу на продуктах, якими сама не розпоряджається, і конфлікт з Anthropic просто вперше зробив цю залежність видимою.

Щоб зрозуміти масштаб проблеми, потрібно спочатку розібратись у тому, як влаштована сама модель. Архітектура Claude побудована на принципі, який Anthropic називає Constitutional AI. Це технічний підхід, при якому в модель на етапі навчання вбудовуються правила поведінки, що працюють як внутрішній фільтр. Кожен запит проходить через цю систему обмежень, і якщо модель класифікує його як потенційно шкідливий, вона може відмовити у відповіді або суттєво її модифікувати. Для звичайного користувача це безпечність і передбачуваність. Для військового оператора, що працює в умовах реального бойового завдання, це непередбачувана точка відмови, яку він не контролює і не може обійти.

РЕКЛАМА

Навіть якби Constitutional AI не існувало, залишалася б фундаментальна архітектурна вразливість: Пентагон використовував модель, яку він не власноруч навчав, не контролює і яку може оновити без його відома третя сторона. Розробник може випустити нове оновлення, яке змінить поведінку системи в непередбачуваний спосіб — і замовник дізнається про це лише тоді, коли модель почне поводитись інакше у бойовому контексті.

Саме це і трапилось у найгостріший момент конфлікту. CENTCOM використовував Claude для ідентифікації цілей, аналізу розвіддань і моделювання бойових сценаріїв під час ударів по Ірану 28 лютого - тобто менш ніж через добу після того, як Трамп підписав наказ припинити використання продуктів Anthropic.

Система була настільки глибоко інтегрована у класифіковані мережі і процеси прийняття рішень, що її фізично неможливо було вимкнути миттєво. Перемикач існував лише теоретично. Пентагон розпочав найбільшу військову операцію з 2003 року, усвідомлюючи, що протягом наступних кількох місяців втратить доступ до ключового інструменту, на якому ця операція планувалась. І не зміг нічого з цим вдіяти.

Техдиректор Пентагону Еміль Майкл сформулював суть конфлікту так: "внутрішня конституція ШІ-моделі не може диктувати генералам порядок дій". Корпоративна логіка Anthropic передбачає, що компанія несе відповідальність за те, як використовується її продукт, і тому зберігає за собою право встановлювати обмеження. Військова логіка передбачає, що в умовах бойових операцій командна вертикаль є абсолютною і жодна зовнішня сторона — байдуже, корпорація чи міжнародна організація — не може накладати на неї обмеження в режимі реального часу.

РЕКЛАМА

Claude потрапив у класифіковані мережі Пентагону не напряму, а через двох посередників: компанію Palantir Пітера Тіля та хмарну інфраструктуру Amazon Web Services Top Secret Cloud. Це означає, що навіть якби Anthropic завтра погодилась на всі умови уряду, архітектурна залежність нікуди б не зникла — просто перемістилась би на рівень вище.

Palantir забезпечує інтеграційну оболонку, через яку будь-яка модель потрапляє в закриті мережі Пентагону. AWS забезпечує обчислювальну інфраструктуру. Замовник отримує готову функціональність — але не отримує доступу до вагів моделі, не контролює процес її оновлення, не може модифікувати її поведінку під власні потреби без згоди розробника. Якщо будь-який з цих вузлів зникає або змінює умови — операційна спроможність зникає разом з ним.

Єдиним по-справжньому незамінним елементом у цій конструкції виявився саме Palantir: він залишається єдиним провайдером інтеграції між комерційними ШІ-моделями і класифікованими мережами — незалежно від того, яку модель обирає Пентагон. Це означає, що навіть перейшовши з Claude на GPT-4 або на будь-яку іншу модель, армія не вирішує проблему залежності вона лише змінює її форму. Вразливість лишається. Просто тепер вона менш помітна, бо загорнута в іншу корпоративну обгортку.

Відкритий код із закритою ідеологією

Поки Вашингтон з'ясовував стосунки з Anthropic, Китай шукав модель, щоб весь світ використовував саме їх.

РЕКЛАМА

Qwen 3.5 від Alibaba, випущений у лютому 2026 під ліцензією Apache 2.0, за продуктивністю порівнянний з попереднім поколінням Claude — і коштує у 13 разів дешевше. Але ціна тут не головне. Модель можна завантажити, розгорнути на власному сервері і запускати без жодного підключення до зовнішньої інфраструктури.

Ніяких підписок, ніяких ліцензійних угод, ніякої залежності від американських хмарних сервісів, які можна відключити через санкції чи зміну політичної кон'юнктури. Для країни, яка не хоче опинитись у ситуації Пентагону де доступ до ключового інструменту може зникнути в найневідповідніший момент — це стратегічна незалежність.

Для країн Глобального Півдня пропозиція ще конкретніша. Американська модель монетизації ШІ орієнтована на корпоративний сектор розвинених економік: API-доступ за підпискою, enterprise-ліцензії, інфраструктура, що передбачає стабільний широкосмуговий інтернет. Більшість країн Африки, Латинської Америки і Центральної Азії просто не входять до цільової аудиторії.

Китайська стратегія свідомо заповнює цю нішу: відкритий код плюс державні субсидії плюс готовність інвестувати в локальну інфраструктуру. За даними Microsoft, китайські системи вже займають 56% ринку ШІ в Білорусі, 49% на Кубі, 43% у Росії, 18% в Ефіопії. Це не випадковий розподіл — це географія країн, які або перебувають під американськими санкціями, або активно шукають альтернативи американській технологічній орбіті.

РЕКЛАМА

Але тут починається найцікавіше. "Відкритий код" у випадку Qwen означає, що ваги моделі публічно доступні і піддаються аудиту. Дослідники можуть перевірити, як модель навчена, які патерни в ній закладені. І саме цей аудит виявив проблему, яку не можна вирішити простим перенавчанням.

Дослідження Шведського агентства психологічної оборони протестувало десять компаній, що використовують китайські базові моделі — включаючи Qwen — і жодна з них не виявилась повністю вільною від вбудованих інформаційних настанов. Модель систематично подає інформацію про КНР у позитивному ключі, уникає критичних оцінок чутливих тем і зберігає ці патерни вісьмома мовами. Критично те, що ці обмеження не є поверхневим шаром, який можна зняти через донавчання — вони вбудовані в базові ваги моделі на рівні, де їх практично неможливо відділити від решти функціональності без деградації всієї системи.

Це створює специфічний парадокс. Американська хмарна модель технологічно прозора для свого розробника: всі запити проходять через його сервери, він бачить, як використовується продукт, і може відключити доступ у будь-який момент. Але вона непрозора для замовника — той не знає, що саме змінилось після чергового оновлення. Китайська відкрита модель технічно прозора для замовника: ваги доступні, можна перевірити архітектуру, запити не логуються на зовнішніх серверах. Але вона несе в собі ціннісну рамку, від якої неможливо повністю відмовитись, не зруйнувавши саму модель.

Іншими словами, вибір між двома екосистемами — це не вибір між залежністю і незалежністю. Це вибір між залежністю від інфраструктурного провайдера, який може відключити тебе технічно, і залежністю від розробника, який вже вплинув на тебе ідеологічно — і зробив це заздалегідь, до того, як ти взагалі прийняв рішення про розгортання. Перша залежність видима і потенційно керована. Друга — вбудована в саму тканину інструменту, яким ти користуєшся.

Держава карає корпорацію і програє

OpenAI і особисто Сем Альтман вклали мільйони в інавгураційний фонд Трампа і передвиборчий суперPAC MAGA Inc. Anthropic зробила протилежний вибір: $20 млн у Public First Action — організацію, що прямо виступає проти дерегуляційного курсу адміністрації. Коли конфлікт навколо контракту загострився, Даріо Амодеї у внутрішньому листі, який згодом став публічним, написав прямо: справжня причина тиску — не питання національної безпеки, а відсутність донатів і відмова від публічних похвал на адресу адміністрації, на відміну від керівництва OpenAI.

РЕКЛАМА

27 лютого Трамп опублікував допис у Truth Social, назвавши Anthropic "лівими радикалами". Хегсет офіційно оголосив компанію "ризиком для ланцюга постачання" — статус, який до цього застосовувався виключно до іноземних компаній під санкціями: Huawei, ZTE, структури, пов'язані з російським ВПК. Вперше цей ярлик отримала американська корпорація. Того ж дня — не наступного, а того ж — OpenAI підписала контракт на умовах, від яких Anthropic відмовилась, і закрила раунд фінансування на $110 млрд за участю Amazon, SoftBank і Nvidia. Хронологія була надто щільною, щоб бути випадковою: це була демонстрація того, що відбувається з тими, хто не домовляється, і того, що отримують ті, хто домовляється.

Понад 900 співробітників OpenAI і Google підписали відкритий лист, в якому прямо назвали це операцією: Пентагон свідомо використовує конфлікт з однією компанією як важіль тиску на весь сектор. Логіка проста — якщо решта бачить, що відмова коштує ринкової ізоляції, а згода — $110 млрд, вибір стає очевидним.

Але розрахунок не спрацював так, як планувалось. Логіка покарання передбачала, що відрізати компанію від державних замовлень — значить поставити її перед фінансовим вибором між принципами і виживанням. Anthropic цей вибір не зробила — і ринок відреагував несподівано. Після оголошення блокування прогнозований річний дохід компанії зріс з $9 до $20 млрд. Claude вперше обійшов ChatGPT у рейтингу безкоштовних застосунків Apple. Кількість платних підписників подвоїлась. Механізм, який мав покарати, спрацював як реклама: споживачі, які раніше не розрізняли Claude і ChatGPT, раптом отримали чіткий наратив — є компанія, яка відмовила армії заради принципів. Для певної частини ринку це виявилось достатньою причиною перейти.

Це виявило структурну межу самого інструменту тиску. Відключення від державних контрактів працює як важіль лише тоді, коли державний контракт є критичним джерелом доходу. Компанія з достатньою комерційною базою може пережити його втрату — і навіть виграти від публічності навколо конфлікту. Anthropic опинилась саме в цій ситуації. Парадоксальний наслідок: спроба змусити компанію стати залежнішою від держави зробила її менш залежною від неї.

РЕКЛАМА

Конгрес спробував відреагувати інституційно. Конгресмен Ліккардо запропонував поправку до Закону про оборонне виробництво, яка забороняла б уряду блокувати технологічні компанії за встановлення етичних обмежень на використання їхніх продуктів. Поправка не набрала голосів — голосування пройшло строго по партійній лінії. Як зазначив сам Ліккардо, основна проблема в тому, що закону, який регулює військове застосування ШІ, просто не існує. Виконавча влада діє у правовому вакуумі, і цей вакуум поки що заповнюється не законодавством, а прецедентами.

Саме тому цей конфлікт важливий незалежно від того, чим він закінчився для конкретних компаній. Вперше в американській практиці приватна корпорація публічно відмовила державі у доступі до власного продукту — і не зазнала за це фінансового краху. Це означає, що наступна компанія, яка опиниться перед аналогічним вибором, матиме перед собою прецедент: можна сказати ні. Але це також означає, що держава, яка наступного разу зіткнеться з подібним опором — вже в умовах реального конфлікту, з реальними операційними наслідками — не матиме правового інструменту для швидкого вирішення колізії. Питання "хто контролює модель" залишиться відкритим рівно до того моменту, коли ціна відповіді на нього стане максимальною.

Хто ми такі: Про нас та Контакти. Як ми пишемо новини та наші принципи: Редакційний кодекс. Ми старались, якщо вам сподобалось – задонатьте.

Якщо Ви помітили орфографічну помилку, напишіть нам.