OpenAI розкриває деталі своєї угоди з Пентагоном
Компанія OpenAI оприлюднила більше подробиць щодо свого нового договору з Пентагоном (Міністерством оборони США) — угоди, яка дозволяє застосовувати моделі штучного інтелекту в секретних оборонних системах. Це сталося на тлі широкої критики, зокрема через те, як швидко було укладено контракт і які саме «запобіжники» для етичного використання штучного інтелекту в ньому прописано.
Цей крок відбувся після того, як переговори Пентагону з іншим великим AI-розробником, Anthropic, зазнали невдачі через розбіжності щодо умов, зокрема щодо масового спостереження та автономних зброїв. У підсумку влада США заборонила використання технологій Anthropic у федеральних цілях, і OpenAI швидко зайняла цю нішу, підписавши власний контракт із відомством.
Компанія окреслила «червоні лінії» та запобіжники
У своєму офіційному повідомленні OpenAI навела три ключові обмеження, які точно не дозволяють використовувати її технології для:
масового внутрішнього спостереження за громадянами;
керування автономними бойовими системами;
прийняття критично важливих автоматичних рішень (наприклад, так званих соціальних кредитних систем).
Ці обмеження називають «червоними лініями», і компанія підкреслює, що вони підтримуються не лише політичними заявами, а й багаторівневими технічними й юридичними механізмами. Зокрема:
AI має працювати тільки через хмарний доступ, а не бути інтегрованим у автономні пристрої чи зброю.
OpenAI контролює безпеку та транспорт своїх моделей, а перевірені співробітники компанії беруть участь у впровадженні.
Угода містить юридичні гарантії, які дозволяють припинити співпрацю у разі порушення обмежень.
За словами компанії, така комбінація технічних й контрактних механізмів робить захист більш міцним, ніж це було у інших угодах щодо застосування AI у військовому середовищі.
Визнання «спішності» угоди та її оптичні тонкощі
Генеральний директор OpenAI Сем Альтман чесно визнав, що переговори були доволі поспішними, а «оптичне сприйняття» угоди викликає запитання. За його словами, рішення про співпрацю ухвалювалося в умовах зайвої напруги між урядом і AI-галуззю, і компанія сподівається, що саме така співпраця може дестабілізувати конфлікти та встановити нові стандарти для безпечного застосування AI у національній безпеці.
Це сталося на фоні загострення суперечки навколо тієї ж теми зі стороною Anthropic, яка виступала за жорсткіші обмеження щодо застосування AI у військовому секторі. Зрештою, Пентагон вирішив припинити використання продуктів Anthropic, а OpenAI зайняла її місце після узгодження власних обмежень.
AI, армія та суспільство
Ця угода — один із найпотужніших сигналів про те, що штучний інтелект стає ключовим елементом оборонних технологій, але водночас — про зростаючий тиск на AI-розробників щодо гарантій етичного використання.
OpenAI намагається показати, що можлива співпраця з державними структурами навіть у секретних умовах, якщо для обох сторін чітко прописані обмеження і технічні обереги. Така модель може стати прецедентом, але ще не ясно, чи буде достатньо тільки «червоних ліній у контракті» для запобігання небажаному використанню в майбутньому — зокрема, для масового аналізу даних або впливу на автоматичні системи оборони.
Це також підсилює дискусію про регулювання AI як інструмента національної безпеки, де баланс між свободою технологій і захистом громадян потребує нових норм і загального розуміння ризиків такої співпраці.
