OpenAI, Anthropic і Google обговорюють безпеку ШІ

Компанії вже кілька тижнів ведуть переговори про AI safety. На тлі закликів сповільнити frontier AI виникли й антимонопольні питання.

OpenAI, Anthropic і Google DeepMind уже кілька тижнів ведуть переговори про безпеку штучного інтелекту. Про це заявив голова глобальної політики OpenAI Кріс Ліхейн. Тема набула додаткової ваги після заклику Anthropic до спільних дій у галузі.

У центрі уваги не лише сам факт контактів між конкурентами. Йдеться одразу про кілька чутливих тем: безпеку найпотужніших моделей ШІ, можливу роль держави та антимонопольні ризики, якщо така координація зайде надто далеко.

OpenAI, Anthropic і Google DeepMind підтвердили діалог

Ліхейн розповів журналістам у вівторок, що OpenAI працює з Anthropic і Google DeepMind над питаннями AI safety протягом кількох тижнів. За даними Bloomberg, ця заява вперше публічно підтвердила, що діалог між компаніями справді триває.

Як повідомляють Новини IT-PUB, Ліхейн також перебуває у Вашингтоні, де працює з американськими законодавцями над темою катастрофічних ризиків, пов’язаних зі штучним інтелектом.

Це вже не виглядає як звичайний обмін думками. Компанії намагаються узгодити підходи до безпеки в сегменті, де боротьба за найпотужніші моделі ШІ залишається дуже жорсткою.

Есей Даріо Амодеї посилив тиск на індустрію

Поштовхом до публічної дискусії став есей CEO Anthropic Даріо Амодеї, опублікований у суботу. У ньому він закликав індустрію працювати разом, щоб сповільнити темпи розвитку frontier AI та уникнути катастрофічних ризиків.

Цю ідею підтримали помітні фігури в галузі, зокрема CEO OpenAI Сем Альтман, Деміс Гассабіс із Google та Ілон Маск зі SpaceXAI. Альтман заявив, що OpenAI приєднається до Anthropic у впровадженні сторонніх оцінювачів, які стежитимуть за безпекою.

Для ринку й користувачів це важливий сигнал. Компанії, які створюють найпотужніші ШІ-системи, фактично визнають потребу в зовнішньому контролі та спільних правилах. Для одних це означає більше захисту від небезпечних сценаріїв, для інших — нові бар’єри та складніші процедури розробки.

Спільні дії можуть викликати антимонопольні претензії

Разом із тим така координація може поставити юридичні питання. Деякі учасники дискусії, зокрема Альтман, звертали увагу на ризик порушення антимонопольного законодавства, якщо домовленості між компаніями розцінять як такі, що послаблюють конкуренцію.

У своєму есе Амодеї запропонував вузьке державне виключення, яке дозволило б компаніям узгоджувати дії у сфері безпеки. Але Ліхейн, за повідомленням, заявив, що фірмам така пільга не потрібна.

У цьому й полягає головна суперечність. З одного боку, компанії хочуть краще контролювати ризики. З іншого — будь-яка спільна дія між прямими конкурентами може викликати підозри, якщо вона впливає на ринкову боротьбу.

У США обговорюють нові механізми нагляду за frontier AI

Ця історія розгортається на ширшому політичному тлі. За даними джерела, цього тижня The Information повідомило, що три компанії працюють над створенням галузевого стандартного органу для ШІ. Альтман нібито казав співробітникам, що це має відбутися без підтримки уряду США.

Ще в липні Гассабіс закликав США створити новий стандартний орган, який виконував би роль наглядача за ШІ. Така структура, за його словами, мала б перевіряти найпросунутіші моделі у світі та координувати сповільнення в галузі, якщо ризики зростатимуть.

На зустрічі у вівторок Ліхейн також заявив, що OpenAI підтримує положення у FRONTIER Act. Воно передбачає, що провідні frontier labs мають допустити до себе “independent verification organizations”, аби ті перевіряли, чи розробляються моделі безпечно.

Для бізнесу це може означати новий рівень зовнішнього контролю. Для користувачів — додаткові гарантії, що найпотужніші моделі створюються не лише швидко, а й під наглядом. Водночас такий підхід може сповільнити розробку та посилити регуляторний тиск на компанії.

Позиція Білого дому загострює суперечку

Тему ускладнює і позиція Білого дому. Президент Дональд Трамп, за даними джерела, відкинув побоювання щодо безпеки, назвавши їх обманом, і виступив проти жорсткішого регулювання. Він заявив, що будь-яке уповільнення дало б перевагу Китаю в гонці ШІ.

Його ключовий радник з питань ШІ Девід Сакс, який має особисту фінансову зацікавленість у частині індустрії, також применшив загрозу, назвавши побоювання щодо екзистенційного ризику від ШІ перебільшеними.

На цьому тлі переговори OpenAI, Anthropic і Google DeepMind виглядають як спроба самої галузі знайти баланс між швидкістю розвитку та безпекою. Але поки незрозуміло, чи приведуть ці контакти до спільних правил, чи все обмежиться консультаціями та заявами.

TechCrunch повідомляє, що звернувся по коментар до Anthropic, Google і OpenAI.