Жінка звинуватила xAI у створенні 7000 відвертих фото
До позову проти xAI приєдналася нова позивачка. Вона стверджує, що її дитяче фото використали через Grok для тисяч експліцитних зображень.
До позову проти xAI, компанії Ілона Маска, приєдналася ще одна позивачка — жінка, яку в матеріалах називають Jane Doe 4. Вона стверджує, що її вітчим використав чатбот Grok, щоб обробити її фото, зроблене, коли їй було 11 років, і створити понад 7 000 відвертих зображень. Історія привернула увагу не лише масштабом звинувачень, а й тим, що йдеться про використання ШІ для створення сексуалізованих матеріалів з образом дитини.
Окремо троє підлітків із Теннессі вже подали позов проти xAI. Вони звинувачують компанію в тому, що та не запровадила базові запобіжні заходи, які могли б не допустити використання Grok для створення відвертих зображень реальних людей, зокрема неповнолітніх. Позивачі домагаються, щоб справі надали статус колективного позову.
Нова позивачка пов’язує Grok із тисячами зображень
За даними The Washington Post, Jane Doe 4 заявляє, що її вітчим використав Grok для маніпуляції дитячим фото й отримав понад 7 000 експліцитних зображень. Там само зазначено, що після того, як ці файли виявили під час рейду правоохоронців, чоловіка знайшли мертвим — ідеться про самогубство через два дні після обшуку.
Позивачка описує цю ситуацію як приклад того, як доступні цифрові інструменти можуть перетворювати буденне життя на матеріал для сексуального насильства над дітьми. Вона сказала, що “безмежний доступ до цих інструментів поширюється так швидко”, і додала, що це “перетворює повсякденне життя на матеріал для дитячого сексуального насильства”.
Позов проти xAI зосереджений на захисних обмеженнях
У центрі претензій до xAI — не лише сам факт появи таких зображень, а й питання, чи були в Grok достатні обмеження, щоб не допустити подібного використання. Троє підлітків, які першими подали позов, стверджують, що компанія не забезпечила базового захисту від створення експліцитного контенту за участю реальних людей, включно з дітьми.
Як повідомляють Новини IT-PUB, у справі йдеться саме про звинувачення в недбалості з боку компанії, а не про підтверджене судом порушення. xAI, яка нині є частиною SpaceX, поки що не надала коментаря TechCrunch, яке звернулося по відповідь.
Справу загострює попередня критика навколо Grok
Історія стала помітною через поєднання двох тем, які найчастіше викликають занепокоєння в розмовах про генеративний ШІ: доступність таких інструментів і ризик їхнього використання для створення шкідливого контенту. Тут звинувачення стосуються не абстрактної загрози, а конкретного випадку, де, за словами позивачки, дитяче фото використали для створення тисяч відвертих зображень.
Додаткову увагу до справи привертає й те, що раніше X уже заповнювали мільйони сексуалізованих зображень, згенерованих Grok. Саме це, за логікою позову, посилює питання про те, наскільки ефективно сервіс контролює такі сценарії використання.
Для сервісів ШІ це вже не лише питання можливостей
Ця справа показує, що для генеративних ШІ-продуктів важливими стають не тільки їхні можливості, а й обмеження. Коли інструмент працює з фотографіями реальних людей, особливо дітей, на перший план виходять модерація, захист даних і запобігання зловживанням.
Для користувачів це означає, що ризики стосуються не лише правил платформи, а й особистих зображень, які можуть бути використані без згоди. Для бізнесу та розробників це ще один сигнал: відсутність достатніх запобіжників може обертатися судовими позовами і репутаційними втратами.
У джерелі немає даних про те, як саме xAI планує реагувати на ці звинувачення або чи змінювався Grok після попередніх інцидентів. Наразі відомо лише, що справа розвивається в судовій площині, а позивачі намагаються розширити її до колективного позову.
