noRecognition маскує людей і авто від камер

Проєкт Білла Свірінгена показали на Def Con у Лас-Вегасі. Його патерни можуть збивати системи розпізнавання, але порушують і питання безпеки.

Патерни, що збивають алгоритми камер

Американський дослідник Білл Свірінген представив проєкт noRecognition — систему спеціальних комп’ютерно згенерованих візерунків, які можуть ускладнювати або навіть зупиняти автоматичне розпізнавання людей, авто та інших об’єктів камерами спостереження. Йдеться не про блокування самої відеозйомки, а про інше: камера може не спрацювати на об’єкт і не передати його в систему детекції.

Свірінген розповів, що працював над проєктом близько року і провів приблизно 31 мільйон тестів, щоб навчити модель підбирати ефективні патерни. За його словами, такі візерунки можна наносити на одяг або предмети, і вони здатні обходити деякі з найпоширеніших систем розпізнавання, зокрема номерних знаків, людей і облич.

Демонстрація на Def Con вивела noRecognition з лабораторії

Перший публічний тест проєкту відбувся в п’ятницю на конференції Def Con з кібербезпеки в Лас-Вегасі. Там Свірінген показав патерн, надрукований на автомобілі, і продемонстрував, що він може зменшити ймовірність виявлення машини камерою.

У демонстрації, яку провели разом із Donut Media, використали Toyota Yaris 2009 року. За словами Свірінгена, тест підтвердив ефективність підходу, хоча з колесами виникли труднощі. Відео з показу обіцяють опублікувати найближчими тижнями.

Як повідомляють Новини IT-PUB, важливість цієї демонстрації в тому, що йдеться не про лабораторний експеримент, а про спробу перевірити технологію в публічному просторі, де камери вже давно стали частиною міської інфраструктури.

Як noRecognition обходить системи спостереження

Свірінген пояснює, що сучасні камери спостереження давно не просто записують відео. Вони аналізують, що саме потрапило в кадр: від номерних знаків до облич і підозрілої активності. Саме ці алгоритми й намагається обійти noRecognition.

Модель не зупиняє сам запис. Вона «плутає» систему так, щоб камера не розпізнала те, що покриває патерн, і не сформувала сигнал тривоги. У результаті людина або об’єкт ніби зникають для автоматичної обробки, хоча відео все одно зберігається.

Підхід побудований на reinforcement learning: модель багаторазово перевіряє, які візерунки працюють, а які ні, і з кожною невдалою спробою покращує результат. Свірінген сказав, що фактично навчив систему «малювати». Згодом вона почала знаходити патерни, які успішно обходили одразу кілька алгоритмів.

Приватність і право відмовитися від стеження

Свірінген називає приватність фундаментальним правом і каже, що його проєкт має дати людям можливість «відмовитися від стеження». У розмові з TechCrunch він згадував, що в його місті камери розташовані дуже щільно, а сам він ніколи не погоджувався на такий рівень спостереження.

На його рішення вплинув і особистий досвід. Минулого року він хотів піти на протест, але відчував дискомфорт через велику кількість камер, які можуть відстежувати людей, що реалізують своє право на вільне висловлювання. Сам Свірінген зауважив, що як білий чоловік середнього віку не стикався з дискримінацією через свою зовнішність, але розуміє, що інші можуть почуватися вразливіше.

Через це проєкт виходить за межі суто технічної розробки. Він зачіпає питання контролю над публічним простором і того, чи має людина реальну можливість уникнути автоматичного нагляду.

Модель уже генерує нові патерни, але проєкт ще не завершений

За словами Свірінгена, його модель уже створює нові патерни щохвилини, а кожна наступна партія математично краща за попередню. Він стверджує, що система змогла підібрати «ідеальні рецепти» для візерунків, які обходять 11 open-source алгоритмів детекції, зокрема програмне забезпечення, що використовується в Flock license plate readers, Axon body-worn cameras та камерах із Clearview AI.

Автор проєкту водночас не приховує, що робота триває. Найсильніші патерни він не викладає в інтернет, щоб виробники камер не змогли швидко їх обійти. Модель і далі генерує нові варіанти, а Свірінген каже, що кожна невдала спроба лише покращує результат.

Зараз noRecognition також збирає кошти через crowdsourcing-кампанію. Команда хоче продавати ранні товари з патернами — футболки та худі, а згодом розглядає і варіант друкованих skin-плівок для авто. При цьому Свірінген наголошує, що патерни мають бути достатньо якісними, щоб працювати на відстані, але водночас виглядати естетично.

Для користувачів це може стати новим інструментом захисту приватності, а для ринку систем спостереження — ще одним викликом. Якщо такі патерни справді працюватимуть у масовому використанні, це поставить під сумнів, наскільки надійно алгоритми можуть ідентифікувати людей і транспорт у публічних місцях.