Витік даних розкриває китайську цензурну машину ШІ
Витік даних виявив існування потужної системи цензури в Китаї, яка використовує штучний інтелект для автоматичного виявлення та блокування контенту, що вважається чутливим урядом. Згідно з інформацією, опублікованою на TechCrunch, ця система аналізує різноманітні матеріали, включаючи скарги на бідність у сільських районах, повідомлення про корупцію серед членів Комуністичної партії та звернення щодо зловживань з боку правоохоронців.
Система базується на великій мовній моделі (LLM), яка навчена ідентифікувати та позначати контент, пов’язаний з політичними, соціальними та військовими темами, що вважаються чутливими. До пріоритетних тем для цензури відносяться питання забруднення довкілля, харчової безпеки, фінансових шахрайств та трудових конфліктів, які часто стають причиною громадських протестів у Китаї. Крім того, система спрямована на виявлення “політичної сатири”, особливо якщо вона використовує історичні аналогії для критики сучасних подій.
Витік даних став можливим через незахищену базу даних, виявлену дослідником безпеки NetAskari. База містила понад 133 000 записів і була розміщена на незахищеному сервері Elasticsearch, що дозволило отримати доступ до конфіденційної інформації. Цей інцидент підкреслює потенційні ризики використання передових технологій для посилення державного контролю та цензури в авторитарних режимах.
Дослідник з Каліфорнійського університету в Берклі Сяо Цян зазначив, що використання LLM для автоматизації цензури значно підвищує ефективність і точність державного контролю над інформацією. Це викликає занепокоєння щодо можливого розширення репресивних заходів та обмеження свободи слова в Китаї.
Цей випадок також свідчить про швидке впровадження авторитарними режимами новітніх технологій штучного інтелекту для посилення контролю над суспільством. Раніше, у лютому, OpenAI повідомляла про виявлення китайських організацій, які використовували великі мовні моделі для відстеження антиурядових публікацій та дискредитації дисидентів.
Використання штучного інтелекту для цензури та контролю інформації в Китаї викликає серйозні побоювання щодо майбутнього свободи вираження та приватності в епоху цифрових технологій.
