Малолетка порно

Известная дорога.

Вопросы, связанные с шифрованием, уже давно беспокоят западных законодателей. Некоторые страны – среди них, например, Австралия – обязали разработчиков приложений предоставлять дешифрованные данные пользователей по запросу правоохранителей (по сути, запретив e2e). Два года назад похожий законопроект начали обсуждать в Великобритании, и теперь его рассматривают на уровне парламента.

Против предложения политиков уже выступили крупнейшие мессенджеры. Представители компаний рассказали, что не будут менять систему защиты или внедрять бэкдоры и примут последствия блокировки на территории страны. При этом часть разработчиков просто закроет доступ к своим сервисам для английских пользователей, чтобы не нарушать закон.

Но несмотря на критику со стороны правозащитных организаций, телекомов и ИТ-компаний, которой регулярно подвергаются подобные инициативы, в Евросоюзе тоже решили пойти по этому пути. В мае прошлого года Еврокомиссия предложилаобязать крупнейшие сервисы искать запрещённый контент, сканируя устройства пользователей – электронные письма, загружаемые в интернет файлы и даже сообщения в чатах компьютерных игр.

Перед отправкой сообщения или файла его хеш предлагают сличать со специальной БД запрещённого контента. Какой-либо специфики по этому вопросу пока нет, но учитывая объемы данных, можно предположить, что для этих целей придется использовать машинное обучение и системы ИИ.

Серьезная критика.

Идею практически сразу раскритиковали в Совете ЕС и Европейском надзорном органе по защите данных. Там посчитали, что предлагаемые меры несут угрозу неприкосновенности частной жизни и несоразмерны потенциальным угрозам. В марте 2023 года против инициативы также выступил парламент Германии. Политики заявили, что не поддержат вторжение в частную жизнь граждан.

Одна из главных проблем предложенного закона – чрезвычайно размытые формулировки критериев запрещенного контента и методов его поиска. Они могут создать возможности для злоупотреблений, повысят риск взлома ИТ-сервисов и пользовательских устройств хакерами.

В то же время системы автоматизированного поиска на базе искусственного интеллекта могут ошибаться. Эксперты оценивают погрешность на уровне 10-20%. Чтобы избежать случайных срабатываний, контент придётся проверять вручную. Такой подход, опять же, ставит под угрозу приватность.

У экспертов также есть вопросы к эффективности подхода. Если ПО будет находить нарушителей закона по хэшам, злоумышленники со временем научатся обходить алгоритмы (например, с помощью специальных хеш-фильтров). Но усиление защиты может привести к увеличению числа ложных срабатываний.

Наконец, сторонники нового законопроекта заявляют, что шифрование покрывает лишь небольшую часть взаимодействий в интернете. И алгоритмы уже сейчас анализируют открытые данные на предмет нарушений. Однако они забывают, что результате закручивания гаек условные разработчики мессенджеров просто перестанут работать на территории ЕС официально, как это обещают сделать крупные мессенджеры в Великобритании.

Дальнейший маршрут.

Некоторые эксперты считают использование ИИ-инструментов развитием существующих тенденций в модерации. Сервисам уже сейчас приходится искать компромиссы между конфиденциальностью пользователей и соблюдением законов, и вряд ли это изменится в ближайшем будущем.

Впрочем, новый законопроект ещё могут доработать или вообще отменить. Но пока все выглядит так, что политики не планируют отказываться от идеи. Есть шанс, что новая норма будет принята, а технические детали доработают позже. Так уже произошло в Австралии в 2018 году с запретом на end-to-end шифрование. Там местные сервисы работают совместно с правительством, чтобы оставаться в правовом поле.

Источник:  "Хабр", "VAS Experts".