Подают инициативу под соусом борьбы с запрещенным контентом в социальных сетях и мессенджерах. Правозащитники видят в этом серьезную угрозу конфиденциальности и информационной безопасности. Расскажем, что вообще происходит.
Известная дорога.
Вопросы, связанные с шифрованием, уже давно беспокоят западных законодателей. Некоторые страны – среди них, например, Австралия – обязали разработчиков приложений предоставлять дешифрованные данные пользователей по запросу правоохранителей (по сути, запретив e2e). Два года назад похожий законопроект начали обсуждать в Великобритании, и теперь его рассматривают на уровне парламента.
Против предложения политиков уже выступили крупнейшие мессенджеры. Представители компаний рассказали, что не будут менять систему защиты или внедрять бэкдоры и примут последствия блокировки на территории страны. При этом часть разработчиков просто закроет доступ к своим сервисам для английских пользователей, чтобы не нарушать закон.
Но несмотря на критику со стороны правозащитных организаций, телекомов и ИТ-компаний, которой регулярно подвергаются подобные инициативы, в Евросоюзе тоже решили пойти по этому пути. В мае прошлого года Еврокомиссия предложилаобязать крупнейшие сервисы искать запрещённый контент, сканируя устройства пользователей – электронные письма, загружаемые в интернет файлы и даже сообщения в чатах компьютерных игр.
Перед отправкой сообщения или файла его хеш предлагают сличать со специальной БД запрещённого контента. Какой-либо специфики по этому вопросу пока нет, но учитывая объемы данных, можно предположить, что для этих целей придется использовать машинное обучение и системы ИИ.
Серьезная критика.
Идею практически сразу раскритиковали в Совете ЕС и Европейском надзорном органе по защите данных. Там посчитали, что предлагаемые меры несут угрозу неприкосновенности частной жизни и несоразмерны потенциальным угрозам. В марте 2023 года против инициативы также выступил парламент Германии. Политики заявили, что не поддержат вторжение в частную жизнь граждан.
Одна из главных проблем предложенного закона – чрезвычайно размытые формулировки критериев запрещенного контента и методов его поиска. Они могут создать возможности для злоупотреблений, повысят риск взлома ИТ-сервисов и пользовательских устройств хакерами.
В то же время системы автоматизированного поиска на базе искусственного интеллекта могут ошибаться. Эксперты оценивают погрешность на уровне 10-20%. Чтобы избежать случайных срабатываний, контент придётся проверять вручную. Такой подход, опять же, ставит под угрозу приватность.
У экспертов также есть вопросы к эффективности подхода. Если ПО будет находить нарушителей закона по хэшам, злоумышленники со временем научатся обходить алгоритмы (например, с помощью специальных хеш-фильтров). Но усиление защиты может привести к увеличению числа ложных срабатываний.
Наконец, сторонники нового законопроекта заявляют, что шифрование покрывает лишь небольшую часть взаимодействий в интернете. И алгоритмы уже сейчас анализируют открытые данные на предмет нарушений. Однако они забывают, что результате закручивания гаек условные разработчики мессенджеров просто перестанут работать на территории ЕС официально, как это обещают сделать крупные мессенджеры в Великобритании.
Дальнейший маршрут.
Некоторые эксперты считают использование ИИ-инструментов развитием существующих тенденций в модерации. Сервисам уже сейчас приходится искать компромиссы между конфиденциальностью пользователей и соблюдением законов, и вряд ли это изменится в ближайшем будущем.
Впрочем, новый законопроект ещё могут доработать или вообще отменить. Но пока все выглядит так, что политики не планируют отказываться от идеи. Есть шанс, что новая норма будет принята, а технические детали доработают позже. Так уже произошло в Австралии в 2018 году с запретом на end-to-end шифрование. Там местные сервисы работают совместно с правительством, чтобы оставаться в правовом поле.
Источник: "Хабр", "VAS Experts".
![Mavki im MABH <v.j AI Mawasi As-Siafa Yad Mordehai Ñetiv HaAsara s. '.V ^ . ^3 E/e? Crossing Bert Lahia --^N _____ QD Bror Hayil Even Shrrv Ahuz Jabalia r ✓ Ibim ^^J^Sderot Wahsh Gaza AI Zahra NuseiratCamp 7 x- / / o Mefalsim Qm ar Aza Ruhama Tkuma QT]](http://img1.reactor.cc/pics/post/full/%D0%BF%D0%BE%D0%BB%D0%B8%D1%82%D0%B8%D0%BA%D0%B0-%D0%98%D0%B7%D1%80%D0%B0%D0%B8%D0%BB%D1%8C-%D1%81%D1%82%D1%80%D0%B0%D0%BD%D1%8B-%D0%B0%D1%80%D0%B0%D0%B1%D1%8B-%D0%BF%D1%80%D0%BE%D1%82%D0%B8%D0%B2-%D0%98%D0%B7%D1%80%D0%B0%D0%B8%D0%BB%D1%8F-8142787.jpeg "политика,политические новости, шутки и мемы,Израиль,страны,арабы против Израиля,ХАМАС,длиннопост,Сектор Газа")
США уже пишут бумагу с запретом использовать их самолёты для нанесения ответного удара по Ирану? А ООН и ЕС выразят озабоченность и втихую продолжить покупать нефть? Захарова уже отписалась, что бедных иранцев угнетают англосаксы-жидомасоны? Китайцы сказали, что всё не так однозначно?
Сам к Израилю не имею никакого отношения, но хочется верить, что хотя бы они смогут дать пизды всем причастным. Заодно и меньше ракет поедет в Россию