становится хуже

«Кидаться предметами в Росгвардию неприемлемо». Монолог 22-летнего росгвардейца

В Индии дипфейки и другие ИИ-технологии используют в предвыборной агитации. Эксперты опасаются, что совсем скоро эти методы изменят выборы в разных странах мира

Выборы в нижнюю палату парламента Индии, начавшиеся 19 апреля, могут стать крупнейшими в мире: потенциальное количество избирателей составляет 970 миллионов человек, то есть около 12% от всего населения планеты. Голосование проходит в семь этапов и завершится 1 июня, а результаты должны объявить 4 июня. Критики действующего главы правительства Нарендры Моди утверждают, что победа его партии «Бхаратия джаната парти» на третьих выборах подряд может привести к кризису индийской демократии. Оппозиционеры обвиняют премьер-министра в разжигании розни и усилении репрессий. Напряженная обстановка на выборах связана еще и с тем, что конкурирующие партии впервые активно используют для агитации и пропаганды искусственный интеллект. «Медуза» рассказывает, почему эксперты считают дипфейки и другие ИИ-технологии угрозой для электоральных процедур не только в Индии, но и во всем мире.

ИИ-технологии уже использовали для агитации на предыдущих выборах в Индии. Но не в таких масштабах, как сейчас

«Бхаратия джаната парти» (БДП) впервые использовала ИИ-инструменты, чтобы генерировать персонифицированные обращения к избирателям еще в 2014 году. По словам исследователя из Османского университета в Индии Патарлапати Нагараджу, с тех пор технологии прочно закрепились в агитационном арсенале индийских партий и стали ключевым элементом пропагандистского дискурса. Дипфейк — цифровая подмена личности — впервые стал политическим инструментом на выборах в законодательное собрание Дели в 2020-м. Тогда в сети появились два сгенерированных ИИ видео с руководителем местного отделения БДП Маноджем Тивари. В одном ролике политик обращался к потенциальным избирателям на английском языке, в другом — на языке харианви, распространенном в Дели и некоторых других регионах. 

Представители БДП обосновали использование ИИ тем, что они не дискредитировали конкурентов, а лишь пытались донести послание своего лидера до как можно более обширной аудитории. Однако сам факт появления таких роликов вызвал в Индии много споров — многие журналисты и политики предположили, что в будущем с помощью дипфейков будут распространять ложную информацию и манипулировать избирателями. 

Сомнения в допустимости использования ИИ в агитации усилились после парламентских выборов 2019 года, в ходе которых разные стороны активно пользовались социальными сетями для распространения фейков о конкурентах. Группа исследователей из индийского отделения Microsoft Research тогда пришла к выводу, что кампании почти всех крупных партий «включали в себя элементы онлайн-дезинформации, ложь о своих оппонентах и пропаганду». 

Сотрудники исследовательского центра Digital Forensic Research Lab выявили наплыв ботов, которые пытались продвигать хэштеги и «манипулировать трафиком» в пользу разных конкурентов в твиттере в заключительные недели перед выборами 2019 года. Наплыв ботов наблюдался и в фейсбуке, где две крупнейшие партии — БДП и Индийский национальный конгресс — предположительно распространяли отредактированные фотографии и фейковые видео. Агитационная кампания также проводилась в вотсапе — там с помощью ботов массово пересылали сообщения с призывами голосовать за определенных кандидатов. 

Но в 2024 году манипуляция информацией и производство фейков в индийской политике вышли на новый уровень — благодаря развитию Генеративного Искусственного Интеллекта, который позволяет создавать тексты, изображения и другие медиаданные в соответствии с подсказками и критериями, заданными пользователем.

«Генеративный ИИ сам по себе не представляет больше опасности, чем боты, — объясняет специалистка в области вычислительных социальных наук Кэтлин Карли. — Однако теперь мы имеем дело и с ботами, и с генеративным ИИ». 

По словам Карли, генеративный ИИ упрощает процесс программирования ботов, позволяет им охватить бо́льшую аудиторию и дольше избегать блокировки. А Пратик Вагре, исполнительный директор базирующегося в Индии Фонда за свободу интернета, который занимается защитой цифровых прав, предположил, что поскольку ИИ-технологии никто не регулирует, выборы этого года «превратятся в Дикий Запад». 

Персонажами предвыборных дипфейков становятся даже звезды Болливуда. А еще политики пытаются с помощью ИИ сгенерировать компромат на оппонентов 

В начале марта 2024 года в инстаграме распространилось изображение премьер-министра Индии Нарендры Моди, стилизованное под Бхишму — одного из главных героев индийского эпоса «Махабхарата», земное воплощение бога неба Дьяуса. Картинка, сгенерированная с помощью ИИ, предположительно должна была символизировать роль, которую отводят Моди его сторонники, — выдающегося воина и защитника своей страны от внешних угроз. Благодаря продвижению в соцсети изображение за два дня охватило аудиторию примерно в 35 тысяч пользователей. 

По данным Meta, доступ к которым получило издание Al Jazeera, в период с 27 февраля по 21 марта аккаунт Hokage Modi Sama, который занимается агитацией за Моди в инстаграме, распространил более 50 публикаций, изображающих главу правительства в божеством, военным или религиозным героем. «С помощью этих изображений [сторонники Моди] пытаются сформировать образ мудреца и воина — неутомимого, непобедимого и безупречного лидера, достойного нашей безусловной преданности, — объясняет исследователь в области политических коммуникаций из Оксфорда Амог Дар Шарма. — Это новейший метод в рамках долгосрочной стратегии БДП по формированию культа Моди как мудрого и проницательного правителя».

По данным Al Jazeera, технологиями ИИ для агитации воспользовался и один из главных конкурентов Моди, член Индийского национального конгресса Рахул Ганди. Его сторонники распространили в инстаграме и фейсбуке изображения политика, якобы позирующего с детьми и фермерами. Последние представляют основной оппозиционный электорат — в прошлом они часто протестовали против рыночных реформ Моди. Подпись под сгенерированным с помощью ИИ изображением сообщала о том, что «Рахул Ганди сопереживает фермерам, обещает им безоговорочную поддержку и готовность внимательно отнестись к проблемам каждого». 

Сами изображения премьер-министра в образе народного героя или предвыборное творчество сторонников его оппонента вроде бы нельзя назвать манипуляцией фактами, однако эксперты опасаются, что другие предвыборные материалы, сгенерированные с помощью аналогичных технологий, можно использовать для распространения ложной информации и обмана избирателей. 

Другой пример того, как ИИ применяют в предвыборной агитации в Индии, — дипфейки. Один из самых популярных персонажей в подобных роликах — тот же Моди: накануне начала голосования в вотсапе распространились видео с цифровым аватаром премьера, который обращается напрямую к избирателю по имени и напоминает о том, как власти улучшили их жизнь за последние годы. Появляются похожие ролики и с другими членами правящей партии. По данным The New York Times, видео-послания автоматически переводятся на любой из десятков распространенных в Индии языков. По тому же принципу действуют и чат-боты, которые обзванивают избирателей и голосами политических лидеров просят их о поддержке на выборах. 

Девендра Сингх Джадун, ведущий индийский специалист в области дипфейков, который специализируется на создании реклам и сцен для болливудских фильмов, рассказал, что накануне выборов к нему обратились сотни политиков. По словам Джадуна, больше половины из них просили о чем-то «неэтичном» — например, «создать» телефонные разговоры, в которых конкуренты якобы признаются в нарушениях закона и взятках. Другие хотели добавить лица оппонентов на порнографические изображения. Некоторые попросили Джадуна специально сделать дипфейк низкого качества с участием кандидата от их партии, чтобы в случае появления поддельного компромата его было проще разоблачить. Джадун объяснил, что отказывается от такой работы только из личных принципов. Он добавил, что никаких технических способов остановить поток фейковых роликов, изображений и аудиозаписей пока не существует. 

По словам Джадуна, из 200 запросов, которые он получил с начала 2024 года, он и его команда из девяти человек взялись лишь за 14. Однако далеко не все специалисты, умеющие работать с ИИ, проявляют такую принципиальность. В самый разгар предвыборной кампании в Индии распространился дипфейк-ролик со звездой Болливуда Аамиром Ханом. На видео цифровой двойник Хана напомнил о несбывшемся обещании БДП десятилетней давности — сделать так, что на банковском счету каждого индийца окажется полтора миллиона рупий (или 18 тысяч американских долларов). В конце дипфейк призывает соотечественников голосовать за оппозиционеров из Индийского национального конгресса. На следующий день после появления ролика в интернете Хан выступил с опровержением и назвал видео «абсолютной ложью». 

По мнению Никхила Паквы, редактора интернет-издания MediaNama, которое специализируется на анализе цифровых медиа, в Индии такие предвыборные манипуляции могут оказаться действенными из-за глубоко укоренившейся культуры почитания знаменитостей. «Индия — страна, где люди любят фотографироваться с двойниками звезд, — объяснил Паква. — Если им, например, позвонит премьер-министр и будет говорить так, будто он знает, как их зовут, где они живут и с какими проблемами сталкиваются, они почти наверняка придут в восторг». 

«В этом году я вижу больше политических дипфейков, чем в предыдущем, — рассказал профессор компьютерных наук из Калифорнийского университета в Беркли Хани Фарид. — Они стали более сложными и реалистичными». С такой оценкой согласен и специалист по ИИ Девендра Сингх Джадун. По его словам, сам контент стал более качественным, а время на его производство многократно сократилось: если раньше даже с мощными графическими процессорами на создание правдоподобного дипфейка уходило от восьми до десяти дней, теперь для этого нужно всего несколько минут. 

Партии оправдывают использование ИИ экономией и удобством, но конкурентов обвиняют в манипуляции и фейках. Взять под контроль поток сгенерированных изображений и видео пока не получается

Рассуждая о том, как ИИ может повлиять на ход выборов и отношение избирателей, исследователь политических коммуникаций из Оксфорда Амог Дар Шарма отмечает, что партии используют дипфейки не только для дискредитации оппонентов, но и чтобы продвигать выгодные политические нарративы. «ИИ необязательно обманывает избирателей и заставляет их поверить в то, что не соответствует реальному положению дел, — объясняет Шарма. — ИИ еще и позволяет производить более изобретательный контент с множеством культурных отсылок. Это приводит к появлению зрелищной пропаганды, которой с большей долей вероятности будут делиться, а это в свою очередь помогает ее распространять». 

Индийские политики обвиняют оппонентов в попытках добиться преимущества с помощью ИИ, но собственные партии оправдывают. Они утверждают, что применяют подобные технологии просто потому, что это быстро и удобно, а вовсе не из желания обмануть избирателей или оклеветать противников. 

По словам индийского политолога и специалиста в области коммуникаций Сагара Вишноя, «одно из явных преимуществ внедрения ИИ в предвыборные кампании — в том, что он позволяет заметно сократить расходы, сэкономить время и повысить эффективность». Раньше партии полагались на колл-центры с множеством сотрудников и волонтеров, чтобы взаимодействовать с электоратом, — ИИ позволил сократить расходы в этой сфере в несколько десятков раз и лучше структурировать общение с избирателями. Например, благодаря технологиям обзвона опросы стали проводится быстрее — теперь за день партии получают объем данных, на сбор которые прежде уходил не один месяц. 

Один из сторонников использования ИИ в предвыборной агитации, 33-летний член БДП Шахти Сингх Ратор утверждает, что он никогда не смог бы рассказать о предвыборной программе Моди такому количеству соотечественников, если бы не создал цифрового двойника. По словам Ратора, «ИИ — это прекрасно, потому что он позволяет двигаться вперед». 

Однако, уверены сторонники ограничения ИИ, потенциальные опасности от использования дипфейков и других подобных технологий перевешивают все удобства. Эксперты обращают внимание на случаи, когда искусственный интеллект мог обеспечить одной стороне несправедливое преимущество: например, во время выборов в законодательное собрание индийского штата Телингана в 2023 году распространилось видео, на котором главный министр штата К. Чандрашекар Рао и другие представители БДП призывали голосовать за своих конкурентов из Конгресса. 

Негативные последствия использования ИИ в политической борьбе наблюдаются и в некоторых других государствах — например, в Бангладеше представительница оппозиции Румин Фархана в прошлом году стала жертвой кампании по дискредитации: неизвестные распространили ее фейковые снимки в купальнике, которые возмутили многих консервативно настроенных избирателей. В Молдове противники главы государства Майи Санду сгенерировали дипфейк-видео, на которых президент якобы просит граждан сплотиться вокруг Партии социалистов Молдовы, у которой тесные связи с «Единой Россией». А в ЮАР в преддверии майских выборов опубликовали отредактированное видео, на котором рэпер Эминем призывает поддержать оппозиционную партию. 

Аналитики Microsoft в своем отчете об использовании ИИ-технологий рассказали, что за многими политическими дипфейками в разных странах стоят компании, связанные с китайскими властями. Предположительно, таким образом режим Си Цзиньпина пытается продвигать «своих» кандидатов. По данным Microsoft, в 2024 году Китай может заниматься распространением предвыборных фейков в Индии, Южной Корее и США. 

В конце марта Нарендра Моди предложил помечать контент, сгенерированный ИИ, «чтобы не запутывать избирателей». Однако пока в Индии, как и в большинстве других стран, не существует правовых норм, которые позволяли бы эффективно ограничивать поток изображений и видео, созданных искусственным интеллектом. Как пишет The Washington Post, «правоохранительные органы редко успевают за фейками, которые могут стремительно распространяться в соцсетях и групповых чатах». Индийский политический стратег Анкит Лал согласен, что в Индии «не существует эффективных способов отслеживать контент, произведенный с помощью ИИ». Из-за этого помешать предвыборным манипуляциям практически невозможно. А решать, насколько этично использовать ИИ в политической агитации, в каждом случае приходится не регулирующим инстанциям, а отдельным людям.

https://meduza.io/feature/2024/04/28/v-indii-dipfeyki-i-drugie-ii-tehnologii-ispolzuyut-v-predvybornoy-agitatsii

Обманутые ожидания

Вся наша культура основана на ряде основополагающих мифов и убеждений, и я сейчас говорю не про украинскую культуру, или российскую, или американскую. Нет, речь шире, о культуре общечеловеческой. Иногда эту культуру облекают в пословицы - ну там, капля камень точит, упорство и труд рыбку из пруда перетрут, и все в таком духе. Иногда, мысль обретает форму более выразительную - например, книгу. Или фильм. Или даже целые исторические мифы, концепции и тому подобное. Ну, например, как Великая Французская Революция в головах народных масс стала символом борьбы с тиранией и угнетением.

И вот эта вот мысль - что тяжелый труд, или тяжелое испытание, подразумевают достойную награду в конце - она повсеместна. Герои романов, сказок и кинолент преодолевают немыслимые трудности, и получают за это награды - хоббиты уничтожают Саурона, и спасают Средиземье; Хью Гласс выбирается из могилы, и сохранят самое ценно в мире - жизнь. И это нормальная, правильная мысль - любой успех это на 80% тяжелый труд, и только на 20% - талант и везение. Именно так появились монстры, вроде Apple, Alphabet и Microsoft. Сначала кто-то тяжело и много работал, а затем проделанная работа, помноженная на талант и толиков удачи давала плоды.

Однако, так бывает не всегда. Иногда случается обратное - человек тяжело и много работает, тратит все силы и средства на достижение цели, но в итоге случается осечка - написанная книга никому не интересна, картины признаны бесталанными, или изобретение - никому ненужной ерундой. Таких историй, на самом деле - масса, просто нам они не интересны - мы не вдохновляемся неудачами. Ну представьте себе, что те же Фродо и Сэм, проделав тяжелейший путь, потеряв друзей и близких, выползают к жерлу Ородруина, и обнаруживают, что коварный Саурон просто залил вулкан бетоном от греха подальше. Или их ловят, и съедают орки, после чего тоже самое происходит с остальными персонажами. Или Форреста Гампа такие догоняет и сбивает машина, и остаток дней он проводит наглухо парализованным инвалидом, а хулиганы, отсидев пару лет, возвращаются к нормальной жизни. Неприятно, не так ли?

Воспитанные на примерах "выживших", примерах удачливых и успешных, мы и сами пытаемся прийти к успеху - и это нормально. Это правильно. И когда нас постигают те, или иные неудачи, кто-то ломается, кто-то продолжает идти, кто-то становится сильнее и упорнее. У каждого свой предел.

Именно из-за этого восприятия тяжестей пути, как индикатора вознаграждения в его конце, мы так остро воспринимаем любые проблемы в нашей стране. На нас обрушились, казалось бы, неисчислимые и непреодолимые беды - беспредел властей, свергнув которые, мы получили войну, вторжение, развал экономики, и будто этого было мало - смерть пришла в наш дом, и забирает лучших - честных, верных родине, достойных хорошей жизни. И мы ожидаем, что после этого мрака, нас ждет что-то достойное. Обновленная страна, где нет места коррупции и лжи. Честные, патриотичные политики. Достойные зарплаты и пенсии. Мы ожидаем, что в конце у этой мрачной сказки - счастливая концовка, с низверженным Сауроном и погибелью Мордора. Но все идет не по плану. Политики и не думают меняться, коррупционеры и дальше воруют, а тьма на Востоке только сгущается и сгущается, и нет этому конца и края.

И мы, закусив губу, ищем виновных. Виновных в том, что наши мечты и надежды идут прахом, и вместо "жили они долго и счастливо", мы получаем очередной год войны, еще один год крови, еще один год, когда должны гибнуть лучшие из нас. И, конечно, находятся те, кто охотно и с радостью указывают нам на виновных. И мы перестаем видеть в людях товарищей по несчастью и побратимов в борьбе за свое будущее. Мы начинаем видеть в них врага. Расчеловечивать их. Ненавидеть даже больше, чем заразу на Востоке. Потому, что "если бы не они, то мы бы давно победили". Потому, что тяжелее всего признаться себе в том, что у нас не та сказка, в которой победивший врага герой получает полцарства в придачу. Боюсь, наша история - это про то, как выбраться из могилы, которую нам заботливо вырыли, и найти в себе силы не сдохнуть. И тогда - в конце - мы получим свой главный приз - право на жизнь, которую мы сможем построить так, как сами сочтем нужным. Но этот финал - не предрешен. Мы уже были в этом месте. Триста лет назад. И сто лет тому. И мы опять оказались на том же распутье. И жизненно важно помнить, что наш главный враг - не те, кто с нами не согласен, а разочарование и раздор - то, что так старательно пытаются посеять в наших рядах оппоненты.

Я могу бесконечно долго глумиться над людьми, чьи взгляды кажутся мне глупыми или нелепыми, но это не значит, что я считаю их "чужими". Да, нет хуже врага, чем союзник-идиот, но в нашем положении нам не приходится выбирать, кто будет по нашу сторону баррикад. Любые наши конфликты - это должно быть просто брюзжание, не больше. Мы спорим, ругаемся, обещаем набить друг другу морды, но тянем общую лямку. И если мы вправду начнем драку между собой, к чему так активно призывают некоторые Нади Савченко и им сочувствующие - мы проиграем свою войну за жизнь, пускай и получим кратковременное удовлетворение от свершившейся "справедливости".

Ведь все эти крики про расстрел Рады - это именно запрос на быструю и беспощадную справедливость в самом ее примитивном понимании. И мы это тоже проходили - грабь награбленное, диктатура пролетариата, расстрельные списки врагов народа. Это весьма соблазнительный путь - знаю. Отомстить ненавистным чиновникам за годы мытарств и унижений. Очень, очень хочется увидеть, как сгорит Рада. И суды. И администрация Президента, да. Но мы уже были там. Мы уже все это проходили, и потом, когда пыль осядет, и мы удовлетворим жажду мести, мы вдруг обнаружим, что нас опять морят голодом. Что нас опять репрессируют, убивают, и гонят как скот в Сибирь. Мы обнаружим, что купившись на дешевую риторику, мы опять вляпались в какую-нибудь войну безумных московских царей. И когда за спиной с лязгом захлопнется железный занавес, мы с ужасом осознаем, что мы опять натворили. Но будет поздно.

Именно потому я не устаю взывать к разуму. Мы лучше образованы, лучше информированы, мы лучше оснащены, чем когда-либо. Мы не просто даем отпор Москве и ее кровавой империи, мы - побеждаем. Да, медленно, да, не так блистательно и не так красиво, как хотелось бы, но мы разбили их планы. Новоросия - не состоялась. Газовый коллапс не случился. ВСУ выстояли на Востоке. И мы сами начали огрызаться - не беспомощная жертва, но соперник, опасный даже для Москвы смертельный враг. И у нас есть шанс завершить дело, которое столько раз начинали наши предки. Разорвать порочный круг, по которому мы бредем вот уже которое столетие. Да, конец этой истории еще открыт. Мы еще можем оступиться, и потерять все. Но этого не произойдет, если мы сохраним единство перед лицом угрозы. Мы способны выстоять, как показали прошедшие четыре года. И мы победим.

Под Харьковом россияне додумались использовать для укрепления позиций мешки с аммиачной селитрой

Вот, иной раз думаешь - все. Вот после этого меня невозможно удивить уже вообще ничем. В принципе. А потом открываешь ленту…
В Русской Лозовой для укрепления своих позиций россияне использовали мешки с аммиачной селитрой…
Кафка. Оруэлл. Эдгара Алан По.
Идите побрейтесь. Щенки.
Аммиачная селитра, кто не в курсе - это та самая взрывчатка, при помощи которой Брейвик взорвал половину Осло, склад в Бейруте перестал существовать со всем портом и половиной города, а иррегулярные формирования по всему миру делают фугасы при помощи АС/ДТ - самого простого и легкодоступного взрывчатого вещества в мире.
Короче, это ровно то же самое, что обложить бруствер динамитом.
Ну… За лучшую савецкую и российскую школу.
Берите больше, ребят! В добрый путь.
И к новостям образования.
Не числом, а умением (с).
Спасибо, Минобраз РФ!
Слабоумие.
И... И всё.