Именно на уйгурах вервык тестировали камеры с распознаванием лиц и распознаванием эмоций (https://www.bbc.com/russian/news-57260969), а теперь эти разработки распространились на нас с вами
В Индии дипфейки и другие ИИ-технологии используют в предвыборной агитации. Эксперты опасаются, что совсем скоро эти методы изменят выборы в разных странах мира
Выборы в нижнюю палату парламента Индии, начавшиеся 19 апреля, могут стать крупнейшими в мире: потенциальное количество избирателей составляет 970 миллионов человек, то есть около 12% от всего населения планеты. Голосование проходит в семь этапов и завершится 1 июня, а результаты должны объявить 4 июня. Критики действующего главы правительства Нарендры Моди утверждают, что победа его партии «Бхаратия джаната парти» на третьих выборах подряд может привести к кризису индийской демократии. Оппозиционеры обвиняют премьер-министра в разжигании розни и усилении репрессий. Напряженная обстановка на выборах связана еще и с тем, что конкурирующие партии впервые активно используют для агитации и пропаганды искусственный интеллект. «Медуза» рассказывает, почему эксперты считают дипфейки и другие ИИ-технологии угрозой для электоральных процедур не только в Индии, но и во всем мире.
ИИ-технологии уже использовали для агитации на предыдущих выборах в Индии. Но не в таких масштабах, как сейчас
«Бхаратия джаната парти» (БДП) впервые использовала ИИ-инструменты, чтобы генерировать персонифицированные обращения к избирателям еще в 2014 году. По словам исследователя из Османского университета в Индии Патарлапати Нагараджу, с тех пор технологии прочно закрепились в агитационном арсенале индийских партий и стали ключевым элементом пропагандистского дискурса. Дипфейк — цифровая подмена личности — впервые стал политическим инструментом на выборах в законодательное собрание Дели в 2020-м. Тогда в сети появились два сгенерированных ИИ видео с руководителем местного отделения БДП Маноджем Тивари. В одном ролике политик обращался к потенциальным избирателям на английском языке, в другом — на языке харианви, распространенном в Дели и некоторых других регионах.
Представители БДП обосновали использование ИИ тем, что они не дискредитировали конкурентов, а лишь пытались донести послание своего лидера до как можно более обширной аудитории. Однако сам факт появления таких роликов вызвал в Индии много споров — многие журналисты и политики предположили, что в будущем с помощью дипфейков будут распространять ложную информацию и манипулировать избирателями.
Сомнения в допустимости использования ИИ в агитации усилились после парламентских выборов 2019 года, в ходе которых разные стороны активно пользовались социальными сетями для распространения фейков о конкурентах. Группа исследователей из индийского отделения Microsoft Research тогда пришла к выводу, что кампании почти всех крупных партий «включали в себя элементы онлайн-дезинформации, ложь о своих оппонентах и пропаганду».
Сотрудники исследовательского центра Digital Forensic Research Lab выявили наплыв ботов, которые пытались продвигать хэштеги и «манипулировать трафиком» в пользу разных конкурентов в твиттере в заключительные недели перед выборами 2019 года. Наплыв ботов наблюдался и в фейсбуке, где две крупнейшие партии — БДП и Индийский национальный конгресс — предположительно распространяли отредактированные фотографии и фейковые видео. Агитационная кампания также проводилась в вотсапе — там с помощью ботов массово пересылали сообщения с призывами голосовать за определенных кандидатов.
Но в 2024 году манипуляция информацией и производство фейков в индийской политике вышли на новый уровень — благодаря развитию Генеративного Искусственного Интеллекта, который позволяет создавать тексты, изображения и другие медиаданные в соответствии с подсказками и критериями, заданными пользователем.
«Генеративный ИИ сам по себе не представляет больше опасности, чем боты, — объясняет специалистка в области вычислительных социальных наук Кэтлин Карли. — Однако теперь мы имеем дело и с ботами, и с генеративным ИИ».
По словам Карли, генеративный ИИ упрощает процесс программирования ботов, позволяет им охватить бо́льшую аудиторию и дольше избегать блокировки. А Пратик Вагре, исполнительный директор базирующегося в Индии Фонда за свободу интернета, который занимается защитой цифровых прав, предположил, что поскольку ИИ-технологии никто не регулирует, выборы этого года «превратятся в Дикий Запад».
Персонажами предвыборных дипфейков становятся даже звезды Болливуда. А еще политики пытаются с помощью ИИ сгенерировать компромат на оппонентов
В начале марта 2024 года в инстаграме распространилось изображение премьер-министра Индии Нарендры Моди, стилизованное под Бхишму — одного из главных героев индийского эпоса «Махабхарата», земное воплощение бога неба Дьяуса. Картинка, сгенерированная с помощью ИИ, предположительно должна была символизировать роль, которую отводят Моди его сторонники, — выдающегося воина и защитника своей страны от внешних угроз. Благодаря продвижению в соцсети изображение за два дня охватило аудиторию примерно в 35 тысяч пользователей.
По данным Meta, доступ к которым получило издание Al Jazeera, в период с 27 февраля по 21 марта аккаунт Hokage Modi Sama, который занимается агитацией за Моди в инстаграме, распространил более 50 публикаций, изображающих главу правительства в божеством, военным или религиозным героем. «С помощью этих изображений [сторонники Моди] пытаются сформировать образ мудреца и воина — неутомимого, непобедимого и безупречного лидера, достойного нашей безусловной преданности, — объясняет исследователь в области политических коммуникаций из Оксфорда Амог Дар Шарма. — Это новейший метод в рамках долгосрочной стратегии БДП по формированию культа Моди как мудрого и проницательного правителя».
По данным Al Jazeera, технологиями ИИ для агитации воспользовался и один из главных конкурентов Моди, член Индийского национального конгресса Рахул Ганди. Его сторонники распространили в инстаграме и фейсбуке изображения политика, якобы позирующего с детьми и фермерами. Последние представляют основной оппозиционный электорат — в прошлом они часто протестовали против рыночных реформ Моди. Подпись под сгенерированным с помощью ИИ изображением сообщала о том, что «Рахул Ганди сопереживает фермерам, обещает им безоговорочную поддержку и готовность внимательно отнестись к проблемам каждого».
Сами изображения премьер-министра в образе народного героя или предвыборное творчество сторонников его оппонента вроде бы нельзя назвать манипуляцией фактами, однако эксперты опасаются, что другие предвыборные материалы, сгенерированные с помощью аналогичных технологий, можно использовать для распространения ложной информации и обмана избирателей.
Другой пример того, как ИИ применяют в предвыборной агитации в Индии, — дипфейки. Один из самых популярных персонажей в подобных роликах — тот же Моди: накануне начала голосования в вотсапе распространились видео с цифровым аватаром премьера, который обращается напрямую к избирателю по имени и напоминает о том, как власти улучшили их жизнь за последние годы. Появляются похожие ролики и с другими членами правящей партии. По данным The New York Times, видео-послания автоматически переводятся на любой из десятков распространенных в Индии языков. По тому же принципу действуют и чат-боты, которые обзванивают избирателей и голосами политических лидеров просят их о поддержке на выборах.
Девендра Сингх Джадун, ведущий индийский специалист в области дипфейков, который специализируется на создании реклам и сцен для болливудских фильмов, рассказал, что накануне выборов к нему обратились сотни политиков. По словам Джадуна, больше половины из них просили о чем-то «неэтичном» — например, «создать» телефонные разговоры, в которых конкуренты якобы признаются в нарушениях закона и взятках. Другие хотели добавить лица оппонентов на порнографические изображения. Некоторые попросили Джадуна специально сделать дипфейк низкого качества с участием кандидата от их партии, чтобы в случае появления поддельного компромата его было проще разоблачить. Джадун объяснил, что отказывается от такой работы только из личных принципов. Он добавил, что никаких технических способов остановить поток фейковых роликов, изображений и аудиозаписей пока не существует.
По словам Джадуна, из 200 запросов, которые он получил с начала 2024 года, он и его команда из девяти человек взялись лишь за 14. Однако далеко не все специалисты, умеющие работать с ИИ, проявляют такую принципиальность. В самый разгар предвыборной кампании в Индии распространился дипфейк-ролик со звездой Болливуда Аамиром Ханом. На видео цифровой двойник Хана напомнил о несбывшемся обещании БДП десятилетней давности — сделать так, что на банковском счету каждого индийца окажется полтора миллиона рупий (или 18 тысяч американских долларов). В конце дипфейк призывает соотечественников голосовать за оппозиционеров из Индийского национального конгресса. На следующий день после появления ролика в интернете Хан выступил с опровержением и назвал видео «абсолютной ложью».
По мнению Никхила Паквы, редактора интернет-издания MediaNama, которое специализируется на анализе цифровых медиа, в Индии такие предвыборные манипуляции могут оказаться действенными из-за глубоко укоренившейся культуры почитания знаменитостей. «Индия — страна, где люди любят фотографироваться с двойниками звезд, — объяснил Паква. — Если им, например, позвонит премьер-министр и будет говорить так, будто он знает, как их зовут, где они живут и с какими проблемами сталкиваются, они почти наверняка придут в восторг».
«В этом году я вижу больше политических дипфейков, чем в предыдущем, — рассказал профессор компьютерных наук из Калифорнийского университета в Беркли Хани Фарид. — Они стали более сложными и реалистичными». С такой оценкой согласен и специалист по ИИ Девендра Сингх Джадун. По его словам, сам контент стал более качественным, а время на его производство многократно сократилось: если раньше даже с мощными графическими процессорами на создание правдоподобного дипфейка уходило от восьми до десяти дней, теперь для этого нужно всего несколько минут.
Партии оправдывают использование ИИ экономией и удобством, но конкурентов обвиняют в манипуляции и фейках. Взять под контроль поток сгенерированных изображений и видео пока не получается
Рассуждая о том, как ИИ может повлиять на ход выборов и отношение избирателей, исследователь политических коммуникаций из Оксфорда Амог Дар Шарма отмечает, что партии используют дипфейки не только для дискредитации оппонентов, но и чтобы продвигать выгодные политические нарративы. «ИИ необязательно обманывает избирателей и заставляет их поверить в то, что не соответствует реальному положению дел, — объясняет Шарма. — ИИ еще и позволяет производить более изобретательный контент с множеством культурных отсылок. Это приводит к появлению зрелищной пропаганды, которой с большей долей вероятности будут делиться, а это в свою очередь помогает ее распространять».
Индийские политики обвиняютоппонентов в попытках добиться преимущества с помощью ИИ, но собственные партии оправдывают. Они утверждают, что применяют подобные технологии просто потому, что это быстро и удобно, а вовсе не из желания обмануть избирателей или оклеветать противников.
По словам индийского политолога и специалиста в области коммуникаций Сагара Вишноя, «одно из явных преимуществ внедрения ИИ в предвыборные кампании — в том, что он позволяет заметно сократить расходы, сэкономить время и повысить эффективность». Раньше партии полагались на колл-центры с множеством сотрудников и волонтеров, чтобы взаимодействовать с электоратом, — ИИ позволил сократить расходы в этой сфере в несколько десятков раз и лучше структурировать общение с избирателями. Например, благодаря технологиям обзвона опросы стали проводится быстрее — теперь за день партии получают объем данных, на сбор которые прежде уходил не один месяц.
Один из сторонников использования ИИ в предвыборной агитации, 33-летний член БДП Шахти Сингх Ратор утверждает, что он никогда не смог бы рассказать о предвыборной программе Моди такому количеству соотечественников, если бы не создал цифрового двойника. По словам Ратора, «ИИ — это прекрасно, потому что он позволяет двигаться вперед».
Однако, уверены сторонники ограничения ИИ, потенциальные опасности от использования дипфейков и других подобных технологий перевешивают все удобства. Эксперты обращают внимание на случаи, когда искусственный интеллект мог обеспечить одной стороне несправедливое преимущество: например, во время выборов в законодательное собрание индийского штата Телингана в 2023 году распространилось видео, на котором главный министр штата К. Чандрашекар Рао и другие представители БДП призывали голосовать за своих конкурентов из Конгресса.
Негативные последствия использования ИИ в политической борьбе наблюдаются и в некоторых других государствах — например, в Бангладеше представительница оппозиции Румин Фархана в прошлом году стала жертвой кампании по дискредитации: неизвестные распространили ее фейковые снимки в купальнике, которые возмутили многих консервативно настроенных избирателей. В Молдове противники главы государства Майи Санду сгенерировали дипфейк-видео, на которых президент якобы просит граждан сплотиться вокруг Партии социалистов Молдовы, у которой тесные связи с «Единой Россией». А в ЮАР в преддверии майских выборов опубликовали отредактированное видео, на котором рэпер Эминем призывает поддержать оппозиционную партию.
Аналитики Microsoft в своем отчете об использовании ИИ-технологий рассказали, что за многими политическими дипфейками в разных странах стоят компании, связанные с китайскими властями. Предположительно, таким образом режим Си Цзиньпина пытается продвигать «своих» кандидатов. По данным Microsoft, в 2024 году Китай может заниматься распространением предвыборных фейков в Индии, Южной Корее и США.
В конце марта Нарендра Моди предложил помечать контент, сгенерированный ИИ, «чтобы не запутывать избирателей». Однако пока в Индии, как и в большинстве других стран, не существует правовых норм, которые позволяли бы эффективно ограничивать поток изображений и видео, созданных искусственным интеллектом. Как пишет The Washington Post, «правоохранительные органы редко успевают за фейками, которые могут стремительно распространяться в соцсетях и групповых чатах». Индийский политический стратег Анкит Лал согласен, что в Индии «не существует эффективных способов отслеживать контент, произведенный с помощью ИИ». Из-за этого помешать предвыборным манипуляциям практически невозможно. А решать, насколько этично использовать ИИ в политической агитации, в каждом случае приходится не регулирующим инстанциям, а отдельным людям.
Перефразируя Шнура, констатирую: начальства развелось - заводы стоят. Куда ни плюнь - попадёшь в великого или малого начальника. Впрочем, скорее в малого. Большого начальника от плевка с риском для жизни (вдруг слюна ядовитая!) наверняка заслонят бдительные охранники, которых, кстати, тоже развелось сверх всякой меры. Оно и понятно: куда ещё пойдёт работать физически здоровый мужчина после армии, которая в нашей стране нужна не для защиты собственного или даже попрания чужого суверенитета, а для выработки условных рефлексов терпения и беспрекословного послушания всякой вышестоящей гниде? Некоторые находят в себе достаточно сил, чтобы вспомнить полученные ранее полезные навыки или обрести новые. Но большинство, не мудрствуя лукаво, продолжает заниматься на гражданке тем же, чем занимались в войсках - охранять. Что и от кого - не всегда и важно. Главное (с точки зрения начальства) - трудоустройство значительной части активного населения. Будучи нетрудоустроенным, эта часть от скуки и безденежья может начать бунтовать. Против начальства! Боже, сохрани! Пусть уж сидят себе на КПП, лупят граждан по головам дубинками, сторожат сугробы зимой, бдят в торговых центрах и прочих общественных местах, ведут сколь бесчисленные, столь и бессмысленные журналы учёта и контроля. А чтобы у начальства был на всякий случай запасной вариант, наиболее тупых и могучих из данного контингента возвышают до личных телохранителей. Но если поприще телохранителя и охранника вообще, как правило, адекватно способностям и наклонностям тех, кто на этом поприще подвизается, то в начальство лезет, цепляясь руками, ногами и зубами, каждая гнойная тварь вне зависимости от знаний и умений. И, дорвавшись до вожделенного кресла, начинает в изобилии генерировать бред и плодить охранников. А также себе подобных. Только рангом помельче и попакостней. Если б не данные "продукты жизнедеятельности", то начальство можно было бы терпеть, скрепя сердце и подавляя тошноту. Но увы: дурной энтузиазм, как резкий понос, - чёрта с два удержишь. А унять его в большинстве случаев можно только мануальными методами. Каковые в большинстве же случаев исключаются ввиду наличия охраны. Кольцо замыкается, уроборос впивается в собственный, измазанный фекалиями хвост - такая вот "дурная бесконечность". В общем, так и живём: поголовье бритоголовых охранников угрюмо зыркает вокруг в поисках лиходеев, дабы оные не помешали процессу умножения начальственных телес и суесловия, а начальственные телеса всех калибров, тщась сделать умные физиономии, невозбранно изрекают благоглупости и просто глупости, обязательные для исполнения. Лаконичное, но исчерпывающее описание данного феномена дал ещё Салтыков-Щедрин в книге "Господа ташкентцы": ""Ташкентец" - это просветитель. Просветитель вообще, просветитель на всяком месте и во что бы то ни стало; и притом просветитель, свободный от наук, но не смущающийся этим, ибо наука, по мнению его, создана не для распространения, а для стеснения просвещения. Человек науки прежде всего требует азбуки, потом складов, четырёх правил арифметики, таблички умножения и т. д. "Ташкентец" во всем этом видит неуместную придирку и прямо говорит, что останавливаться на подобных мелочах значит спотыкаться и напрасно тратить золотое время. Он создал особенный род просветительной деятельности - просвещения безазбучного, которое не обогащает просвещаемого знаниями, не даёт ему более удобных общежительных форм, а только снабжает известным запахом". Вот и в нашем богооставленном заведении некоторый начальник, ныне благополучно ушедший на повышение в министерство для оказания эскорт-услуг тамошним господам, выписал не то из Эквадора, не то из Гондураса обезьянку для представления дебильных инициатив на местах. Тот непререкаемый факт, что обезьяне место либо на дереве в джунглях, либо в клетке зоопарка, нисколько его не смутил: смущаться начальники, как и охранники, конституционально не способны. В результате лишённое адекватной среды обитания животное страдает лёгкой формой гидроцефалии, нарушениями работы гипофиза и недержанием речи, не слишком хорошо изъясняясь при этом по-русски. Зато обладает гипертрофированным чувством собственной важности и хамским тоном. Конечно, нет пророка в отечестве своём. Один только порок. Но чего ради было тащить убогое существо из мест столь далёких и диких, если многие представители здешней фауны отличаются ничуть не меньшей мерзостью и скудоумием? Объяснить сие в рамках предположения о наличии у начальства зачатков рационального мышления можно только желанием дополнительно унизить подведомственных умников, дабы много о себе не воображали и знали своё место. И ведь начнёшь водворять животное в клетку - сразу начнётся такой визг, что в полном соответствии с вышеизложенным живо прибегут охранники-ЧОПовцы и засунут в клетку именно тебя. Хотя бы потому, что ЧОПовцев много, а твои - простигосподи! - коллеги (которых лично я предпочитаю называть сотрудниками) в большинстве своём - сервильные трусы. К сожалению, трусость и сервильность в нынешней академической среде - обычное явление. Вплоть до того, что о начальстве боятся дурно отзываться даже "за глаза". Немного смелости в духе академика Павлова для пользы дела нам не помешало бы. Тем более, как вполне справедливо отметил наш демократический узурпатор (и сломанные часы дважды в день указывают истинное время!), на дворе не тридцать седьмой год. Впрочем, о какой "академической среде" можно вообще говорить, если в нашей стране данное понятие дискредитировано уже давно и напрочь? Хотя бы потому, что неравнодушные к регалиям начальники любят обмазываться учёными степенями и званиями, будучи не имеющими отношения к науке тупыми бездарями. Это, конечно, извечный парадокс. С одной стороны, совсем без администрации нельзя, ибо кто-то же должен "торговать физиономией". А с другой - какой нормальный, талантливый, увлечённый содержательным трудом человек без животрепещущих бытовых проблем станет по доброй воле тратить своё драгоценное время на унылую возню с секретарями, регламентами и бумажками, хоть бы и платили за это больше? При таком status quo неудивительно, что в начальники чаще всего пробирается тотальная серость, отличающаяся только одним выдающимся качеством - крайней ушлостью. Невольно вспоминается классический рассказ Юрия Леонидовича Нестеренко "Уклонист", описывающий общество, где высшее администирование является повинностью для интеллектуальной элиты... Хотя о чём это я? Распределение должностей в современной отечественной иерархии ("вертикали власти" на ублюдочном новоязе) вследствие изложенного выше осуществляется не по компетентности, а по лояльности. То есть, - если переводить на язык актуальных реалий - по готовности с радостной (sic!) улыбкой вылизывать тех, кто сверху, и вообще выполнять всё что они велят независимо от целесообразности, этичности и даже элементарной адекватности этих велений. Оттого-то столь много среди начальничьего стада челяди, готовой на всё, чтобы удержаться в московских, питерских etc. общежитиях и ипотечных квартирах - только бы не возвращаться в родные бухаевки и говнозаводски к унылому прозябанию на обочине жизни. Хоть в "огороде", но - директором, даже над "овощами", но - начальником. С одной стороны это характеризует внутренний мир данных существ. Довольно жалкий, по-моему. А с другой - приоритеты и уровень менеджмента набольшего начальства. Вместо того чтобы дать возможность регионам развиваться в соответствии с их самобытностью, предоставив самоуправление и не влезая в их внутренние дела без особых надобностей, оно предпочло стягивать все ресурсы (в то числе кадровые) в центр и перераспределять их на пользу себе и своим холуям. Конечно, при таком подходе ожидать, что на периферии будет что-то помимо грязи, уныния, скотства, перманентного упадка и комсомольской готовности к лизоблюдству наивно. Отсюда недалече до банального, в сущности, вывода о вящей необходимости периодической смены высшего (и не только высшего) начальства. Ибо оно является обременительным балластом, который оправдывает своё существование только вящей необходимостью время от времени строить умильные рожи и делать "ку" перед серьёзными дядями и тётями из мирового сообщества. Разумеется, я осознаю в полной мере саркастичность ситуации: те, кто должны бы быть посечены за глупость, нерадивость и наглость, сами обладают монопольной возможностью сечь кого угодно в пределах российского улуса. Высовывать культяпки вовне для них чревато последствиями (победные реляции в телевизоре - исключительно для внутреннего употребления). Но здесь они - цари и боги. И, само собой, свой царскобожеский статус они всеми правдами и неправдами пытаются сохранить. Тем более в их активах куда как побольше, нежели затараканенные общежития ВУЗов и квартиры в наспех собранных каракалпаками панельных коробках на задворках больших городов. Всё бы ничего, но власть - производство крайне вредное. Ничуть не менее (а то и поболее), нежели сталеварение или химическая промышленность. Только не для телесного, а для душевного здоровья. И молочком "за вредность" здесь не поможешь. Не поможешь даже коньячком и балычком. После ненормированного пребывания на данном производстве (или даже в близости от него) психика уродливо и необратимо деформируется, что мы воочию можем наблюдать в нашей несчастной стране: инициативы становятся совсем идиотскими, холуи - вконец бесстыжими, а число охранников растёт в геометрической прогрессии. Когда это всё сколлапсирует, мало не покажется никому. Так что лучше всего будет, если начальники поставят в своих кабинетах горшки для отправления естественных надобностей, и, перейдут на полностью автономное безвылазное существование, не вмешиваясь в трудовые процессы для их же, трудовых процессов, вящего блага. Функция хорошего начальника на любом административном уровне, как указывал всё тот же Щедрин, - "laissez passer, laissez faire". Пусть уж всё делается без ценных указаний свыше "медленно и неправильно". Ибо начальников, свято уверенных, будто бы именно они знают, как "быстро и правильно", исходя из чистой эмпирики, не следует подпускать к чему бы то ни было значимому. Особенно в таких делах, в которых смыслить что-то может лишь тот, кто упражняется в учении, а не в словоблудии, просиживании начальничьих кресел и целовании вышесидящих задниц.
Но пропагандисты скажут, что и это хромакей, записанный в бункере.
Развернуть
Отличный комментарий!
Не могу представить хуйло с таким выражением лица. Дело даже не в ботоксе, мне кажется, он на сострадание и эмпатию в принципе не способен. Поэтому не хочу чтоб Зеленский с ним встречался, бессмысленно.
а я очень надеюсь. надеюсь, что Зеленский, положит на стол перед Пыней руку с зажатой в ней гранатой и спросит "боишься ли ты попасть в ад, Вова? я то попаду в Рай, если ебну тебя." а потом он разожмет руку и с гранаты отлетит рычаг. правда потом окажется что граната учебная, но старое сердечко Пыни всеравно не сдюжит.
Отличный комментарий!