Джеффри Миллер: Как фальшивые изображения ИИ могут усилить напряженность в Индии

Смотреть: Национальная партия признала, что использовала искусственный интеллект (ИИ) для создания фейковых фотографий для своей рекламы с политическими нападками. Кредиты: Видео — Newshub; Изображение — Getty Images.

Джеффри Миллер из проекта «Демократия»

АНАЛИЗ: Увидеть – значит больше не поверить.

Удивительно реалистичные, но фальшивые изображения, созданные искусственным интеллектом (ИИ), находятся здесь.

На сегодняшний день большинство из них больше похожи на курьёзы, чем на подлинные попытки обмана.

В прошлом месяце выяснилось, что Национальная партия Новой Зеландии использовала приложение для создания изображений с искусственным интеллектом Midjourney для создания рекламных изображений. В число результатов вошли воображаемые работники здравоохранения и напуганные граждане, обеспокоенные преступностью.

В данном случае использование ИИ было относительно безобидным: творения ИИ фактически заменили стандартные фотографии, которые использовались бы в прошлом.

Пока СМИ не вызвали подозрения, мало кто (если таковые вообще были) вообще заметили, что реалистично выглядящие изображения на самом деле были подделкой.

Хотя пример Новой Зеландии показал, как изображения ИИ можно использовать в избирательных кампаниях, мы также можем ожидать, что они окажут огромное влияние на международные отношения.

В марте основатель Bellingcat Элиот Хиггинс опубликовал в Твиттере поразительные «фейковые» изображения «арестованного» полицией Нью-Йорка Дональда Трампа.

Хиггинс, который также использовал Midjourney, четко обозначил изображения как творения ИИ.

Но это не помешало изображениям стать вирусными и служить демонстрацией сложности технологии.

Хиггинс также опубликовал в Твиттере фейковые изображения воображаемого «мирного саммита» между Владимиром Путиным и Джо Байденом, созданные искусственным интеллектом, при посредничестве французского Эммануэля Макрона.

Учитывая нынешнее состояние войны на Украине, вряд ли это кого-то обманет.

Однако реалистично выглядящие дипфейки, созданные Хиггинсом, изображающие воображаемый ядерный взрыв на Украине, показали, каким потенциалом может обладать ИИ в тумане войны.

Сразу после того, как Россия вторглась в Украину в прошлом году, хакеры на новостном сайте «Украина 24» опубликовали фейковое видео, на котором Владимир Зеленский призывает украинцев сложить оружие.

В Индо-Тихоокеанском регионе использование достоверных изображений, созданных ИИ, для дальнейшего разжигания геополитической напряженности в регионе, безусловно, является лишь вопросом времени.

Премьер-министр Новой Зеландии Крис Хипкинс вторил своей предшественнице Джасинде Ардерн в осуждении того, что он называет «милитаризацией Тихого океана».

Но всего лишь в первой половине 2023 года США заключили новые оборонные соглашения с Филиппинами и Папуа-Новой Гвинеей – это ответ на подписание Китаем в прошлом году собственного пакта о безопасности с Соломоновыми Островами.

Напряженность нарастает – и ИИ может вывести ее на новый уровень.

Возможно, огромные просторы Тихого океана создают некоторые преимущества для попыток дезинформации.

Фальшивые изображения, скажем, военных кораблей возле отдаленного островного атолла трудно сразу опровергнуть.

Плохая инфраструктура связи в более отдаленных уголках Тихого океана также не поможет.

Более того, рост количества контента, созданного ИИ, может означать, что общественность задается вопросом, чему верить.

В отчете Брукингского института, опубликованном в январе, «сеяние путаницы» названо основной целью тех, кто стоит за операциями по дезинформации.

В докладе приводится пример президентского обращения президента Габона, напоминающего робота: хотя некоторые считали, что это свидетельство дипфейка, другие считали, что президент просто болен. Независимо от истинной правды, последовал хаос и попытка военного переворота.

ИИ способен создать зеркальный зал, где даже на подлинный контент смотрят со скептицизмом и недоверием.

Реальный пример того, как ИИ способен сеять хаос, появился в прошлом месяце, когда в Твиттере распространилось фальшивое изображение взрыва в Пентагоне в Вашингтоне, которое вызвало кратковременное падение финансовых рынков.

Существует множество потенциальных ответов на новый вызов ИИ в международных отношениях.

Один из вариантов – регулировать.