Командование специальных операций США планирует использовать ИИ для пропаганды и распространения влияния страны за рубежом. Об этом говорится в документе командования, попавшем в распоряжение издания The Intercept.
Пентагон создаёт профили в социальных сетях с использованием искусственного интеллекта для использования военными. Командование сил специальных операций США хочет создать сгенерированные искусственным интеллектом персонажи, неотличимые от реальных людей, для сбора разведывательной информации.
SOCOM исследует технологии дипфейков, планируя создать поддельных онлайн-персон, которые практически невозможно отличить от реальных людей. Эта разработка подробно описана в 76-страничном документе о закупках, подготовленном Объединённым командованием специальных операций (JSOC), в котором подчёркивается интерес к использованию идентификаторов, сгенерированных ИИ, для социальных сетей и другого онлайн-контента.
Цель этих исследований состоит в том, чтобы использовать созданные ИИ медиа-фотографии, видео и даже аудио, способные создать убедительную иллюзию человеческих профилей для сбора разведывательной информации, включая участие в обсуждениях на публичных форумах и в социальных сетях. Эти планы SOCOM, подробно описанные в документе о закупках является частью более широких усилий по совершенствованию цифровых операций по обману и влиянию, то ест в информационных войнах.
Согласно закупочной документации, американские военные намерены создавать цифровые идентификационные данные с использованием «идентификационных фотографий правительственного уровня», различных выражений лиц и видеоконтента, напоминающего видеоролики с селфи.
Профили должны «отражать уникальную личность, узнаваемую как человек, но не существующую в реальном мире».
Каждая персона будет включать в себя не только статичные изображения, но также видео- и аудиокомпоненты, разработанные таким образом, чтобы их нельзя было обнаружить с помощью алгоритмов, используемых крупными компаниями социальных сетей.
В списке технических заданий SOCOM упоминается использование технологии дипфейков для создания виртуальных сред с искусственным природным фоном, созданным с такой точностью, что он органично вписывается в онлайн-экосистему. Эта «виртуальная среда» должна быть спроектирована таким образом, чтобы её не могли обнаружить автоматизированные системы, которые отслеживают подозрительное поведение в интернете.
Исследование Пентагоном этой технологии резко контрастирует с его предыдущими предупреждениями о рисках дипфейков. В совместном заявлении в 2023 году ФБР, АНБ и Агентство по информационной безопасности (CISA) назвали синтетические медиа «главным риском» для целостности информации, отметив распространение дипфейков как серьёзную угрозу национальной безопасности.
Использование созданных с помощью ИИ людей для тайных операций побудило экспертов предупредить о «ускорителе вредоносного влияния». Представители Пентагона неоднократно выражали обеспокоенность тем, что такие противники, как Россия, Китай и Иран, могут использовать созданный ИИ контент для распространения дезинформации. Теперь Министерство обороны США, переобувшись в воздухе, решило взять на вооружение эту сомнительную практику.
Многие независимые эксперты, такие как Хайди Клааф, главный специалист по искусственному интеллекту в AI Now Institute, утверждают, что принятие американскими военными таких априори опасных технологий может привести к новой гонке цифровых вооружений. Клааф предупредила, что «нет никаких законных вариантов их применения, кроме обмана», и предупредила, что действия Пентагона могут подтолкнуть другие страны к продвижению собственных инициатив в области дипфейков.
Использование дипфейков американскими военными создаёт прецедент, потенциально нормализующий использование обманных технологий во всём мире.
Стремление SOCOM к цифровому обману с помощью ИИ свидетельствует о том, что США готовятся к будущему, в котором доминируют цифровое влияние и разведка. Хотя ИИ-персонажи могут стать мощным инструментом информационной войны, они также рискуют подорвать доверие к информационным кампаний США.
Профессор Джорджтаунского университета Дэниел Байман отмечает, что правительственные структуры, занимающиеся обманом, могут подорвать доверие внутри страны, заставив граждан более скептически относиться к официальной информации.
Отметим, что армия США достаточно давно практикует пользование дипфейкеов. В 2022 году так называемая утечка документов «Twitter* Files» показала, что эта заблокированная в России соцсеть сознательно позволяет американским военным проводить операции влияния на сайте, используя фальшивые источники новостей с поддельными аватарами.
На военной базе США в Форт-Либерти (штат Северная Каролина) инструкторы по психологическим операциям SOCOM обучают операторов дронов использовать технологию Ghost Machine для дезинформации противника.
«Используя образец вашего голоса и игровой ноутбук, армейский инструктор по психологическим операциям может заставить вас произнести что угодно: заказ пиццы, звонок врачу или просто приветствие.
В мирное время это своего рода фокус. На войне это инструмент, который можно использовать для обмана, заманивания врагов в ловушки или побуждения к дезертирству, имитируя голоса вражеских солдат.
С помощью этой технологии можно скопировать голос командира противника из перехваченных сообщений или общедоступных данных, а затем использовать его, чтобы обмануть противника, заставив его думать, что его командир захвачен», – пишет портал Defense One.
Так, «в одном из примеров, загруженном в Ghost Machine, программа дублировала вымышленного китайского вражеского командира, приказывающего своим войскам сдаться».
Кроме распространения дипфейков в НАТО делают ставку на «автоматизированную пропаганду, с помощью генеративного ИИ создавая правдоподобные истории и новостные заголовки в огромных количествах. Поддерживающие системы ИИ могут распространять эту пропаганду и другую дезинформацию среди целевой аудитории».
Все эти технологии входят в новую стратегию НАТО под названием Weaponization Of AI («Милитаризация ИИ»).
Русская поговорка гласит – «единожды совравши, кто тебе поверит».
Поскольку в Пентагоне и НАТО вранье, да еще сфабрикованное ИИ, ставят на поток, то в скором времени ни один разумный человек во всем мире не будет верить ничему, что извергается из американских информационных «утюгов».
