Протесты в Бразилии

Этические принципы искусственного интеллекта в версии Пентагона

Завеса тайны пока не сброшена

telegram
Более 60 000 подписчиков!
Подпишитесь на наш Телеграм
Больше аналитики, больше новостей!
Подписаться
dzen
Более 120 000 подписчиков!
Подпишитесь на Яндекс Дзен
Больше аналитики, больше новостей!
Подписаться

Министерство обороны США официально утвердило этические принципы использования искусственного интеллекта (ИИ), сообщается на официальном сайте Пентагона.

В комментарии к этому сообщению министр обороны США Марк Эспер заявил: «Соединенные Штаты вместе со своими союзниками и партнерами должны в скором времени начать пользоваться искусственным интеллектом, чтобы побеждать на полях сражений и защищать международный порядок… Принятие этических принципов искусственного интеллекта повысит приверженность министерства обороны соблюдению самых высоких этических стандартов, изложенных в Стратегии искусственного интеллекта…»

Пентагон вводит пять основных принципов: искусственный интеллект должен быть «ответственным», «соразмерным», «понятным», «надёжным» и «управляемым». Подчеркивается, что в основу этих этических принципов легли этические нормы Вооружённых сил США, опирающиеся на Конституцию США, главу 10 Кодекса США, закон о войне, международные договоры, а также нормы ведения боевых действий.

Эти пять принципов относятся к использованию на полях сражений боевых роботов (автономных систем вооружений). Боевым роботом считается аппарат, который самостоятельно принимает решение на поиск цели и открытие огня по ней. В американском экспертном сообществе уже несколько лет дискутируют о допустимости столь высокой степени самостоятельности автономных систем вооружений. Ряд экспертов склоняются к тому, что решение на открытие огня должен принимать человек, то есть оператор, управляющий боевым роботом. И принятые этические принципы ИИ означают, что ИИ боевого робота должен строго и надёжно контролироваться оператором, чтобы исключить случайное открытие огня по объекту равного противника (Россия и Китай), способного нанести сокрушающий ответный удар.

Применение искусственного интеллекта требуется также, чтобы добиться максимальной автоматизации сбора и анализа данных и создания всеохватывающего цифрового ТВД в так называемом мультидоменном пространстве. Сферами (доменами) войны в США официально признаны не только традиционные боевые действия, но и противоборства в сфере дипломатии, информационные и финансово-экономические войны, технологическое противоборство и промышленный шпионаж, а также разжигание гражданских конфликтов в стране-мишени путём поддержки оппозиции.

Организации социальных протестов как самой дешёвой формы противоборства в странах-мишенях Пентагон уделяет особое внимание. Ведущую роль в мониторинге и организации социальных протестов во всём мире играет американский Национальный центр биотехнологической информации (National Center for Biotechnology Information), расположенный в г. Бетесда, штат Мэриленд и координирующий работу нескольких групп учёных в рамках пентагоновского проекта EMBERS («Тлеющие угли»).

Проект EMBERS родился в результате конкурса, организованного в 2012 году Джейсоном Мэтэни, функционером IARPA, подразделения Управления директора Национальной разведки США. Трём командам – из Политехнического института штата Вирджиния Virginia Tech, фирмы по квантовым вычислениям Raytheon BBN Technologies в Кембридже (штат Массачусетс) и Hughes Research Laboratories (Малибу, штат Калифорния) – было предложено построить модель прогнозирования социальных протестов. Победил проект «Тлеющие угли», предложенный командой учёных из Virginia Tech.

Команда из Вирджинии создала лучшего кентавра – симбиоз коллективного интеллекта людей и программных алгоритмов. Главным разработчиком этих алгоритмов была Гизем Коркмаз, профессор Университета Вирджинии и главный исследователь схожего пентагоновского проекта Minerva. Она разработала сетевые и статистические модели, работающие с такими источниками, как социальные сети, твиттер, новости, блоги, даже браузер Tor (система прокси-серверов, позволяющая устанавливать анонимное сетевое соединение, защищённое от прослушивания) «для прогнозирования социальных протестов, забастовок и результатов выборов в целевых странах Латинской Америки».

Гизем Коркмаз утверждает: «Гражданские беспорядки (акции протеста, забастовки и «захваты») варьируются от небольших ненасильственных акций протеста, направленных на решение конкретных проблем, до событий, которые превращаются в массовые беспорядки. Обнаружение и прогнозирование этих событий представляет ключевой интерес для социологов и политиков, поскольку они могут привести к значительным социальным и культурным изменениям».

Это официальная версия тех задач, которые поставлены Пентагоном перед разработчиками и участниками проектов Minerva и EMBERS. В реальности оба эти проекта нацелены на разжигание социальных протестов, которые в 2019 году, заметим, охватили десятки стран мира. И оба проекта являются развитием военной программы The Human Terrain System (HTS), к которой были привлечены антропологи, социологи, политологи, лингвисты, разрабатывавшие схемы управления менталитетом населения Ирака и Афганистана во время вторжения туда армии США.

С момента запуска в 2007 году программы HTS она не раз подвергалась резкой критике антропологов и журналистов. 31 октября 2007 года Исполнительный совет Американской антропологической ассоциации (ААА) опубликовал заявление против HTS как «недопустимого применения антропологической экспертизы», противоречащее Кодексу этики ААА. В 2014 году американские антропологи добились прекращения программы промывания мозгов жителям Ирака и Афганистана.

В проектах Minerva и EMBERS учёные не присутствуют на театре военных действий. Да и военных действий не ведётся. В круглосуточном режиме мощные компьютеры мониторят миллионы источников в странах-мишенях, производят отсев малозначащих фактов и событий согласно заложенным алгоритмам. Затем эта информация поступает к профильным экспертам, специалистам по междисциплинарным исследованиям. В их задачу входит установка весовых коэффициентов тех или иных событий, то есть определение степени их важности. Методом последовательных приближений (итераций) коллективный кентавр (люди и алгоритмы) определяет так называемые параметры порядка – небольшое число кризисогенных факторов, способных, если их «подогреть», разжечь «тлеющие угли» протестов, дать толчок «цветной революции» в той или иной стране. Именно эта методика лежала в основе запуска в странах Ближнего Востока «арабской весны».

Искусственный интеллект играет при этом роль инструмента сортировки сотен тысяч источников-агентов; происходит так называемое многоагентное моделирование. Наиболее уязвимые места страны-мишени определяют профильные эксперты, которые выступают корректировщиками «информационного огня», подобно тому, как это делается в артиллерии. Корректируют они активность многочисленных НПО, оппозиционных политиков, инсайдеров в правящих кругах.

Алгоритмы сортировки агентов оптимизируются при участии профильных аналитиков корпорации MITRE в процессе сверки произведенных командой Virginia Tech прогнозов с реальными событиями. Корпорация MITRE, как мы уже писали, является оперативным штабом Пентагона по организации социальных протестов и гражданских беспорядков в разных странах мира.

Моделирование социальных процессов на основе алгоритмов многоагентного подхода широко применяется во всём мире, в том числе в России, но только Пентагон использует искусственный интеллект для подрывных действий.  

Проекты EMBERS и Minerva органично входят в такие стратегические разработки Пентагона, как «Принуждающая мощь» (Coercive Power). И вся эта подрывная деятельность замаскирована под научно-исследовательскую работу. Завеса тайны с неё пока не сброшена.

Другие материалы