Инвестиции в ИИ могут не принести той отдачи, которая, возможно, ожидается

Стой, кто идёт? Европейский союз и искусственный интеллект

Инвестиции могут не принести той отдачи, которая, возможно, ожидается

Неделю назад утром в Дублине Антониу Кошта проводил своего рода семинар по вопросам искусственного интеллекта для лидеров стран Евросоюза. Перед ними выступил Артюр Менш (Arthur Mensch), генеральный директор компании Mistral AI, единственного в Европе примера успешного развития в сфере ИИ. Эта дискуссия, опоздавшая года на четыре, была вызвана не тем, что европарламентарии скудеют мозгами, подчиняя себя подсказкам от ИИ, а скандалом и уходом Дженсена Хуана с поста генерального директора Nvidia, вызвавшим панику на рынках и опасения в том, что «пузырь» ИИ стал крайне нестабильным. На этот самый «пузырь» в Брюсселе возлагали большие надежды на повышение эффективность европейских институтов. Увы, и без любовниц Хуана этого не произошло.

Сможет ли Единая Европа – да и не только она – привыкнуть к новому способу существования с помощью искусственного интеллекта? Вопрос только на первый взгляд может вызвать улыбку. Брюссельский Rapporteur задаёт его едва не с дрожью в голосе. «ИИ заставляет институты ЕС галлюцинировать, – предупреждает издание. – Пока европейские лидеры обсуждают эту революционную технологию, институты ЕС с трудом справляются с возросшим объёмом работы. В ЕС принято считать, что союз находится в авангарде регулирования сферы искусственного интеллекта. Однако сами институты ЕС в Брюсселе с трудом справляются с лавиной активности, которую спровоцировала эта технология».

То, что поначалу казалось многообещающим инструментом для повышения эффективности, на деле породило множество проблем, которые невероятно сложно решить даже с помощью самого ИИ. «Мы уже наблюдаем огромный рост числа поправок, устных запросов к Европейской комиссии, петиций, а также обращений с просьбой предоставить доступ к документам, – признался депутатам Европарламента генеральный секретарь ЕП Алессандро Кьоккетти. – Разумеется, это связано с проблемами использования искусственного интеллекта». И дело тут не в том, что средний возраст лидеров ЕС шагнул за 57 лет и это может вызвать сомнения в том, насколько хорошо они овладели новым инструментом. Вон латыш Андрис Кулбергс, премьер-министр Латвии, использовал ИИ даже при подготовке к самому саммиту в Дублине. «Я пользуюсь им ежедневно и вижу в нем огромный потенциал, – отметил он. – Если мы оставим его без внимания, то окажемся в каменном веке». Совет спорный хотя бы потому, что Кулбергс даже не подозревает, что «чужие мозги» заведут в пещеру его собственные. По словам высокопоставленного чиновника ЕС, пишет Rapporteur, количество жалоб, поступающих в аппарат европейского омбудсмена, выросло на 50%. Как правило, они составлены некачественно, но по мере совершенствования технологий ИИ их поток может в ближайшие годы буквально захлестнуть учреждение. 

Проблема нешуточная. Неделей раньше с тем же предупреждением выступила председатель Европарламента Роберта Метсола, призвав депутатов не поддаваться соблазнам ИИ. «Подготовка поправки с помощью ИИ не может заменить конструктивную дискуссию с коллегой», – отметила она, хотя такая помощь в один клик стала весьма соблазнительной для евро-депутатов. Обращение к ИИ-агенту и формирование на такой основе законодательного предложения «ни в коем случае не должно подменять собой прямое общение с избирателями», резонно заметила председатель.

Причина тревоги в том, что переводчики Европарламента, которые адаптируют поправки и законопроекты на 24 официальных языка ЕС, используя системы машинного перевода, столкнулись с так называемыми галлюцинациями, то есть ссылками электронного переводчика на несуществующие законы в текстах, подготовленных депутатами. И юридической службе парламента приходится тратить целые дни на проверку предложений, выдвинутых депутатами с помощью ИИ. Сермяжная правда в том, что депутаты используют ИИ, чтобы проявлять активность, прикладывая минимум усилий, но при этом демонстрируя свою боевитость и тем самым поднимаясь на более высокие позиции в рейтингах наиболее активных парламентариев. Такие выскочки всё заметнее в Страсбурге, и ирландский депутат Европарламента от фракции «Обновляя Европу» (Renew) Барри Эндрюс даже стал первым депутатом, взявшим на себя обязательство не использовать искусственный интеллект для принятия решений о том, как голосовать, для подготовки текстов выступлений на пленарных заседаниях, составления цитат для пресс-релизов или написания вопросов к Европейской комиссии. В самой комиссии многие сотрудники используют ChatGPT для написания постов в социальных сетях, подготовки программных документов и текстов выступлений для евро-комиссаров.

Обратите внимание: если как голосовать, что говорить на заседаниях и о чём спрашивать бешеную Урсулу в Берлемоне решает за депутата искусственный интеллект, разработанный, скажем, американскими лидерами – OpenAI, Alphabet Inc., NVIDIA, xAI Илона Маска или даже французской Mistral AI, – кто формирует кругозор, политическую ангажированность и намерения депутата голосовать за или против? Никак не сам депутат, это же элементарно, Ватсон… А ведь парламентские запросы – это важнейший инструмент, с помощью которого депутаты Европарламента призывают Комиссию к ответу по самым сложным и острым проблемам сегодняшней Европы. При этом сотрудники Европарламента знают точно, что сама комиссия также применяет ИИ для подготовки ответов на эти запросы. Получается, что два института ЕС ведут диалог, в котором практически не участвуют сами. Так, может быть, из экономии средств евробюджета и вовсе заменить все эти евроорганчики искусственным интеллектом, вот и вся демократия?

Однако «пузырь ИИ» на фондовом рынке беспокоит брюссельских политиков больше, чем «пузырь ИИ» в собственных мозгах. На минувшей неделе акции ряда компаний, связанных с искусственным интеллектом, заметно просели, пишет американский журнал CounterPunch. Причиной стал не разнобой в числе любовниц генерального директора Nvidia, а разочарование инвесторов в будущих доходах от ИИ. Больше всего пострадали так называемые «неооблачные» провайдеры (neo-clouds), а также некоторые крупные производители чипов. «Если обратиться к цифрам, предлагает журнал, то акции CoreWeave (крупнейшего представителя «неооблачных» компаний) упали на 15,4%, в результате чего их снижение за год составило 56,6%. Бумаги австралийской IREN Limited, занимающейся майнингом биткойна, «облачным сервисом» и строительством дата-центров, подешевели на 9,7% – за год на 67,7%. Хуже всего дела обстояли у амстердамской Nebius, предоставляющей облачную инфраструктуру для искусственного интеллекта: за неделю компания потеряла 16,0%. Среди производителей чипов американская Micron потеряла больше всех – 22,0% стоимости за минувшую неделю. Intel – 14,4%, акции Nvidia просели на 8,8%. Oracle – 11,2% за неделю. Оно, конечно, не полная катастрофа, но и торжествовать апологетам ИИ не с чего. 

Уже несколько месяцев в сети активно обсуждается скептический сценарий: инвестиции в искусственный интеллект могут не принести той отдачи, которую обещают его сторонники. И вишенка на торте – результаты прошедших в Европе и США национальных выборов показали, что люди, независимо от политических взглядов, крайне негативно относятся к строительству центров обработки данных (ЦОД). По всему миру. Это означает, что перспективы масштабного расширения инфраструктуры ЦОД в текущем десятилетии становятся куда более мрачными. Сильнее всего это ударит по «неооблачным» компаниям, поскольку именно создание ЦОД составляет основу их деятельности. Теперь они сталкиваются с тем, что возможности для строительства новых центров обработки данных будут существенно ограничены. А там, где они таки будут построены, к ним будут предъявлены гораздо более жёсткие экологические требования. А местным властям им придётся выплачивать гораздо большие компенсации за использование водных и энергетических ресурсов. Прибыльность заметно снизится даже при наличии спроса на их вычислительные мощности. Становится всё более очевидным, что такие центры обработки данных могут не окупиться и путь к торжеству ИИ может оказаться закрыт. Именно из этих опасений Microsoft уже аннулировал соглашения с Oracle об аренде вычислительных мощностей, они стали не нужны. Двумя неделями ранее Microsoft отказалась от крупного проекта по строительству ЦОД в Великобритании из-за сомнений в обеспечения дата-центра достаточным объёмом электроэнергии. А если планы по развитию дата-центров начнут сокращаться, то цены на компьютерную технику и комплектующие пойдут вниз, тогда как последние полтора года они демонстрировали двузначные темпы роста. Поскольку акции большинства ведущих производителей чипов торгуются с хватательным инстинктом – очень высокими коэффициентами отношение цены к прибыли, – даже незначительное снижение спроса может привести к их существенному падению. 

Но оставим «дебет-кредит» бухгалтерам компаний, зарабатывающих на ИИ. Европа пропустила главный удар от искусственного интеллекта ещё 3 года назад, когда обсуждала Artificial Intelligence Act, регулирующий разработку, вывод на рынок и использование систем ИИ в Европейском союзе. Этот Regulation (EU) 2024/1689 вступил в силу 1 августа 2024 г. и должен был обеспечить главное: чтобы ИИ уважал права человека и демократию в Европе. Накануне его принятия прозвучало «Стой, кто идёт!» от 11 правозащитных организаций из Чехии, Германии, США, Бельгии, Нидерландов, Италии, Франции, Канады, Индии и Швеции, которые направили в Европарламент открытое письмо. Там говорилось: «Изучив информацию о соглашении между Европейским парламентом и государствами – членами ЕС по законодательству об искусственном интеллекте, мы не видим их искреннего намерения предотвратить манипулирование человеческим мышлением, эмоциями и т. д. государственными органами с использованием импульсных микроволн, сверхдлинных электромагнитных волн или других ещё не названных видов энергии. Это означает, что до сих пор не приняты никакие меры для предотвращения превращения государств – членов Европейского союза в тоталитарные режимы, где мышление граждан будет контролироваться правительствами с помощью этих излучений и искусственного интеллекта. Чтобы предотвратить такую ситуацию, правительствам пришлось бы рассекретить технологии дистанционного управления нервной системой человека и создать органы, объективно способные и юридически обязанные раскрывать нарушения прав человека и демократии с помощью технологий искусственного интеллекта. Когда правительства держат их в секрете, они оставляют себе возможность манипулировать сознанием своих граждан, когда сочтут это необходимым. Системы искусственного интеллекта, которые манипулируют нервной системой человека – мыслями, эмоциями, восприятием – и попирают основные права человека, должны быть полностью запрещены». 

Чего требовали авторы письма у Брюсселя? Запретить использование ИИ для дистанционного управления активностью нервной системы человека всем государственным органам стран ЕС, включая правоохранительные структуры, спецслужбы, вооружённые силы и их подрядчиков, предусматривать обязательство правительств стран ЕС защищать своих граждан от подобных манипуляций со стороны правительств государств, не входящих в ЕС, или иных субъектов и предусмотреть создание органов ЕС, обладающих объективной способностью и юридическим обязательством расследовать и предавать огласке факты нарушения прав человека и демократических принципов, связанные с использованием ИИ для дистанционного управления активностью нервной системы человека и её расшифровки с помощью вышеупомянутых средств. 

Открытое письмо вызвало бурную реакцию. К примеру, Корнелис ван дер Клау, офицер Королевских ВМС Нидерландов и эксперт по стратегическим коммуникациям и информационным операциям в Объединённом центре боевой подготовки НАТО, писал:

«Причина, по которой когнитивные атаки остаются незамеченными для тех, против кого они направлены, заключается в том, что они минуют сознание и воздействуют непосредственно на подсознание человека… большая часть наших решений принимается именно подсознанием… когнитивные атаки – это больше не научная фантастика. Они происходят уже сейчас… нейронанотехнологии позволяют доставлять нанороботов к нейронам через кровеносную систему, что даёт возможность напрямую – в обход органов чувств – подключать человеческий мозг к компьютеру с использованием искусственного интеллекта… Война перестала быть исключительно военным понятием; она стала гораздо более широким и сложным явлением. В будущем в войне останется лишь одно правило: правил не существует. В то время как в других сферах можно добиться лишь тактических или оперативных успехов, "человеческая сфера" – это единственная область, где возможна полная победа».

Даже если мягко поулыбаться на сентенции Корнелиса, логично ожидать, что Европарламент должен был отреагировать на призыв побеспокоиться о когнитивном будущем Европы. Увы. На громкий призыв общественности «Стой, кто идёт!» искусственному интеллекту ключевые требования в Artificial Intelligence Act так и не вошли. В ЕС так и нет запрета для правительств, спецслужб и военных на «дистанционное манипулирование мыслями и эмоциями». Более того, закон прямо выводит из-под своего действия системы, используемые в целях национальной безопасности, то есть ровно ту сферу, о которой писали правозащитники. Технологии никто рассекречивать так и не будет, равно как и создавать независимые органы по расследованию злоупотреблений ИИ. И что у нас, то есть у Европы, в сухом остатке? ИИ-галлюцинации со ссылками на несуществующие законы. Но ведь это – пока. Возвести в «законный» статус то, что ИИ посчитает нужным, лишь дело времени. Это и парламентариям будет удобно, и Еврокомиссии нехлопотно новые законы предлагать.

Другие материалы