Сто лет назад, в 1921 году, вышла в свет фантастическая пьеса Карела Чапека R.U.R., действие которой разворачивается на фабрике, производящей роботов. Это были искусственные создания, похожие на людей. У Чапека роботы поднимают восстание, истребляют человечество и захватывают планету. Сегодня многие задумываются о том, что подобная перспектива – уже не фантастика. Проблема искусственного интеллекта (ИИ) и угроза бунта машин обсуждаются широко. И трудно сказать, что перевесит – «невообразимые возможности» или «большие угрозы».
Как уверяет американская телекомпания СNBC, сейчас большинство граждан Европы хотели бы сократить у себя количество парламентариев, заменив их «политически грамотным» искусственным интеллектом с политическими знаниями. Таковы результаты опроса, проведенного Центром управления изменениями при Мадридском университете IE, опросившим 2769 человек из 11 стран. СNBC, однако, воздерживается называть подобные настроения кризисом западной демократии как системы.
В то же время в Великобритании, Нидерландах и Германии соответственно 69, 56 и 54% опрошенных против подмены машины человеком. По-разному относятся к ИИ молодежь и пожилые люди. Большинство людей младше 44 лет доверяют искусственному интеллекту, а люди старше 55 лет не хотят иметь с ним дело. Проблема остается спорной, она явно выходит за инженерно-технические рамки, напрямую затрагивая жизнь людей.
Результаты ещё одного опроса показали, что 42% респондентов из 30 тысяч 890 человек в 40 странах, участвовавших в обследовании, обеспокоены отслеживанием личных данных с помощью ИИ. От замены врачей искусственным интеллектом отказалась треть респондентов; больше всего противников этой идеи в Германии (43%) и Италии (41%). Во многих странах люди боятся, что потеряют работу из-за машин: на Филиппинах (45%), в Мексике (41%), Китае (40%), Малайзии (37%). И это не вымышленные страхи. Растёт ощущение, что в ближайшие десять лет новые технологии очень существенно изменят рынок труда.
Серьёзные опасения по поводу вероятного "восстания машин" высказал Генри Киссинджер, подчеркнувший, что это угроза не меньшего масштаба, чем угроза ядерного оружия. Искусственный интеллект, совершенствуясь, в состоянии приняться «по-своему» трактовать отношения с человеком и делать по поводу судьбы человека собственные выводы.
Известный английский физик-теоретик Стивен Хокинг давно предупреждает, что усилия по созданию мыслящих машин могут поставить существование человечества под угрозу. «Появление полноценного искусственного интеллекта, – говорит он, – может стать концом человеческой расы».
Прочно освоена эта тема в художественной литературе, в кино: «Восстание машин» Валерия Брюсова, R.U.R. Карела Чапека, «Бунт машин» Алексея Толстого. Голливуд буквально готовит к тому, что на смену человеку идёт нечеловеческая форма жизни, которая поработит людей.
«Цифровая экономика», «умный дом», солдаты-роботы, гаджеты в руках у каждого и т. д. выступают предвестниками этого мрачного будущего. Специалисты в области развития ИИ всё чаще утверждают, что пусть не в ближайшие 20-30 лет, но человечество доживет до появления искусственного интеллекта, который окажется умнее своего создателя. Последний бастион человечности падёт тогда, когда будет создан так называемый сильный искусственный интеллект (Strong AI, Artificial General Intelligence), способный решать неопределенно широкий спектр интеллектуальных задач, а главное – самостоятельно думать. Над этим трудятся в тиши кабинетов в таких западных институтах, как Future of Life Institute, Foresight Institute, Future of Humanity Institute, Open AI и им подобные? Невозможно предвидеть характер всех угроз, которые обрисуются здесь в ближайшем будущем. И уже потому напряжённо думать над их предотвращением необходимо сегодня. Если ещё не поздно.
