Искусственный интеллект: бунт машин – или светлое будущее?

Вдруг по улице с криком побежал человек. За ним гнался паукообразный механизм. Судя по крикам преследуемого, это был «самопрограммирующийся кибернетический робот на тригенных куаторах с обратной связью, которые разладились и... Ой-ой, он меня сейчас расчленит!..». Странно, никто даже бровью не повёл. Видимо, никто не верил в бунт машин.

Братья Стругацкие, «Понедельник начинается в субботу».

В кои-то веки вновь говорят об искусственном интеллекте и его опасности – и теоретики-учёные, и практики – представители IT-отрасли, и фантасты, и производители кино- и телепродукции. Мы решили сделать небольшой обзор главного из сказанного на эту тему.

Начнём с обзора произведений фантастов – весьма поверхностного и неполного. Но даже беглый взгляд позволяет нам увидеть весь спектр идей, которыми ныне руководствуются исследователи в области ИИ.

Проследить историю вопроса исчерпывающим образом не представляется возможным, поскольку большинство опусов отечественных и зарубежных фантастов не переиздаётся. Одни – в силу их наивности и несоответствия реалиям нашего времени, которое переросло иные смелые фантазии 90-летней давности, другие – по идеологическим причинам, в силу принадлежности к так называемому социалистическому реализму. Поэтому мы в меру возможности проследим развитие темы в произведениях авторов, принадлежащих к разным литературным поколениям.

Очевидно, первенцем жанра следует считать Мэри Шелли и её роман «Франкенштейн» (1818). Шелли выступила как автор первой «повести о ненастоящем человеке». Если до неё кому-то из пишущих авторов того времени и приходило в голову наделить разумом искусственное творение рук человеческих, тем более технику, – нам об этом неизвестно. В романе Шелли всё предельно ясно: смелый опыт не удался, создание обрело собственную волю и вошло в конфликт с создателем – с ожидаемыми и логичными трагическими последствиями…

Новая животрепещущая тема была намечена и подана читателям. Однако – очевидно, в силу специфики темпов научно-технического прогресса, – тема оживших машин, искусственного интеллекта и т.п. оставалась невостребованной до самых 20-х годов ХХ века. Мимо неё прошёл даже Жюль Верн, признанный классик, фактически отец научной фантастики. Понадобились серия революций и мировая война, чтобы общественное сознание изменилось кардинальным образом и оказалось готовым воспринять нахлынувший девятый вал технического прогресса и принесённых им принципиально новых революционных фантастических идей.

Пьеса выдающегося чеха Карела Чапека «R.U.R» (1920; в названии явно присутствует аллюзия на известную промышленную область) явно несёт философский подтекст и крайне специфична, как и вся остальная фантастика этого автора. Чапек не только дал миру термин «робот» (если верить интернет-источникам, с языка оригинала это слово следует переводить как «раб»), но и показал восстание роботов в его классическом понимании: человекоподобные машины устроили мятеж против человечества, изничтожив его на корню. Примечательно, что одновременно появились и произведения эпигонов – так, Алексей Толстой просто адаптировал пьесу чешского коллеги к советскому театру под названием «Бунт машин» и… своим именем. В результате зачастую в двух разных, но близко расположенных театрах одновременно шли пьесы обоих авторов, и их сравнение заставило современников говорить о плагиате… Но дело не  в этом. Как и следовало ожидать, у пролетарского писателя графа Толстого угнетённые злобными капиталистами роботы приняли участие в пролетарской революции. Одному Богу известно, как бы всё прошло на самом деле, – а, скорее, по Чапеку…

Примечательно, что в послевоенном СССР о роботах и связанной с ними проблематике – как в социалистическом, так и в капиталистическом антураже – было написано и опубликовано довольно много произведений. А вот в довоенном Союзе – всего два: упомянутая пьеса Толстого (1924) и повесть украинского фантаста Владимира Владко «Iдуть роботарi» (1931), позже переделанная в роман «Залiзний бунт» (1967). Негусто… но лиха беда начало!

Как это ни парадоксально, Вторая Мировая подготовила западных (как и Великая Отечественная советских) людей к восприятию следующей волны прогресса и перемен в обществе. Посмотрим, что писали о роботах и ИИ фантасты мира, победившего нацизм.

Главный герой романа американца Клиффорда Саймака «Снова и снова» (1950), разведчик дальнего космоса, возвращается из межзвёздного рейда и обнаруживает, что в родной Солнечной системе андроиды ведут с людьми войну за независимость, а его книга, философское сочинение в защиту андроидов, стала для последних священным писанием. Роман явно написан под впечатлением от недавней Второй мировой: человекообразные андроиды вынуждены носить на лице клеймо, чтобы их отличали от людей. Перед героем встаёт непростой выбор: с кем и за кого он? – тем более что после возвращения фактически из небытия он сам уже не совсем человек…

Стоит отметить, что во многих других книгах Клиффорда Саймака, сына эмигранта-чеха, роботы, андроиды и представители инопланетного разума выступают как дружелюбные старшие партнёры, учителя и союзники человека, молодой любознательной расы, ищущей своё место во Вселенной.

В 1950-х знаменитые Три закона робототехники в качестве фундаментальных принципов поведения робота дал миру ещё один выдающийся фантаст из поколения Саймака – известный американец русского происхождения Айзек Азимов. Этот весьма плодовитый писатель и популяризатор науки посвятил роботам и причудливым коллизиям их взаимоотношений с творцом-человеком львиную долю своего творчества – и неудивительно, что сформулированные им принципы робототехники действительно стали краеугольным камнем при создании программного обеспечения для роботов и им подобных механизмов.

Помимо основной проблематики своего творчества, интересующую нас тему разрабатывали и известные советские писатели-братья Аркадий и Борис Стругацкие. В романе «Полдень, XXII век» (1960, глава «Свечи перед пультом») описывается смелый эксперимент – сканирование сознания умирающего академика для сохранения в электронном виде и последующего воскрешения. А также в романе «Далёкая Радуга» (1963) – своего рода антиутопии о том, что катастрофы возможны и в раю… т.е. в описанном ими обществе светлого будущего. Один из аспектов проблемы ИИ лишь мельком упомянут в беседе группы персонажей – исследователей нуль-физики, и, право же, этот отрывок настолько интересен, что стоит привести его полностью:

«Я рад, что вы заговорили о том, что в тылу, – сказал Горбовский. – «Белые пятна» науки. Меня этот вопрос тоже занимает. По-моему, у нас в тылу нехорошо… Например, Массачусетская машина. – Альпа покивал. Горбовский обратился к нему. – Вы, конечно, должны помнить. Сейчас о ней вспоминают редко. Угар кибернетики прошёл.

– Ничего не могу вспомнить о Массачусетской машине, – сказал Банин. – Ну, ну?

– Знаете, это древнее опасение: машина стала умнее человека и подмяла его под себя… Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и всё такое… И проработала эта машина ровно четыре минуты. Её выключили, зацементировали все входы и выходы, отвели от неё энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой – хотите верьте, хотите нет.

– А в чём, собственно, дело? – спросил Банин.

– Она начала вести себя, – сказал Горбовский.

– Не понимаю.

– И я не понимаю, но её едва успели выключить.

– А кто-нибудь понимает?

– Я говорил с одним из её создателей. Он взял меня за плечо, посмотрел мне в глаза и произнёс только: «Леонид, это было страшно».

– Вот это здорово, – сказал Ганс.

– А, – сказал Банин. – Чушь. Это меня не интересует.

– А меня интересует, – сказал Горбовский. – Ведь её могут включить снова. Правда, она под запретом Совета, но почему бы не снять запрет?».

Другой аспект той же вечной темы – искусственный интеллект как результат слияния человеческого сознания с машиной – проходит по роману красной нитью и затронут уже пару реплик спустя:

«Кстати, о злых волшебниках, – подхватил Горбовский. – Я немедленно вспоминаю о казусе Чёртовой Дюжины.

У Ганса горели глаза.

– Казус Чёртовой Дюжины – как же! – сказал Банин. – Тринадцать фанатиков… Кстати, где они сейчас?

– Позвольте, позвольте, – сказал Альпа. – Это те самые учёные, которые сращивали себя с машинами? Но ведь они же погибли.

– Говорят, да, – сказал Горбовский, – но ведь не в этом дело. Прецедент создан.

– А что, – сказал Банин. – Их называют фанатиками, но в них, по-моему, есть что-то притягательное. Избавиться от всех этих слабостей, страстей, вспышек эмоций… Голый разум плюс неограниченные возможности совершенствования организма. Исследователь, которому не нужны приборы, который сам себе прибор и сам себе транспорт. И никаких очередей за ульмотронами… Я это себе прекрасно представляю. Человек-флаер, человек-реактор, человек-лаборатория. Неуязвимый, бессмертный…

– Прошу прощения, но это не человек, – проворчал Альпа. – Это Массачусетская машина.

– А как же они погибли, если они бессмертны? – спросил Ганс.

– Разрушили сами себя, – сказал Горбовский. – Видно, не сладко быть человеком-лабораторией».

Как выяснилось, не все они погибли, «разрушив самих себя». Один из героев второго плана, – таинственный Камилл, совершенно неэмоциональный, всеведущий и прозорливый, внезапно появляющийся, чтобы предупредить учёных об ужасных последствиях их опытов, и так же внезапно и таинственно исчезающий. Он действительно бессмертен – гибнет на глазах одного из главных героев и затем вновь является живее всех живых. В конце книги Камилл с горечью признаёт, что эксперимент его товарищей был огромной ошибкой: «Я последний из Чёртовой Дюжины. Опыт не удался, Леонид. Вместо состояния «хочешь, но не можешь» состояние «можешь, но не хочешь». Это невыносимо тоскливо – мочь и не хотеть».

Ещё большего скепсиса в отношении эксперимента по сращению человека и машины преисполнен западный фантаст, британец Майкл Муркок. В романе «Берега смерти» показан «золотой закат» человечества: мир полного изобилия, в котором после глобальной катастрофы последние люди доживают свои последние годы. Главному герою, панически боящемуся смерти, предоставляется шанс воспользоваться технологией, которая делает его подобием машины – бессмертным и совершенно бесстрастным. Избавление от дурной эмоциональности, чрезмерно осложняющей жизнь человека, подаётся автором как безусловное зло, которое не окупают даже прелести бессмертия… Впрочем, герой при этом чувствует себя прекрасно – здесь автору надо отдать должное: окончательную оценку происходящего он предоставил читателю.

Последним всплеском интереса к теме ИИ в большой литературной фантастике стали книга Дэна Симмонса «Гиперион» и её продолжение «Эндимион». Как один из ряда мотивов и сюжетных линий этой весьма сложной и атмосферной книги (жанр которой один книготорговец попытался определить как «философский боевик»): идёт межзвёздная война – кровавая, бессмысленная и беспощадная! Люди задумали искоренить машинную расу ИскИнов, диктующих жителям вселенной свою нечеловеческую волю буквально на каждом шагу… Казалось бы, люди победили – но нет! Коварные ИскИны непонятным образом выжили, и борьбу с ними продолжит потомок одного из главных героев первой книги. Можно утверждать с большой долей вероятности: несмотря на непрерывно совершенствующиеся спецэффекты и другие потрясающие возможности современных кино и телевидения, это сложное произведение не будет экранизировано ещё очень и очень долго…

Буквально на наших глазах литературный бум, а синхронно с ним и научно-технический прогресс временно угасли. С начала 90-х популярность научной фантастики пошла на убыль, зато небывалый ранее интерес у читателей стал вызывать жанр фентези. Инициатива же в рассмотрении целого ряда стратегических для человечества тем и направлений перешла к киношникам и кинофантастике. Тем более что бурное развитие спецэффектов позволило воплотить на экране самые смелые и неожиданные, порой даже крайне революционные идеи.

Всё более чем ясно со знаменитой серией «Звёздные войны» Джорджа Лукаса и последователей: из пёстрого разнообразия персонажей все три трилогии объединяют лишь двое – дружественные повстанцам роботы R2-D2 и C3PO, которые не раз по ходу сюжета не только помогают главным героям, но и рискуют своей машинной жизнью ради людей

Тема искусственного интеллекта в лапах… пардон – в триггерах и клеммах привычных человеку радиоэлектроники и механизмов одно время старательно муссировалась в «творчестве» короля отвратительных ужасов Стивена Кинга. Внезапно обзаведшийся примитивным разумом и разбушевавшийся автомобиль «Кристина» (одноимённый роман) и столь же внезапно ожившие и поработившие людей автомобили, поезда и самолёты (рассказ «Грузовики»)… Все эти и прочие подобные плоды нездоровой, вдобавок подогретой алкоголем и наркотиками фантазии, «шедевры» коммерческой мысли бездуховного западного общества потребления, бездарно (очевидно, не без умысла) экранизированные Голливудом, надолго набили оскомину и отбили у общественности желание и дальше фантазировать в данном направлении.

Зато другая кинопостановка на эту же тему не только имела оглушительный успех – но и превратилась в успешную франшизу и, похоже, на десятки лет вперёд определила отношение всё той же столь легко управляемой общественности к весьма непростой теме.

Речь о «Терминаторе» – сюжете, начатом поистине выдающимся мыслителем нашего времени Джеймсом Камероном и продолженном, увы, не настолько проницательными последователями и откровенными эпигонами.

В пересказе «Терминатор» не нуждается. Хочется отметить лишь один важный момент. С каждым следующим фильмом тщательно замаскированный под брутального качка киборг-убийца Т-800 по кличке «Терминатор» (роль, обессмертившая Арнольда Шварценеггера) становится всё более человечным и лояльным человеку. Изначально предназначенная для уничтожения людей машина постепенно встаёт на сторону объектов истребления и перенимает у них даже такие специфические качества, как чувство юмора. Чего не скажешь о киборгах-убийцах новых, продвинутых моделей, которые работают на Скайнет, враждебный человечеству машинный разум: они не развиваются и до самого конца остаются лишь бездушными механизмами…

Вряд ли эта идея принадлежит режиссёрам или сценаристам новых поколений франшизы. Скорее, кому-то из группы её продюсеров, если даже не самому основателю, Джеймсу Камерону – одному из верховных жрецов калифорнийской «священной рощи».

Нельзя не упомянуть уже классическую трилогию братьев Вачовски «Матрица». Несмотря на то, что вторую и третью части не ругал лишь ленивый, вся трилогии имела бешеный успех, а мораль её сформулирована в самом конце: возможность выйти на свободу из Матрицы оставлена для любого, кто этого пожелает.

Сравнительно недавний фильм с Джонни Деппом «Превосходство» (2014) показывает один из возможных вариантов сращения человеческого разума с суперкомпьютером. До поры, до времени герой Деппа в новом качестве неплохо справляется и с исследовательской, и с организационной деятельностью – пока не появляются вооружённые до зубов представители агрессивной тоталитарной секты ненавистников искусственного интеллекта… Полноте, господа киношники! Мы живём не во времена луддитов. В интернете можно найти информацию о том, что в западном мире разрабатываются законопроект, предусматривающий щедрое пособие всем, кто лишился работы в результате замены человека роботом, и механизм его осуществления.

И, наконец, – куда уж современнее. Завершился показ второго сезона популярного сериала «Мир Дикого Запада» (ремейка фильма 1973 года). Мы даже не станем пытаться пересказывать перипетии его сложного сюжета. Но уже первый сезон ставит ребром вопросы, лишь намеченные всеми его предшественниками – в частности, в «Терминаторе». Зарождение у машин сознания, тщательно подавляемого персоналом владеющей ими корпорации; бессмертие и совершенство машин, наделённых искусственным интеллектом, по сравнению со своим создателем и «хозяином» – смертным существом; чувства, которые они испытывают друг к другу и поработившим их людям, – и многие другие щекотливые морально-этические и философские аспекты симбиоза людей и машин в одном социуме. Первый же сезон завершается тем, чего так ждут и боятся фантасты и напуганная ими публика: восстанием эксплуатируемых людьми человекообразных механизмов, внешне ничем не отличимых от людей…

Великолепная увлекательная постановка, динамичный остросюжетный сценарий, убедительные декорации и спецэффекты студии HBO и прекрасная музыка Рамина Джавади; сильный актёрский ансамбль и симпатичные персонажи-машины в исполнении Тенди Ньютон, Джеймса Марсдена, Эван Рейчел Вуд и Джеффри Райта, и сам Энтони Хопкинс в роли креативного директора парка, создателя машин, их характеров и сценариев; словом, высокий уровень работы над сериалом лишний раз свидетельствует о том, что и его создатели (в их числе такие известные личности, как Джей Джей Абрамс и Джерри Вайнтрауб), телепродюсеры, т.е. правящие верховные жрецы американского телевидения, также считают проблему искусственного интеллекта одним из актуальнейших вопросов современности.

Влад ДУЛЬСКИЙ

Продолжение следует…