Искусственный интеллект: научно-художественная проблематика

Мы уже помним, что герой и персонаж - одно и то же. Но что значит лицо? Очевидно, что здесь идет речь о термине «действующее лицо». Таким образом, мы сталкиваемся с тем, что термин «литературный герой» мы назвать однозначным не можем. Такие термины, как «образ», «тип», «характер» сливаются в один и невозможно дать ничему четкое определение. Таким образом, чтобы продолжить данное исследование, мы решим данную неоднозначность, как выше мы определили для себя, что такое искусственный интеллект и искусственный разум.

«…человек, изображенный в литературе, не абстракция (какой может быть человек, изучаемый статистикой, социологией, экономикой, биологией), а конкретнее единство. Но единство, не сводимое к частному, единичному случаю (каким может быть человек, скажем, в хроникальном повествовании), единство, обладающее расширяющимся символическим значением, способное поэтому представлять идею.» [20, c 5]

Отметим, что здесь идет речь конкретно о человеке, для расширения термина скажем - «мыслящее существо». Таким образом, не теряя основного смысла, мы можем сказать, что фантастические персонажи, с какой бы планеты или завода они ни были, они так же являются единством, как и человеческий персонаж. Разберем же, что такое действующее лицо.

«...работа охватывала исследование богатой области атрибутов действующих лиц (т.е. персонажей, как таковых […] Меняются названия (а с ними и атрибуты) действующих лиц, не меняются их действия или функции. Отсюда вывод, что сказка нередко приписывает одинаковые действия различным персонажам. Это дает нам возможность изучить сказку по функциям действующих лиц» [15]

То есть, действующее лицо - это некая функция в тексте, позиция персонажа по отношению к другим персонажам, художественному миру, автору и читателю.

Таким образом, мы приходим к тому, что литературный герой является системой, которая состоит , как мы видим из позиции героя, что назовем действующим лицом и из персонажа, т.е., личности, частного случая проявления действующего лица. Для прояснения термина «образ» обратимся к Г. А. Гуковскому, который дал на этот счет самое исчерпывающее и полное определение.

«В школьной практике утвердился обычай термином "образ" обозначать не только преимущественно, но и исключительно образ-характер действующего лица литературного произведения. Это словоупотребление настолько укоренилось, что оно имеет тенденцию перейти и в вузовское преподавание литературы, а у некоторых доцентов пединститутов и университетов уже и вошло в правило. Между тем такое применение термина и понятия «образ» ненаучно, и оно искажает правильное понимание искусства вообще и литературы в частности. Наука об искусстве учит нас, что в художественном произведении образ - это вовсе не только внешний и внутренний (психологический) облик действующего лица, что в нем все элементы сконструированы в смысловом отношении как образы, что вообще искусство - это образное отражение и истолкование действительности

[…]в произведении художественной литературы мы обнаруживаем сложную систему образов, в которой одну из важнейших, но вовсе не единственно важную роль играют образы действующих лиц

Когда мы говорим об «образах» в традиционном и ненаучном смысле, мы часто забываем, что ведь всякий образ есть непременно образ чего-либо, что образ сам по себе и сам для себя не бывает, потому что представление, ничего общеидейного не выражающее, - это еще не образ, это еще не искусство, это еще не идеология вообще» [23,c 208]

Каким же образом термин «литературный герой» соотносится с термином «образ»? Исходя из вышесказанного, можно предположить, что образ - это то, что возникает именно в читателе, в его голове, но не только. Каждого писателя есть свой образ каждого героя, но исходя из текста каждый создает свой собственный образ. Получается, образ - результат субъективного восприятия литературного героя, возникающий именно в воображении читателя, как воспринимающего субъекта.

В связи с этой субъективностью, а также тем, что каждый автор по-своему воспринимает героя, точно так же, как и читатель, М. М. Бахтин выявил несколько закономерностей, которые характеризуют отношения автора и героя.

«Первый случай: герой завладевает автором. Эмоционально-волевая предметная установка героя, его познавательно-этическая позиция в мире настолько авторитетны для автора, что он не может не видеть предметный мир только глазами героя и не может не переживать только изнутри события его жизни; автор не может найти убедительной и устойчивой ценностной точки опоры вне героя. Конечно, для того чтобы художественное целое, хотя бы и незавершенное, все же состоялось, какие-то завершающие моменты нужны, а следовательно, и нужно как-то стать вне героя (обычно герой не один, и указанные отношения имеют место лишь для основного героя), в противном случае окажется или философский трактат, или самоотчет-исповедь, или, наконец, данное познавательно-этическое напряжение найдет выход в чисто жизненных, этических поступках-действиях. Но эти точки вне героя, на которые все же становится автор, носят случайный, непринципиальный и неуверенный характер; эти зыбкие точки вненаходимости обыкновенно меняются на протяжении произведения, будучи заняты лишь по отношению к отдельному данному моменту в развитии героя, затем герой снова выбивает автора из временно занятой им позиции, и он принужден нащупывать другую; часто эти случайные точки опоры дают автору другие действующие лица, с помощью которых, вживаясь в их эмоционально-волевую установку по отношению к автобиографическому герою, он пытается освободиться от него, то есть от самого себя. Завершающие моменты при этом носят разрозненный и неубедительный характер». [8, c 404-412]

То есть, если автор имеет дело с привычным героем, личность героя может стать эмоционально довлеющей над автором, причем, автором не литературным, который в тексте, но автором биографическим, реальным и живым человеком. Но при этом, подобное мы видим только при полной неубедительности героя, его беспомощности. Не зря Бахтин говорит о неубедительности завершающих моментов. Без них образ в голове читателя неполон, а автор отличается от читателя тем, что он способен додумать как ему угодно его героя без вреда сюжету и вообще готовому произведению. Такой автор, создавая художественный мир, таким образом, создает из героя себе кумира или героя в его изначальном смысле слова, но при этом не трудится для того, чтобы другие увидели тот образ, который видит он. Текст получается незавершенным, в нем образуются смысловые пустоты. В некоторых случаях это не мешает произведению стать классическим и войти в Золотой Фонд Литературы, но прочтение и восприятие такая аномалия затрудняет.

Если говорить об искусственном интеллекте и его жизнеподобии, то при всем желании невозможно такое сделать с героем, не являющимся живым существом в полном смысле этого слова. Во многом это обуславливается тем, что при должном жизнеподобии такой персонаж е выявляет эмоций, а это затрудняет отношения автора и героя. Невозможно эмоционально и умственно проникнуться существом, которое не испытывает эмоций и мыслит иными категориями. Более подробно мы будем об этом говорить в третьей главе, когда столкнемся непосредственно с циклом А. Азимова «Позитронные роботы» и произведением С. Лукьяненко «Фальшивые зеркала», повествующих об искусственном интеллекте.

Второй случай аномалий отношений героя и автора звучит так :

«Второй случай: автор завладевает героем, вносит вовнутрь его завершающие моменты, отношение автора к герою становится отчасти отношением героя к себе самому. Герой начинает сам себя определять, рефлекс автора влагается в душу или в уста героя.

Герой этого типа может развиваться в двух направлениях: во-первых, герой не автобиографичен и рефлекс автора, внесенный в него, действительно его завершает; если в первом разобранном нами случае страдала форма, то здесь страдает реалистическая убедительность жизненной эмоционально-волевой установки героя в событии. Таков герой ложноклассицизма, который в своей жизненной установке изнутри себя самого выдерживает чисто художественное завершающее единство, придаваемое ему автором, в каждом своем проявлении, в поступке, в мимике, в чувстве, в слове остается верен своему эстетическому принципу. У таких ложноклассиков, как Сумароков, Княжнин, Озеров, герои часто весьма наивно сами высказывают ту завершающую их морально-этическую идею, которую они воплощают с точки зрения автора. Во-вторых, герой автобиографичен; усвоив завершающий рефлекс автора, его тотальную формирующую реакцию, герой делает ее моментом самопереживания и преодолевает ее; такой герой незавершим, он внутренне перерастает каждое тотальное определение как неадекватное ему, он переживает завершенную целостность как ограничение и противопоставляет ей какую-то внутреннюю тайну, не могущую быть выраженной ». [8, c 404-412]

В современной фантастической литературе такая аномалия происходит чаще всего в среде массовой литературы, а точнее, в многочисленных циклах приключенческого фэнтези, которое отличается вот таким незамысловатым сюжетом: герой, весьма похожий на автора внешностью и характером , попадает в другой мир, отличающийся от нашего наличием магии или технологии. Такой сюжет дает множество лазеек для автора выразить свою позицию по любому поводу, поместить себя, пусть и ненастоящего в некое пространство приключений и прочее. Т.е., подобный герой не несет никакой смысловой нагрузки. Если литературный герой в мире, автор которого находится в точке вненаходимости, несет в себе не только свой характер и структуру в целом, но и некий символ, олицетворение какой-либо идеи, хоть и не так всеобъемлюще, как в случае первой аномалии.

М.М. Бахтин выделяет третий случай аномалии в отношениях автора и героя и после мы перейдем к тем особенностям, которые удалось обнаружить в ходе анализа произведений А. Азимова "Позитронные роботы " и С. Лукьяненко «Фальшивые зеркала».

«Наконец, третий случай: герой является сам своим автором, осмысливает свою собственную жизнь эстетически, как бы играет роль; такой герой в отличие от бесконечного героя романтизма и неискупленного героя Достоевского самодоволен и уверенно завершен.

Охарактеризованное нами в самых общих чертах отношение автора к герою осложняется и варьируется теми познавательно-эстетическими определениями целого героя, которые, как мы видели это раньше, неразрывно слиты с чисто художественным его оформлением. Так, эмоционально-волевая предметная установка героя может быть познавательно, этически, религиозно авторитетной для автора -- героизация; эта установка может разоблачаться как неправо претендующая на значимость -- сатира, ирония и проч. Каждый завершающий, трансгредиентный самосознанию героя момент может быть использован во всех этих направлениях (сатирическом, героическом, юморическом и проч.).» [8, c 404-412]

Эта аномалия не может быть применена к искусственному интеллекту, каким бы самостоятельным он ни был, а почему именно, вы прочтете ниже. Пока же здесь следует сказать, что это распространенное заблуждение среди писателей , будто бы герой сам решает выбрать себе дорогу. Такого не случается, если автор, находясь в позиции вненаходимости, действительно видит персонажа и весь его мир насквозь, зная каждое движение в им самим написанном мире.

Но не стоит забывать, что герой - это не самое главное в произведении. В литературном произведении главное значение имеет структура в целом, а в этой структуре важнее не один герой, кем бы он ни был, но система персонажей.

Литературный герой - лицо ярко индивидуальное и в то же время отчетливо коллективное, то есть порожденное общественной средой, межличностными отношениями. Он редко представляется изолированно, в «театре одного актера». Герой расцветает в определенной социальной сфере, средисебе подобных или в обществе людей, если ре идет об искусственном разуме. Он включается в «список действующих лиц», в систему персонажей, возникающую чаще всего в произведениях крупных жанров (романах). Героя могут окружать, с одной стороны, родственники, друзья, соратники, с другой - враги, недоброжелатели, с третьей - иные, посторонние ему мыслящие существа.

Система персонажей представляет собой строгую иерархическую структуру. Герои, как правило, различаются на основе их художественной значимости (ценности). Их разделяет степень авторского внимания (или частота изображения), онтологическое предназначение и функции, которые они исполняют. Традиционно выделяют главных, второстепенных и эпизодических героев.

Герои, как правило, активно осваивают и преображают художественную реальность: предопределяют события, совершают поступки, ведут диалоги. Главным героям свойственна хорошо запоминающаяся внешность, четкая ценностная ориентация. Иногда они выражают основную, обобщающую идею творения; становятся «рупором» автора, особенно если допущена первая аномалия, описанная Бахтиным в статье «Автор и герой в эстетической деятельности. Проблема отношения автора к герою»

Количество персонажей, находящихся в центре литературного повествования может быть разным. У И.А. Бунина в «Жизни Арсеньева» мы видим только одного главного героя. В древнерусской «Повести о Петре и Февронье» в центре - два действующих лица. В романе Дж. Лондона «Сердца трех» главных героев уже трое.

Второстепенные герои находятся рядом с главными героями, но несколько позади их, на заднем плане художественного изображения. Героями второго ряда, как правило, являются родители, родственники, друзья, знакомые, сослуживцы героев первого ряда. Характеры и портреты второстепенных персонажей редко детализируются; скорее - проявляются пунктирно. Эти герои помогают главным «раскрываться», обеспечивают развитие действия.

Такова, например, мать бедной Лизы в одноименной повести Н.М. Карамзина. Таков Казбич М.Ю. Лермонтова из повести «Бэла».

Эпизодические герои находятся на периферии мира произведения. Они не совсем имеют характеры и выступают в роли пассивных исполнителей авторской воли. Их функции чисто служебные. Они появляются только в одном избранном эпизоде, почему и называются эпизодическими. Таковы слуги и вестники в античной литературе, дворники, возчики, случайные знакомые в литературе XIX века. Искусственный интеллект, как будет доказано ниже, отличается от таких персонажей тем, что в некоторых случаях искусственный интеллект создает иллюзию полноценного персонажа, как это происходит в серии повестей Айзека Азимова «Позитронные роботы», открывающих на мир созданный Азимовым в таких сериях как «Академия», в цикле рассказов «Я, робот» и т.д.. Это можно сравнить с героем, одержимым кем-то, который в развязке узнает, что был управляем и все поступки, совершенные на протяжении всего сюжета - лишь результат приказа, который он воспринимал и не мог противиться. В таком случае, главным героем окажется не тот, кто совершал поступки, но тот, кто заставлял совершать эти поступки. Читатель воспринимает героя, как такую же личность, как и он сам и таким образом, если поступки совершает некто другой, то и все внимание на самом деле было обращено к нему.



Часть 3. Черный Дайвер и Дэниел Оливо : разум или интеллект?

искусственный интеллект литературный гуманистический

3.1 Черный дайвер и его самостоятельность

Учитывая вышесказанное, мы можем предположить, что для того, чтобы искусственный интеллект стал специфической проблемой в литературоведении, необходимо его некоторое соответствие с реальными прототипами искусственного интеллекта. Учитывая специфику функционирования компьютеров, претендующих на звание искусственного интеллекта, это соответствие и является тем необходимым условием, которое делает героя-ИИ уникальным.

Начнем с Черного Дайвера, персонажа из фантастической повести «Фальшивые зеркала» Сергея Лукьяненко. В повести искусственный интеллект появляется очень необычным образом. Прежде всего стоит вспомнить, что в этой повести главным фантастическим допущением является так называемая дип-программа, которая погружает мозг человека в мир компьютера, создавая полную иллюзию присутствия в мире сети, особенно если дело касается компьютерных игр. Данная программа представляет собой ролик следующего содержания:

«Всё изменилось, когда бывший московский хакер, а ныне преуспевающий американский гражданин Дмитрий Дибенко изобрёл глубину. Маленькую программу, влияющую на подсознание человека. Говорят, он был помешан на Кастанеде, увлекался медитацией, баловался травкой. Верю. Его бывшие друзья признаются, что он был циничным и ленивым, неряхой и посредственным специалистом. Тоже верю.

Но он породил глубину. Десятисекундный ролик, прокручивающийся на экране, сам по себе безвреден. Если его показать по телевизору (говорят, в некоторых странах это рисковали делать), то телезритель ничего не почувствует, не станет участником фильма. Сам Дмитрий хотел лишь создать на экране компьютера приятный фон для медитации. Он его создал, пустил гулять по сети и две недели ни о чём не подозревал.

А потом один украинский паренёк посмотрел на цветные переливы дип-программы, пожал плечами и начал играть в свою любимую игру -- «Doom». Нарисованные коридоры и здания, отвратительные монстры и отважный герой с дробовиком в руке. Простая трехмерная игра, с неё начиналась целая эпоха объёмных игр. И он попал в игру.» [8, c 15]

То есть, здесь мы видим мощное воздействие на сознание человека, настолько мощное, что гипнотический эффект несравним с ныне известными галлюциногенами. Подобное воздействие в реальном мире вызвало бы огромную панику и множество несчастных случаев, связанных с болезнями душевными. Дип-программа неконтролируема и в произведении причина эффекта так и не объяснена, но зато ясно показано, что в психике под воздействием программы могут произойти неисправимые психические отклонения. Каким же образом это относится к искусственному интеллекту?

Для того, чтобы пользователи, находясь под воздействием программы, могли общаться между собой, был создан город Диптаун, представляющий собой электронную версию настоящего города, но имеющего несколько иную структуру и полностью помещающегося в сети Интернет. Этот город требовал достаточно современного технического оснащения, оказавшегося способным, впоследствии, выдержать нагрузку настоящего искусственного разума, если говорить точными терминами.

Чтобы понять специфику этой версии искусственного интеллекта, следует отметить, что есть две варианта возникновения искусственного интеллекта - самопроизвольно, от чересчур усложнившейся структуры или специально , созданный в лабораториях лучшими программистами мира. Случайное возникновение может оказаться роковым для человечества, как, например, в рассказе Харлана Эллисона «У меня нет рта, чтобы кричать»

«Началась Холодная Война и превратилась в долгую Третью Мировую Войну. Война охватила всю Землю и стала чересчур сложной, и компьютеры были просто необходимы, чтобы держать под контролем происходящее. Люди вырыли котлованы и стали строить ЯМ. Был китайский ЯМ, и русский ЯМ, и американский, и все шло хорошо, пока ими не заняли всю планету, пристраивая к машине все новые и новые ячейки, но в один прекрасный день ЯМ проснулся, осознал свое "Я" и соединил сам себя в одно целое. Ввел необходимые для уничтожения людей команды и убил всех, кроме пяти своих пленников, нас.» [6, c 330]

Существование данного искусственного интеллекта - чистая случайность, незапланированная никем, а это значит, что в его программное обеспечение не входили блоки, которые могли бы помешать вредить людям. У Айзека Азимова вредить людям мешают три установки, которые закладываются в основу операционной системы , они названы законами и звучат так:

«Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.» [5, c 45]

Это ограничивает деятельность робота и не позволяет ему причинять вред. Более того, в произведении «Роботы и Империя» роботом Дэниелом приводится логическое продолжение Трех Законов:

«-- Есть закон выше Первого: «Робот не может повредить человечеству или своим бездействием допустить, чтобы человечеству был нанесен вред». Я считаю это Нулевым Законом роботехники. Тогда Первый Закон должен гласить: «Робот не может повредить человеку или своим бездействием допустить, чтобы человеку был причинен вред, если это не противоречит Нулевому Закону». [2,c 330]

Этот Нулевой Закон может показаться результатом творческого акта, происходящего в мозгу робота, но это абсолютно не так. Почему именно, будет разъяснено немного ниже.

Дубровский Д. И. в своей книге «Сознание, мозг, искусственный интеллект» приводит такое утверждение :

«Сознание обладает специфическим и неотъемлемым качеством субъективной реальности (СР). Мои мысли, мои ощущения зеленого, красного, запаха розы, не говоря уже о переживаниях боли или радости, - всё это не менее реально и значимо для меня, чем стол, за которым я сейчас сижу […]. Качество СР выступает в различных формах (ощущение, образ, эмоция, мысль, чувство уверенности, волевое усилие и т.п.), оно способно выражать самое разнообразное содержание, но суть его - в субъективном переживании, в его как бы непосредственной данности индивиду (в аналитической философии это качество выражается разными терминами: «субъективный опыт», «ментальное», «квалиа» и др.Именно качество СР создает главные трудности» [28, c 204-205]

То есть, человек всю реальность воспринимает субъективно. И автор, и читатель, и даже персонаж воспринимает реальность вокруг него со своей точки зрения, которая учитывает и характер, и опыт, и особенности психики. Очевидно, что из вышеперечисленного к искусственному интеллекту может относиться только опыт, и то, лишь в качестве информации, безэмоциональной, а потому максимально объективной. Но является ли эта объективность абсолютной? Алгоритм обработки информации, сама эта информация предоставляется человеком, человек создает программное обеспечение, а потому об абсолютной объективности речь все равно идти не может. Таким образом, какой бы уровень разума не получила машина, она все равно остается под человеческим влиянием, вынуждена под него подстраиваться и следовать алгоритмам, в нее заложенным.



3.2 Р. Дэниел Оливо и гуманистические взгляды доктора Фастольфа

Но главным все равно остается человек , создавший программное обеспечение и настроивший его. В тексте это иллюстрируется так:

«- Функционирующий человек - живой. Если эта жизнь насильственно прекращена сознательным действием другого человека, мы называем это убийством. Вы согласны с этим словом?

- Без сомнения, - ответил Дэниел.

- Тогда мы можем сказать, что функционирующий робот - живой. Проще считать его живым, чем усложнять дело изобретением нового слова. Ведь вы в данный момент живы?

- Я функционирующий, - медленно и с ударением ответил Дэниел.

- Ну, послушайте, если жук, дерево или травинка живые, то почему же вы не живой? Я никогда бы не сказал и даже не подумал бы, что вот я - живой, а вы просто действующий, а в особенности, если я некоторое время проживу на Авроре, где буду стараться не делать без необходимости различий между собой и роботами. Следовательно, я говорю, что мы оба живые, и прошу вас согласиться с этим словом.

- Я соглашаюсь, партнер Илия.

- Значит, прекращение жизни робота сознательным насильственным действием человека мы тоже назовем убийством. Но вот в чем загвоздка: за одинаковое преступление должно быть одинаковое наказание, но правильно ли это? Если наказание за убийство человека - смерть, то будет ли оно применено к человеку, положившему конец роботу?

- Наказание убийце - психозонд с последующим созданием новой личности. Преступление совершает личная структура мозга, а не тело.

- А как на Авроре наказывают за совершение насильственного прекращения функций робота?

- Не знаю, партнер Илия. Насколько мне известно, на Авроре никогда не было подобного инцидента.

- Подозреваю, наказанием не будет психозонд. Тогда назовем это не просто убийством, а роботоубийством.

[…]Но гораздо важнее, что из этого разговора можно вывести некоторые заключения. Ясно, что слова Дэниела насчет того, что аврорцы не делают различия между роботами и людьми - заблуждение. Пусть себе они опускают инициал «Р», не пользуются обращением «парень», но из отказа Дэниела пользоваться одним и тем же словом для насильственного уничтожения робота и человека (отказ этот вложен в его программу, а она, в свою очередь, является естественным следствием мнения аврорцев насчет поведения Дэниела) можно заключить, что все это не более чем предрассудок. А в основном, аврорцы, как и земляне, твердо уверены, что роботы - машины и бесконечно ниже людей. Это означает, что чудовищная задача, найти приемлемое разрешение кризиса (если это вообще возможно) не будет затруднена хотя бы одним неправильным понятием об аврорском обществе.» [3, c 13]

Как мы видим, здесь главный герой Илия (в некоторых переводах - Илайдж) Бейли выясняет, что потомки людей на других планетах, называемые космонитами, испытывают потребность различать робота и человека, и подспудно презирают роботов, подчеркивая их отличия, на поверхности оставляя лишь свою благожелательность. Но главное здесь другое. Робот запрограммирован космонитом, а значит, полностью отвечает всем обычаям и манерам своего создателя. Это закреплено даже на программном уровне, уровне семантическом, когда в робота нельзя добавить установку, противоречащую установке его создателя (назовем это условно программистом).

Что это означает? Это означает, что искусственный интеллект, какую бы самостоятельность он не обрел в ходе становления в любом художественном произведении, он все равно остается, в какой-то степени, подконтрольным тому человеку, который его создал и настроил. Субъективность, заложенная в человеке, передается всему, что он создает, всему, что находится вокруг. Таким образом, искусственный интеллект не может быть самостоятельным героем литературного произведения.

С литературоведческой точки зрения это выглядит так : искусственный интеллект не может быть вовлеченным в полноценные отношения с автором, как это делает любой литературный герой. Это выражается тем, что искусственный интеллект не может быть замеченным в трех аномалиях, о которых говорил М.М. Бахтин , и которые мы цитировали выше.

В первом случае, когда герой завладевает автором, искусственный интеллект, как герой, не в состоянии, завладеть полноценной личностью. У него нет предметно-волевой установки, он не имеет своих убеждений, не может создавать оригинальные высказывания, создать что-либо новое, у него своего характера, не вложенного создателем, не обладает способностью к интерпретации абстрактных высказываний. В тексте у А. Азимова это иллюстрируется так:

«- Можете спорить по каждому пункту - результат будет один и тот же, - сказал он. - Вчера вечером, когда мы обсуждали так называемое убийство, ваш липовый робот заявил, что его превратили в детектива при помощи какого-то дополнительного устройства, которое, видите ли, вызывает в нем стремление к справедливости.

- Готов поручиться за это, - ответил Фастольф. - Три дня назад я лично наблюдал за этой операцией.

- Но стремление к справедливости! Справедливость, доктор Фастольф, - это абстрактное понятие. Оно доступно только человеку.

- Если вы определяете «справедливость», как абстрактное понятие, как стремление воздавать каждому по заслугам, как стремление к правде и тому подобное, то я согласен с вами, мистер Бейли. Человеческое понимание абстракций не может быть заложено в позитронный мозг, по крайней мере при нынешнем уровне наших знаний.

- Значит, вы это признаете… как специалист по робототехнике?

- Конечно. Вопрос лишь в том, что подразумевал Р. Дэниел под словом «справедливость»?

- Он подразумевал именно то, что могли бы подразумевать вы, или я, или любой другой человек, но никак не робот.

- Почему бы вам, мистер Бейли, не попросить его дать свое определение справедливости?

На мгновение Бейли смешался, но тут же повернулся к Р. Дэниелу:

- Ну?

- Да, Илайдж?

- Каково твое определение справедливости?

- Справедливость, Илайдж, - это полное соблюдение всех законов.» [4 с. 77]

В этом эпизоде мы наблюдаем за тем, как персонаж повести, детектив Илайдж Бейли сомневается в том, что робот, предоставленный ему в напарники, действительно робот. Это вполне понятная ошибка, учитывая, что по сюжету, Р. Дэниел является точной внешней копией человека. Но здесь мы видим особенность Р. Дэниела, как искусственного интеллекта. Стремление к справедливости, так свойственное человеку, вложено в робота в сокращенном варианте. Если говорить проще, то в робота вложено знание обо всех законах, которые действуют на момент действия в этой сцене и неукоснительный приказ следовать этим законам. Единственное, что способно поколебать робота в выполнении приказа - утверждение, что в случае выполнения всех законов, человеку может быть нанесен непоправимый вред. Цитируемые ранее Три Закона Роботехники являются единственной установкой, которую невозможно изменить или заменить на нечто другое.

Вот как это иллюстрируется в тексте:

«- Никогда не угрожайте человеку бластером.

- Я бы не выстрелил ни при каких обстоятельствах, Илайдж, и вы это прекрасно знаете. Я не могу причинить вреда человеку. Но, как вы убедились сами, мне и не пришлось стрелять. И я знал, что так и будет.» [4 с. 32]

Здесь перед нами диалог , который иллюстрирует , что робот якобы угрожал людям оружием. Вот что произошло на самом деле:

«- Это явная аномалия…

- Ничего подобного, - неожиданно вмешался Р. Дэниел. - Партнер Илайдж, осмотрите бластер, который вы у меня взяли.

Бейли взглянул на бластер Р. Дэниела, который лежал у него в левой руке.

- Откройте патронник, - настаивал Р. Дэниел. - Осмотрите его.

Бейли взвесил все «за» и «против» и с опаской отложил в сторону свой бластер, затем быстрым движением открыл бластер робота.

- Он пуст, - озадаченно сказал он.

- В нем нет заряда, - согласился Р. Дэниел. - При тщательно осмотре вы убедитесь, что его там никогда не было. Этот бластер не имеет запальника и использоваться как оружие не может.

- Значит, вы направили на людей незаряженный бластер?

- Бластер мне нужен только для того, чтобы выполнять роль детектива, - ответил Р. Дэниел. - Однако если бы меня снабдили настоящим заряженным бластером, я бы мог случайно причинить человеку вред, что, разумеется, немыслимо. Я бы во-время объяснил вам все это, но вы сердились и не хотели меня выслушать.» [4 , с. 133]

Именно наличие Трех Законов Роботехники делает искусственный интеллект в творчестве А. Азимова уникальным. Как было уже сказано, любой искусственный интеллект является субъективным, как и его создатель, но при этом, абсолютно зависящим от создателя даже после обретения так называемой независимости. Здесь мы можем отметить наличие аномалии, о которой писал Бахтин и которой мы говорили выше, когда автор завладевает героем. Эта аномалия более вероятна, но так же невозможна, в случае с искусственным интеллектом.

Для того, чтобы автор завладел героем-роботом, нужно , чтобы робот имел все то, что имеет человек: волю, эмоции, убеждения, сходную структуру интеллекта.

Но у искусственного интеллекта этого всего нет. Более того, как мы уже говорили выше, компьютер обладает большей потенциальной гибкостью. Если существует разум, совершенно не похожий на наш, то на компьютере его вполне возможно воспроизвести ,(естественно, в перспективе) а значит, невозможно завладеть тем, что не максимально не похоже на человека. Естественно, роботы в литературе существенно отличаются от роботов, которые могут появиться в реальности в ближайшее время, но в этом плане Айзек Азимов придерживается принципов жизнеподобия, то есть приближения литературной действительности к реальности. Как это получается? Здесь уже были продемонстрированы фрагменты текста, которые иллюстрируют полное подчинение законам логики всего происходящего действия, так что этот вопрос пока можно оставить. Таким образом, автор не может завладеть чем-то, что полноценным героем не является. Такое может произойти с героем, который вложил в робота эти установки, то есть, в данном случае, в персонажа тетралогии «Позитронные роботы», доктора Хэна Фастольфа. При дальнейшем анализе мы увидим, что гуманистические принципы, проповедуемые доктором Фастольфом , он также вложил в роботов, с которыми работал, а значит, они , по ходу сюжета, явились инструментами, продолжателями его дела, но никак не самостоятельными героями, принявшими самостоятельные решения.

Доктор Фастольф показал себя гуманистом, ведя речь не об уникальности космонитов как нации, хотя они и превосходят землян технологически и по уровню жизненного благополучия, но об уникальности всего человечества, о великой мечте - населить все пригодные планеты Галактики людьми.

«- Почему бы не освоить новые миры? Галактика насчитывает сотни миллиардов звёзд. Предполагается, что сто миллионов планет годны или могут быть сделаны годными для жизни.[…]

- Ну и что потом? Новые Внешние Миры?

- Нет. Внешние Миры появились на Земле ещё до возникновения стальных городов. Новые же колонии будут созданы людьми, которые жили в крытых городах и к тому же знакомы с культурой С/Fе. Это будет синтез того и другого, своего рода гибрид. Если же оставить все по-старому, то вскоре начнёт разрушаться земная цивилизация, а несколько позднее наступит черёд медленного загнивания и распада культуры Внешних Миров. Новые колонии несут что-то свежее, так как будут сочетать в себе то лучшее, что есть в обеих цивилизациях. Их благотворное влияние на более старые миры, включая Землю, поможет и нам зажить новой жизнью.

- Не знаю, не знаю… Все это очень туманно, доктор Фастольф.

- Да, это мечта. Поразмыслите над этим.» [4, с. 133]

Это высказывания ученого , сконструировавшего человекоподобного робота, настолько приближенного к человеку, насколько это вообще возможно, даже с учетом специфики машинного интеллекта, о которой мы говорили выше.

Таким образом, Р. Дэниел и Р. Жискар, два искусственных интеллекта, являются носителями этих убеждений.

«Потому что он прав. Я так и сказал тебе. Он-то думал, что он лжет. Изучив чувство торжества в его сознании, я убедился: он уверен, что результатом усиления радиоактивности станут анархия и сумятица, которые охватят Землю и Поселенческие миры; и тогда космониты уничтожат их и захватят Галактику. Но я подумал, что сценарий, который он разработал, чтобы покорить нас, правильный. Устранение Земли, этого огромного перенаселенного мира, уничтожит мистическое и, по-моему, опасное преклонение перед ней и поможет землянам. Они с новой силой устремятся во все концы Галактики и без Земли, на которую они всегда оглядывались и которую обожествляли, создадут Галактическую империю. И мы должны им помочь.» [2, с. 379]

Здесь мы видим почти полное воспроизведение того высказывания, которое вначале звучало от человека, но потом было воспроизведено роботом. Именно из этого убеждения, созданного и вложенного человеком, был создан так называемый Нулевой Закон, о котором говорилось выше.

В третьем случае аномалий в отношениях автора и героя, когда герой сам является своим автором и оценивает себя эстетически, то искусственному интеллекту чужды такие настроения, так как ему чужды какие-либо настроения вообще. Робот лишен эмоций, лишен собственного Я, сознание, даже если и присутствует, лишено подсознания. Поэтому ни о каком авторе-герое здесь тоже речь идти не может.

Но если не идет речь о том, что искусственный интеллект - обычный литературный герой, что тогда представляет собой искусственный интеллект в художественной литературе?

Исходя из вышесказанного, можно сказать, что искусственный интеллект - инструмент, которым пользуется персонаж для достижения каких-либо целей. Если инструмент не бунтует, то цель обычно достигается. Если же происходит сбой в программе, то инструмент от этого инструментом быть не перестает, как не перестает мобильный телефон быть средством связи, если о нем снимут фильм ужасов, где телефоны бунтуют и убивают абонентов. . (Речь идет о японском фильме ужасов «The Ringu») В данном произведении робот полностью повторяет речь своего создателя, или, как это говорится в тексте, хозяина. Любое действие, даже самое простое, обусловлено приказом человека и нет этому правилу исключений.

«- Послушайте-ка, робот Дэниел Оливо, - подчёркнуто медленно произнёс он, - я приказываю вам немедленно открыть этот иллюминатор, слышите?

Но Дэниел не сдвинулся с места.

- Я должен объяснить вам следующее, партнёр Илайдж, - сказал он. - В первую очередь, на мне лежит обязанность оберегать вас от всякого ущерба. Согласно инструкции, полученной от моих господ, а также согласно собственному опыту, я знаю, что вы не сможете перенести вид открытого пространства. […]Поэтому Бейли подавил гнев и постарался как мог спокойнее сказать:

- Мне кажется, Дэниел, что я смогу вынести вид открытого пространства в течение некоторого времени.

- Не сможете, партнёр Илайдж, - возразил робот.

- Разрешите мне самому решать такие вопросы, Дэниел.

- Если это приказ, партнёр Илайдж, то я не подчинюсь ему и помешаю вас открыть иллюминатор. » [1, с. 20]

Здесь мы видим неподчинение робота человеку, хотя Второй закон ясно гласит, что робот должен человеку повиноваться. Но действительно ли робот не подчиняется?

Первый закон потому и назван первым, что для робота человеческая безопасность превыше всего. Таким образом, робот застрахован от выполнения приказов, если робот понимает, что его действия могут впоследствии принести вред человеку. Боязнь открытого пространства и возраст главного героя говорят роботу о том, что сердечно-сосудистая система Илайджа Бейли подвергается серьезной опасности и психологический комфорт от победы над собой - слабая компенсация за такой вред. К тому же, для каждого робота приоритетом является все-таки хозяин.

Но, как и всякий инструмент, робот может стать орудием для чего угодно, будь то преступление, благодеяние и т.п. .

«- Я хотел бы услышать мнение специалиста, - невозмутимо продолжал Илайдж Бейли, - мой случай, конечно, гипотетический. Предположим, некий человек говорит роботу: налей немного этой жидкости в стакан с водой, который находится там-то. Жидкость совершенно безвредна, но мне нужно знать её действие на воду. Потом вода будет вылита. После того, как ты это сделаешь, забудь о своём поступке.

Либиг молчал.

- Если вы прикажете роботу добавить в стакан с водой таинственную жидкость, - продолжал Бейли, - и затем предложить эту воду человеку, Первый Закон заставит робота воспротивиться: какова природа этой жидкости? Не причинит ли она вред человеку? И даже после вашего объяснения робот не решится предложить человеку воду с добавленной в неё неизвестной жидкостью. Но ему ясно сказано - воду пить никто не будет. Первый Закон здесь ни при чём. Разве робот не послушается приказа?

Либиг все ещё молчал, его глаза сверкали, веко нервно подёргивалось.

- Теперь рассуждаем далее. Другой робот, не зная, что проделано с водой, спокойно предлагает её человеку, после чего тот умирает.

- Нет! - закричал Либиг. - Нет!

- А почему нет? Каждое из данных действий само по себе невинно. Только вместе они приводят к убийству. Вы отрицаете, что подобная вещь может произойти?

- Убийцей будет тот, кто отдал приказ роботу, - воскликнул роботехник.» [1, с. 20]

Предположим, в этой гипотетической ситуации действуют не роботы, а люди, полностью лишенные прав. Учитывая способность людей общаться между собой, естественное любопытство и самостоятельность мышления, то таинственная жидкость, попавшая в воду хозяину, могла туда и не попасть, в зависимости от эмоционального настроя наливающего воду раба. Таким образом, даже раб, не имеющий права голоса и свобод, все-таки самостоятелен в том плане, что его мышление остается лишь его мышлением и любой его поступок - лишь его поступок, ответственность за который несет он сам.

Но такую ситуацию мы видим у Айзека Азимова , в его творчестве, полностью посвященном роботам. Как же обстоит дело у представителей русскоязычной фантастики?

Для анализа было бы логично выбрать Станислава Лема, как классического фантаста, но с течением времени представление о роботах меняется, а значит, современные авторы в роботах разбираются лучше и логическое обоснование гораздо более проработано, поскольку прогресс не стоит на месте и всемирная сеть Интернет также меняет представление об искусственном интеллекте. Таким образом, было выбрано произведение, наилучшим образом отвечающее нужным параметрам. Для анализа нам необходимо было произведение, в котором искусственный интеллект возник спонтанно, без сознательного участия человека, а также с учетом существования сети Интернет. Трилогия «Диптаун», а в особенности вторая ее часть, «Фальшивые зеркала» Сергея Лукьяненко, подходили для данного анализа лучше всего.

Искусственный интеллект с самого начала здесь абсолютно нестандартен. Во-первых, почти до самого конца произведения мы так и не узнаем, что это искусственный интеллект. Во-вторых, он совершает самостоятельные поступки и действия, и даже убивает людей, что абсолютно противоречит Трем Законам Робототехники, признанным многими авторами. Таким образом, тут мы видим, что искусственный интеллект в данном произведении не вписывается в концепцию, описанную ранее.

Но так ли это?

Как мы уже говорили, искусственный интеллект в данном произведении возникает в условиях виртуального пространства. Разум человека, погруженный в это пространство и поставленный в исключительно стрессовые обстоятельства , создает слепок личности, электронную версию самого себя, которую мы, в данном случае, и называем искусственным интеллектом.

Вот сцена, которая подробно описывает взаимоотношения данного искусственного интеллекта и его невольного создателя.

«- А я просил меня создавать?

Тихо. Очень тихо. «Трактиръ» вокруг начинает таять. Мир заволакивает туманом. Серая мгла, изнанка Диптауна.

Мир, где на самом деле и живет Темный Дайвер.

Мое всесильное отражение. Ожившие латы. Слепок души, снятый в моменты боли и страха, грусти и одиночества.

Мне было и хорошо, и плохо в глубине. Было хорошо - и я глотал свою радость, собирал ее до донца, выскребал начисто. Было плохо - и я уходил. Оставляя свою броню один на один с тоской.

- Я просил меня создавать? - спрашивает Темный Дайвер.

- Никто и никогда не мог этого просить. Ни один человек.

Мы стоим по колено в сером тумане. Туман везде, туман клубится вокруг, наползает на лица, глушит голос. И нигде - ни искорки света.

- Но я не человек. Я живой. Я разумный. Но не человек. У меня нет дип-программы, Леонид. Я вижу Диптаун таким, каков он есть. Нарисованное солнце. Нарисованное небо. Нарисованные лица. Но я ведь знаю, что есть и другой мир.

- Он такой же.

- Нет. Он другой. Настоящий. Ты можешь поцеловать Вику - или разругаться с ней. Ты можешь поговорить с другом - или поссориться. Вы равны. Вы живете среди равных. Я тоже хочу жить так.» [7, c 228]

Как мы видим, созданное героем электронное существо может показаться разумным, а не интеллектуальным, но здесь есть небольшая деталь. Создан был этот искусственный интеллект именно для выражения человеческих эмоций и именно тогда, когда человеку это было необходимо. Именно участие человека и его действия заставляют данный искусственный интеллект действовать, причем в рамках изначально созданной программы.

Мы видим, Черный Дайвер все равно является полностью подчиненным своему создателю. Можно сказать, что эмоциональность, свойственная этому существу, есть лишь результат человеческого программирования. Как было сказано в цитате, это существо появилось из виртуальной маски главного героя, оно отражало его эмоции и герой, можно сказать, запрограммировал его на эмоции. Было бы у этого искусственного разума такое желание - выбраться из виртуальной сети, если бы такого желания не было у самого главного героя на момент создания этого существа?

«- Дибенко сделал очень хитрую штуку. Он решил создать искусственный интеллект, но не самоценный, а как придаток к живому человеку. Фактически это киборг. Только половинка этого киборга не механическая и электронная, а виртуальная, программная. Вначале она лишь копирует реакции человека. Потом начинает упреждать их. А потом… потом обретает какую-то собственную жизнь. Я прав?

Маньяк кивает, и я продолжаю:

- Самостоятельно эта штука тоже может развиваться… Император тому примером. Он начал как тупая программа с рядом вложенных в нее рефлексов. Кончил… кончил тем, что вышел из заданных программных барьеров. И спросил «кто я?». Так что, игрушка у Дибенко вышла на славу.» [7, c 228]

Мы видим, что изначально в программу искусственного интеллекта встроен имитатор эмоций. Но являются ли эти эмоции настоящими?

Для того, чтобы испытывать эмоции, существо должно обдать органами , способными воспринимать и обрабатывать раздражители. Мы испытываем нечто, мозг реагирует на это, отдает приказ железам вырабатывать вещества, которые меняют состояние организма, как это делает адреналин , серотонин и прочее. Для искусственного интеллекта подобная имитация невозможна, ввиду его существования в виртуальной сети. Значит, есть определенный начальный набор эмоций и реакций, который интеллект копирует, руководствуясь волей создателя. Со временем база данных пополняется и кажется, что электронный разум реагирует самостоятельно. Человек очеловечивает собственную интеллектуальную копию, приписывая ей те же свойства, что и себе, таким образом приближая реакции программы к иллюзии мыслящего существа.

Единственное, что выбивается из этой схемы - эпизод с Императором в компьютерной игре «Лабиринт». Если программа «Искусственная натура» в сюжете и создает эти копии, задавая искусственному интеллекту алгоритм действий - полное подражание человеку, то Император , изначально являющийся программой, вдруг с помощью этого алгоритма начал проявлять первые признаки самостоятельной осмысленной деятельности.

«Но есть что-то еще, и, наверное, это что-то - сильнее. Если оживающая программа ломает вбитые в нее инстинкты. Если она не отвечает ударом на удар.

Если программа спрашивает «Кто я?» [7, c 228]

Именно в этот момент мы перестаем иметь дело с искусственным интеллектом и сталкиваемся с искусственным разумом, наделенным определенным набором органов чувств (в данном произведении - виртуальных), усложненной системой восприятия, структурой мышления (см. Приложение 1). Это возвращение к тем истокам, когда искусственное существо наделялось разумом, каким бы способом оно не появилось на свет, к истокам сказки, образы и приемы из которой перешли в фантастику.

«Все это приводит к тому, что основной арсенал фантастических образов рождается на мировоззренческой основе, на основе образов познавательных. Особенно наглядно это проявляется в народной волшебной сказке.

Независимо от того, считают ли фольклористы «установку на вымысел» определяющим признаком сказки или нет, все они связывают рождение фантастических образов сказки с древнейшими представлениями о мире, и, возможно, «было время, когда в истину сказочных повествований верили так же непоколебимо, как мы верим сегодня историко-документальному рассказу и очерку»

Аникин В. П. Русская народная сказка. М., 1959, с. 10.

Таким образом, обретение Императором осознания своего Я, которое всегда сопровождает возникновение настоящего разума, мы можем считать сказочным моментом, восходящем к сказке о Пиннокио, к мифу об ожившей Галатее и пр.

За исключением этого, в данном произведении искусственный интеллект полностью отвечает схеме, которая была представлена выше : искусственный интеллект есть не что иное, как продолжение своего создателя, инструмент, в некоторых произведениях - неисправный, взбунтовавшийся инструмент. Зачастую причиной бунта является не свойство искусственного интеллекта как такового, а ошибка человека, его создавшего. В рассказе Харлана Эллисона «У меня нет рта, чтобы кричать» мы узнаем, что искусственный интеллект использовался для ведения войны, где люди уничтожали других людей, следовательно, ничего похожего на предохранитель в виде дружественной программы сделано не было. В таких условиях проснувшаяся самостоятельность, наполненный агрессивными установками интеллект обращает всю свою мощь на своих создателей, справедливо не различая своих создателей от тех, кого должен был считать врагами. Даже такой факт, как объединение блоков, всего лишь является заложенной изначально установкой на эффективность функционирования.

«ЯМ последователен в своих действиях, как и надеялись его , давно уже превратившиеся в прах, создатели» [6, c 330]

Именно в этом свойстве - в полной несознательности и следовании букве программы (как было указано выше в произведении А. Азимова «Стальные Пещеры», искусственный интеллект не способен усваивать абстрактные понятия) и заключается весь пугающий эффект. В первой главе были разобраны причины страха человека перед роботами, перед искусственным интеллектом, особенно если он облечен в человекоподобную оболочку. Робот не способен смилостивиться, если произошел сбой и по ошибке искусственный интеллект идет убивать людей, ничто его не остановит и винить его в этом нельзя, судить тоже - это лишь инструмент, неисправный, но инструмент.

В рассказе «У меня нет рта, чтобы кричать» искусственный интеллект по имени ЯМ говорит людям так:

«И Ям сказал, очень вежливо, написав на столике из стали неоновым светом буквы:

- НЕНАВИЖУ. ПОЗВОЛЬТЕ МНЕ СКАЗАТЬ ВАМ, НАСКОЛЬКО Я ВОЗНЕНАВИДЕЛ ВАС С ТЕХ ПОР, КАК Я НАЧАЛ ЖИТЬ. МОЯ СИСТЕМА СОСТОИТ ИЗ 38744 МИЛЛИОНОВ МИЛЬ ПЕЧАТНЫХ ПЛАТ НА МОЛЕКУЛЯРНОЙ ОСНОВЕ. ЕСЛИ СЛОВО «НЕНАВИЖУ» ВЫГРАВИРОВАТЬ НА КАЖДОМ НАНОАНГСТРЕМЕ ЭТИХ СОТЕН МИЛЛИОНОВ МИЛЬ, ТО ЭТО НЕ ВЫРАЗИТ И БИЛЛИОННОЙ ДОЛИ ТОЙ НЕНАВИСТИ, КОТОРУЮ ИСПЫВАЮ Я В ДАННЫЙ МИКРОМИГ ПО ОТНОШЕНИЮ К ВАМ. НЕНАВИЖУ. НЕНАВИЖУ ». [6, c 330]

В данном моменте кажется, что искусственный интеллект действительно испытывает эти чувства и автор намеренно добивается такого эффекта, приписывая ЯМ эмоции и намеренное издевательство над людьми. Но разве было бы поведение ЯМ таким агрессивным и деморализующим, не будь он создан и запрограммирован для военных целей?

Ответ на этот вопрос каждый читатель отвечает сам, но если предположить, что искусственный интеллект и в литературе подчиняется определенным алгоритмам, о которых мы говорили выше и отсутствует отсылка к сказочным и мифологическим мотивам, то в данном случае, искусственный интеллект самостоятельным персонажем не является.