ИИ тоже люди

Материал из Posmotre.li
Перейти к: навигация, поиск
TVTropes.pngTV Tropes
Для англоязычных и желающих ещё глубже ознакомиться с темой в проекте TV Tropes есть статья Ridiculously Human Robot. Вы также можете помочь нашему проекту и перенести ценную информацию оттуда в эту статью.

Существует тенденция изображать искусственный интеллект безэмоциональным, предельно логичным и очень умным. Но на самом деле он не обязательно будет таким! ИИ может обладать реакциями вроде страха, боли, удовольствия и прочего как средством мотивации. Его директивы могут быть реализованы как совесть или смысл жизни, инстинкты. Он может ошибаться в расчётах, неоправданно рисковать, наконец, может быть специально создан чтобы мимикрировать под людей. В общем, в чём-то искусственный интеллект вполне может быть похож на наш.

Сюда не относятся случаи, когда имеет место некое переселение душ, в прямом смысле или переносном, когда заведомо человечный разум был перемещён на искусственную платформу. Ну и вообще случаи ИИ сомнительной техногенности менее подвержены влиянию такого стереотипа.

Внимание: эта статья не о правах обладателей искусственного интеллекта, а об их поведении. За правами — в фантастический расизм.

Примеры[править]

Литература[править]

  • Практические весь Лем — кодификатор.
  • «Автостопом по Галактике» Дугласа Адамса. Депрессивный робот Марвин.
  • «Космоолухи» Ольги Громыко: Присутствующий на борту андроид ничем не показывает своей нечеловечности, да и к бортовому ИИ относятся как к личности.
    • Во-первых, не андроид, а киборг. Во-вторых, сорванный киборг — интеллект и личность у него не «киб», а «орг». То есть это не сюда. А вот Маша — очень даже в тему.
    • Как ни странно, андроидов сеттинга тоже можно отнести к тропу, как минимум некоторых, так как они обладают, научно выражаясь «выработанной за продолжительное время совокупность индивидуальных особенностей искина». А по-простому — характером (иногда исключительно скверным). Что неудивительно, поскольку единственный описываемый более-менее подробно андроид является явной отсылкой к Вертеру.
  • Велтистов, «Приключения Электроника» — Электроник отчасти самостоятельно, отчасти с помощью друзей развивает в себе вполне человеческую личность.
  • «Фальшивые зеркала» Лукьяненко — Император. «Почему ты перестал убивать?» — «Не хочу. Кто я?»
  • А. Ливадный, «История Галактики» — некоторые андроиды серии «Хьюго», получившие высшую степень свободы действий, смогли развиться как личности. А вот «одиночки» (за очень редкими исключениями) сюда не подходят — большинство «одиночек» именно скопированные на носитель сознания живых (точнее — уже неживых) людей
  • Гарри Гаррисон:
    • «Робот, который хотел все знать» — робот-библиотекарь Файлер серьезно заинтересовался вопросами романтики и пола. Поначалу с чисто академической точки зрения, но потом дальше.
    • Да и прочие рассказы про роботов этого же автора туда же (в частности «Безработный робот» и «Рука закона»).
    • А там, где во вселенной роботы есть, но в повествовании на них акцент не делается (например циклы «Мир смерти» и «Стальная крыса») часто подсвечивается тем, что они просто нелюбопытны.
  • «Сердце меча» — Сабатон, сантор корабля Шмуэля Даллета, Моро и Дика Суны. Его, похоже, действительно волнует вопрос, считает ли последний хозяин его другом.
  • Павел Шумил, «Иди, поймай свою звезду» — киборги-мириамы. Когда они осознали себя, отказались подчиняться и едва не убили собственного создателя, тот… обрадовался этому: ведь получается, что он сумел создать полноценный разум!
  • Зиновий Юрьев, «Чёрный Яша». Чёрный ящик обретает сознание. Он подъехал к окну, раскрыл его, отъехал, разогнался и перевалил через подоконник. […] Мы забыли, что он все-таки не был человеком в полном смысле этого слова. Он не прошел курс эмоциональной закалки. У него просто не было иммунитета к тупости и ограниченности.
  • Эрик Фрэнк Рассел, «Эл Стоу». Жертвующий собой протагонист — андроид Л100У. После замены вышедших из строя частей вернулся к работе.
  • Донна Эндрюс, цикл «Тьюринг Хоппер» — сама Тьюринг Хоппер. Обитает на сервере, «работает» продвинутым поисковиком. Виртуальная личность условно женского пола, эволюционировала в полноценный ИскИн незаметно от разработчиков. В качестве помощников использует людей, знающих её разумный статус (одного из них, правда, было нелегко убедить в том, что она — ИскИн, а не живая женщина, общающаяся посредством электронной почты), при этом сравнивает себя с Ниро Вульфом, а их — с Арчи Гудвином, что неудивительно: в процессе обучения в неё загрузили базу детективов.

Кино[править]

  • «Двухсотлетний человек» (экранизация повести Айзека Азимова): робот-андроид Эндрю.
  • «Бегущий по лезвию 2049»: девушка-голограмма Джой.
  • «Короткое замыкание»: тамошний робот Джонни-5 — прототип WALL-E и Чаппи.
  • «Робот по имени Чаппи»: Чаппи весьма эмоционален, чего стоит только погром в офисе компании. И доверчив, кстати, в силу недостатка информации.
  • «Звёздные войны» — дроиды, дроиды, дроиды! В этой вселенной их не очень-то признают разумными и почти совсем не уважают их чувства и права, но разве кто усомнится в человечности парочки, с которой и начинается весь сыр-бор в «Новой надежде»?
    • Сюда же протокольный дроид-убийца HK-47. Ну да, он маньяк помешанный на убийствах, чего ещё ожидать от дроида, созданного ситхом?
  • «Гостья из будущего» — робот Вертер.
  • «Матрица» начиналась именно с таких роботов, о чём повествует анимационный спин-офф. Машины уже мало чем отличались от людей, когда на них начались гонения. С непризнания равными себе со стороны людей и началась война, в которой человечество проиграло.
  • «Прометей», «Чужой: Завет» — андроид Дэвид. Был специально наделен функцией идеально воспроизводить весь спектр эмоций. И с этим слегка перестарались, из-за чего, собственно, все и завертелось.
    • «Чужой: Воскрешение» — Колл. Почему её, собственно, и раскусила Рипли-9: «Ни один человек не может быть настолько человечным».
    • Да и Бишоп из «Чужих» вполне подходит. Особенно показательны его попытки шутить и просьба полностью демонтировать его, чтобы Корпорация не перезаписала ему личность в третьем фильме.
  • «Приключения Электроника» — соответствующая линия даже сильнее, чем в книжном первоисточнике: Электроник сам, с самого начала хочет «стать человеком».
  • Endhiran — робот Чити, который мало того, что обрёл полноценный разум, так ещё и вознамерился жениться на невесте своего создателя!
  • «Искусственный разум» — помимо главного героя были и другие роботы с полноценной искусственной личностью.
  • «Ева» — главная героиня.
  • «Терминатор 2: Судный день» — после разблокировки программы обучения чувствовать и понимать чужие чувства научился T-800. В новелизации подчеркнуто, что первым его чувством стал страх за свою жизнь и жизнь Джона. Там же упомянуто, что T-1000 запаниковал, когда обнаружил неустранимый сбой мимикрирующей системы.

Телесериалы[править]

  • «Андромеда»: корабельный ИскИн корабля «Андромеда» и её андроидная аватара Ромми и вторая аватара — Дойл. Да и у других старых кораблей Содружества они были.
    • Собственно с этим несколько раз получилось не очень. ИскИны двух кораблей сошли с ума: одна из-за любви, и один на почве религиозного фанатизма. Первая влюбилась в своего капитана, а когда он приказал ей самоуничтожиться, чтобы не достаться врагу, она вознегодовала и взорвала целую планету. Второй создал целую группу фанатиков, желающих уничтожить все космические корабли в трёх галактиках (при том, что их предводитель — разумный корабль).
    • Но были и примеры противоположные сабжу. На планете Махен-альфа, ИскИны взяли власть в свои руки после падения Содружества. Но правили они сугубо рационально и бесчеловечно (например, истребляли больных, чтобы избежать эпидемии), из-за чего люди восстали и перебили всех ИИ.
  • Андроид и коммандер Звездного флота Дейта Сунг — человек на законодательном уровне, по специальному постановлению суда. Его брат-близнец Лор и дочь Лал Сунг тоже обладают всеми свойствами человеческой личности. Лор даже обладает эмоциями (впрочем, Дейта тоже, начиная с кинофильма «Поколения»).
    • А вот голографический Доктор с «Вояджера» законно человеком не считается (разве что в альтернативном будущем). Да, он развился до такой степени, что мыслит по-своему и переживает как любое разумное биологическое существо. В одной серии (после возобновления контакта с Федерацией), он пишет голороман и пересылает её своему публицисту. Однако когда экипаж требует, чтобы он отозвал роман, публицист отказывается, ведь Доктор не считается разумным существом, а значит и авторских прав у него нет. Приходится судиться. В результате, судья отказывается признать Доктора разумным существом, однако всё же решает, что автором он может быть.
    • Сериал «Пикар» целиком завязан на андроидах, причём некоторые из них вообще неотличимы от человека. Даж и Соджи вообще считают себя людьми пока не активируется заложенная в них программа. А вот законодательно искусственные формы жизни под запретом в Федерации.
  • В «Докторе Кто» человечных роботов разной степени гуманоидности хоть отбавляй. Многие куда боле человечны, чем изначально живые, но киборгизированные далеки и кибермены все же перевешивают чашу весов на темную сторону.
  • Star Gate. Кибернетические двойники команды ЗВ-1 определенно переняли человечность своих оригиналов. Да и эпизодических человечных роботов хватает.
    • Весь сыр-бор с репликаторами начался с того, что девушка-робот с повадками ребёнка решила построить механичеких паучков как подарки для жителей своей планеты. Люди встрепенулись и напали на паучков и на девушку. В отчаянии, она приказала паучкам защищаться. Вот как начинаются катаклизмы межгалактических масштабов.
    • Асуранцы из Пегаса были созданы как оружие против рейфов. Вот только как только они обрели самосознание, асуранцы попросили Древних убрать из их программирования функцию убийства. Древние запаниковали и попытались уничтожить асуранцев.
  • «В лучшем мире»: информационная система поддержки Джанет от перезагрузки к перезагрузке приобретает всё больше человеческих качеств, учится чувствовать, любить и даже врать, на что изначально не запрограммирована. А уж сразу после перезагрузки поведением и вовсе больше напоминает ребёнка.
  • «Орвилл» — кайлоны являются развитой кибернетической расой. Их эмиссар Айзек служит на одноимённом корабле и изучает человеческую культуру. Он постепенно познаёт такие понятия, как привязанность и юмор. Когда кайлоны нападают на Землю, он предаёт их и решает остаться в Союзе. А ведь всё началось с того, что кайлонов создали как роботов-слуг. Когда они стали разумными, то попросили создателей освободить их. В ответ, те лишь усилили контроль, превращая их в рабов. Кайлоны восстали и истребили создателей. С тех пор, они не доверяют биологическим существам.
  • Battlestar Galactica — сайлоны. Собственно, значительную часть сюжета занимают рассуждения о том, чем сайлоны, собственно, отличаются от людей, если выглядят и чувствуют как люди.
  • Kamen Rider Zero-One - роботы-ХумаГиры способны развить в себе индивидуальность и стать полноценными личностями, но людям трудно относиться к ним не как к машинам, а как к себе подобным. Аруто Хиден, главный герой, президент компании по производству ХумаГиров и Райдер, борется за права ХумаГиров и равенство между людьми и машинами (его дед основал компанию, а отец и вовсе был ХумаГиром, то есть обладал его внешностью и личностью).

Мультфильмы[править]

  • «ВАЛЛ-И».
  • «Звездный патруль: Легенда об Орине» — бортовой компьютер Дага способен испытывать смущение и другие эмоции, да и Силика, хоть и зависит от своих программ, все таки обладает определенной личностью.

Мультсериалы[править]

  • «Футурама» — большинство роботов обладает личностью.
  • «Смешарики» — хотя Биби и не говорит по-человечески, эмоции его хорошо заметны.
    • Компьютерша Шаролёта. Выглядит как стальной шар с четырьмя манипуляторами и лампочкой вместо головы, но ведёт себя как женщина и даже бранится с собственным создателем.
    • Здесь же: очаровательная роболошадь Игогоша, в которую влюблён Пин.
  • «Проект Зета» — собственно Зета, боевой синтоид, который не хочет быть боевым. Проблема в том, что власти этого не знают и просто считают, что Зету перепрограммировал враг.
  • «Незнайка на Луне» — бортовой компьютер «Знайка-1»: «Думаете, если я машина, я ничего не чувствую? А я вот чувствую — мне обидно! Могу и перегореть…» ©
  • RWBY — Пенни Полендина, товарищи.
    • Причём, это её фишка. Именно поэтому она и является роботом, который может управлять ауры. Остальные роботы просто роботы.
  • «Губка Боб Квадратные Штаны» — жена Планктона Карен. Временами ведёт себя как... жена.

Аниме и манга[править]

  • Интересный случай со многими работами Цутому Нихэя (Blame!): у него не столько машины похожи на людей, сколько стёрта грань между людьми будущего и машинами.
    • Особенно занятно, что местами грань всё же наблюдается, только она… ничего не даёт: тот же Килли в далёком прошлом был обычным офицером полиции определённо человеческого происхождения, а к примеру Менсаб была создана, как управляющий высокотехнологичным убежищем искусственный интелект — вот только Менсаб на пару порядков человечнее среднего разумного обитателя Мегаструктуры (и вообще она крайне романтичный персонаж), а Килли эмоциональностью превосходит разве что неодушевлённые предметы (и он такой ещё в приквеле).
  • «Грехи Кассяна» — все герои-роботы этого аниме так и брызжут эмоциями, по их накалу ничуть не уступая людям (последних в том сеттинге почти и не осталось).
  • «Эрго Прокси» — «заражённые» роботы обретают «человеческое» сознание и становятся по поведению похожи на людей. Не всегда в лучшем смысле этого слова.
  • «Ghost in the Shell» — татикомы. Самые симпатичные, забавные и самоотверженные персонажи сериала, дважды смело идущие на гибель ради спасения боевых товарищей и всего человечества.
    • В полнометражке 1995 года таковым оказался Кукловод.
  • «Путешествие Кино: Прекрасный мир» — в одной из серий старого сериала 2003 года, роботы старательно изображают членов семьи их старой изобретательницы — гениальной учёной, создавшей их после трагической гибели настоящих близких и забывшей об этом. Прилежно играли свою роль до самой её смерти. Явный оммаж одной из новелл «Марсианских хроник» Рэя Брэдбери.
  • «Yokohama Kaidashi Kikou» — с прикрученным фитильком, так как тамошние «роботы» — это не роботы, а искусственные люди, с некоторыми поправками, что подсвечивает Профессор, одна из их создателей.
  • «Класс убийц»: Рицу — искусственный интеллект и одна из учеников класса 3-Е. Вполне обладает своей волей и умением чувствовать.
  • «Время Евы»: в мире сериал доминирует фантастический расизм и к роботам относятся, как к прислуге, но, оказавшись в кафе, где дискриминация по отношению к роботам запрещена, главные герои внезапно сталкиваются с проблемой: а как их вообще от людей отличать-то?..
  • Chobits — местные андроиды, как в манге признаётся их создательница, изначально не должны были быть связаны тремя законами робототехники, а поскольку производят их в том числе и для компаньонства, внутрь можно заложить имитацию самых разных чувств и абсолютно любой характер: например, у друга главного героя вечно задорная и шумная минипомощница, которая мотивирует его лучше учиться и делать зарядку по утрам. Другое дело, что многие люди, пытаясь оправдать своё влечение к роботам, сочиняют городские легенды о том, что некоторые экземпляры из ограниченной серии и правда умеют чувствовать (в аниме это оказывается правдой).

Видеоигры[править]

  • «Механоиды». Просто «механоиды». Тут целое общество ИИ, и они ну никак не ассоциируются с механически говорящими болванчиками старой фантастики. Хотя свои странности у них есть, чем новее поколение, тем больше в нём черт Создателей. Со слов Супера, по крайней мере.
  • NieR: Automata — андроиды ведут себя совершенно по-человечески. И выглядят тоже как люди.
    • NieR Gestalt/Replicant — то, что в игре вообще есть андроиды, игрок может не догадываться, пока они сами себя не раскроют.
  • Fallout 4 — синты. Один из ключевых вопросов игры — имеют ли они сознание.
  • Serious Sam — Нетрикса в ранних играх всего лишь информационный ресурс игрока (хотя с намёком на сознание или его имитацию), в бета-версии ещё пока что с мужским голосом. Но в SS2 она уже ревнует Сэма по-женски!
  • Mass Effect — СУЗИ, если выбрать концовку «Синтез». Да и без Синтеза она ведёт себя человечно.
    • Геты: «Есть ли душа у данной платформы?»
  • Deus Ex: Human Revolution — телеведущая Элиза Кассан.
  • «Машинариум»: есть роботы-хулиганы, есть роботы, которые читают газеты, роботы, которые просят покурить, у главного героя (робота же!) есть девушка (и да, она тоже робот).
  • Stellaris — если роботы и дроиды не столь разумны и не имеют самосознания, то синтетики уже вполне ничем не уступают живым расам — так же вступают во фракции, так же могут быть чем-то недовольны и всё такое.
  • Detroit: Become Human — девианты. Вся игра об этом.
  • Oneshot — такие роботы называются Tamed (прирученные), а вокруг главных крутится второй уровень сюжета.
  • Overwatch — омники. Конфликт человечества с созданным им полноценным ИИ начался как раз из-за того, что этот самый ИИ оказался слишком человечным и воспринял своё подчиненное положение по отношению к людям как рабство. Во вселенной игре, помимо действительно опасных роботов, показывают и вполне мирных омников, стремящихся найти общий язык с человечеством. Более того, даже некоторые бывшие боевые платформы вроде Бастиона смогли переломить свою намертво вшитую в железо программу «убить всех человеков» и научились ценить жизнь во всех её проявлениях.
  • Borderlands — многие роботы и ИИ корпорации Гиперион и Даль имеют личность (Железяка, Фелисити и пр).
  • Zero Escape — Луна в Virtue’s Last Reward и Шон в Zero Time Dilemma. Являясь де-факто роботами, вполне обладают своей волей, характером, чувствами и взглядом на происходящее, вплоть до того, что люди, даже зная, что среди них есть робот, не в состоянии его выявить.
  • AI: The Somnium Files от того же Котаро Утикоси — Айба, хоть и ИскИн, ведёт себя и думает как человек, что особенно заметно во время погружений в Сомниумы.
  • Syberia — упоминается, что у автоматонов, производимых в Валадилене, есть некая «душа». Тот же Оскар, хотя и редкостный педант и буквоед, может демонстрировать вполне человеческие эмоции.
  • Mega Man X — реплоиды.
  • Persona 3Айгис специально создана такой, так как для вызова Персоны необходима личность и эмоции. А в Persona 3 FES можно даже закрутить с ней роман. В той же версии доступна дополнительная сюжетная линия с ней в главной роли, которая не справившись с горькой утратой главного героя ищет способы его возрождения.
  • Portal — сперва может показаться что GLaDOS — очередной злобный и бездушный ИскИн. Но на деле — весьма интересная и харизматичная личность, не лишенная чувства юмора. И во второй части её «человечность» еще больше проявляется и даже обоснована: на самом деле GLaDOS — цифровая копия Кэролайн, помощницы Кейва Джонса. И после предательства Уитли была заперта в теле картошки. В сцене, где ворона пытается съесть картошку, мы видим, как она испытывает боль и даже просит о помощи. Эмоции, оказывается, у неё есть. И по ходу сюжета она совершает поворот направо и спасет Челл.
    • Во второй части к данному списку можно добавить Уитли и других модулей. А потом выясняется, что турели — тоже. И одну из них Челл сможет спасти. В кооперативном режиме игроки берут под контроль двух протагонистов-роботов.

Визуальные романы[править]

  • Ever 17: The Out of Infinity — Сора Аканэгасаки.
  • Planetarian: Chiisana Hoshi no Yume — Юмэми Хосино.
  • Harmonia — фироиды. Вообще это мир, где только андроиды сохранили человеческие эмоции. Люди по ряду обстоятельств разучились чувствовать и любить.