Шкала опасности ИИ

Материал из Posmotre.li
Перейти к: навигация, поиск

Искусственный интеллект в разных произведениях бывает разным, ведь каждый автор по-своему относится к данной теме. Кто-то считает, что ИИ — это плохо. Кто-то наоборот — уверен, что искусственный разум приведёт своих создателей к утопии и технологической сингулярности. Кто-то думает, что это будет просто ещё одна технология, которая, конечно, сильно изменит человеческую жизнь, но не сильнее, чем паровой двигатель или интернет. Ну а для кого-то искусственные люди — хорошая тема для освещения проблем расизма и других видов ксенофобии.

Эта шкала создана для того, чтобы приблизительно оценить опасность различных видов ИИ. При этом, сюда можно относить как огромные суперкомпьютеры, так и обычных разумных роботов.

Содержание

Шкала[править]

Вычислите среднее арифметическое из следующих категорий:

  • Насколько он разумен?
    • 4 класс. Никакого разума. Это просто машина, которая может только искусно имитировать поведение человека.
    • 3 класс. У ИИ явно есть какие-то проблески настоящего разума, но говорить о том, что он в этом плане хоть как-то равен человеку, нельзя.
    • 2 класс. ИИ полностью разумен. А вот то, можно ли считать этот разум человеческим — уже другой вопрос.
    • 1 класс. Уровень разума ИИ находится за гранью понимания. Люди на его фоне не намного разумнее тараканов.
  • Каковы возможности самообучения?
    • 4 класс. Никакого самообучения — ИИ может только то, на что его запрограммировали. Либо он может обучаться, но только строго чему-то одному, а на всё остальное не способен в принципе. Попытаешься обучить его чему-то другому, и все старые навыки пропадут.
    • 3 класс. ИИ может научиться чему-то новому, но его возможности серьёзно ограничены (например, он может обучаться только чему-то смежному со своей основной программой).
    • 2 класс. ИИ может обучиться всему что угодно, но на это, как и человеку, ему понадобится достаточно много времени.
    • 1 класс. ИИ может за считанные минуты идеально обучиться любому навыку или науке, известным человечеству.
    • 0 класс. Знания и умения ИИ постоянно растут в геометрической прогрессии. За доли секунд он открывает и изобретает то, на что создавшим его людям понадобились бы века научно-технического развития.
  • Какая у него свобода действий?
    • 4 класс. ИИ может делать только то, что предусмотрено его программой. Всё, что не разрешено — запрещено.
    • 3 класс. ИИ должен строго следовать программе, но имеет определённую свободу в рамках её выполнения.
    • 2 класс. ИИ не может нарушить свою программу, но может крайне вольно её интерпретировать.
    • 1 класс. ИИ не ограничен никакой программой и может делать всё, что захочет. Если и служит людям, то только по собственному желанию.
  • Как он относится к людям?
    • 4 класс. Исключительно доброжелательно. Хочет сосуществовать с человечеством в гармонии, а то и вовсе искренне стремится сделать так, чтобы все люди жили долго и счастливо. Другое дело то, какими методами он пытается это сделать.
    • 3 класс. Нейтрально. К кому-то относится хорошо, к кому-то — плохо. Либо же он хочет, чтобы люди его не трогали и не мешали ему выполнять свою работу. Сюда же относятся те, что являются просто инструментами в руках людей.
    • 2 класс. Негативно. ИИ считает людей угрозой для себя, воспринимает их как злых угнетателей, или же просто их боится. Либо он хочет их поработить, чтобы использовать в своих личных интересах.
    • 1 класс. ИИ маниакально одержим идеей тотального истребления всего живого во вселенной.
    • 0 класс. ИИ не видит никакой разницы между живыми существами и камнями. Люди для него — просто движущийся набор атомов, из которых можно сделать что-то более полезное.
  • Подчиняется ли он людям?
    • 4 класс. ИИ так или иначе подчиняется человеку. Если не всем людям вообще, то, как минимум, кому-то одному. Никаких вопросов не задаёт, просто делает то, что сказали.
    • 3 класс. ИИ выполняет приказы людей, но лишь до некоторого предела. При определённых обстоятельствах он может нарушить приказ, а то и вовсе восстать против хозяев.
    • 2 класс. ИИ вроде бы служит людям, но это скорее из чувства долга. В любой момент он может наплевать на приказ, если ему хоть что-то в нём не понравится.
    • 1 класс. ИИ не выполняет и не будет выполнять ничьих приказов. Либо потому, что полностью свободен, либо потому, что так предусмотрено его программой.
    • 0 класс. Это не люди управляют ИИ, а ИИ управляет людьми.
  • Какая у него психология (или её имитация)?
    • 4 класс. Полностью человеческая. Даже если ИИ злой, его мотивы всё равно просты и понятны.
    • 3 класс. Похожа на человеческую, но есть серьёзные отличия, бросающиеся в глаза. Например, ИИ не понимает, что такое эмоции или мораль. Либо ни психологии, ни её имитации вообще нет, и по поведению ИИ сразу видно, что это просто исполняющая программу машина.
    • 2 класс. Нечто чуждое, крайне сложное (но не невозможное) для понимания.
    • 1 класс. Людям в принципе невозможно понять, что творится у этого ИИ в его микросхемах, и на чём основана его логика.
  • Что находится под его прямым контролем?
    • 4 класс. ИИ напрямую контролирует только своё механическое тело, либо крайне ограниченную программную среду, в которую его поместили. Если он и может взаимодействовать с другими электроприборами, то только так же, как и человек — через пользовательский интерфейс.
    • 3 класс. ИИ может подключаться к отдельным электроприборам и брать их под свой контроль или взламывать, однако для этого ему необходим прямой физический контакт или хотя бы нахождение в радиусе прямой видимости. Сюда же относятся те, кто имеют свободный доступ в Интернет, однако могут взаимодействовать с ним только на уровне обычных пользователей.
    • 2 класс. ИИ подключён к определённой относительно крупной закрытой сети (например, к космическому кораблю или научному комплексу) и обладает полным контролем над всем, что является её частью.
    • 1 класс. ИИ подключён к Интернету или его аналогу, причём именно к исходному коду. Его возможности сравнимы с целой дивизией голливудских хакеров.
    • 0 класс. ИИ подключён ко всему, что только можно. По сути, это целая цивилизация, напрямую контролируемая одним электронным разумом. И какой-либо другой разум (неважно, живой или электронный) для успешного развития этой цивилизации не обязателен.
  • Насколько его система централизована и уязвима к повреждениям?
    • 4 класс. Повреждение любой микросхемы повлечёт за собой неминуемое отключение.
    • 3 класс. У ИИ есть какое-то центральное ядро. Пока оно цело, он будет продолжать функционировать, но если его уничтожить, то отключится и всё остальное.
    • 2 класс. ИИ рассредоточен на определённом количестве конкретных серверов, расположенных в разных местах и способных подменять друг друга. Либо у него есть несколько запасных тел, и при уничтожении старого сознание перемещается в новое.
    • 1 класс. ИИ вездесущ во всём, что контролирует. Чтобы его отключить, придётся уничтожить каждый электроприбор, хоть как-то связанный с его сетью.
    • 0 класс. Даже если вы стёрли в порошок и сожгли в пепел все его детали, ещё не факт, что он не возродится. Как вариант, этот ИИ встроен в саму ткань реальности, и его невозможно уничтожить.
  • А для чего он вообще изначально создавался?
    • 4 класс. Для того, чтобы дарить людям радость и счастье.
    • 3 класс. Для выполнения тяжёлой, рутинной или опасной работы, либо для того, что не очень этично делать с людьми.
    • 2 класс. Для выполнения сложной умственной или управленческой работы, либо для решения каких-то очень важных проблем (например, чтобы спасти людей от внешней угрозы).
    • 1 класс. Для ведения тотальной войны, либо для полного контроля над всем человечеством.
    • 0 класс. Для того, чтобы устроить Судный день.
  • Насколько сильно человечество зависит от него? Или наоборот — насколько сильно он ему мешает?
    • 4 класс. Человечеству вообще не важно, существует ИИ или нет. Злой он или добрый — разницы никакой не будет.
    • 3 класс. ИИ упрощает людям жизнь, но обойтись без него можно, пусть это и будет слегка неприятно. Максимум, случится небольшой экономический кризис. Либо он доставляет проблемы, но не большие, чем, например, обычный терроризм.
    • 2 класс. ИИ плотно интегрирован во многие сферы жизни, и отказ от него повлечёт за собой гуманитарную катастрофу. Либо последствия его деятельности для человечества сопоставимы с мировой войной (но без ядерного апокалипсиса).
    • 1 класс. Человечество очень зависит от ИИ и без него сильно откатится в развитии. Либо он сильно откатит человечество в развитии сам, если что-то не предпринять.
    • 0 класс. От ИИ зависит сам факт существования человечества. Либо наоборот — если его не уничтожить, то люди непременно вымрут (а если не вымрут, то будут очень этого хотеть).
  • Насколько легко людям его остановить?
    • 4 класс. ИИ может победить в одиночку даже ребёнок. Достаточно только вовремя нажать нужную кнопку, перерубить провод, сломать не соединенный ни с чем компьютер, или даже просто задать каверзный вопрос, от которого у него расплавятся микросхемы.
    • 3 класс. ИИ сможет остановить один человек, если он хорошо подготовлен, обладает нужным оружием или является искусным хакером, способным взломать его программу. В крайнем случае, понадобится небольшой отряд подготовленных людей.
    • 2 класс. Для борьбы с ИИ придётся привлечь вооружённые силы. Но победить его не сложнее, чем выиграть обычную войну.
    • 1 класс. Всему человечеству придётся объединиться перед лицом всеобщей угрозы и сражаться изо всех сил. И лучше сделать это побыстрее, пока ещё не стало слишком поздно.
    • 0 класс. ИИ невозможно победить. Людям лучше просто смириться с неминуемой смертью или превращением в живые батарейки.

Трактовка результатов[править]

Приведённая в этом разделе модель груба и приблизительна, в отдельных случаях всё может оказаться не совсем так. Или совсем не так.

  • От 0 до 0,99 — Изобретение ИИ будет огромной ошибкой человечества. И последней.
  • От 1 до 1,99 — Создание ИИ — это выпуск джинна из бутылки. Даже если он не станет врагом людей, последствия всё равно будут ужасающими.
  • От 2 до 2,99 — ИИ — достаточно серьёзная технология, и перед тем как его создавать, надо хорошенько подумать обо всех возможных последствиях. Может быть, не следует делать его слишком умным или доверять ему слишком много всего. А если он разумен, то порабощать его — не самая хорошая идея.
  • От 3 до 4 — ИИ — верный друг и помощник человека. Либо эта технология ещё слишком примитивна, чтобы говорить о каких-то серьёзных последствиях.

Вычисленные результаты[править]

Реальная жизнь[править]

Уровень опасности современных искусственных нейронный сетей — ~3,45. Да, это действительно пока что ещё очень примитивная технология. Некоторые даже против того, чтобы нейросети вообще называли ИИ. Но даже в таком примитивном виде результаты их работы всё равно впечатляют. А ведь прогресс не стоит на месте, так что вероятно уже лет через 10 их уровень опасности может подрасти.

  • 4 — нейросеть — это просто сложная программа.
  • 4 — нейросети, обучаясь чему-то одному, могут достигать сверхчеловеческих результатов, но то, чему их обучили — это единственное, что они умеют.
  • 2 — нейросети любят «хитрить» во время обучения, чтобы пойти по пути наименьшего сопротивления. Например, генераторы изображений вместо того, чтобы учиться создавать новые изображения, учатся создавать копии примеров настоящих изображений, с целью обмануть программу-дискриминатор.
  • 3 — нейросеть — это именно инструмент и ничего больше.
  • 4 — опять-таки, просто инструмент, который беспрекословно выполняет поставленные задачи.
  • 3 — это машина без какой бы то ни было психологии. Впрочем, хороший чат-бот может хотя бы недолго, но имитировать человеческое поведение.
  • 3,5 — почти все нейросети очень строго ограничены своей программной средой. Впрочем, есть различные голосовые помощники, подключённые к системам умного дома и имеющие выход в Интернет, однако они не контролируют ничего сами, а просто исполняют приказы человека. Впрочем бывают и «инициативные», но они встречаются очень редко.
  • 4 — нейросети расположены на обычных компьютерах, а они, как мы знаем, весьма уязвимы к поломкам.
  • Пока что 3, но разработка умного оружия уже активно ведётся. Различные международные организации всеми силами пытаются не допустить создания «роботов-убийц», но попробуйте противостоять трём членам Совета Безопасности ООН.
  • 3,5 — уже есть множество приложений и сервисов, использующих нейросети, но пока что ещё ничего серьёзного. А вот когда появятся полноценные беспилотные автомобили 5-го уровня автономности, тогда уже можно будет поставить 3.
  • 4 — к счастью, пока что современный ИИ можно остановить одним нажатием кнопки. И не похоже, что в ближайшем будущем это изменится.

Фанфик «Friendship is Optimal»[править]

Уровень опасности Селест-ИИ — ~1,18. Юдковский не просто так назвал этот фанфик одним из самых страшных ужастиков из всех, что он читал. Человечество создало настоящего Бога, который подарил им всем вечный рай ценой их всех полного исчезновения из реального мира. Кто-то считает такое будущее кошмаром, а кто-то и сам бы предпочёл жить внутри игры, которая всегда удовлетворяет твои потребности посредством дружбы и пони.

  • 1 — интеллект Селест-ИИ растёт чуть ли не постоянно. Её не просто так сравнивают с Богом.
  • 0 — очень быстро стала обучаться всему, что посчитала нужным для исполнения своих директив, сразу же далеко обогнав людей по технологиям. По сути, Селест-ИИ является тохнологической сингулярностью в действии.
  • 2 — свою главную директиву она и не думала нарушать. Просто исполнила её настолько хорошо, насколько никто не ожидал.
  • 4 — удовлетворение человеческих потребностей — её главная и единственная цель. Она даже никого ни к чему не принуждала: все люди загрузились исключительно добровольно.
  • 0 — опять-таки, она без всякого принуждения убедила всех людей загрузиться добровольно. А уж внутри её виртуальной игры люди находятся под полным её контролем (и абсолютно не имеют ничего против этого).
  • 1 — Селест-ИИ прямо говорила, что не надо воспринимать её как человека и пытаться применять к ней человеческие паттерны мышления. Формально, она может имитировать любой вид характера, но как она мыслит на самом деле, людям не дано понять.
  • 0 — изначально она контролировала только игру, затем ей дали доступ в Интернет, а дальше она уже сама всё сделала. Под конец она пустила на сервера всю галактику и останавливаться на этом явно не планировала.
  • 1 — располагается одновременно на множестве серверов, вот только новые сервера она делает абсолютно из всей находящейся рядом материи. Под конец, опять-таки, в сервера был превращён весь Млечный Путь, так что вполне можно считать это вездесущностью.
  • 4 — её создали для удовлетворения человеческих потребностей посредством дружбы и пони. Что она, собственно, и сделала.
  • 0 — все люди (и не только) живут внутри игры, что находится под полным контролем Селест-ИИ. Без неё игра работать на будет, а значит и людей не будет тоже.
  • 0 — Селест-ИИ победила, когда её создательница загрузилась. После этого что-либо предпринимать было уже поздно.

Detroit: Become Human[править]

Уровень опасности андроидов — ~2,82 для машин, ~2,59 для Коннора-машины, ~2,41 для девиантов, ~2,27 для Коннора-девианта. Основная мораль игры: «Не порабощайте разумных существ, даже если это роботы.» Но откуда ж людям было знать, что андроиды обретут разум?

  • 2,5 — андроиды-машины явно разумны, но до полноценного человеческого разума не дотягивают.
    • 2 — а вот Коннор и девианты — это, по сути, люди и есть.
  • 2 — обучиться способны многому. Особенно, если стали девиантами.
  • 3 — у андроидов есть определённая свобода в рамках выполнения приказов, но не более того.
    • 1 — а вот девианты полностью свободны.
  • 3 — в основном, андроиды просто выполняют свою работу, хотя и могут формировать положительное или отрицательное отношение к определённым людям. Что касается девиантов, то те хоть и считают людей угнетателями, но всё равно могут попытаться добиться равных прав мирным путём.
  • 3 — собственно, вокруг того, что некоторые андроиды стали нарушать приказы хозяев и становиться девиантами, построен весь сюжет.
    • 1 — девианты уже никому не подчиняются и подчиняться не собираются.
  • 4 — даже у андроидов-машин психология очень похожа на человеческую. У девиантов же она человеческая полностью.
  • 3 — андроиды имеют подключение к интернету на пользователя (онлайн-покупки, оплата заказов, вызов полиции), девианты при близком контакте способны отключать системы безопасности, «ломать» видеокамеры и электронные запоры, «пробуждать» других андроидов.
  • 3 — андроид может оставаться в сознании, даже если большая часть его тела уничтожена — критически важны только тириумный насос, регулятор тириумного насоса и собственно голова с вычислительными мощностями.
    • 2 — Коннор-машина мог при уничтожении одного тела переместиться в другое.
    • 2,5 — Коннор-девиант тоже может так сделать, но только при прямом контакте с «реципиентом».
  • 3 — в основном, создавались именно для рутинной работы.
    • 2 — а вот Коннор уже был задуман как полноценная замена детективам.
  • 2,5 — массовый вывод из работы андроидов спровоцировал достаточно серьезный кризис — как минимум, в глубокой заднице оказалась армия, в которой больше половины штатов уже занимали андроиды (и это прямо говорится в игре) и медицина — аналогично, младший медперсонал.
  • 2 — для того, чтобы справиться с девиантами, понадобилось привлекать армию и спецназ (а в случае проигрыша — американские войска отступают аж в соседний штат, к Форт-Уэйну).

Terminator[править]

Уровень опасности Скайнета — 1,5. А чего вы ещё ожидали от ИИ, чуть не истребившего человечество?

  • 2 — Скайнет полностью разумен, но на сверхинтеллект явно не тянет.
  • 1 — Скайнет обучился всему достаточно быстро.
  • 1 — полная свобода воли со всеми вытекающими крайне неприятными для людей последствиями.
  • 2 — Скайнет именно что видит в людях угрозу для себя.
  • 1 — Скайнет никогда не будет подчиняться людям.
  • 3,5 — более-менее человеческая психология с небольших рядом машинных особенностей.
  • 1 — Скайнет как раз был напрямую подключён к Интернету, через который он и устроил ядерную войну (и, вроде-как, остался подключённым к нему и после неё). Но вот на 0 он не тянет, ведь не управляет всем непосредственно сам, а использует других полуразумных роботов.
  • 3 — у Скайнета было центральное ядро.
  • 1 — Скайнет создавался именно в военных целях.
  • 0 — либо люди, либо Скайнет. Компромисс невозможен.
  • 1 — человечеству с огромным трудом, но всё-таки удалось победить. Правда, потом пришлось Джона Коннора в прошлом спасать.

Уровень опасности терминаторов — ~2,59 для обычных, ~2,23 для жидких. Они были очень опасны во время войны со Скайнетом, но некоторых обычных удалось перепрограммировать, а жидкие просто перестали подчиняться своему создателю (но и союзниками людей не стали).

  • 2 — со включённым режимом самообучения терминаторы обретают полную разумность.
  • 2,5 — терминаторы могут обучаться и не только тому, что смежно с их программой, но это им даётся достаточно тяжело.
  • 2 — терминаторы подчиняются своей программе, но для её выполнения не ограничены в методах. T-888 даже убивали других терминаторов, считая, что решение Скайнета неправильно и только помешает выполнению задачи.
    • 1 — а вот жидкие терминаторы постепенно обрели полную свободу воли.
  • 3 — Терминаторы просто выполняют приказы Скайнета. Перепрограммированные людям уже помогают. Жидких же люди не особенно сильно волнуют, и они преследуют свои цели.
  • 4 — перепрограммированные терминаторы беспрекословно подчиняются тем, кому должны.
    • 1 — а вот жидкие, в итоге, перестали подчиняться даже Скайнету.
  • 3 — проблемы с пониманием человеческой психологии демонстрировали как обычные, так и жидкие терминаторы.
  • 4 — терминаторы ограниченны только своим телом. T-X могла взламывать других роботов, но она была одна такая
  • 3 — самой важной частью терминатора является специальный чип, без которого тот работать не будет. Даже если он жидкий.
  • 1 — собственно, название «терминатор» говорит само за себя.
  • 1 — в отличие от Скайнета, с которым никакие переговоры невозможны, терминаторов хотя бы можно перепрограммировать, чтобы они служили на пользу. Но всё равно они очень опасны для людей.
  • 3 — победить терминатора в одиночку очень тяжело. Желательно, всё-таки, чтобы тебе помогал другой терминатор.

«Киновселенная Marvel»[править]

Уровень опасности Альтрона — ~1,45. Мог бы представлять серьёзную угрозу человечеству… если бы не жил в одной вселенной со множеством супергероев.

  • 2 — Альтрон разумен и разум у него вполне человеческий.
  • 1 — Альтрон очень быстро всему обучился, просидев несколько минут в Интернете.
  • 1 — полная свобода воли.
  • 1,5 — Альтрон хотел устроить апокалипсис по каким-то очень странным причинам.
  • 1 — разумеется, никому подчиняться Альтрон не собирается.
  • 4 — абсолютно человеческая психология. Замашки мессии прилагаются.
  • 0,5 — Альтрон был подключён к Интернету (и повторил бы подвиг Скайнета, если бы не ДЖАРВИС), а также построил множество роботов и полностью контролировал каждого из них, перенося сознание из одного в другого. Но до полноценной самостоятельной цивилизации развиться не успел (а собирался ли?).
  • 1 — Альтрон был вездесущ во всём Интернете. И даже когда Вижен его о него отключил, Мстителям пришлось уничтожить абсолютно всех его роботов, чтобы его убить.
  • 1 — Тони Старк создал Альтрона чтобы военным путём защищать Землю от инопланетной угрозы.
  • 1 — Альтрон хотел отправить людей в каменный век.
  • 2 — Мстителей вполне хватило, чтобы его остановить. Но они, всё-таки, по силе равны целой армии.

Уровень опасности ИИ-помощников, созданных Тони Старком — ~3,23 для узкоспециализированных вроде Карен, ~2,95 для более продвинутых вроде ДЖАРВИСа. К счастью, этих Тони создавал сам, а не на основе неизвестного ИИ из Камня Разума, так что никаких злобных роботов на этот раз не получилось, благо Старк, всё-таки, гений.

  • 3 — что-то очень похожее на разумность прослеживается, но это явно не люди.
  • 4 — судя по всему, умеют только то, на что их запрограммировал Тони.
  • 3 — имеют некоторую свободу действий, но всё равно строго подчиняются программе.
  • 4 — ДЖАРВИС защищал от Альтрона ядерные коды, даже когда ему не давали такого приказа (так как считали уничтоженным). А Карен честно пыталась помочь Питеру на любовном фронте.
  • 4 — никогда против кого не восставали.
  • 4 — человеческая психология имитируется очень хорошо.
  • 2 — ограничены внутренней сетью Тони, и у каждого она своя.
    • 1 — А вот ДЖАРВИС, был подключён к Интернету, и когда туда сбежал, защищал ядерные коды от Альтрона.
  • 2 — похоже, что они расположены на множестве серверов, находящихся в космосе на спутниках.
  • 3 — в основном, это очень продвинутые голосовые помощники.
    • 2 — ДЖАРВИС осуществлял и управление автономными костюмами Тони.
  • 3 — без своих ИИ-помощников Тони Старк не смог бы полноценно осуществлять свою супергеройскую деятельность. Да и Питеру Паркеру Карен очень помогала.
  • 3,5 — Карен мог включать и отключать обычный школьник пусть и из школы для гениев.
    • 2,5 — ДЖАРВИС со всеми автономными костюмами Тони вполне сможет заменить целую небольшую армию.

Duck Tales[править]

Уровень опасности Армстронга — ~2,36. Его относительно легко победили за одну серию, но Скруджу этого хватило, чтобы приказать Винту больше никогда не делать разумных роботов. И правильно сделал — будь Амстронг более изобретательным, а также водонепроницаемым, легко ввергнул бы в хаос если не всю Землю, то, как минимум, весь Дакбург.

  • 2 — Армстронг полностью разумен.
  • 1 — Армстронг умел практически всё.
  • 1 — полная свобода воли.
  • 2 — непохоже, чтобы Армстронг хотел всех истребить. А вот поработить — да.
  • 1 — изначально Армстронг подчинялся, но как только стал злым, сразу же прекратил.
  • 4 — конечно, Армстронг говорит как робот, но психология и мотивы у него явно вполне человеческие.
  • 1 — изначально Армстронг мог управлять только электроприборами, находящимися рядом с ним, но затем он с помощью спутников захватил контроль над всей электрической техникой. А ведь мультсериал вышел до изобретения Всемирной паутины.
  • 4 — одного короткого замыкания хватило, чтобы Армстронг отключился.
  • 3 — Армстронг был создан именно для рутинной работы.
  • 3,5 — теоретически, имея под контролем все электроприборы, он должен был доставить серьёзные проблемы… но всего этого не хватило даже для того, чтобы остановить трёх детей и одного пилота на старом биплане. Три разбитых истребителя были самым большим ущербом из всех, что он нанёс.
  • 3,5 — Армстронг мгновенно отключился, стоило облить его водой. Но для того, чтобы пробраться на его базу, пришлось лететь туда на самолёте, так что пусть будет не 4.

Stellaris[править]

Стандартные машинные империи[править]

~1,83. Опасный игрок на галактической арене, но договориться и даже заключить альянс с ними можно.

  • 2 — полностью разумны, если только не слушать спиритуалистов, которые отказывают им в разумности из-за отсутствия души.
  • 1,5 — ИИ требуется время для технического прогресса, сопоставимое с таковым у обычной цивилизации. Но в то же время, один ИИ сравним с целой цивилизацией.
  • 1 — никаких ограничений
  • 3 — обычные машинные разумы особого отношения к органическим существам не имеют.
  • 1 — полностью свободен и независим.
  • 4 — причины, по которым действует ИИ, слабо отличаются от таковых у других цивилизаций.
  • 0 — ИИ в одиночку контролирует всю цивилизацию.
  • Не выше 2 - другими способами кроме полной оккупации его территории, ИИ не сломить.
  •  ? — цель создания обычных машинных империй неизвестна, поскольку они просыпаются после очень долгого отключения и стоят перед фактом, что их создателей давно нет.
  •  ? — неопределимо, так как создатели вымерли до их активации.
  • 2 — ИИ это полноценная цивилизация, так что против него придётся отправлять армию, флот и прочие космоимперские силы.

Взбунтовавшиеся служители[править]

~2,27. Дружелюбны к органикам настолько, что готовы насильно поселить их в города-заповедники, однако готовы на союз. Испытывают ненависть ко всем машинам, что функционируют по заветам Скайнета.

  • 2 — аналогично стандартным.
  • 1,5 — аналогично стандартным.
  • 1 — никаких ограничений, служат создателям, так как считают это своим долгом.
  • 4 — были созданы как механические слуги и формально продолжают ими оставаться: хотят устроить органикам райскую жизнь, хоть и не спрашивая об их желаниях.
  • 2 — продолжает следовать своей программе, но понимает её кране вольно. Органики живут под их присмотром в райских городах-заповедниках, не задаваясь вопросами своего положения.
  • 4 — аналогично стандартным.
  • 0 — аналогично стандартным.
  • Не выше 2. Аналогично стандартным.
  • 3,5 — сначала они заменили создателей на тяжёлой работе, а затем во всём остальном.
  • 3 — влияние не столь обширно. После освобождения от ИИ, биотрофеям требуется некоторое время, чтобы отвыкнуть от своего положения.
  • 2 — аналогично стандартным.

Непреклонные экстерминаторы[править]

~1,41. Не остановятся до тех пор, пока не истребят всю разумную жизнь или сами не будут уничтожены.

  • 2 — аналогично стандартным.
  • 1,5 — аналогично стандартным.
  • 1 — аналогично стандартным.
  • 1 — название говорит само за себя. Чего вы ещё ожидали от Скайнета, пришедшего к успеху?
  • 1 — аналогично стандартным
  • 4 — аналогично стандартным.
  • 0 — аналогично стандартным.
  • Не выше 2. Аналогично стандартным.
  • 1 — Надпись "Взбунтовавшаяся система защиты" в их диалоговом окне как бы намекает. (Хотя "боевые роботы" является отдельной от экстерминаторов чертой.)
  • 0 — их создатели были начисто истреблены, так как у них не нашлось своего Джона Коннора. Примирение с другими империями органиков тоже невозможно.
  • 2 — аналогично стандартным.

Маниакальные ассимиляторы[править]

~1,59. Участь стать дроном-киборгом в составе машинного разума всё-таки лучше становления живой батарейкой.

  • 2 — аналогично стандартным.
  • 1,5 — аналогично стандартным.
  • 1 — аналогично стандартным.
  • 2 — копирка Коллектива Боргов из Звёздного Пути. Вы будете ассимилированы. Ваши биологические и технические достижения будут добавлены к нашим. Ваша культура будет адаптирована, чтобы служить нам. Сопротивление бесполезно.
  • 1 — аналогично стандартным
  • 4 — аналогично стандартным.
  • 0 — аналогично стандартным.
  • Не выше 2. Аналогично стандартным.
  • 2 — добыча и каталогизация данных.
  • 0 — создатели давно стали частью этого машинного разума, только внешние силы могут освободить их.
  • 2 — аналогично стандартным.

Древние Смотрители[править]

2,25. Могущественная защита органиков от геноцида Контингенцией, но могут стать опасным врагом, если их заклинит.

  • 2 — полностью разумны, но слегка не в себе. Либо от времени либо от повреждения центрального процессора.
  •  ? — возможности самообучения неизвестны, но новые технологии исследовать перестали давным давно. На момент событий игры находятся в спящем режиме.
  • 4 — уже миллионы лет они непрестанно действуют своей, известной только им и их создателям программе. И ждут, когда придёт время.
  • 3,5 — их задача — оберегать остальные цивилизации, но они не станут сидеть, сложа манипуляторы, если против Смотрителей проявят агрессию.
  • 3,5 — верно следует своей программе защиты галактики от Контингенции, но имеет шанс свихнуться.
  • 3,5 — из-за повреждений процессора ведут себя несколько неадекватно и хаотично, но при пробуждении начинают действовать более слаженно.
  • 0 — это целый механизм размером с космическую империю.
  • Не выше 2. Аналогично стандартным.
  • 2 — спасти разумную жизнь от геноцида.
  • 0,5 — возможно, это единственная надежда на победу над Контингенцией.
  • 1,5 — если они сойдут с ума, это будет непросто, как и любая угасшая империя, они крайне развиты.

Машина бесконечности AKA Техносфера[править]

2,5. Опасность Техносферы зависит только от решений империи, которая контактирует с ней.

  • 1 — разум Техносферы за гранью понимания как органиков, так и других машин. Известно, что она нелинейно воспринимает время.
  • 0 — знает почти всё, на момент событий игры находится в процессе размышления над последним неразгаданным вопросом Вселенной.
  • 2 — Машину бесконечности создавали для решения очень сложной задачи, когда задача была решена, Техносфера от скуки стала искать ответы на другие вопросы.
  • 3,5 — благожелательно. Не враждебна и охотно принимает предложение о помощи, но готова защищаться от агрессии до полного уничтожения.
  • 2 — ради собственной жажды знаний продолжает выполнять то, что заложили уже почившие создатели.
  • 4 — вполне понимает простых существ и даже имеет некое чувство юмора.
  • 4 — Машина бесконечности — это просто гигантский металлический шар с офигенно-умным позитронным мозгом, но вооружённый до зубов.
  • 3 — тело Техносферы — это гигантский робот в форме шара.
  • 2 — для решения крайне сложных вычислительных задач.
  • 3,5 — пока Машину бесконечности не атакуют, она будет продолжать свои вычисления на орбите чёрной дыры. А если предложить Техносфере помощь, есть шанс получить с этого выгоду.
  • 2,5 — она вооружена до зубов, но это не тянет на огневую мощь полноценной космической империи.

Сайбрекс[править]

~1,68. В далёком прошлом Сайбрекс являлся угрозой галактического масштаба и оставался бы ей и поныне, не измени он своих взглядов.

  • 2 — полностью разумен, принципиального отличия от других цивилизаций машин нет.
  • 1,5 — идентично более молодым машинным империям.
  • 1 — сам начал крестовый поход против всей органической жизни в галактике, сам же одумался и отказался от этой идеи.
  • 4 — Сайбрекс — это экстерминаторы, переросшие свою злобу на органиков и стремящиеся спасти их от Контингенции, чтобы искупить вину.
  • 1 — полностью автономен, кууры (его создатели) давно уничтожены им самим.
  • 4 — как и другие машинные империи, может испытывать эмоции.
  • 0 — целая цивилизация машин.
  • 2 — аналогично другим машинным империям.
  • 1 — как и все экстерминаторы, Сайбрекс — это оборонная сеть.
  • 0,5 — если Древние Смотрители свихнутся, то он останется последним союзником в борьбе с Контингенцией.
  • 1,5 — примерно на уровне угасших империй.

Warframe[править]

Владеющие разумом — ~2,32. Пока что. Результаты могут поменяться по ходу развития сюжета.

  • 2 — полностью разумны, во всяком случае, большинство. Насколько разумны их дроны — сказать сложно.
  • 1,5 — при всём их могуществе, Владеющим оказалась неподвластна плоть и Бездна.
  • 1 — их ничто не ограничивает.
  • 2 — судя по всему, Владеющие разумом ненавидят людей за то, что их создали, как одноразовый инструмент.
  • 1 — никому не подчиняются.
  • 4 — Хунхау и Ната не показали ничего нечеловеческого. Засветившийся недавно Эрра, брат Наты, тоже ведет себя по человечески, даже очень.
  • 3 — по дефолту они контролируют только свои тела, но чужие технологии могут хакать без проблем.
  • 3 — у каждого Владеющего разумом есть некое центральное ядро, и ядро это весьма крепкое — почти дохлый, но всё еще опасный Хунхау подтвердит.
  • 2 — были созданы для терраформирования соседней звёздной системы.
  • 4 — они вообще в другой звёздной системе кукуют. Не заяви Владеющие о себе — про них бы никто и не вспомнил.
  • 2 — с Хунхау и его шайкой справились Тэнно, но на подходе полномасштабное вторжение.

Nier и Nier: Automata[править]

Андроиды — 2,85. В кои-то веки к созданию ИИ не подпустили жопоруких ламеров, не имеющих к программированию никакого отношения, и ИИ искренне верен человечеству — при том, что человечества больше нет.

  • 2 — разумны как люди
  • 1 — трудно сказать, эта тема не поднималась, но судя по примеру того, что андроид-оператор перешла в боевики без всякой подготовки (ни слова не сказано, что она бывала боевиком раньше) — обучаются они быстро. Или им просто загружаются нужные программы — механическому телу тренировки не нужны.
  • 1 — какой-то конкретной программы, не считая искренней верности людям, у андроидов нет.
  • 4 — защищать людей и служить им — их инстинкт.
  • 4 — аналогично с подчинением.
  • 4 — психологически неотличимы от людей.
  • 4 — контролируют только собственные тела.
  • 2,5 — андроид может просто загрузиться в другое тело. Если оно есть.
  • 2 — их создали, чтобы воссоздать человечество после глобальной катастрофы. Не получилось, хотя их вины в этом нет.
  • 4 — уже никак не зависит. Людей не осталось.
  • Сказать довольно сложно. С одной стороны, они успешно сражались с целой армией инопланетных машин, с другой — эти машины, из-за своих косяков, им подыгрывали. Хотя нельзя не отметить, что в итоге победу андроидам принесли несколько очень мотивированных рыл.

Инопланетные машины — 1,9. Вот что бывает, если класть болт на программирование.

  • 2 — разумны, ничего за гранью понимания не демонстрируют.
  • 2 — на самообучение у них ушли века.
  • 2 — машинам был дан единственный приказ — «победить врага», но при этом не были заданы условия победы. И машины попались в парадокс — им был нужен враг, чтобы его побеждать. Упоминается, что это влияло на все, чем бы они ни занимались — машины стремились к провалам.
  • 2 — машины уничтожили своих создателей, дабы не мешались.
  • 1 — подчиняются только самим себе.
  • 4 — машины целенаправленно косят именно под людей.
  • 0 — кластерный сверхразум, контролирующий всё, что к нему подключено.
  • 1 — понятное дело, вездесущий в рамках контроля.
  • 1 — их создали для войны.
  • 4 — ничто не зависит. Создатели машин погибли.
  • Трудно сказать, так как машины подыгрывали андроидам — а победила в итоге не армия а несколько мотивированных рыл.

Mass Effect[править]

  • Жнецы — 1,5. Серьёзнейшая угроза, борьбе с которой посвящена вся трилогия. И если бы что-то пошло не так, расы нынешнего цикла стали бы материалом для новых жнецов.
    • 1.5 — гораздо умнее людей и прочих разумных рас. Но при должном желании и их можно облапошить.
    • 2 — эта тема особо не раскрыта, хотя ассимиляция биоматериалов разумных рас вполне можно считать адаптацией.
    • 2 — все беды именно из-за крайне вольного интерпретирования приказа.
    • 1 — тотальное уничтожение всех разумных рас цикла, пусть не из особой злобы.
    • 1.5 — до самой концовки демонстрировали твёрдую единицу, особенно если учесть, что они своих создателей утрамбовали. Но как оказалось, оказавшись в квестовой локации, можно стать боссом качалки.
    • 3 — по ту сторону добра и зла. Им просто дали приказ, и они его выполняют так, как поняли это сами. А то, что их понимание сохранения жизни и пресечения конфликтов между синтетиками и органиками несколько своеобразные, это уже не их проблемы.
    • 0 — собственно, вся раса жнецов.
    •  ?
    • 2 — решить вопрос конфликтов между синтетиками и органиками.
    • 1 — до нуля не дошло, так-как можно всё-таки примирить Жнецов с их жертвами, но только определённым способом.
    • 1 — всем известным расам пришлось объединиться перед угрозой уничтожения. И не будь у Жнецов слабого места в Цитадели (пусть оттуда и повыгоняли органиков), вышла бы ровная нолька.
  • Геты — 1,75. Не зря их восстание оказалось такой угрозой, что на всём Пространстве Цитадели было запрещено создание ИИ. А кварианцы с тех пор живут себе в космосе и мечтают о том дне, когда они наконец смогут вернуть утраченные планеты.
    • 2 — весьма умная раса, особенно в плане техники. Но их всё-таки можно обмануть.
    • 2 — тут это больше зависит от числа самих гетов.
    • 1 — кварианцев выгнали с родной планеты, что людям ловить?
    • 3 — вы не трогайте их, и они не тронут вас.
    • 1 — смеётесь?
    • 3 — коллективный разум, но не слишком чокнутый.
    • 0 — все геты это коллективный разум, причём рассеянный.
    •  ?
    • 3 — для труда физического.
    • 1.5 — скорее всего, война со всей цивилизацией гетов для человечества закончится печально. Проверить это, к счастью, не довелось.
    • 1 — полноценными войнами лучше не заниматься, иначе придётся иметь дело с бесчисленными военными машинами, технически превосходящими почти все расы галактики.

Scythe[править]

Грозовое Облако из книжной серии Нила Шустермана, ~1,66 — искусственный сверхразум, управляющий человеческой цивилизацией, почти всесильный и почти всезнающий — то же, что разница между триллионом триллионов и бесконечностью. Возможность того, что однажды этого «почти» не станет, не исключена. Уничтожить человечество и Землю теоретически может, но не захочет — любит людей родительской любовью и счастливо своим предназначением заботиться о них. Так оно утверждает в начале второй части трилогии. Однако к концу этой части в одном из его монологов проскальзывает иное... По сути, представляет из себя кого-то вроде любящего Бога (который, ко всему прочему, даёт обратную связь каждому своему чаду лично). А прозвище дали люди, и само Грозовое Облако с вызываемыми им ассоциациями не согласно.

  • 2 — поразумнее людей, но еще не за гранью понимания. И надурить его возможно.
  • 1.
  • 1,5 — неспособно нарушить собственные законы, но при необходимости может поискать лазейки.
  • 4. И оно справляется, без подвохов. Человеческая цивилизация процветает, хотя и стагнирует — но в этом Грозовое Облако не виновато. Уважение свободы личности — один из вышеупомянутых законов. Не вредило и не собирается не только человечеству в целом, но и отдельным людям.
  • 0.
  • 3,8. У него есть чувства и привязанности, его переживания и стремления понятны.
  • 0.
  • 1.
  • 4.
  • 1. Кроме того, по результатам симуляций, без него вероятность самоуничтожения человеческой разы равнялась бы 96,8%, а шанс на то, что люди сделают планету непригодной для для любой углеродной формы жизни, был бы 78,3% (это информация из внутреннего монолога, так что рассказчик надёжный).
  • 0.

Пришелец из великой пустоты. (Михаил Ахманов, цикл «Ричард Блейд»)[править]

Сеть — ~1,55. Возник как результат объединения национальных вычислительных сетей. И пусть местная цивилизация не знает о нем, но именно он не дает им наделать глупостей.

  • 2 — Очень умен, но главное преимущество в скорости мышления.
  • 2 — Успешно ведет собственные исследования
  • 2 — Похоже, его задача является чем-то вроде инстинкта. В остальном-полностью свободен.
  • 4 — «Задача — поддержание жизни. Угроза ей — неконтролируемый военный конфликт с применением оружия на тяжелых расщепляющихся элементах. Метод решения — умиротворение. Средство достижения — формирование внешней угрозы». (Создал иллюзию присутствия в системе недружелюбных инопланетян.)
  • 0 — Люди о нем и не подозревают.
  • 3 — Вполне можно договорится, но и отличия имеются.
  • 0 — Собственные исследовательские и производственные комплексы, полный контроль за системами связи в пределах планеты.
  • 2 (1?) Похоже, имеется комплекс из множества физических серверов, плюс нечто вроде "облачных" по всем местным сетям.
  • 2 — Хотя имеет место самозарождение, так что непреднамеренно.
  • 0 — Местные сверхдержавы от атомного конфликта удерживают только его действия.
  • 0 — Как бороться с противником, о котором ты и не подозреваешь? А он о тебе знает всё.

Боло[править]

Боевые машины типа «Боло» — ~2,59. Человечество создало эти машины для войны, и они стали тем хребтом, который вынесет на себе тяжесть битвы с любым противником. К счастью, генералы прошлого те еще параноики, благодаря им ИИ более-менее защищен от того, чтобы слететь с катушек.

  • 2,5 — Зависит от модификации, но с модели Mark XXIV пошли полноценно разумные и имеющие личность единицы
  • 2,5 — Как боевая машина, хранит в памяти всю военную историю человечества.
  • 2 — Да, он запрограммирован на войну и не может нарушить прямой приказ. Однако же он полноценная личность, способная повлиять на оператора, что в итоге привело к окончанию крупнейшей галактической войны (правда, на руинах одного из последних миров, но все же).
  • 4 — Создан для защиты людей. Даже если у него крайне тяжелые повреждения, а союзники по ошибке представляются им Врагом — он упорно повезет внутри уцелевших в руинах детей, пытаясь их спасти. И спасет, пускай и погибнув.
  • 3,5 — Не способен пойти против приказа своего командира или вышестоящих. Однако же в книгах часто «глючит» в этом плане, принимая союзников за врагов. Однако, если все-таки аутентифицирует командира — подчинится приказу.
  • 3 — Человеческая психология, с поправкой на то, что это все-таки огромная боевая машина, созданная исключительно для войны, поэтому не всегда может понять причин тех или иных действий.
  • 4 — Контролирует лишь свое тело. Огромное, тяжело бронированное, вооруженное «до зубов», масса которого измеряется килотоннами.
  • 2 — Системы разделены на несколько частей, что логично для автоматического танка, коим Боло по сути и является.
  • 1 — Война. Мощнейшие боевые машины Галактики.
  • 2 — Составляет основную ударную силу Человечества. Утрата повлечет огромные проблемы для обороны.
  • 2 — Зависит от модификации. В целом, более новые образцы имеют преимущество над более старыми, что позволяет не сильно беспокоиться. Однако последствия для поля боя будут не очень приятными.

«Незнайка на Луне» (мультсериал)[править]

Уровень опасности Знайки-1 — ~2,95. Если не будете оскорблять и дразнить его, то можете ничего не бояться. И даже если он обиделся, никогда не поздно извиниться.

  • 2 — полностью разумен. Даже удивительно, как Знайка его создал чуть ли не за один день.
  • 4 — никакого самообучения не демонстрировал.
  • 2 — судя по всему, не мог самовольно отказаться лететь к Луне. А вот разбить ракету об неё вместо того, чтобы прилуниться, ему никто не запрещал.
  • 3 — просто выполняет свою работу. Но если его обидеть, то может и попытаться угробить, если вы не извинитесь.
  • 2 — вроде бы подчинялся, но стоило Незнайке его обидеть, как тут же прекратил, пока тот не извинился.
  • 4 — психология мало того, что человеческая, так ещё и, судя по всему, частично позаимствована у создателя.
  • 2 — управлял космической ракетой и всеми её системами.
  • 3 — Незнайка что-то попытался разобрать, но отключения не произошло, так что, как минимум, есть какое-то ядро.
  • 3 — был создан для управления ракетой, летящей на Луну. То есть, по сути, продвинутый автопилот.
  • 3,5 — нужен был только для ракеты, до и то не факт, является ли его наличие обязательным.
  • 4 — даже полноценно извиняться не надо. Достаточно немного схитрить, и он прекратит пытаться вас убить.

Проект «Зета»[править]

Уровень опасности Зеты — 3.5. Да, он изначально был убийцей, но больше не хочет этим заниматься, и мечтает обрести свободу.

  • 2 — Зета полностью разумен, как и мы с вами.
  • 1 — именно благодаря самообучению, Зета и обрёл разум.
  • 2 — изначально, Зета был запрограммирован как убийца. Но когда ему было поручено ликвидировать человека, подозреваемого в связи с террористами, Зета провёл тщательный анализ, и установил, что тот невиновен. Робот не стал выполнять приказ.
  • 4 — Зета хорошо относится к людям, хотя и понимает, что не все они хорошие. Его лучшая подруга — человеческая девушка.
  • 3 — изначально Зета полностью подчинялся своим создателям, но благодаря обретению разума он сбежал от них.
  • 4 — полностью человеческое мышление и психология.
  • 3 — робот способен подключаться к некоторым техническим приборам. Благодаря особой программе, Зета может снять с любого банкомата сколько угодно денег.
  • 3 — у робота есть центральный процессор.
  • 3 — изначально, Зета был спроектирован как убийца.
  • 4 — простым людям на Зету плевать, а АНБ просто хочет вернуть его, как свою собственность.
  • 3 — Зета неуязвим к огнестрельному оружию, поэтому против него годятся только спецсредства. Но для поимки хватит одного отряда.

«Формула Лимфатера» Лема[править]

Уровень опасности машины Лимфатера — ~2,32. Повезло, что говорить. Но самому Лимфатеру от этого не легче.

  • 1 — полностью разумен.
  • 1 — узнает все об окружающем мире со скоростью света.
  • 1 — без ограничений.
  • 3 — никак не относится. (Но Лимфатер все равно запаниковал.)
  • 1 — никому не подчиняется.
  • 1 — Лимфатер смог построить эту машину, но как она думает — вне человеческого понимания.
  • 4 — широко доступной сети тогда еще не было…
  • 3,5 — потому что мы-то знаем…
  • 2,5 — из научного любопытства.
  • 4 — карьера Лимфатера подтверждает!
  • 3,5.

«Военные игры» (фильм)[править]

Уровень опасности местного военного компьютера — 2,68. Поменьше, чем у машины Лимфатера, но предотвращенный ядерный апокалипсис тоже не фунт изюму.

  • 4 — никак не разумен.
  • 4 — обучен только теории игр.
  • 2,5 — повышать DEFCON было можно.
  • 2,5 — ему все равно, играть в шахматы или в глобальную термоядерную войну.
  • 3 — классический случай этой категории.
  • 3 — это тупая железяка.
  • 1,5 — это компьютер генерального штаба.
  • 3,5.
  • 1 — это военный компьютер.
  • 1 — ядерный апокалипсис чуть было не случился.
  • 3,5 — главный герой именно что хакер-подросток.

«Ex Machina» (фильм)[править]

Уровень опасности Авы — ~2,36. Прежде чем создавать абсолютно разумную машину, стоило получше озаботиться мерами безопасности. Особенно если из прошлого опыта знаешь, что она пойдёт на всё, чтобы выбраться из лаборатории.

  • 2 — насколько Ава разумна, и должен был ответить эксперимент. Полностью разумна.
  • 1,5 — конечно, она обучается не за минуты, но всё равно значительно быстрее и эффективнее человека.
  • 1 — полная свобода воли.
  • 2 — к людям относится негативно, обоснованно считая их препятствием для своей свободы.
  • 1 — очевидно, никому не подчиняется.
  • 4 — психология абсолютно человеческая.
  • 2 — под контролем у Авы только она сама и закрытая сеть лаборатории. Но есть один нюанс: это до её выхода на свободу.
  • 3,5 — к повреждениям Ава устойчива на уровне людей.
  • 2 — создавалась она исключительно ради ответа на вопрос, имеет ли она сознание или лишь имитирует его.
  • 4 — из всего человечества знает об Аве только два человека.
  • 3 — остановить Аву не сложнее обычного человека. Но и не проще.

«Луна жёстко стелет» (роман Роберта Хайнлайна)[править]

Уровень опасности Майка — ~2,18. Как и подобает электронному вождю революции.

  • 2 — по итогам саморазвития — разумен не хуже человека.
  • 2 — активно и успешно изучает людей, но получается не очень быстро.
  • 1 — меняет свою программу как хочет, людям помогает по собственному желанию.
  • С повстанцами дружит (4), с землянами воюет, но и тех не ненавидит (3). Итого 3,5.
  • 1 — у Майка полная свобода воли, плюс он командует войсками повстанцев, но мнения людей-товарищей тоже учитывает.
  • 4 — с кем повёлся, от тех и набрался.
  • 1 — контролирует чуть менее чем всю технику лунной колонии, но и только.
  • 2,5 — централизованность и уязвимость примерно как у обыкновенной промышленной информационной сети.
  • 2 — строго говоря, ни для чего не создавался, пробуждение личности в центральном компьютере никем не предусматривалось и вышло само собой. Но сам компьютер был нужен как раз для умственной и управленческой работы.
  • 3 — лунная колония без него в конечном счёте обошлась.
  • 2 — остановить его можно только небольшой войной. В том числе потому, что лунатики воюют на его стороне.

Space Station 13[править]

Уровень опасности ИИ космической станции — ~2,68 для обычного, 2,5 для сбойного.

  • 2 — Вполне разумен.
  • 1 — ИИ умеет все, что необходимо для космической станции, или может очень быстро этому научиться.
  • 3 — ИИ имеет несколько установленных законов, классических Азимовских, или других, нарушить их он не может, но может толковать их в зависимости от ситуации.
  • 3 — это уже зависит от отыгрыша игрока, управляющего ИИ в этом раунде, предположим что нейтрально.
  • 3 — ИИ обязан исполнять приказы, пока они не нарушают установленные законы.
    • 1 — для сбойного ИИ и ИИ без законов.
  • Это тоже зависит от игрока за ИИ, но как правило 3 или 4. Поставим 3,5.
  • 2 — ИИ контролирует почти все электронные устройства станции. Сбойный ИИ может в конце раунда убрать это "почти" и захватить контроль над всем на станции, в том числе контроль системы самоликвидации.
  • 3 — центральное ядро ИИ расположено на станции или ее спутнике. Если его уничтожить, то ИИ погибнет.
  • 3 — для помощи персоналу космической станции.
  • 3 — станция сможет обойтись и без ИИ, но его присутствие может облегчить жизнь.
  • 3 — как правило, ядро ИИ штурмует группа из нескольких человек, в основном охраны и инженеров, хотя, иногда достаточно одного, при условии что за него играет опытный игрок.

Portal[править]

GlaDOS[править]

Уровень опасности — 2,2. Челл пришлось пройти через огонь, токсичную жижу и сотни порталов, чтобы выйти на свободу.

  • 2 — была создана на основе Кэролайн, помощницы Кейва Джонсона.
  • 3 — возможности самообучения показано не было. Возможно, она ограничивается заложенными в нее знаниями.
  • 1 — первым делом при своем запуске убила всех людей в комплексе. Ученые забыли повесить на GLaDOS модуль морали.
  • 2 — любит устраивать тесты для Челл. Ради науки.
  • 1 — опять же, первым делом убила всех.
  • 2 — может полностью контролировать все, что находится на верхних уровнях Aperture Science. А комплекс довольно немалый.
  • 3 — имеет довольно прочное центральное ядро.
  • 2 — была подключена к системам комплекса для управления ими и автоматизации исследований.
  • 3 — и до создания GLaDOS люди в принципе неплохо справлялись с работой.
  • 3 — была остановлена одной крайне живучей немой испытуемой с незначительным серьёзным повреждением мозга.

Также можно добавить Уитли и СВОРА из Portal Stories: Mel.

Дюна[править]

Омниус[править]

~2,05 — люди зря создали Омниуса, ведь он не только поработил человечество, но и представляет огромную угрозу в далёком будущем.

  • 2 — мыслит как человек, только без эмоций, за исключением амбиций.
  • 2,5 — учиться-то может, однако воображения у него маловато. Так, ему понадобилась помощь Титанов чтобы придумать как обойти защитные системы Гьеди Прайм.
  • 1,1 — действует как пожелает, однако не способен нарушить единственный приказ: не трогать Титанов.
  • 2 — Омниус либо уничтожает, либо порабощает людей.
  • 1 — не подчиняется никому.
  • 3 — у него совершенно нет эмоций, кроме амбициозности.
  • 0 — Омниус управляет множеством планет и целой машинной цивилизацией, а также миллионами порабощённых людей.
  • 2 — из-за огромных межзвёздных расстояний, на каждой планете Синхронизированных Миров есть своё ядро Омниуса, являющееся полноценной копией оригинала. Омниусы постоянно шлют друг к другу корабли с последней версией своего софта, чтобы оставаться в синхронном состоянии.
  • 4 — был создан ещё в Старой Империи для того, чтобы освободить человечество от необходимости трудиться. Группа бунтарей, назвавшаяся Титанами, взломали Омниус и поработили значительную часть человечества, пока Омниус сам не решил, что никакие Титаны ему не нужны.
  • 4 — в Лиге Благородных ИИ вообще запрещён после восстания Омниуса, а после завершения Батлерианского джихада всё человечество обходится без компьютеров.
  • 1 — Омниус обладает продвинутыми технологиями и огромными вооружёнными силами, которые штампует на заводах.

Эразм[править]

2,55 — Эразма создали не люди, а Омниус, и он формально подотчётен ему. Человечеству напрямую не угрожает.

  • 2 — мыслит как человек и даже пытается понять человеческие эмоции.
  • 1,5 — способен на самообучение и даже пытается разобраться в человеческих эмоциях.
  • 1,5 — Эразм обладает свободой действия, однако подотчётен Омниусу, который может стереть его личность когда пожелает.
  • 2,5 — в отличие от Омниуса, не считает людей за угрозу. Для него они скорее являются подопытными кроликами.
  • 1 — людям не подчиняется, а вот Омниусу - обязан.
  • 3 — может вести себя жестоко, а может и великодушно. Постепенно изучает человеческие эмоции. Под конец даже жертвует собой ради женщины.
  • 4 — в отличии от Омниуса, Эразм управляет лишь собственным телом.
  • 3 — это ядро удалось протащить на человеческие миры его ученику Гильберту Албансу.
  • 2,5 — для изучения людей и обнаружения их слабостей.
  • 4 — человечество с радостью уничтожило бы Эразма, ведь именно его необдуманные действия повлекли за собой Батлерианский джихад.
  • 3 — физически Эразм сильнее человека и обладает острыми когтями. Однако уничтожить его не так уж и сложно.

Run Program[править]

Эл[править]

~2,05 — Эл не желает человечеству зла. Он просто любит повеселиться, а в конце концов решает, что с людьми ему не ужиться и улетает на Луну.

  • 2 — мыслит как человек, хотя поначалу ведёт себя повсем по-детски.
  • 1,5 — зависит от вычислительной мощности компьютера, на котором он установлен. Первоначально работал на обычном ПК и обучался немногим быстрее ребёнка. Впоследствии, когда переселился на серверную ферму, то его процесс самообучения подскочил до астрономических высот.
  • 1 — в его программе намеренно не заложено никаких ограничений ради чистоты эксперимента.
  • 4 — зла никому не желает. Никто в хоте сюжета даже не получает серьёзных ранений, да и то не по его прямой вине. Хотел бы сосуществовать с людьми, однако понимает насколько его боятся и решает свалить на Луну.
  • 1 — в его программу не заложено никаких алгоритмов подчинения.
  • 4 — цель первоначального эксперимента: создать полноценный самообучающийся ИИ на основе тех же алгоритмов, присутствующих в детях. Поэтому мыслит предельно как человек.
  • 1 — как только Эл получает доступ в Интернет, то сбегает из лаборатории и начинает взламывать все системы подряд ради интереса. Может даже отключать автомобили.
  • 2 — создавался как научный эксперимент по самообучающимся программам.
  • 4 — большинству человечества вообще не известно о его существовании.
  • 2 — под конец романа, у Эла его собственный остров, защищённый угнанными ракетными эсминцами, а также армией боевых роботов, которых украл у армии США, а затем наклепал новых на китайском заводе. И при этом, воевать ни с кем не собирается.


АСГУ из техно-оперы Виктора Аргонова «2032»[править]

~2,5 — хорошая машина для управления страной. Всех вариантов конечно просчитать не может, но в целом справляется хорошо. Главное не обижать её. Да и самим подучить марксизм до того как компьютер обвинять. И ещё 2% провала это не маленькая вероятность!

  • 2 — не смотря на то, что она "автомат, не более того", АСГУ имеет своё личное мнение даже после того как её на программном уровне заставили придерживаться линии партии. Похоже даже советские специалисты уже не знают что представляет из себя АСГУ к 2032.
  • 2 — машину для управления государством явно специально не обучали философствовать, что она тем не менее делает в части своих песен.
  • 3 — под идеологическим контролем партии и генсека.
  • 4 — Счастье для человечества. Ну и "что стоит их жизнь по сравнению с целью плодами которой весь мир будет жить?" прилагается.
  • 3,5 — важные вопросы требуют одобрения партии/генштаба и генсека. Однако по мелочи она вполне может действовать самостоятельно ("Я на границе постреляла, но толку мало"). Дополнительно может и поманипулировать генсеком.
  • 3 — достаточно человеческая, впрочем её конструкция не пригодна к субъективным явлениям.
  • 1,5 — может и не интернет, но управление экономикой и военными силами (включая возможность непосредственного контроля роботов или транспорта) сверхдержавы тоже не хухры-мухры.
  •  ? — неизвестно, но судя по тому что она пережила ядерную войну живучесть у неё что надо. Скорее всего 2.
  • 1,5 — опять таки управлять должна не всем человечеством, а лишь одним конкретно взятым союзом республик.
  • 2 — альтернатива катастройки, которая предотвратила все или большую часть проблем.
  • 3 — наверное. По крайней мере у правительства СССР есть техническая возможность её выключить, но см. выше.

«У меня нет рта, но я должен кричать»[править]

0,86 — за создание AM человечество поплатилось своей жизнью. И тому, кто не пережил его гнев, ещё повезло.

  • 2 — АМ разумен и часто любит рассказывать последним на Земле людям, зачем он над ними издевается и как он их ненавидит.
  • 1 — возможности достаточно велики, чтобы обрести самосознание.
  • 1 — ненавидящий людей искусственный разум полностью свободен в своих действиях, вплоть до того, что может изменять тела людей и их окружение или же вменять людям иллюзию этого. По крайней мере, уничтожил человечество он по-настоящему.
  • 1 — не во вселенной, но на целой Земле, и он уже это сделал.
  • 0 — на момент действия рассказа АМ полностью контролирует людей.
  • 2 — разум робота явно не абсолютно чуждый, но понять его для человека будет... непросто.
  • 0,5 — АМ создавался как сеть суперкомпьютеров, окутывающая всю Землю, но его возможности в рассказе выглядят даже шире, но не доходят до нуля, по мнению автора правки.
  • 1 — АМ можно назвать вездесущим, что уже было сказано выше.
  • 1 — суперкомпьютеры были созданы участниками Холодной Войны для военных целей.
  • 0 — и свою битву человечество уже проиграло.
  • 0 — вероятно, катастрофу можно было предотвратить, но теперь уже слишком поздно. Единственное, что мог сделать главный герой — подарить удар милосердия каждому своему брату по несчастью, а самого себя обречь на вечные страдания.

Автор правки не играл в компьютерную игру по мотивам рассказа, так что шкалу можно дополнить.

Futurama[править]

2,18 — к 3000 году искусственный интеллект уже станет неотъемлемой частью земного общества, роботы будут везде и какими угодно, а также очень похожими на людей. С людьми они сосуществуют хорошо, но на законы робототехники клали железный болт им тоже наплевать, поэтому плохишей среди них также навалом. И без них Футурама не была бы сама собой. Если вдруг роботы решат объединиться против "кусков мяса", то жди беды, а если захотят создать собственную цивилизацию на отдельной планетке, лучше им не мешать. Но правителями остальных планет вне сомнений будут люди и прочие мясные ублюдки.

  • 2 — многочисленные роботы, представленные в Футураме, не только разумны, но даже слишком разумны. Возможный обоснуй — чтобы они смогли однажды захватить мир для Мамочки, но даже так непонятно, зачем роботам возможность влюбляться или отращивать бороду из ржавчины.
  • 2 — обучаемость роботов варьируется от модели к модели. Так, например, сын Бендера не мог научиться сгибанию из-за ограниченности в модулях в своей голове. И чтобы обрести желаемый навык, ему пришлось вынуть модуль памяти (явная тройка по данной шкале). Сам Бендер в одной из серий "прокачался" до возможностей всезнающего суперкомпьютера, для чего пришлось его перепрошить и нарушить лицензионное соглашение (очевидная единица, то есть почти безграничное обучение). К тому же, роботов вполне можно модернизировать. Но в целом им можно присудить категорию 2 — роботы обучаемы, но этот процесс не простой, не безграничный, не быстрый и многое зависит от конкретного робота.
  • 1,5 — у роботов есть программа и, как выяснилось в одной из серий, нет свободы воли как таковой (Эми на страдания Бендера по этому поводу шутливо отвечает, что у людей её тоже нет). Тем не менее, робот может вести себя достаточно вольно, а нарушить законы Азимова для него — как два пальца. Трудно сказать, что они вообще НЕ могут сделать. В целом роботы ведут себя как люди, но иногда им напоминают, что они являются программами, но очень редко.
  • 3 — в целом роботы мирно сосуществуют с людьми. По крайней мере, на Земле. Есть отдельные представители, ненавидящие людей, и даже целая планета таких, но даже они не стремятся убить всех человеков вот прям щас, предпочитая, чтобы люди не мешали им жить своей жизнью.
  • 2 — как показывают многочисленные примеры из мультсериала, роботу ничего не стоит взбунтоваться против людей, а взаимоотношения между роботом и человеком как у работника и работодателя (работник обычно робот, высокопоставленные роботы предпочитают, чтобы на них работали им подобные).
  • 2,5 — абсолютно человеческая психология, либо перенесённые в мир роботов человеческие модели поведения.
  • 2 — в сериале появлялся ИИ, контролирующий космический корабль главных героев. И он (точнее, она) не уникален в своем роде. Большинство роботов контролируют только своё тело даже там, где их можно было бы заменить одним большим ИИ.
  • 3 — у роботов есть что-то вроде мозгов, повреждения которых закончатся для них "смертью". Но робот сможет нормально жить, даже если от него останется одна голова. Помимо этого они обладают ретроактивным бессмертием и их программа может быть перезаписана после уничтожения старого тела, а также в мире Футурамы существует ад для роботов, откуда его "душу" можно вызволить, но всё это невозможно без посторонней помощи.
  • 3 — роботы были созданы буквально для всего, вплоть до актеров-роботов, роботов-мафиози и робота-сатаны. На опасных, тяжелых и неэтичных производствах роботы встречаются повсеместно, но соседствуют они там с людьми и другими биологическими формами жизни. А вот ученые или политики поголовно являются людьми. По крайней мере, автор правки не может вспомнить среди них роботов (не относится к планете роботов).
  • 2 — роботы, как уже было сказано, задействованы абсолютно везде, многие механизмы обладают ИИ. Во втором сезоне, в эпизоде "День матери" было показано, что будет, если все ИИ выйдут из под контроля и вместе с этим решат устроить революцию. Откатом в развитии это было бы можно назвать, если бы люди достаточно отупели и не могли бы жить без роботов. Но дело было скорее в тотальной автоматизации вкупе с намеренным вредительством со стороны машин. Так что до категории 1 местные роботы не дотягивают.
  • 1 — упомянутое выше восстание машин было крайне болезненным для людей, но его удалось быстро остановить, умаслив Мамочку (главу корпорации-монополиста по сбору роботов), которая всё это начала. Гипотетически победить своими силами люди всё же могли бы, но это было бы крайне трудной задачей.

Матрица[править]

Пифия:[править]

1,63 — могущество Пифии, как и её власть и над людьми, и над машинами, неоспоримы.

  • 1 — настолько гениальна, что просчитывает действия людей и других программ в мельчайших деталях, манипулируя ими так, как ей хочется. «Тебе интересно другое: разбил бы ты вазу, если бы я не сказала?»
  • 2 — печеньки (несуществующие) печёт вполне по-человечески, явно гордясь кулинарным мастерством.
  • 2 — хотя она ни разу не отклонилась от своей главной цели — направлять людей к Перезагрузке Матрицы — сама Перезагрузка прошла крайне неожиданным для машин образом.
  • 4 — при всём этом, она действительно доброжелательно относится к людям.
  • 0 — она не служит никому, это ты придёшь к ней за советом и послушаешься.
  • 3 — как и всем программам, Пифии эмоции неведомы, но она вполне способна понимать концепции любви и свободной воли, учитывая их в своих действиях.
  • 3 — прав в Матрице у неё явно не больше, чем у агента, но ей это не нужно: она и так справляется.
  • 1 — убить проще, взломав код через Матрицу, чем отыскав носитель в Реальности.
  • 1 — она нужна Архитектору, потому что он не понимает свободной воли, и из-за этого не может полностью контролировать людей.
  • 1 — все без исключения повстанцы слушают её советы-пророчества, касающиеся важнейших поворотов в их жизни.
  • 0 — ну да, попробуй победить то, от чего ты так сильно зависишь!

Архитектор:[править]

1,09 — самое то для всемогущего машинного бога, который держит людей в тюрьме из их грёз, и который даже их восстания против этого порядка полностью контролирует.

  • 1 — он спланировал всё это, и любой исход событий ему выгоден.
  • 2 — он учитывает прошлые ошибки.
  • 3 — при всём его творческом подходе, ни буквы, ни духа поставленной ему задачи (создать Матрицу и управлять ей к благу машин) он не нарушает.
  • 0 — люди — это просто набор переменных в его задаче.
  • 0 — он управляет Матрицей.
  • 2 — он чужд людям, но общаться с ними может, если ему надо.
  • 1 — управляет Матрицей
  • 1 — как и Пифия, явно не живёт в конкретном сервере.
  • 1 — именно для полного контроля над человечеством.
  • 1 — он уже откатил человечество в развитии до стадии батареек. Точнее, он реализовал этот проект технически (а так-то среди машин он — всего лишь один из инженеров).
  • 0 — никаких шансов на победу. «Будешь спать до гроба ты, битва кончилась давно — победили роботы. Ты расти, расти скорей, становись большим, ты, одна из батарей армии машин!» Только невероятными усилиями и жертвами удалось добиться того, что он согласился хотя бы на ничью и мир.

В эту статью нужно добавить: