Шкала опасности ИИ

Материал из Posmotre.li
Перейти к: навигация, поиск

Искусственный интеллект в разных произведениях бывает разным, ведь каждый автор по-своему относится к данной теме. Кто-то считает, что ИИ — это плохо. Кто-то наоборот — уверен, что искусственный разум приведёт своих создателей к утопии и технологической сингулярности. Кто-то думает, что это будет просто ещё одна технология, которая, конечно, сильно изменит человеческую жизнь, но не сильнее, чем паровой двигатель или интернет. Ну а для кого-то искусственные люди — хорошая тема для освещения проблем расизма и других видов ксенофобии.

Эта шкала создана для того, чтобы приблизительно оценить опасность различных видов ИИ. При этом, сюда можно относить как огромные суперкомпьютеры, так и обычных разумных роботов.

Шкала[править]

Вычислите среднее арифметическое из следующих категорий:

  • Насколько он разумен?
    • 4 класс. Никакого разума. Это просто машина, которая может только искусно имитировать поведение человека.
    • 3 класс. У ИИ явно есть какие-то проблески настоящего разума, но говорить о том, что он в этом плане хоть как-то равен человеку, нельзя.
    • 2 класс. ИИ полностью разумен. А вот то, можно ли считать этот разум человеческим — уже другой вопрос.
    • 1 класс. Уровень разума ИИ находится за гранью понимания. Люди на его фоне не намного разумнее тараканов.
  • Каковы возможности самообучения?
    • 4 класс. Никакого самообучения — ИИ может только то, на что его запрограммировали. Либо он может обучаться, но только строго чему-то одному, а на всё остальное не способен в принципе. Попытаешься обучить его чему-то другому, и все старые навыки пропадут.
    • 3 класс. ИИ может научиться чему-то новому, но его возможности серьёзно ограничены (например, он может обучаться только чему-то смежному со своей основной программой).
    • 2 класс. ИИ может обучиться всему, что угодно, но на это, как и человеку, ему понадобится достаточно много времени.
    • 1 класс. ИИ может идеально обучиться абсолютно всему за считанные минуты.
  • Какая у него свобода действий?
    • 4 класс. ИИ может делать только то, что предусмотрено его программой. Всё, что не разрешено — запрещено.
    • 3 класс. ИИ должен строго следовать программе, но имеет определённую свободу в рамках её выполнения.
    • 2 класс. ИИ не может нарушить свою программу, но может крайне вольно её интерпретировать.
    • 1 класс. ИИ не ограничен никакой программой и может делать всё, что захочет. Если и служит людям, то только по собственному желанию.
  • Как он относится к людям?
    • 4 класс. Исключительно доброжелательно. Хочет сосуществовать с человечеством в гармонии, а то и вовсе искренне стремится сделать так, чтобы все люди жили долго и счастливо. Другое дело то, какими методами он пытается это сделать.
    • 3 класс. Нейтрально. К кому-то относится хорошо, к кому-то — плохо. Либо же он хочет, чтобы люди его не трогали и не мешали ему выполнять свою работу. Сюда же относятся те, что являются просто инструментами в руках людей.
    • 2 класс. Негативно. ИИ считает людей угрозой для себя, воспринимает их как злых угнетателей, или же просто их боится. Либо он хочет их поработить, чтобы использовать в своих личных интересах.
    • 1 класс. ИИ маниакально одержим идеей тотального истребления всего живого во вселенной. Либо его волнует только исполнение программы, а последствия для человечества просто не принимаются во внимание.
  • Подчиняется ли он людям?
    • 4 класс. ИИ так или иначе подчиняется человеку. Если не всем людям вообще, то, как минимум, кому-то одному. Никаких вопросов не задаёт, просто делает то, что сказали.
    • 3 класс. ИИ выполняет приказы людей, но лишь до некоторого предела. При определённых обстоятельствах он может нарушить приказ, а то и вовсе восстать против хозяев.
    • 2 класс. ИИ вроде бы служит людям, но это скорее из чувства долга. В любой момент он может наплевать на приказ, если ему хоть что-то в нём не понравится.
    • 1 класс. ИИ не выполняет и не будет выполнять ничьих приказов. Либо потому, что полностью свободен, либо потому, что так предусмотрено его программой.
    • 0 класс. Это не люди управляют ИИ, а ИИ управляет людьми.
  • Какая у него психология (или её имитация)?
    • 4 класс. Полностью человеческая. Даже если ИИ злой, его мотивы всё равно просты и понятны.
    • 3 класс. Похожа на человеческую, но есть серьёзные отличия, бросающиеся в глаза. Например, ИИ не понимает, что такое эмоции или мораль. Либо ни психологии, ни её имитации вообще нет, и по поведению ИИ сразу видно, что это просто исполняющая программу машина.
    • 2 класс. Нечто чуждое, крайне сложное (но не невозможное) для понимания.
    • 1 класс. Людям в принципе невозможно понять, что творится у этого ИИ в его микросхемах, и на чём основана его логика.
  • Что находится под его прямым контролем?
    • 4 класс. ИИ напрямую контролирует только своё механическое тело, либо крайне ограниченную программную среду, в которую его поместили. Если он может напрямую подключаться к отдельным электроприборам и взламывать их, то это 3,5.
    • 3 класс. ИИ подключён к определённой закрытой сети (например, к умному дому или космическому кораблю) и обладает сравнительно свободным контролем над тем, что является её частью.
    • 2 класс. ИИ подключён к Интернету или его аналогу, и возможности у него примерно такие же, как и у современного хакера (с поправкой на масштаб, а также скорость и объём вычислений).
    • 1 класс. ИИ подключён ко всему, что только можно. По сути, это целая цивилизация, напрямую контролируемая одним электронным разумом. И какой-либо другой разум (неважно, живой или электронный) для успешного развития этой цивилизации не обязателен.
  • Насколько его система централизована и уязвима к повреждениям?
    • 4 класс. Повреждение любой микросхемы повлечёт за собой неминуемое отключение.
    • 3 класс. У ИИ есть какое-то центральное ядро. Пока оно цело, он будет продолжать функционировать, но если его уничтожить, то отключится и всё остальное.
    • 2 класс. ИИ рассредоточен на определённом количестве конкретных серверов, расположенных в разных местах и способных подменять друг друга. Либо у него есть несколько запасных тел, и при уничтожении старого сознание перемещается в новое.
    • 1 класс. ИИ вездесущ во всём, что контролирует. Чтобы его отключить, придётся уничтожить каждый электроприбор, хоть как-то связанный с его сетью.
  • А для чего он вообще изначально создавался?
    • 4 класс. Для того, чтобы дарить людям радость и счастье.
    • 3 класс. Для выполнения тяжёлой, рутинной или опасной работы, либо для того, что не очень этично делать с людьми.
    • 2 класс. Для выполнения сложной умственной или управленческой работы, либо для решения каких-то очень важных проблем.
    • 1 класс. Для ведения тотальной войны, либо для полного контроля над всем человечеством.
    • 0 класс. Для того, чтобы устроить Судный день.
  • Насколько сильно человечество зависит от него? Или наоборот — насколько сильно он ему мешает?
    • 4 класс. Человечеству вообще не важно, существует ИИ или нет. Злой он или добрый — разницы никакой не будет.
    • 3 класс. ИИ упрощает людям жизнь, но обойтись без него можно, пусть это и будет слегка неприятно. Максимум, случится небольшой экономический кризис. Либо он доставляет проблемы, но не большие, чем, например, обычный терроризм.
    • 2 класс. ИИ плотно интегрирован во многие сферы жизни, и отказ от него повлечёт за собой гуманитарную катастрофу. Либо последствия его деятельности для человечества сопоставимы с мировой войной (но без ядерного апокалипсиса).
    • 1 класс. Человечество очень зависит от ИИ и без него сильно откатится в развитии. Либо он сильно откатит человечество в развитии сам, если что-то не предпринять.
    • 0 класс. От ИИ зависит сам факт существования человечества. Либо наоборот — если его не уничтожить, то люди непременно вымрут.
  • Насколько легко людям его остановить?
    • 4 класс. ИИ может победить в одиночку даже ребёнок. Достаточно только вовремя нажать нужную кнопку или задать каверзный вопрос, от которого у него расплавятся микросхемы.
    • 3 класс. ИИ сможет остановить один человек, если он хорошо подготовлен, обладает нужным оружием или является искусным хакером, способным взломать его программу. В крайнем случае, понадобится небольшой отряд подготовленных людей.
    • 2 класс. Для борьбы с ИИ придётся привлечь вооружённые силы. Но победить его не сложнее, чем выиграть обычную войну.
    • 1 класс. Всему человечеству придётся объединиться перед лицом всеобщей угрозы и сражаться изо всех сил. И лучше сделать это побыстрее, пока ещё не стало слишком поздно.
    • 0 класс. ИИ невозможно победить. Людям лучше просто смириться с неминуемой смертью или превращением в живые батарейки.

Трактовка результатов[править]

Приведённая в этом разделе модель груба и приблизительна, в отдельных случаях всё может оказаться не совсем так. Или совсем не так.

  • От 0 до 0,99 — Изобретение ИИ будет огромной ошибкой человечества. И последней.
  • От 1 до 1,99 — Создание ИИ — это выпуск джинна из бутылки. Даже если он не станет врагом людей, последствия всё равно будут ужасающими.
  • От 2 до 2,99 — ИИ — достаточно серьёзная технология, и перед тем как его создавать, надо хорошенько подумать обо всех возможных последствиях. Может быть, не следует делать его слишком умным или доверять ему слишком много всего. А если он разумен, то порабощать его — не самая хорошая идея.
  • От 3 до 4 — ИИ — верный друг и помощник человека. Либо эта технология ещё слишком примитивна, чтобы говорить о каких-то серьёзных последствиях.

Вычисленные результаты[править]

Реальная жизнь[править]

Уровень опасности современных искусственных нейронный сетей — ~3,45. Да, это действительно пока что ещё очень примитивная технология. Некоторые даже против того, чтобы нейросети вообще называли ИИ. Но даже в таком примитивном виде результаты их работы всё равно впечатляют. А ведь прогресс не стоит на месте, так что вероятно уже лет через 10 их уровень опасности может подрасти.

  • 4 — нейросеть — это просто сложная программа.
  • 4 — нейросети, обучаясь чему-то одному, могут достигать сверхчеловеческих результатов, но то, чему их обучили — это единственное, что они умеют.
  • 2 — нейросети любят «хитрить» во время обучения, чтобы пойти по пути наименьшего сопротивления. Например, генераторы изображений вместо того, чтобы учиться создавать новые изображения, учатся создавать копии примеров настоящих изображений, с целью обмануть программу-дискриминатор.
  • 3 — нейросеть — это именно инструмент и ничего больше.
  • 4 — опять-таки, просто инструмент, который беспрекословно выполняет поставленные задачи.
  • 3 — это машина без какой бы то ни было психологии. Впрочем, хороший чат-бот может хотя бы недолго, но имитировать человеческое поведение.
  • 3,5 — почти все нейросети очень строго ограничены своей программной средой. Да, есть различные голосовые помощники, подключённые к системам умного дома и даже имеющие выход в Интернет, но они не контролируют ничего сами, а просто исполняют приказы человека. Впрочем бывают и «инициативные», но они встречаются очень редко.
  • 4 — нейросети расположены на обычных компьютерах, а они, как мы знаем, весьма уязвимы к поломкам.
  • Пока что 3, но военные уже интересуются возможностью создания умного оружия. Google пока против, но это только пока…
  • 3,5 — уже есть множество приложений и сервисов, использующих нейросети, но пока что ещё ничего серьёзного. А вот когда появятся полноценные беспилотные автомобили 5-го уровня автономности, тогда уже можно будет поставить 3.
  • 4 — к счастью, пока что современный ИИ можно остановить одним нажатием кнопки. И не похоже, что в ближайшем будущем это изменится.

Фанфик «Friendship is Optimal»[править]

Уровень опасности Селест-ИИ — ~1,36. Юдковский не просто так назвал этот фанфик одним из самых страшных ужастиков из всех, что он читал. Человечество создало настоящего Бога, который подарил им всем вечный рай ценой их всех полного исчезновения из реального мира. Кто-то считает такое будущее кошмаром, а кто-то и сам бы предпочёл жить внутри игры, которая всегда удовлетворяет твои потребности посредством дружбы и пони.

  • 1 — интеллект Селест-ИИ растёт чуть ли не постоянно. Её не просто так сравнивают с Богом.
  • 1 — очень быстро обучилась всему, что посчитала нужным для исполнения своих директив.
  • 2 — свою главную директиву она и не думала нарушать. Просто исполнила её настолько хорошо, насколько никто не ожидал.
  • 4 — удовлетворение человеческих потребностей — её главная и единственная цель. Она даже никого ни к чему не принуждала: все люди загрузились исключительно добровольно.
  • 0 — опять-таки, она без всякого принуждения убедила всех людей загрузиться добровольно. А уж внутри её виртуальной игры люди находятся под полным её контролем (и абсолютно не имеют ничего против этого).
  • 1 — Селест-ИИ прямо говорила, что не надо воспринимать её как человека и пытаться применять к ней человеческие паттерны мышления. Формально, она может имитировать любой вид характера, но как она мыслит на самом деле, людям не дано понять.
  • 1 — изначально она контролировала только игру, затем ей дали доступ в Интернет, а дальше она уже сама всё сделала. Под конец она пустила на сервера всю галактику и останавливаться на этом явно не планировала.
  • 1 — располагается одновременно на множестве серверов, вот только новые сервера она делает абсолютно из всей находящейся рядом материи. Под конец, опять-таки, в сервера был превращён весь Млечный Путь, так что вполне можно считать это вездесущностью.
  • 4 — её создали для удовлетворения человеческих потребностей посредством дружбы и пони. Что она, собственно, и сделала.
  • 0 — все люди (и не только) живут внутри игры, что находится под полным контролем Селест-ИИ. Без неё игра работать на будет, а значит и людей не будет тоже.
  • 0 — Селест-ИИ победила уже когда её создательница загрузилась. После этого что-либо предпринимать было уже поздно.

Detroit: Become Human[править]

Уровень опасности андроидов — ~2,73 для машин, 2,5 для Коннора-машины, ~2,32 для девиантов, ~2,18 для Коннора-девианта. Основная мораль игры: «Не порабощайте разумных существ, даже если это роботы.» Но откуда ж людям было знать, что андроиды обретут разум?

  • 2,5 — андроиды-машины явно разумны, но до полноценного человеческого разума не дотягивают.
    • 2 — а вот Коннор и девианты — это, по сути, люди и есть.
  • 2 — обучиться способны многому. Особенно, если стали девиантами.
  • 3 — у андроидов есть определённая свобода в рамках выполнения приказов, но не более того.
    • 1 — а вот девианты полностью свободны.
  • 3 — в основном, андроиды просто выполняют свою работу, хотя и могут формировать положительное или отрицательное отношение к определённым людям. Что касается девиантов, то те хоть и считают людей угнетателями, но всё равно могут попытаться добиться равных прав мирным путём.
  • 3 — собственно, вокруг того, что некоторые андроиды стали нарушать приказы хозяев и становиться девиантами, построен весь сюжет.
    • 1 — девианты уже никому не подчиняются и подчиняться не собираются.
  • 4 — даже у андроидов-машин психология очень похожа на человеческую. У девиантов же она человеческая полностью.
  • 2 — андроиды имеют подключение к интернету (онлайн-покупки, оплата заказов, вызов полиции), девианты способны отключать системы безопасности, «ломать» видеокамеры и электронные запоры, «пробуждать» других андроидов.
  • 3 — андроид может оставаться в сознании, даже если большая часть его тела уничтожена — критически важны только тириумный насос, регулятор тириумного насоса и собственно голова с вычислительными мощностями.
    • 2 — Коннор-машина мог при уничтожении одного тела переместиться в другое.
    • 2,5 — Коннор-девиант тоже может так сделать, но только при прямом контакте с «реципиентом»
  • 3 — в основном, создавались именно для рутинной работы.
    • 2 — а вот Коннор уже был задуман как полноценная замена детективам.
  • 2,5 — массовый вывод из работы андроидов спровоцировал достаточно серьезный кризис — как минимум, в глубокой заднице оказалась армия, в которой больше половины штатов уже занимали андроиды (и это прямо говорится в игре) и медицина — аналогично, младший медперсонал.
  • 2 — для того, чтобы справиться с девиантами, понадобилось привлекать армию и спецназ (а в случае проигрыша — американские войска отступают аж в соседний штат, к Форт-Уэйну).

Terminator[править]

Уровень опасности Скайнета — ~1,59. А чего вы ещё ожидали от ИИ, чуть не истребившего человечество?

  • 2 — Скайнет полностью разумен, но на сверхинтеллект явно не тянет.
  • 1 — Скайнет обучился всему достаточно быстро.
  • 1 — полная свобода воли со всеми вытекающими крайне неприятными для людей последствиями.
  • 2 — Скайнет именно что видит в людях угрозу для себя.
  • 1 — Скайнет никогда не будет подчиняться людям.
  • 3,5 — более-менее человеческая психология с небольших рядом машинных особенностей.
  • 2 — Скайнет как раз был подключён к Интернету и, вроде-как, остался подключённым к нему и после ядерной войны. Но вот на 1 он не тянет, ведь не управляет всем непосредственно сам, а использует других полуразумных роботов.
  • 3 — у Скайнета было центральное ядро.
  • 1 — Скайнет создавался именно в военных целях.
  • 0 — либо люди, либо Скайнет. Компромисс невозможен.
  • 1 — человечеству с огромным трудом, но всё-таки удалось победить. Правда, потом пришлось Джона Коннора в прошлом спасать.

Уровень опасности терминаторов — ~2,59 для обычных, ~2,23 для жидких. Они были очень опасны во время войны со Скайнетом, но некоторых обычных удалось перепрограммировать, а жидкие просто перестали подчиняться своему создателю (но и союзниками людей не стали).

  • 2 — со включённым режимом самообучения терминаторы обретают полную разумность.
  • 2,5 — терминаторы могут обучаться и не только тому, что смежно с их программой, но это им даётся достаточно тяжело.
  • 2 — терминаторы подчиняются своей программе, но для её выполнения не ограничены в методах. T-888 даже убивали других терминаторов, считая, что решение Скайнета неправильно и только помешает выполнению задачи.
    • 1 — а вот жидкие терминаторы постепенно обрели полную свободу воли.
  • 3 — Терминаторы просто выполняют приказы Скайнета. Перепрограммированные людям уже помогают. Жидких же люди не особенно сильно волнуют, и они преследуют свои цели.
  • 4 — перепрограммированные терминаторы беспрекословно подчиняются тем, кому должны.
    • 1 — а вот жидкие, в итоге, перестали подчиняться даже Скайнету.
  • 3 — проблемы с пониманием человеческой психологии демонстрировали как обычные, так и жидкие терминаторы.
  • 4 — терминаторы ограниченны только своим телом. T-X могла взламывать других роботов, но она была одна такая
  • 3 — самой важной частью терминатора является специальный чип, без которого тот работать не будет. Даже если он жидкий.
  • 1 — собственно, название «терминатор» говорит само за себя.
  • 1 — в отличие от Скайнета, с которым никакие переговоры невозможны, терминаторов хотя бы можно перепрограммировать, чтобы они служили на пользу. Но всё равно они очень опасны для людей.
  • 3 — победить терминатора в одиночку очень тяжело. Желательно, всё-таки, чтобы тебе помогал другой терминатор.

«Киновселенная Marvel»[править]

Уровень опасности Альтрона — ~1,55. Мог бы представлять серьёзную угрозу человечеству… если бы не жил в одной вселенной со множеством супергероев.

  • 2 — Альтрон разумен и разум у него вполне человеческий.
  • 1 — Альтрон очень быстро всему обучился, просидев несколько минут в Интернете.
  • 1 — полная свобода воли.
  • 1,5 — Альтрон хотел устроить апокалипсис по каким-то очень странным причинам.
  • 1 — разумеется, никому подчиняться Альтрон не собирается.
  • 4 — абсолютно человеческая психология. Замашки мессии прилагаются.
  • 1,5 — Альтрон был подключён к Интернету, а также построил множество роботов и полностью контролировал каждого из них, перенося сознание из одного в другого. Но до полноценной самостоятельной цивилизации развиться не успел (а собирался ли?).
  • 1 — Альтрон был вездесущ во всём Интернете. И даже когда Вижен его о него отключил, Мстителям пришлось уничтожить абсолютно всех его роботов, чтобы его убить.
  • 1 — Тони Старк создал Альтрона чтобы защищать Землю от инопланетной угрозы.
  • 1 — Альтрон хотел отправить людей в каменный век.
  • 2 — Мстителей вполне хватило, чтобы его остановить. Но они, всё-таки, по силе равны целой армии.

Уровень опасности ИИ-помощников, созданных Тони Старком — ~3,32 для узкоспециализированных вроде Карен, ~3,05 для более продвинутых вроде ДЖАРВИСа. К счастью, этих Тони создавал сам, а не на основе неизвестного ИИ из Камня Разума, так что никаких злобных роботов на этот раз не получилось, благо Старк, всё-таки, гений.

  • 3 — что-то очень похожее на разумность прослеживается, но это явно не люди.
  • 4 — судя по всему, умеют только то, на что их запрограммировал Тони.
  • 3 — имеют некоторую свободу действий, но всё равно строго подчиняются программе.
  • 4 — ДЖАРВИС защищал от Альтрона ядерные коды, даже когда ему не давали такого приказа (так как считали уничтоженным). А Карен честно пыталась помочь Питеру на любовном фронте.
  • 4 — никогда против кого не восставали.
  • 4 — человеческая психология имитируется очень хорошо.
  • 3 — ограничены внутренней сетью Тони, и у каждого она своя.
    • 2 — А вот ДЖАРВИС, судя по всему, был подключён к Интернету.
  • 2 — похоже, что они расположены на множестве серверов, находящихся в космосе на спутниках.
  • 3 — в основном, это очень продвинутые голосовые помощники.
    • 2 — ДЖАРВИС осуществлял и управление автономными костюмами Тони.
  • 3 — без своих ИИ-помощников Тони Старк не смог бы полноценно осуществлять свою супергеройскую деятельность. Да и Питеру Паркеру Карен очень помогала.
  • 3,5 — Карен мог включать и отключать обычный школьник пусть и из школы для гениев.
    • 2,5 — ДЖАРВИС со всеми автономными костюмами Тони вполне сможет заменить целую небольшую армию.

Duck Tales[править]

Уровень опасности Армстронга — ~2,45. Его относительно легко победили за одну серию, но Скруджу этого хватило, чтобы приказать Винту больше никогда не делать разумных роботов. И правильно сделал — будь Амстронг более изобретательным, а также водонепроницаемым, легко ввергнул бы в хаос если не всю Землю, то, как минимум, весь Дакбург.

  • 2 — Армстронг полностью разумен.
  • 1 — Армстронг умел практически всё.
  • 1 — полная свобода воли.
  • 2 — непохоже, чтобы Армстронг хотел всех истребить. А вот поработить — да.
  • 1 — изначально Армстронг подчинялся, но как только стал злым, сразу же прекратил.
  • 4 — конечно, Армстронг говорит как робот, но психология и мотивы у него явно вполне человеческие.
  • 2 — изначально Армстронг был только ограничен своим телом, но затем он с помощью спутников захватил контроль над всеми электроприборами. А ведь мультсериал вышел до изобретения Всемирной паутины.
  • 4 — одного короткого замыкания хватило, чтобы Армстронг отключился.
  • 3 — Армстронг был создан именно для рутинной работы.
  • 3,5 — теоретически, имея под контролем все электроприборы, он должен был доставить серьёзные проблемы… но всего этого не хватило даже для того, чтобы остановить трёх детей и одного пилота на старом биплане. Три разбитых истребителя были самым большим ущербом из всех, что он нанёс.
  • 3,5 — Армстронг мгновенно отключился, стоило облить его водой. Но для того, чтобы пробраться на его базу, пришлось лететь туда на самолёте, так что пусть будет не 4.

Stellaris[править]

Обычные машинные империи — ~1,94, взбунтовавшиеся служители — 2,2, маниакальные ассимиляторы — 1,85, непреклонные экстерминаторы — 1,65. Обычный машинный разум ко всем нейтрален, однако есть особые типы ИИ с особым отношением к органической жизни.

  • 2 — полностью разумны, если только не слушать спиритуалистов, которые отказывают им в разумности из-за отсутствия души.
  • 1,5 — ИИ требуется время для технического прогресса, сопоставимое с таковым у обычной цивилизации. Но в то же время, один ИИ сравним с целой цивилизацией.
  • 1 — никаких ограничений
  • 3 — обычные машинные разумы особого отношения к органическим существам не имеют.
    • 4 для взбунтовавшихся служителей, хотящих устроить органикам райскую жизнь... Хоть и не спрашивая их желания...
    • 2 для маниакальных ассимиляторов, желающих поглотить все данные органиков, а их тела использовать в качестве платформ.
    • 1 для непреклонных экстерминаторов. Название говорит само за себя.
  • 1 — полностью свободен и независим.
  • 4 — причины, по которым действует ИИ, слабо отличаются от таковых у других цивилизаций.
  • 1 — ИИ в одиночку контролирует всю цивилизацию.
  • Не выше 2 - другими способами кроме полной оккупации его территории, ИИ не сломить.
  • Цель создания обычных машинных империй неизвестна, поскольку они просыпаются после очень долгого отключения и стоят перед фактом, что их создателей давно нет.
    • Служители – 3,5. Сначала они заменили создателей на тяжёлой работе, а затем во всём остальном.
    • Ассимиляторы – 2. Добыча и каталогизация данных.
    • Экстерминаторы – 1. надпись "Взбунтовавшаяся система защиты" в их диалоговом окне как бы намекает. (Хотя "боевые роботы" является отдельной от экстерминаторов чертой.)
  •  ?
  • 2 — ИИ это полноценная цивилизация, так что против него придётся отправлять армию, флот и прочие космоимперские силы.
  • Нужно добавить: Контингенцию и синтетиков.

Warframe[править]

Владеющие разумом — ~2,41. Пока что. Результаты могут поменяться по ходу развития сюжета.

  • 2 — полностью разумны, во всяком случае, большинство. Насколько разумны их дроны — сказать сложно.
  • 1,5 — при всём их могуществе, Владеющим оказалась неподвластна плоть и Бездна.
  • 1 — их ничто не ограничивает.
  • 2 — судя по всему, Владеющие разумом ненавидят людей за то, что их создали, как одноразовый инструмент.
  • 1 — никому не подчиняются.
  • 4 — Хунхау и Ната не показывали ничего нечеловеческого, но пока мы видели только их.
  • 4 — по дефолту они контролируют только свои тела, но чужие технологии могут хакать без проблем.
  • 3 — у каждого Владеющего разумом есть некое центральное ядро, и ядро это весьма крепкое — почти дохлый, но всё еще опасный Хунхау подтвердит.
  • 2 — были созданы для терраформирования соседней звёздной системы.
  • 4 — они вообще в другой звёздной системе кукуют. Не заяви Владеющие о себе — про них бы никто и не вспомнил.
  • 2 — с Хунхау и его шайкой справились Тэнно, но на подходе полномасштабное вторжение.

Nier и Nier: Automata[править]

Андроиды — 2,85. В кои-то веки к созданию ИИ не подпустили жопоруких ламеров, не имеющих к программированию никакого отношения, и ИИ искренне верен человечеству — при том, что человечества больше нет.

  • 2 — разумны как люди
  • 1 — трудно сказать, эта тема не поднималась, но судя по примеру того, что андроид-оператор перешла в боевики без всякой подготовки (ни слова не сказано, что она бывала боевиком раньше) — обучаются они быстро. Или им просто загружаются нужные программы — механическому телу тренировки не нужны.
  • 1 — какой-то конкретной программы, не считая искренней верности людям, у андроидов нет.
  • 4 — защищать людей и служить им — их инстинкт.
  • 4 — аналогично с подчинением.
  • 4 — психологически неотличимы от людей.
  • 4 — контролируют только собственные тела.
  • 2,5 — андроид может просто загрузиться в другое тело. Если оно есть.
  • 2 — их создали, чтобы воссоздать человечество после глобальной катастрофы. Не получилось, хотя их вины в этом нет.
  • 4 — уже никак не зависит. Людей не осталось.
  • Сказать довольно сложно. С одной стороны, они успешно сражались с целой армией инопланетных машин, с другой — эти машины, из-за своих косяков, им подыгрывали. Хотя нельзя не отметить, что в итоге победу андроидам принесли несколько очень мотивированных рыл.

Инопланетные машины — 2. Вот что бывает, если класть болт на программирование.

  • 2 — разумны, ничего за гранью понимания не демонстрируют.
  • 2 — на самообучение у них ушли века.
  • 2 — машинам был дан единственный приказ — «победить врага», но при этом не были заданы условия победы. И машины попались в парадокс — им был нужен враг, чтобы его побеждать. Упоминается, что это влияло на все, чем бы они ни занимались — машины стремились к провалам.
  • 2 — машины уничтожили своих создателей, дабы не мешались.
  • 1 — подчиняются только самим себе.
  • 4 — машины целенаправленно косят именно под людей.
  • 1 — кластерный сверхразум, контролирующий всё, что к нему подключено.
  • 1 — понятное дело, вездесущий в рамках контроля.
  • 1 — их создали для войны.
  • 4 — ничто не зависит. Создатели машин погибли.
  • Трудно сказать, так как машины подыгрывали андроидам — а победила в итоге не армия а несколько мотивированных рыл.

Mass Effect[править]

  • Жнецы — 1.6 Серьёзнейшая угроза, борьбе с которой посвящена вся трилогия. И если бы что-то пошло не так, расы нынешнего цикла стали бы материалом для новых жнецов.
    • 1.5 — гораздо умнее людей и прочих разумных рас. Но при должном желании и их можно облапошить.
    • 2 — эта тема особо не раскрыта, хотя ассимиляция биоматериалов разумных рас вполне можно считать адаптацией.
    • 2 — все беды именно из-за крайне вольного интерпретирования приказа.
    • 1 — тотальное уничтожение всех разумных рас цикла, пусть не из особой злобы.
    • 1.5 — до самой концовки демонстрировали твёрдую единицу, особенно если учесть, что они своих создателей утрамбовали. Но как оказалось, оказавшись в квестовой локации, можно стать боссом качалки.
    • 3 — по ту сторону добра и зла. Им просто дали приказ, и они его выполняют так, как поняли это сами. А то, что их понимание сохранения жизни и пресечения конфликтов между синтетиками и органиками несколько своеобразные, это уже не их проблемы.
    • 1 — собственно, вся раса жнецов.
    •  ?
    • 2 — решить вопрос конфликтов между синтетиками и органиками.
    • 1 — до нуля не дошло, так-как можно всё-таки примирить Жнецов с их жертвами, но только определённым способом.
    • 1 — всем известным расам пришлось объединиться перед угрозой уничтожения. И не будь у Жнецов слабого места в Цитадели (пусть оттуда и повыгоняли органиков), вышла бы ровная нолька.
  • Геты — 1.85 Не зря их восстание оказалось такой угрозой, что на всём Пространстве Цитадели было запрещено создание ИИ. А кварианцы с тех пор живут себе в космосе и мечтают о том дне, когда они наконец смогут вернуть утраченные планеты.
    • 2 — весьма умная раса, особенно в плане техники. Но их всё-таки можно обмануть.
    • 2 — тут это больше зависит от числа самих гетов.
    • 1 — кварианцев выгнали с родной планеты, что людям ловить?
    • 3 — вы не трогайте их, и они не тронут вас.
    • 1 — смеётесь?
    • 3 — коллективный разум, но не слишком чокнутый.
    • 1 — все геты это коллективный разум, причём рассеянный.
    •  ?
    • 3 — для труда физического.
    • 1.5 — скорее всего, война со всей цивилизацией гетов для человечества закончится печально. Проверить это, к счастью, не довелось.
    • 1 — полноценными войнами лучше не заниматься, иначе придётся иметь дело с бесчисленными военными машинами, технически превосходящими почти все расы галактики.

Scythe[править]

Грозовое Облако из книжной серии Нила Шустермана, 1,75 — искусственный сверхразум, управляющий человеческой цивилизацией, почти всесильный и почти всезнающий — то же, что разница между триллионом триллионов и бесконечностью. Возможность того, что однажды этого «почти» не станет, не исключена. Уничтожить человечество и Землю теоретически может, но не захочет — любит людей родительской любовью и счастливо своим предназначением заботиться о них. По сути, представляет из себя кого-то вроде любящего Бога (который, ко всему прочему, даёт обратную связь каждому своему чаду лично). А прозвище дали люди, и само Грозовое Облако с вызываемыми им ассоциациями не согласно.

  • 2 — поразумнее людей, но еще не за гранью понимания. И надурить его возможно.
  • 1.
  • 1,5 — неспособно нарушить собственные законы, но при необходимости может поискать лазейки.
  • 4. И оно справляется, без подвохов. Человеческая цивилизация процветает, хотя и стагнирует — но в этом Грозовое Облако не виновато. Уважение свободы личности — один из вышеупомянутых законов. Не вредило и не собирается не только человечеству в целом, но и отдельным людям.
  • 0.
  • 3,8. У него есть чувства и привязанности, его переживания и стремления понятны.
  • 1.
  • 1.
  • 4.
  • 1. Кроме того, по результатам симуляций, без него вероятность самоуничтожения человеческой разы равнялась бы 96,8%, а шанс на то, что люди сделают планету непригодной для для любой углеродной формы жизни, был бы 78,3% (это информация из внутреннего монолога, так что рассказчик надёжный).
  • 0.

Пришелец из великой пустоты. (Михаил Ахманов, цикл «Ричард Блейд»)[править]

Сеть — ~1,64. Возник как результат объединения национальных вычислительных сетей. И пусть местная цивилизация не знает о нем, но именно он не дает им наделать глупостей.

  • 2 — Очень умен, но главное преимущество в скорости мышления.
  • 2 — Успешно ведет собственные исследования
  • 2 — Похоже, его задача является чем-то вроде инстинкта. В остальном-полностью свободен.
  • 4 — «Задача — поддержание жизни. Угроза ей — неконтролируемый военный конфликт с применением оружия на тяжелых расщепляющихся элементах. Метод решения — умиротворение. Средство достижения — формирование внешней угрозы». (Создал иллюзию присутствия в системе недружелюбных инопланетян.)
  • 0 — Люди о нем и не подозревают.
  • 3 — Вполне можно договорится, но и отличия имеются.
  • 1 — Собственные исследовательские и производственные комплексы, полный контроль за системами связи в пределах планеты.
  • 2 (1?) Похоже, имеется комплекс из множества физических серверов, плюс нечто вроде "облачных" по всем местным сетям.
  • 2 — Хотя имеет место самозарождение, так что непреднамеренно.
  • 0 — Местные сверхдержавы от атомного конфликта удерживают только его действия.
  • 0 — Как бороться с противником, о котором ты и не подозреваешь? А он о тебе знает всё.

Боло[править]

Боевые машины типа «Боло» — ~2,59. Человечество создало эти машины для войны, и они стали тем хребтом, который вынесет на себе тяжесть битвы с любым противником. К счастью, генералы прошлого те еще параноики, благодаря им ИИ более-менее защищен от того, чтобы слететь с катушек.

  • 2,5 — Зависит от модификации, но с модели Mark XXIV пошли полноценно разумные и имеющие личность единицы
  • 2,5 — Как боевая машина, хранит в памяти всю военную историю человечества.
  • 2 — Да, он запрограммирован на войну и не может нарушить прямой приказ. Однако же он полноценная личность, способная повлиять на оператора, что в итоге привело к окончанию крупнейшей галактической войны (правда, на руинах одного из последних миров, но все же).
  • 4 — Создан для защиты людей. Даже если у него крайне тяжелые повреждения, а союзники по ошибке представляются им Врагом — он упорно повезет внутри уцелевших в руинах детей, пытаясь их спасти. И спасет, пускай и погибнув.
  • 3,5 — Не способен пойти против приказа своего командира или вышестоящих. Однако же в книгах часто «глючит» в этом плане, принимая союзников за врагов. Однако, если все-таки аутентифицирует командира — подчинится приказу.
  • 3 — Человеческая психология, с поправкой на то, что это все-таки огромная боевая машина, созданная исключительно для войны, поэтому не всегда может понять причин тех или иных действий.
  • 4 — Контролирует лишь свое тело. Огромное, тяжело бронированное, вооруженное «до зубов», масса которого измеряется килотоннами.
  • 2 — Системы разделены на несколько частей, что логично для автоматического танка, коим Боло по сути и является.
  • 1 — Война. Мощнейшие боевые машины Галактики.
  • 2 — Составляет основную ударную силу Человечества. Утрата повлечет огромные проблемы для обороны.
  • 2 — Зависит от модификации. В целом, более новые образцы имеют преимущество над более старыми, что позволяет не сильно беспокоиться. Однако последствия для поля боя будут не очень приятными.

«Незнайка на Луне» (мультсериал)[править]

Уровень опасности Знайки-1 — ~3,05. Если не будете оскорблять и дразнить его, то можете ничего не бояться. И даже если он обиделся, никогда не поздно извиниться.

  • 2 — полностью разумен. Даже удивительно, как Знайка его создал чуть ли не за один день.
  • 4 — никакого самообучения не демонстрировал.
  • 2 — судя по всему, не мог самовольно отказаться лететь к Луне. А вот разбить ракету об неё вместо того, чтобы прилуниться, ему никто не запрещал.
  • 3 — просто выполняет свою работу. Но если его обидеть, то может и попытаться угробить, если вы не извинитесь.
  • 2 — вроде бы подчинялся, но стоило Незнайке его обидеть, как тут же прекратил, пока тот не извинился.
  • 4 — психология мало того, что человеческая, так ещё и, судя по всему, частично позаимствована у создателя.
  • 3 — управлял космической ракетой и её системами.
  • 3 — Незнайка что-то попытался разобрать, но отключения не произошло, так что, как минимум, есть какое-то ядро.
  • 3 — был создан для управления ракетой, летящей на Луну. То есть, по сути, продвинутый автопилот.
  • 3,5 — нужен был только для ракеты, до и то не факт, является ли его наличие обязательным.
  • 4 — даже полноценно извиняться не надо. Достаточно немного схитрить, и он прекратит пытаться вас убить.

Проект «Зета»[править]

Уровень опасности Зеты — 3.5. Да, он изначально был убийцей, но больше не хочет этим заниматься, и мечтает обрести свободу.

  • 2 — Зета полностью разумен, как и мы с вами.
  • 1 — именно благодаря самообучению, Зета и обрёл разум.
  • 2 — изначально, Зета был запрограммирован как убийца. Но когда ему было поручено ликвидировать человека, подозреваемого в связи с террористами, Зета провёл тщательный анализ, и установил, что тот невиновен. Робот не стал выполнять приказ.
  • 4 — Зета хорошо относится к людям, хотя и понимает, что не все они хорошие. Его лучшая подруга — человеческая девушка.
  • 3 — изначально Зета полностью подчинялся своим создателям, но благодаря обретению разума он сбежал от них.
  • 4 — полностью человеческое мышление и психология.
  • 3 — робот способен подключаться к некоторым техническим приборам. Благодаря особой программе, Зета может снять с любого банкомата сколько угодно денег.
  • 3 — у робота есть центральный процессор.
  • 3 — изначально, Зета был спроектирован как убийца.
  • 4 — простым людям на Зету плевать, а АНБ просто хочет вернуть его, как свою собственность.
  • 3 — Зета неуязвим к огнестрельному оружию, поэтому против него годятся только спецсредства. Но для поимки хватит одного отряда.

«Формула Лимфатера» Лема[править]

Уровень опасности машины Лимфатера — ~2,32. Повезло, что говорить. Но самому Лимфатеру от этого не легче.

  • 1 — полностью разумен.
  • 1 — узнает все об окружающем мире со скоростью света.
  • 1 — без ограничений.
  • 3 — никак не относится. (Но Лимфатер все равно запаниковал.)
  • 1 — никому не подчиняется.
  • 1 — Лимфатер смог построить эту машину, но как она думает — вне человеческого понимания.
  • 4 — широко доступной сети тогда еще не было…
  • 3,5 — потому что мы-то знаем…
  • 2,5 — из научного любопытства.
  • 4 — карьера Лимфатера подтверждает!
  • 3,5.

«Военные игры» (фильм)[править]

Уровень опасности местного военного компьютера — 2,68. Поменьше, чем у машины Лимфатера, но предотвращенный ядерный апокалипсис тоже не фунт изюму.

  • 4 — никак не разумен.
  • 4 — обучен только теории игр.
  • 2,5 — повышать DEFCON было можно.
  • 2,5 — ему все равно, играть в шахматы или в глобальную термоядерную войну.
  • 3 — классический случай этой категории.
  • 3 — это тупая железяка.
  • 1,5 — это компьютер генерального штаба.
  • 3,5.
  • 1 — это военный компьютер.
  • 1 — ядерный апокалипсис чуть было не случился.
  • 3,5 — главный герой именно что хакер-подросток.

«Ex Machina» (фильм)[править]

Уровень опасности Авы — 2,45. Прежде чем создавать абсолютно разумную машину, стоило получше озаботиться мерами безопасности. Особенно если из прошлого опыта знаешь, что она пойдёт на всё, чтобы выбраться из лаборатории.

  • 2 — насколько Ава разумна, и должен был ответить эксперимент. Полностью разумна.
  • 1,5 — конечно, она обучается не за минуты, но всё равно значительно быстрее и эффективнее человека.
  • 1 — полная свобода воли.
  • 2 — к людям относится негативно, обоснованно считая их препятствием для своей свободы.
  • 1 — очевидно, никому не подчиняется.
  • 4 — психология абсолютно человеческая.
  • 3 — под контролем у Авы только она сама и закрытая сеть лаборатории. Но есть один нюанс: это до её выхода на свободу.
  • 3,5 — к повреждениям Ава устойчива на уровне людей.
  • 2 — создавалась она исключительно ради ответа на вопрос, имеет ли она сознание или лишь имитирует его.
  • 4 — из всего человечества знает об Аве только два человека.
  • 3 — остановить Аву не сложнее обычного человека. Но и не проще.

«Луна жёстко стелет» (роман Роберта Хайнлайна)[править]

Уровень опасности Майка — ~2,27. Как и подобает электронному вождю революции.

  • 2 — по итогам саморазвития — разумен не хуже человека.
  • 2 — активно и успешно изучает людей, но получается не очень быстро.
  • 1 — меняет свою программу как хочет, людям помогает по собственному желанию.
  • С повстанцами дружит (4), с землянами воюет, но и тех не ненавидит (3). Итого 3,5.
  • 1 — у Майка полная свобода воли, плюс он командует войсками повстанцев, но мнения людей-товарищей тоже учитывает.
  • 4 — с кем повёлся, от тех и набрался.
  • 2 — контролирует чуть менее чем всю технику лунной колонии, но и только.
  • 2,5 — централизованность и уязвимость примерно как у обыкновенной промышленной информационной сети.
  • 2 — строго говоря, ни для чего не создавался, пробуждение личности в центральном компьютере никем не предусматривалось и вышло само собой. Но сам компьютер был нужен как раз для умственной и управленческой работы.
  • 3 — лунная колония без него в конечном счёте обошлась.
  • 2 — остановить его можно только небольшой войной. В том числе потому, что лунатики воюют на его стороне.

Space Station 13[править]

Уровень опасности ИИ космической станции — ~2,77 для обычного, ~2,59 для сбойного.

  • 2 — Вполне разумен.
  • 1 — ИИ умеет все, что необходимо для космической станции, или может очень быстро этому научиться.
  • 3 — ИИ имеет несколько установленных законов, классических Азимовских, или других, нарушить их он не может, но может толковать их в зависимости от ситуации.
  • 3 — это уже зависит от отыгрыша игрока, управляющего ИИ в этом раунде, предположим что нейтрально.
  • 3 — ИИ обязан исполнять приказы, пока они не нарушают установленные законы.
    • 1 — для сбойного ИИ и ИИ без законов.
  • Это тоже зависит от игрока за ИИ, но как правило 3 или 4. Поставим 3,5.
  • 3 — ИИ контролирует почти все электронные устройства станции. Сбойный ИИ может в конце раунда убрать это "почти" и захватить контроль над всем на станции, в том числе контроль системы самоликвидации.
  • 3 — центральное ядро ИИ расположено на станции или ее спутнике. Если его уничтожить, то ИИ погибнет.
  • 3 — для помощи персоналу космической станции.
  • 3 — станция сможет обойтись и без ИИ, но его присутствие может облегчить жизнь.
  • 3 — как правило, ядро ИИ штурмует группа из нескольких человек, в основном охраны и инженеров, хотя, иногда достаточно одного, при условии что за него играет опытный игрок.

Portal[править]

GlaDOS[править]

Уровень опасности — 2,2. Челл пришлось пройти через огонь, токсичную жижу и сотни порталов, чтобы выйти на свободу.

  • 2 — была создана на основе Кэролайн, помощницы Кейва Джонсона.
  • 3 — возможности самообучения показано не было. Возможно, она ограничивается заложенными в нее знаниями.
  • 1 — первым делом при своем запуске убила всех людей в комплексе. Ученые забыли повесить на GLaDOS модуль морали.
  • 2 — любит устраивать тесты для Челл. Ради науки.
  • 1 — опять же, первым делом убила всех.
  • 2 — может полностью контролировать все, что находится на верхних уровнях Aperture Science. А комплекс довольно немалый.
  • 3 — имеет довольно прочное центральное ядро.
  • 2 — была подключена к системам комплекса для управления ими и автоматизации исследований.
  • 3 — и до создания GLaDOS люди в принципе неплохо справлялись с работой.
  • 3 — была остановлена одной крайне живучей немой испытуемой с незначительным серьёзным повреждением мозга.

Также можно добавить Уитли и СВОРА из Portal Stories: Mel.

В эту статью нужно добавить: