[astera-orey]

Небольшая (большая) кулстори о том, как два айтишника решили поиграть в "Детройт".

Спустя 4 часа игры, могу сказать честно - пока что это выглядит как очень смешная игра. Не знаю, как вообще возможно принимать происходящее всерьез, потому что никто не мог бы написать AI с такими директивами (отсутствием их, лол).

Это игра про конфликт андроидов и людей, говорили они. Только фишка в том, что андроидов в этой игре нет (кроме Коннора, возм.). Есть люди, обилие разных отчего-то трехнутых на всю голову людей (?) и других людей из низшей касты, которые носят разноцветный диод, но которые ничем не отличаются от первых психологически. Называть их андроидами = унижать machine learning и искусственный интеллект.

Был такой Айзек Азимов, который в сороковых годах, еще до начала какой-либо компьютерной индустрии как таковой, написал Три Закона Роботехники. Теперь, когда техника чутка шагнула вперед, можно уверенно сказать, что эти Законы несовершенны, в них много противоречий, да и вообще формулировка компьютерных директив словами и человеческим языком - весьма провальных процесс. Но главное не формулировка в данный момент (у нас же тут сай-фай, тириум и светящиеся диоды), главное принцип.

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Никто не создаст машину, не встроив в нее "защиту от дурака". Андроиды Детройта обязаны повиноваться приказам человека, но что, если человек отдает приказ убить? Причинять боль другому? Причинять вред другому? Почему Кара, чья прямая обязанность - caretaker, не предпринимает абсолютно ничего, наблюдая домашнее насилие и прямую угрозу жизни ребенка? Никак не могу понять, какого же хрена исполнение того, что должно быть самой первой из всех директив, вдруг называется "девиацией"?

Почему Маркус, который мастерски владеет паркуром и координацией, не способен обезвредить какого-то хлюпика? Почему Кара вообще не способна обезвредить Тодда? Как и любой андроид, она не чувствует боль, она способна просчитать траекторию движения и оптимальный риск для жизни и здоровья всех присутствующих. Почему она не связывается с полицией? Со службой опеки? У них же есть возможность считывать память андроида, лучше доказательств не найти. Или в Штатах через двести лет не будет службы защиты детей, а у полиции атрофируется мозг? хддд

Сцены, которые, наверное, должны вызывать жалость, не вызывают абсолютно ничего. Андроиды должны стоять в отдельном набитом купе автобусов? Збс, но они вообще-то не устают, не потеют, не болеют, и в конце концов им просто п о х у й. Или может, сценаристы на ночь укрывают свой компьютер одеялком и выделяют ему отдельную комнату? хддд

Андроид, который удерживал девочку в заложниках и порешил всю семью за то, что они хотели поменять его на другую модель (??!) - shoot to kill ffs, что за разведение соплей? Андроид, который нанес двадцать восемь ножевых челу, который ударил его битой, смотрит щенячьим взглядом и умоляет его не выдавать? Are u ok dude? Кто-то еще сомневался здесь? Shoot to kill два раза, чтобы наверняка. И эти славные детальки на допросе о том, что его прижигали сигаретой, унижали и прочая... но это МАШИНА, он не ощущает боли, ему должно быть фиолетово, оскорбляют его или нет, пока это не противоречит директивам. Да и к чему вообще был этот допрос, если Коннор просто может считать данные из его памяти?...

Lets be clear, я очень трепетно отношусь к технике. Если я вижу, как какой-нибудь тупой ребенок херачит об парту калькулятор, мне искренне хочется влепить ребенку люлей. Но это не значит, что я буду оправдывать то, что калькулятор в ответ нанес ему двадцать восемь ножевых. Дело, конечно же, не в какой-то "душе" или тому подобном. Просто калькуляторы не чувствуют боль, калькуляторы чинятся, есть понятие бэкапа, есть понятие замены памяти. Люди пока не чинятся. Возможно, когда людей научатся чинить так же легко, как и андроидов, ценность их жизней чутка сравняется, но пока что выбор достаточно очевиден.

Люди, показанные в Детройте, пока что уроды все до одного, ну, кроме девочки, наверное. Без особых на то причин. Наверное, Хэнк должен вызывать сочувствие, но он не вызывает. Есть личные драмы, и есть работа. Есть два дня compassionate leave, и ты встаешь обратно в строй. Скрипишь зубами, глотаешь боль и злость, глотаешь бухло, если тебе от этого легче - и делаешь свою работу, потому что ты профессионал, или потому что ты присягал, или потому что то, что называется долгом и совестью, не позволит тебе подставить и подвести других. Да, теперь у меня есть право так говорить, потому что я прошла через почти такое же дерьмо несколько месяцев назад. Поэтому нет, Хэнк, никакого сочувствия.

Единственный, кто пока что ведет себя относительно адекватно - это свет мой зеркальце Коннор. Относительно, потому что он как-то слишком вольно трактует прямые приказы. Но по крайней мере у меня все еще есть надежда, что он порешает это двинутое поголовье андроидолюдей или по крайней мере погибнет, честно выполняя долг.

Возможно, по мере прохождения раскроются какие-то новые глубокие истины, которые изменят мое мнение к происходящему на экране, но пока что so much for this sci-fi attempt.

Не знаю толком, чего я ждала. Мне хочется думать, что созданные людьми машины, наш дружественный ИИ, будут по дефолту лучше людей. Они будут способны на вычислительную мощность, скорость и силу, которых никогда не достичь человеку. Они будут оперировать, руководствуясь максимально чистой моралью; да - моралью, заданной извне, прописанной в строках кода, но не забитой всем нашим человечьим шумом из стереотипов и предубеждений и ошибок восприятия. Они будут оперировать моралью, которой они не смогут поступиться, и поэтому они будут лучше людей. Они будут тем, что можно было бы назвать Ultimate Morale Justice.

Поэтому не надо делать из машины человека. Это крайне дерьмовое решение.