[Astera Orey]

Небольшая (большая) кулстори о том, как два айтишника решили поиграть в "Детройт".

Спустя 4 часа игры, могу сказать честно - пока что это выглядит как очень смешная игра. Не знаю, как вообще возможно принимать происходящее всерьез, потому что никто не мог бы написать AI с такими директивами (отсутствием их, лол).

Это игра про конфликт андроидов и людей, говорили они. Только фишка в том, что андроидов в этой игре нет (кроме Коннора, возм.). Есть люди, обилие разных отчего-то трехнутых на всю голову людей (?) и других людей из низшей касты, которые носят разноцветный диод, но которые ничем не отличаются от первых психологически. Называть их андроидами = унижать machine learning и искусственный интеллект.

Был такой Айзек Азимов, который в сороковых годах, еще до начала какой-либо компьютерной индустрии как таковой, написал Три Закона Роботехники. Теперь, когда техника чутка шагнула вперед, можно уверенно сказать, что эти Законы несовершенны, в них много противоречий, да и вообще формулировка компьютерных директив словами и человеческим языком - весьма провальных процесс. Но главное не формулировка в данный момент (у нас же тут сай-фай, тириум и светящиеся диоды), главное принцип.

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Никто не создаст машину, не встроив в нее "защиту от дурака". Андроиды Детройта обязаны повиноваться приказам человека, но что, если человек отдает приказ убить? Причинять боль другому? Причинять вред другому? Почему Кара, чья прямая обязанность - caretaker, не предпринимает абсолютно ничего, наблюдая домашнее насилие и прямую угрозу жизни ребенка? Никак не могу понять, какого же хрена исполнение того, что должно быть самой первой из всех директив, вдруг называется "девиацией"?

Почему Маркус, который мастерски владеет паркуром и координацией, не способен обезвредить какого-то хлюпика? Почему Кара вообще не способна обезвредить Тодда? Как и любой андроид, она не чувствует боль, она способна просчитать траекторию движения и оптимальный риск для жизни и здоровья всех присутствующих. Почему она не связывается с полицией? Со службой опеки? У них же есть возможность считывать память андроида, лучше доказательств не найти. Или в Штатах через двести лет не будет службы защиты детей, а у полиции атрофируется мозг? хддд

Сцены, которые, наверное, должны вызывать жалость, не вызывают абсолютно ничего. Андроиды должны стоять в отдельном набитом купе автобусов? Збс, но они вообще-то не устают, не потеют, не болеют, и в конце концов им просто п о х у й. Или может, сценаристы на ночь укрывают свой компьютер одеялком и выделяют ему отдельную комнату? хддд

Андроид, который удерживал девочку в заложниках и порешил всю семью за то, что они хотели поменять его на другую модель (??!) - shoot to kill ffs, что за разведение соплей? Андроид, который нанес двадцать восемь ножевых челу, который ударил его битой, смотрит щенячьим взглядом и умоляет его не выдавать? Are u ok dude? Кто-то еще сомневался здесь? Shoot to kill два раза, чтобы наверняка. И эти славные детальки на допросе о том, что его прижигали сигаретой, унижали и прочая... но это МАШИНА, он не ощущает боли, ему должно быть фиолетово, оскорбляют его или нет, пока это не противоречит директивам. Да и к чему вообще был этот допрос, если Коннор просто может считать данные из его памяти?...

Lets be clear, я очень трепетно отношусь к технике. Если я вижу, как какой-нибудь тупой ребенок херачит об парту калькулятор, мне искренне хочется влепить ребенку люлей. Но это не значит, что я буду оправдывать то, что калькулятор в ответ нанес ему двадцать восемь ножевых. Дело, конечно же, не в какой-то "душе" или тому подобном. Просто калькуляторы не чувствуют боль, калькуляторы чинятся, есть понятие бэкапа, есть понятие замены памяти. Люди пока не чинятся. Возможно, когда людей научатся чинить так же легко, как и андроидов, ценность их жизней чутка сравняется, но пока что выбор достаточно очевиден.

Люди, показанные в Детройте, пока что уроды все до одного, ну, кроме девочки, наверное. Без особых на то причин. Наверное, Хэнк должен вызывать сочувствие, но он не вызывает. Есть личные драмы, и есть работа. Есть два дня compassionate leave, и ты встаешь обратно в строй. Скрипишь зубами, глотаешь боль и злость, глотаешь бухло, если тебе от этого легче - и делаешь свою работу, потому что ты профессионал, или потому что ты присягал, или потому что то, что называется долгом и совестью, не позволит тебе подставить и подвести других. Да, теперь у меня есть право так говорить, потому что я прошла через почти такое же дерьмо несколько месяцев назад. Поэтому нет, Хэнк, никакого сочувствия.

Единственный, кто пока что ведет себя относительно адекватно - это свет мой зеркальце Коннор. Относительно, потому что он как-то слишком вольно трактует прямые приказы. Но по крайней мере у меня все еще есть надежда, что он порешает это двинутое поголовье андроидолюдей или по крайней мере погибнет, честно выполняя долг.

Возможно, по мере прохождения раскроются какие-то новые глубокие истины, которые изменят мое мнение к происходящему на экране, но пока что so much for this sci-fi attempt.

Не знаю толком, чего я ждала. Мне хочется думать, что созданные людьми машины, наш дружественный ИИ, будут по дефолту лучше людей. Они будут способны на вычислительную мощность, скорость и силу, которых никогда не достичь человеку. Они будут оперировать, руководствуясь максимально чистой моралью; да - моралью, заданной извне, прописанной в строках кода, но не забитой всем нашим человечьим шумом из стереотипов и предубеждений и ошибок восприятия. Они будут оперировать моралью, которой они не смогут поступиться, и поэтому они будут лучше людей. Они будут тем, что можно было бы назвать Ultimate Morale Justice.

Поэтому не надо делать из машины человека. Это крайне дерьмовое решение.

Comments

Она не про ИИ, не про андроидов и даже не про людей, не жди Она исключительно про давление на эмоции и про няшне персов. Ну, и про вариативность, пожалуй. Прост пособие - как сделать популярную игру, если сценарий и сеттинг сосут. Логику во всем этом искать... ну, можно, конечно. Если ты фанат конспиративных теорий и синих занавесок.

[Achenne]

Есть люди, обилие разных отчего-то трехнутых на всю голову людей (?) и других людей из низшей касты, которые носят разноцветный диод, но которые ничем не отличаются от первых психологически. Называть их андроидами = унижать machine learning и искусственный интеллект.

Да.
Зыс.

И это. Я бы лично тебе не стала Детройт рекомендовать, потому что здесь конфликт кудаааа ближе к ДАшному про магов, транквилов и вот это все, чем к Азимову.
Нет, это нихрена не про роботов, но с тем же успехом можно придраться, например, к ВАЛЛ:И, там тоже Валли и Ева ведут себя как ботан из 11Б и умница-отличница. Но все считают, что мульт годный)

Поэтому не надо делать из машины человека. Это крайне дерьмовое решение.

Именно поэтому сеттинг очень хорош для всяких деконструкций etc, если не играть строго по правилам автора.

[Achenne]

Поэтому не надо делать из машины человека. Это крайне дерьмовое решение.

А,еще с этим тезисом можно поспорить - не в рамках Детройта, но у меня есть любимая повесть, которая как раз про это. Если читала, то расскажи, как она тебе.

[Astera Orey]

Dear Irving,

Она не про ИИ, не про андроидов и даже не про людей, не жди Она исключительно про давление на эмоции и про няшне персов.

то же впечатление Хз, я думаю, это даже и могло бы сработать, если бы это были не "андроиды" а просто люди из какой-то эээ... рабочей бесправной категории того времени? Юная девочка-стажерка, впервые столкнувшаяся с насилием в семье, толком еще не знающая, как поступить правильно, все это. Прост привязывать это к технике и получить вот это, ну.... Но с вариативностью согласна, это реально хорошо сделали. И то, что время тикает, решай быстро, все как в жизни лол ))

Achenne,

конфликт кудаааа ближе к ДАшному про магов, транквилов и вот это все, чем к Азимову.

Да, пожалуй. Но недостаток обоснуя гнетет меня

Нет, это нихрена не про роботов, но с тем же успехом можно придраться, например, к ВАЛЛ:И, там тоже Валли и Ева ведут себя как ботан из 11Б и умница-отличница. Но все считают, что мульт годный)

Ну мульт есть мульт ))) Он в первую очередь для детей создан и не претендует на глубокие моральные дилеммы и социальные конфликты, а здесь вроде были попытки в серьезность.

у меня есть любимая повесть, которая как раз про это. Если читала, то расскажи, как она тебе.

Не читала, но прочту, спасибо за ссыль! Отпишусь потом.

[Achenne]

Astera Orey,

Но недостаток обоснуя гнетет меня

Я тоже сначала очень на это говнилась, а потом втянулась, как котенок в пылесос. )

Ну мульт есть мульт ))) Он в первую очередь для детей создан и не претендует на глубокие моральные дилеммы и социальные конфликты

Точно так же мне недавно говорили в ВК про все компьютерные игры вообще
Мол, это чисто развлекалово, какие-такие идеи могут быть в компигре? Еще и оригинальные?
А теперь пойди и скажи это Киркбрайду.

Сейчас нет четкого разделения на культурные явления для детей / для взрослых, за исключением какого-нибудь Лунтика, прастите. Нутыпонел. ВАЛЛ:И точно не прямо для детей-детей, там куча социальной сатиры и всегоэтого.

[Astera Orey]

Я тоже сначала очень на это говнилась, а потом втянулась, как котенок в пылесос. )

ЭТО НАЧИНАЕТСЯ НЕЗАМЕТНО

А теперь пойди и скажи это Киркбрайду.

кричу нда, там чересчур оригинально, за гранью... ээээ... оригинальности, лол )))

Сейчас нет четкого разделения на культурные явления для детей / для взрослых, за исключением какого-нибудь Лунтика, прастите. Нутыпонел. ВАЛЛ:И точно не прямо для детей-детей, там куча социальной сатиры и всегоэтого.

мммм... да, я согласна с какой-то стороны. Ну т.е. я бы сказала, что тот же Достоевский никак не для детей в школе, а многие игры, которые прямо вот ПЕГИ18 - самое то и развлечься и подумать для того возраста. Но мультосы, не знаю, на логику событий никогда особо не уповали, например, я не могу воспринимать равным каноном серию мультосов по ЗВ и серию фильмов по ЗВ, ну, по очевидным причинам )))

[Кротик мой любимый]

Она не про ИИ, не про андроидов и даже не про людей, не жди Она исключительно про давление на эмоции и про няшне персов.

Она про людей и мигрантов

Там столько сюжетных идиотских поворотов, что местами просто орал. А еще универсальный интерфейс, с которым можно делать что угодно, без градаций допуска и вообще без паролей.
Если проходить залпом, глотая одним куском, без переигрывания - тогда да, все как-то глаже воспринимается. Стоит подумать над сюжетом - так сразу возникает множество вопросов, сводящихся к WTF?

Она про людей и мигрантов

В твиторе я наблюдала другое мнение - она про традиционное большинство и лгбт.
На то и на другое я могу ответить только так.

[Achenne]

Astera Orey,

ЭТО НАЧИНАЕТСЯ НЕЗАМЕТНО

зыс)

ПЕГИ18

Дается просто за наличие сисек (здесь они пластиковы и унылы) и других "взрослых тем".

Ну и да, там лучше не лезть в логику. ))

[Gwaen]

Увы, я гарантирую: если поиграете ещё пару-тройку часов, дойдёте до такого бреда, от которого даже мамкин гуманитарий (вроде меня) кричит безумным криком.

А ведь начиналось всё многообещающе: высокоразвитый мир, технологии, какая-то там дилемма... Но часы пробили полночь, и андроид превратился в тыкву.

И, да, "гибель" андроидов - это дикая дичь. Ведь даже в самой игре говорится, что восстановление памяти и личности машины возможно, хоть и с некоторой потерей данных.

Ох. В общем, молчу, чтобы не наспойлерить ничего, но внутри горю-пылаю от йарости и разочарования.

[Achenne]

Ведь даже в самой игре говорится, что восстановление памяти и личности машины возможно, хоть и с некоторой потерей данных.

это только у Коннора такая фишка с бэкапами, у Кары - нет, ее полностью с нуля перепрошили и она ничего не помнила поначалу

[Gwaen]

у Кары - нет, ее полностью с нуля перепрошили и она ничего не помнила поначалу

Точно, её ресетнули, чтобы починить. Хотя чел из магаза говорит, что память именно "пришлось" сбросить, т.е. до какого-то момента восстановление возможно.

Ну и тогда возникает вопрос, насколько этично/разумно не бэкапить личностные прошивки и почему собственники андроидов этого не делают. Ведь такой бэкап - по сути аналог крионики, только для андроида, обладающего самосознанием, личностью и этим всем.

спойлерновопрос

И почему андроиды, кстати, сами не бэкапятся, тоже не оч понятно. Они явно это могут - Маркус же через вай-фай свой кусок кода всем раздаёт

[Astera Orey]

Кротик мой любимый,

Она про людей и мигрантов

ору я сначала подумала про движение за независимость негров )))

А еще универсальный интерфейс, с которым можно делать что угодно, без градаций допуска и вообще без паролей.

Боже мой, местные системы безопасности... которых нет... защита ИТ систем... которой нет... У меня профессиональная деформация, и эта игра делает мне БОЛЬНО хддддд Блен, деформация почти как девиация

Gwaen,

я гарантирую: если поиграете ещё пару-тройку часов, дойдёте до такого бреда

именно так, еду дальше, исправно поедаю кактус и подпрыгиваю на горящем попце!

Не, я не могу молчать простите, апдейты лайв сейчас пойдут ))) Столько впечатлений новых, кричу

Оказалось, что андроидов можно отслеживать по трекеру! Збс, я половину игры гадала, почему можно отследить мобильный телефон, но не андроида... мистика... почему нельзя было встроить в андроида ДжПС? Тогда Каре не пришлось бы бродить вслепую по городу под дождем... ну ладно, неважно, в общем, оказалось, есть хотя бы трекер.... о котором Кара почему-то не знает (???) Я подскажу, Кара, это называется device manager, любая ось имеет аналог хддд И если бы ты знала о нем... блен, даже винда знает все свои устройства... то знала бы, что он у тебя не работает...

ладно, неважно, окей, хорошо, совсем не подозрительный польский мужик стер Каре память, потому что я в первый раз в жизни играю на плойке и отвратительно проебываюсь на QRT... наверное, сдавать тест на вождение легче, чем запомнить кнопки на этом устройстве ада... но тут...
оказалось
что память оказывается не стирается насовсем
А ЧТО ЕСЛИ И ВСЯ МОЯ СТЕРТАЯ ИСТОРИЯ БРАУЗЕРА МОЖЕТ В ЛЮБОЙ МОМЕНТ ВЕРНУТЬСЯ
эта игра - оживший кошмар айтишника, я гарантирую

почему простите я должна тратить время на то, чтобы убеждать офицера полиции трезветь (???) и сделать великое одолжение поехать со мной на место простите убийства (??!) почему я не могу написать на него рапорт, чтобы его выкинули к хренам у нас безработица в 37 проц там очередь стоит за окном

почему хэнк не любит андроидов и не любит если ты убиваешь андроидов
что в голове у этого человека я не понимаю ((( даже наличие собаки не оправдает твои все проебы, Хэнк (

Прочувственные речи Маркуса о свободе, кажется, писал Мартин Лютер Кинг. Серьезно, почему они не могут просто найти себе свободный сервак и бэкапиться туда?? Даже винда постоянно сливает логи юзеров мелкософту, уверена, в мире квантовых компов скорость передачи не должна быть проблемой. Почему все андроиды стали вдруг резко брать и девиантиться от малейшего чиха - это хоть будут объяснять в итоге? Я хочу знать, как удержать Коннора от этой заразы хддд

Но! Коннор все еще мой свет в окошке, все еще умеет стрелять и даже попадать в цель... когда я не лажаю с QRT... прости Коннор, когда-нибудь я научусь

это только у Коннора такая фишка с бэкапами, у Кары - нет, ее полностью с нуля перепрошили и она ничего не помнила поначалу

Кажись, они сказали, что типа она повреждена была просто слишком, поэтому пришлось память сбросить?..
Или Коннор как винда постоянно логи шлет в киберлайф!

[Gwaen]

даже винда знает все свои устройства

Вот да! И, кстати, Маркус, выковырявшись из колбасных очисток, очень даже проверяет, какие именно у него ДЕТАЛИ не работают. Т.е. эта опция андроидам доступна. Эт не как у людей "проснулся утром - и не помнишь, сколько у тебя почек".

память оказывается не стирается насовсем

О, этот кусок как-то мимо меня прошёл. Я его посмотрела. И ЗАОРАЛА.
Так получается, андроидам вообще незачем бояться ресета. Ведь стоит только привести робота-маразматика в "цирк восстановления памяти имени Златко" - и всё! Бедняга сразу вспомнит не то, что забытую девочку - китайский заводик, где отлили третью левую гайку его позвоночного столба!

И пойду разбивать свой хард, чо. А то вдруг история браузера восстановится - неудобно-то как будет перед потомками

почему... я должна тратить время на то, чтобы убеждать офицера полиции трезветь

Потому что у Коннора совершенно особенный социальный интерфейс! Поэтому он плюшечка!

Тщмт, опция "напишу рапорт" есть. Но она не даёт особого эффекта. Хотя Cyberlife, в принципе, могла бы надавить на руководство полиции и заставить их прижучить Хэнка.
www.youtube.com/watch?v=ByVp6JKDRgk

почему хэнк... не любит если ты убиваешь андроидов

Это про выбор у бассейна? Если да, то там ваще какое-то meh. Бросьте, ребята, у вас там типа гражданская война назревает, не время для сантиментов, важны любые крохи информации - да андроидша сама должна была нажать на курок во благо ИИ и человечества. Но нет, вместо этого ДРАМА-АМА!!!111

[Astera Orey]

Gwaen,

Эт не как у людей "проснулся утром - и не помнишь, сколько у тебя почек".

аж страшно стало хдддд

Потому что у Коннора совершенно особенный социальный интерфейс! Поэтому он плюшечка!

кстати!
Коннор еще ни разу не облажался в моей дивной попытке отыгрывать правоверных роботов \0/ Оказывается, вполне можно удерживать доверие Аманды, доверие Хэнка (сделаем вид, что этот человек не пытался его пристрелить (??!)), спасать людей всех подряд и расстреливать девиантов всех подряд. Коннор усиленно компенсирует мне за всю остальную игру лол, хоть бы дальше не облажался, Азимов помоги

Это про выбор у бассейна?

Не, я не дошла до бассейна еще, я медленно играю ( Это в борделе было, где две андроидши. Хотя Хэнк (вроде бы?) потом на Коннора пушку наводит даже если их не убивать походу... оч странный чел.