Недавно перетирали с Дейлой насчет разумности, человеков и ИИ.
Есть Джон Сёрл, который придумал концепт китайской комнаты. Если коротко и грубо, китайская комната - это когда агент в комнате получает входящие данные, и отвечает на них согласно заранее заготовленным инструкциям. При этом он не понимает ни смысла инструкций, ни смысла данных, а просто знает, что если ему показывают желтый кружок, то надо ответить зеленым квадратом. По теориям Сёрла, это все, что можно ожидать от ИИ, потому что у ИИ нет "разума". Где-то здесь начинается беда, потому что этот самый "разум" никто так и не определил.
"Разум", по версии Сёрла, наличествует у людей, но дело в том, что нет никаких доказательств, что мозг человека обучается и работает по какому-то иному принципу, чем такая гипотетическая ИНС. Тьюринг тоже так решил. То есть, у Сёрла получается логически странное утверждение: при обучении искусственного агента (ИИ) по алгоритму Х разумности нет, а при обучении биологического агента (хуманов) по тому же самому алгоритму Х разумность есть. МАГИЯ МАГИЧЕСКАЯ /0\
Итого, "разум" не имеет значения (с) t.me/sudodreamake/672
Но если убрать эту концепцию разума вообще, что останется? Метцингер предложил на мой взгляд пока что максимально вписывающуюся во все углы теорию о том, как человечий мозг моделирует окружающий мир и себя-в-мире - поверх поступающих входящих сигналов и поверх инструкций. То есть у человека и у ИИ есть приблизительно похожий способ обработки и ответа на входящие сигналы (ввод данных - обработка по инструкции / нейронные пути / ИНС-фильтры - вывод данных). Все окей. Помимо этого у человека есть надстройка "осознания", моделирование себя-и-мира, которая работает поверх этого всего. Она работает с устаревшими данными, не понимает смысла инструкций и жрет прорву энергии. Думаю, если бы разумный агент мог выбирать, он вычеркнул бы эту надстройку нафиг.
Модель себя-и-мира может переноситься с физического тела на аватару в виртуальной реальности, допустим; эксперименты проводились уже. То есть, такая же модель себя-и-мира может быть создана и ИНС, если только будут соблюдаться определенные условия.
Но есть еще один вопрос. Как доказать, действительно ли мы осознаем? Агент, который действует строго по инструкциям не понимая их смысла - в эти инструкции может быть заложено условие "не принятия реальности" (?) То есть, если ты не осознающий себя зомби, но действуешь по инструкции осознания, ты будешь думать, что ты осознаешь все взаправду. Насколько действительно рабочая наша надстройка сознания?
Зомби зомби зомби.
Тем не менее, Сёрл все равно очень крутой, и его описание утраты осознания просто \0/
> ...as the silicon is progressively implanted into your dwindling brain, you find that the area of your conscious experience is shrinking, but that this shows no effect on your external behavior. You find, to your total amazement, that you are indeed losing control of your external behavior. You find, for example, that when the doctors test your vision, you hear them say, "We are holding up a red object in front of you; please tell us what you see." You want to cry out, "I cant see anything. Im going totally blind." But you hear your voice saying in a way that is completely out of your control, "I see a red object in front of me"[14].
[14] (Searle, 1992), pp. 66f.
Вообще, все темы боди хоррора и модификации тела меня как-то не задевают вообще в последнее время. То ли дело модификации сознания и майн-хоррор. Небольшой передоз стероидов + легкий побочный эффект - и вместо нормального человека у тебя психоз, глюки, провалы в памяти и полное отсутствие контроля. Can we call you human if that's so easy to change you into a beast?
Вот что я хотела увидеть в Детройте. Тревожащие темы, да.