Искусственный интеллект начнется с ошибки в коде

Философские вопросы природы сознания, робоэтики и взаимодействия с сознанием другого типа стали подниматься в кино и сериалах все чаще. Актуальными как никогда раньше они стали благодаря развитию робототехники и нейронных сетей. О чем нам пытаются сказать режиссеры?

Робототехника — неотъемлемая составляющая научной фантастики вот уже несколько десятилетий, хотя первые упоминания концепции рукотворных машин в культуре можно усмотреть гораздо раньше — уже в XVII веке в еврейской мифологии фигурировал Голем — антропоморфное существо из глины, созданное для различных «черных» работ, трудных поручений, имеющих значение для еврейской общины, — весьма похоже на задачи современной робототехники, не правда ли?
 
Искусственный интеллект начнется с ошибки в коде 

Ошибка в коде — мутация в геноме. Это двигатель эволюции. Такой тезис явно проговаривается в сериале «Мир Дикого Запада», а также менее явно — в сериале Mr. Robot. В теории эволюции есть понятие мутационной изменчивости — это изменчивость, вызванная действием на организм мутагенов, вследствие чего возникают мутации (реорганизация репродуктивных структур клетки). 
Благодаря ей происходит естественный отбор. И кто знает, может быть, именно с управляемых или случайных мутаций-ошибок начнется критическое повышение уровня сложности компьютеров. Отчасти технология глубокого обучения нейронных сетей и использует случайность как двигатель своего развития. 

Нашу свободу ограничивают наши желания 

Свобода в своей абсолютной степени не терпит никаких ограничений. Однако мы чаще видим ограничителем нашей свободы волю другого человека — начальника, надзирателя, чиновника. И они, конечно, ограничивают нашу свободу. Но даже если мы вырвемся из их ограничений, сама наша человеческая природа является ловушкой для нас. 
Любой смысл жизни, любая цель, все желания ограничивают нашу свободу — то есть это наша воля. Откладывая в сторону вопрос о свободе воли, трудно не согласиться, что мы гораздо чаще ограничиваем себя своей волей, чем чья-то внешняя воля ограничивает нас. Что, впрочем, совсем не оправдывает внешнюю волю. 
Этот вопрос неразрывно связан с природой сознания и проблемой свободы воли, которые многократно обсуждались различными философскими и религиозными школами.
 
Роботы помогают понять нас самих 

Этот тезис согласуется с взаимодействием исследователей из областей нейробиологии и программистов, занимающихся глубоким обучением нейронных сетей. 
Даже до явных успехов нейронных сетей одним из важнейших проектов по исследованию мозга было создание его электронного аналога — таким образом, создавая искусственный разум, мы хотим понять свой собственный. Воспользовавшись мощностью компьютера Blue Gene, исследователи из IBM смоделировали 4,5% нейронов и синапсов человеческого мозга. 
Чтобы начать хотя бы частичное моделирование человеческого мозга, потребуется 880 000 процессоров; компьютер такой мощности может появиться около 2020 года. 

Искусственное сознание может страдать? 

Если наше сознание есть некоторое эмерджентное свойство кашицы нейронов и нейромедиаторов у нас в голове, то, конечно, нет никакого формального запрета, чтобы эта кашица сотворила некоторую другую кашицу, которая бы тоже обладала таким эмерджентным свойством, то есть проявляла в виде целого те качества, которыми не обладают части этого целого, взятые отдельно: ни в одном нейроне нет сознания, а вот в определенном образом собранной системе нейронов — мозге — сознание появляется. 
Страдание у человека, конечно, не очень объективная вещь — всего лишь изменение концентрации нейромедиаторов и электрические импульсы. Но если у робота может быть сознание того же уровня объективности, что у человека, значит, у него есть и страдание такого же уровня объективности, что и у человека. 
Кстати, эта тема неоднократно поднимается в сериале «Мир Дикого Запада»: основной этический выбор героев — является ли причинение страданий роботу «грехом» (в религиозном ли, в секулярном ли смысле). 
 
Материализм ведет к детерминизму, а религия — к свободе воли 

Казалось бы, именно бог может ограничить нашу свободу воли и нет ничего более материалистичного, чем свободный выбор своей судьбы. Проблема в том, что если мы честно пройдем все логические этапы материализма, мы получим, что наши мысли есть результат выполнения законов физики в ответ на внешние раздражители, которые тоже есть следствия законов физики. 
Свободе воли в этой цепочке взяться неоткуда. В то же время религия вполне может «разрешить» рабу божьему иметь свободу воли, потому в религии правила игры могут быть любыми. В каком-то смысле для материалистов богом является «случайность». В любом случае, этот вопрос не является фальсифицируемым. На эту же тему размышлял Пьер-Симон Лаплас в своем мысленном эксперименте «Демон Лапласа»: 
«Мы можем рассматривать настоящее состояние Вселенной как следствие его прошлого и причину его будущего. Разуму, которому в каждый определенный момент времени были бы известны все силы, приводящие природу в движение, и положение всех тел, из которых она состоит, будь он также достаточно обширен, чтобы подвергнуть эти данные анализу, смог бы объять единым законом движение величайших тел Вселенной и мельчайшего атома; для такого разума ничего не было бы неясного и будущее существовало бы в его глазах точно так же, как прошлое.» 
Таким образом, мы можем рассчитывать лишь на иллюзию свободы воли, но при этом мы вполне комфортно научились жить с этим пониманием. При этом технология глубокого обучения нейронных сетей заставляет нас переосмыслить степень этой иллюзии — если машины могут писать картины и учиться не хуже нас — в чем наша уникальность? Ведь свободы воли нет ни у нас, ни у них.
 
Человек не способен меняться, робот способен 

Точнее, человек меняется медленно, робот меняется быстро. Мы видим то же самое в реальности — технология глубокого обучения нейронных сетей показала, как быстро машина может учиться и, например, заниматься творчеством. Значит ли это, что роботы — следующая ступень эволюции? Не факт. Вероятнее, мы будем с ними объединяться, а не конкурировать. 
Новости о радикальных успехах нейронных сетей приходят в среднем раз в две недели. Не думаю, что еще хоть одна технология в истории развивалась столь стремительно. Вот только некоторые из них: 
Компьютер научился копировать стиль художников. 
Компьютер научился писать музыку. 
Компьютер научился писать стихи: сотрудники «Яндекса» записали и выпустили альбом «Нейронная оборона», тексты к которому в стиле лидера группы «Гражданская оборона» Егора Летова написала нейросеть. Около 60 процентов людей не смогли определить, где стихи машины, а где человека. 
Написанный компьютером рассказ вышел в финал литературного конкурса: роман «День, когда компьютер напишет роман» написан нейронной сеткой (оценим иронию), которую разработала группа ученых из Университета будущего в Хакодате. Роман вошел в список финалистов Литературной премии имени Хоси Синъити (популярного японского писателя-фантаста).
 
В существование души можешь ты не верить, но вести себя этично обязан 

Противопоставление «хороших», верящих в душу, и «плохих», «циников», которые не верят, единой нитью проходит через заметную часть художественных произведений постмодерна. «Двухсотлетний человек» А. Азимова хочет стать человеком из робота, Коммандор Дейта из «Star Trek» завидует людям. 
Иррациональная тяга робототехнического к человечному действительно будоражит умы фантастов давно. Между тем, ни из чего не следует, что роботы захотят быть такими же, как мы. 
Люди создают искусственный интеллект, чтобы уподобиться богу 
Это древний вызов, причем бросать этот вызов могут как атеисты, так и верующие. Если верующие по понятным причинам этим занимаются или, наоборот, не занимаются, говоря, что это греховно, мы этоuj не делаем, то атеисты могут этим заниматься просто потому, что они живут в тех же культурных кодах. 
Даже если человек не верит в формальное существование бога, тем не менее это вызов — уподобиться ему и сказать: бога нет, а вот я — бог. Ведь, кроме функционального значения, создание существа по образу и подобию человека — один из сильных мотивирующих факторов данной индустрии, один из вызовов человечества. 
Такое часто случается — многие глубинные мечты человечества, которые сначала проявляются в мифах и религии, впоследствии, с развитием технологий, обретают реальную форму. Можно вспомнить мечту человека о полете: сначала была, например, легенда об Икаре и Дедале, затем, спустя много веков, мы построили самолеты. Это подводит нас к идее движения технического прогресса вслед за глубинными мечтами человечества.
 
Поступить в МТИ