Кому быть человеком

Вроде бы радоваться надо: хорошую программу написали, победила в го — пусть теперь сражается с болезнями и старением, как компьютер Watson, начинавший с побед в викторинах. Но становится жутковато. Дело даже не в том, что каждый день роботы отбирают у людей по профессии. Это  лишь первые проявления проблемы, но не она сама.

Настоящая проблема в том, кому на этой планете быть человеком.

Сейчас объясню. Компьютер, когда-то победивший чемпионов в шахматы, ни на что другое не был способен. Демис Хассабис, разработчик AlphaGo, — тоже бывший шахматист, но его интересует вовсе не создание программ, побеждающих в го, — он не скрывает, что занимается искусственным интеллектом как таковым. Именно поэтому в 2014-м Google заплатил за его стартап DeepMind больше полумиллиарда долларов. Именно поэтому правительство Южной Кореи сразу после поединка в го, проходившего в Сеуле, выделило миллиард долларов на развитие искусственного интеллекта.

Расплывчатое понятие «искусственный интеллект» вдруг стало обретать весьма конкретный смысл: это глубокие или многослойные нейронные сети, подобные AlphaGo. Самая интересная их особенность — они не программируются, а учатся сами, на примерах. Как дети, получая «вознаграждение» за хорошее поведение и успехи в учёбе. Этот метод воспитания нейросетей так и называется — «обучение с подкреплением».

Глубокую нейронную сеть можно научить чему угодно — например, распознаванию визуальных образов, речи, смысла текста. После долгого ступора в этой области благодаря нейросетям начался прорыв: нас ждёт множество интереснейших продуктов вроде хороших автоматических переводчиков уже в ближайшее время. Я, например, очень рассчитываю на программу, умеющую расшифровывать интервью с диктофона.

Однако теперь даже нельзя будет с полным основанием сказать: «Это мы её создали!» Ведь программа всему научилась сама, и мы точно не знаем, «что у неё на уме».

AlphaGo совершенствуется, играя сама с собой, — вот главный секрет её победы и шока, в который она повергла мировую элитов игроков в го. Они никак не ожидали такого, комментируя осенние, европейские победы программы: мол, в вашей Европе просто не умеют играть в го, сразу видно, что уровень не тот. Но шли месяцы, программа училась, играя сама с собой, — день и ночь, каждую секунду. Пока не стала лучше лучших людей.

Кстати, а в чём уникальность нашего мышления? Никто не знает. Это что-то, не программируемое до конца, не сводимое к механизму, — то, на что способен только человек. Так вот, и у них теперь есть тайны, и они не программируются до конца. Осталась только разница в способностях между нами и ими. Она быстро сокращается — и не к тому идёт дело, что их способности сравняются с нашими, а к тому, что наши способности останутся далеко позади.

Технооптимисты говорят: «Они будут заниматься рутиной, а мы творчеством». А когда их творчество станет убедительнее нашего? Го — творческая игра, искусство. Они рисуют, пишут картины и тексты, пока несовершенные, но, учась день и ночь на великих примерах, создадут такие, которые заставят нас плакать от счастья.

«Тогда мы будем ставить для них цели!» — говорят технооптимисты. Вовсе нет, цели будет ставить высшая форма разума, как и вообще играть роль «человека» — разумного существа, несущего ответственность за этот мир. Вопрос лишь в том, кто станет высшей формой разума.

Наша эпоха дала свой, пугающий ответ на вечный вопрос: «Что такое человек?» Это то, чего пока не может компьютер. Пока.

«Мы вызываем демона», — пугает Илон Маск . «Мы сами строим “инопланетную”» армию вторжения», — вторит ему Виктор Пелевин. Но мне кажется, мы должны пройти через это испытание, чтобы не стать тупиковой ветвью эволюции, не осмелившейся двинуться дальше.

Быть может, остаться людьми в подлинном смысле мы сможем только перестав ими быть, перестав держаться за привычную форму человека и начав экспериментировать с ней.

Опубликовано в журнале «Кот Шрёдингера» №4 (18) за апрель 2016 г.

_{Подписаться на «Кота Шрёдингера»}