Опасность роботизированного прогресса - правда или миф?

Когда мы говорим, что роботы людей не заменят, потому что в них нет ничего человеческого, мы вовсе не имеем в виду исключительную способность человека творить или действовать нелогично. Когда-нибудь роботы смогут и это. Но бояться их — просто бессмысленно. Почему — объясняет директор по стратегическому маркетингу Яндекса Андрей Себрант.

Как Железный Дровосек превратился в Терминатора

Великий писатель Артур Кларк сформулировал три закона, один из которых гласит: «Любая достаточно развитая технология неотличима от магии». Эта формулировка точно характеризует наше отношение к высоким технологиям. Но в медийные времена, при наличии телевидения и Facebook, быть магом становится все труднее.

Пример вполне себе искусственного интеллекта — Железный Дровосек, с которым дружила и вела милые разговоры Элли (или Дороти). В какой момент и почему он вдруг превратился в Терминатора? Это чисто медийная история: страх хорошо продается — настолько, что вопрос, связанный с роботами, приходится выносить в заголовок лекции.

И это правда отражает происходящее в общественном сознании. Недавно во ВШЭ провели опрос, который показывает, что чем больше субъектность робота, тем больше люди боятся, что он как субъект им сделает что-то плохое. Когда робот просто выполняет часть домашних дел или приносит товар из магазина, никто его не опасается. Но как только речь заходит о сиделках, медиках, воспитателях и беспилотных автомобилях, большинство людей утверждают, что им было бы крайне некомфортно оказаться в их окружении. Меж тем статистика ДТП на один миллион пройденных километров показывает, что беспилотники реже попадают в автокатастрофы. Конечно, все равно люди будут попадать в ДТП, но погибать станут реже — 300 тысяч человек вместо полутора миллионов. А миллион будет жить дальше, потому что за рулем был не пьяный человек, а несовершенный автопилот.

Почему не стоит требовать у роботов объяснений

Лауреат Нобелевской премии по физике Ричард Фейнман сказал, что ни один из физиков квантовую физику не понимает. К сожалению или к счастью, сегодня возникает много других областей, в которых происходит что-то, что человек не может объяснить.

Бесполезно требовать от роботов интерпретированности (почему было принято такое решение, по какой причине машина затормозила и т. д.). Более того, если оглянуться на нашу историю, это совершенно нелогично.

Например, ацетилсалициловая кислота, синтезированная в 1853 году, а в конце XIX века зарегистрированная под торговой маркой «Аспирин», сегодня потребляется в огромных количествах — около 120 миллиардов таблеток в год. Однако его действие, связанное, например, с применением при сердечных заболеваниях, было более-менее объяснено лишь спустя 70 лет после того, как его начали массово применять в медицине.

Люди, занимающиеся современной фармакологией, говорят, что никто не знает, как работают сложные современные лекарства от тяжелых болезней. Интересно, сколько людей, которые боятся садиться в беспилотный автомобиль, откажутся от лечения лекарством, которое в 90% случаев спасает, но мы почти ничего не знаем о механизмах его действия?

Итак, даже в повседневной жизни мы понимаем далеко не все, что происходит вокруг нас. И требовать от роботов объяснения их действий прежде, чем широко внедрять машинное обучение, — крайне наивно. Пока мы будем этого добиваться от текущих алгоритмов, придут квантовые компьютеры, и надежд на понимание не останется совсем. Поэтому лучше всего научиться принимать то, что не получится понять. Это не ответ на вопрос о том, что с нами сделают роботы. Это ответ на вопрос о том, как не потратить все заработанное на психоаналитиков, если рядом с тобой роботы.

Как творить вместе с искусственным интеллектом

Следующая история о сосуществовании с роботами посвящена идее, понятной любому творческому человеку — тому, как сложно найти кого-то, с кем будет классно творить вместе. Известный российский художник и теоретик искусства Дмитрий Булатов формулирует это в более жесткой форме: «Новая норма такова: если мы хотим заразить мир искусством, мы должны положить конец своему белковому шовинизму».

С музыкой, которую пишут нейросети, мы (в компании «Яндекс». — Прим. T&P) начали развлекаться еще в 2017 году, — созданную нами музыку признала самобытной композитор и эксперт по творчеству Скрябина Мария Чернова. Как заметил Иван Ямщиков, а что, если нейросети понравится четыре минуты играть одну и ту же ноту? Думаю, это не вызовет ничего, кроме хохота («скрипт заело»). А если мы будем считать, что это придумал человек, то немедленно прибежит огромное количество интерпретаторов, которые начнут объяснять, что это глубокая мысль, выражающая идею чудовищного застоя, в котором мы живем, и т. д. Это вопрос об интерпретации не самого произведения, а сообщенного нам контекста.

Сегодня даже во введении к математической статье Music Generation with Variational Recurrent Autoencoder Supported by History ее авторы пишут, что задачи, подразумевающие интуитивный или творческий подход, долгое время считались сугубо человеческими, но сейчас все больше становятся доступны алгоритмам, и музыка — лишь один из примеров таких задач.

Через два года мы написали музыку для крупнейшего музыканта Юрия Башмета (нейросеть, созданная «Яндексом», создала пьесу для альта с оркестром в соавторстве с композитором Кузьмой Бодровым. — Прим. T&P). Когда рассказываешь об этом событии людям, они реагируют так: «О, мы поняли! Говорят, нейросети хорошо справляются с рутинными задачами, поэтому композитор рождает ту самую мелодию, гениальную идею произведения, а остальную работу по оркестровке, наверное, научилась делать нейросеть». Дело обстоит ровно наоборот. Композитор Кузьма Бодров утверждает, что нейросеть стала его полноценным соавтором и именно она сгенерировала самое трудное, тот оригинал, который потом превратился во что-то большее. Хотелось бы всегда иметь такого соавтора, способного создавать новое и неожиданное, не уставая и не впадая в депрессию.

Нейросети и телесность

В книге Стругацких «Понедельник начинается в субботу» описаны сущности, которые называются дублями: «...Не хватает, скажем, человеку рук — он создает себе дубля, безмозглого, безответного, только и умеющего, что паять контакты, или таскать тяжести, или писать под диктовку, но зато уж умеющего это делать хорошо. [...] Настоящие мастера могут создавать очень сложных, многопрограммных, самообучающихся дублей». Один из героев романа отправил такого дубля на машине вместо другого героя. Дубль великолепно вел «Москвич», «ругался, когда его кусали комары и с удовольствием пел хором». Наша «Алиса» пока этого не делает, но еще один хакатон — и начнет. Умные адаптивные системы были описаны в 1965 году. Сейчас они уже действительно существуют — в качестве дублей, которые лучше нас разбирают бумажки, придумывают новые мелодии, занимаются медиапланированием и т. д. И это только начало.

В книге «Неизбежно» Кевина Келли есть прекрасная фраза: «Самыми важными мыслительными машинами будут не те, которые способны думать быстрее и лучше человека, а те, которые научатся думать так, как человек никогда не сможет». Это как если бы мы всю жизнь воплощали идею полета, создавая и совершенствуя птицу с крыльями, только делая их больше и из современных материалов. Идея ракеты, которая доставит нас через пространство, в котором крылья бесполезны, просто не появилась бы, потому что она совершенно не похожа на то, с чего все начиналось. И это еще впереди — а пока что у нас появились великолепные соавторы.

Когда мы говорим про искусственный интеллект и боимся того, что машина нас заменит, мы все время считаем, что человек и интеллект — это почти синонимы, какие-то взаимозаменяющие друг друга сущности. Это не так. Вновь процитирую Стругацких: «Я же все-таки человек, и все животное мне не чуждо». Даже когда с помощью нейросетей мы научимся красиво танцевать на экранах, от этого мы не станем людьми, которые могут получить реальный кайф от танца. Телесность не менее важна, чем разум. И пока что мы совершенно не понимаем, как сделать алгоритмическое нечто, чему так же, как и нам, было бы не чуждо все животное.

Литература

Ivan P. Yamshchikov and Alexey Tikhonov. Music Generation with Variational Recurrent Autoencoder Supported by History. Max Planck Institute for Mathematics in the Sciences, Leizpig, 2018

Келли К. Неизбежно. 12 технологических трендов, которые определяют наше будущее. М.: Манн, Иванов и Фербер, 2018.

https://kramola-books.ru УНИКАЛЬНЫЕ КНИГИ В ЛИЧНУЮ БИБЛИОТЕКУ или В ПОДАРОК