Приручение машин

Возможности компьютеров не только превосходят способности человека — сегодня машины уже обучаются самостоятельно. Но никто, в том числе сами разработчики умных программ, основанных на искусственном интеллекте, не могут объяснить, как работают эти технологии. Почему так происходит и чем это может обернуться для общества, рассказывает ректор Сколковского института науки и технологий, академик РАН Александр Кулешов.

Про искусственный интеллект сегодня говорят многие, но каждый понимает этот термин по-своему. Какое определение есть у вас?

Термин «искусственный интеллект» — это неправильный перевод с английского Artificial Intelligence. При таком переводе сильно исказился смысл выражения, потому что английское intelligence и русское слово «интеллект» совершенно не идентичны. К сожалению, ошибка вовсе не безвредная, потому что для русского человека интеллект — то, что стопроцентно связано с мозгом и мышлением. И эта ошибка дезориентировала и продолжает дезориентировать очень многих. На самом деле антропоморфные конструкции, имитирующие свойства интеллекта — тупиковый путь. Как и подражание природным объектам — люди не летают как птицы и железные кони у нас не бегают.

В чем же разница между мозгом человека и искусственными системами?

До недавних пор постулат «Все, что может сделать компьютер, может сделать и человек, будь у него достаточно времени» казался совершенно естественным и нерушимым. Машина выполняет логические и арифметические операции, каждая из которых под силу и людям. Но лет шесть назад наступил момент, когда количество начало экспоненциально переходить в новое качество. Мы вдруг поняли, что компьютер, вернее, компьютерные облака, использующие современные средства Deep Learning (глубинного обучения), превосходят возможности мозга человека. И это действительно стало потрясением. Три месяца назад я обедал с ректором корейского института передовых технологий KAIST профессором Шин Сунг-Чулом, и он рассказал, почему искусственный интеллект объявлен в Корее приоритетом номер один. Все началось после того, как в 2015 году программа AlphaGo от Google победила чемпиона мира в логической настольной игре го (заметим, что го в Корее является национальной игрой, и каждый в этой стране понимает степень ее сложности). В 1997 году шахматный суперкомпьютер Deep Blue уже обыгрывал чемпиона Гарри Каспарова, но это не воспринималось как что-то невероятное. Шахматы — игра исчислимая, и мощный компьютер способен ее просчитать. Но в го просчитать все ходы нельзя, размерность чересчур велика для любого компьютера. Всегда считалось, что основная роль в этой игре принадлежит интуиции, поэтому победа программы вызвала настоящий шок.

Какие науки сегодня изучают искусственный интеллект?

То, что сейчас называют искусственным интеллектом, нельзя считать наукой в привычном понимании, потому что мы вряд ли сегодня сможем что-то доказать. Я бы сказал, что искусственный интеллект больше напоминает поваренную книгу. Все берут одни и те же продукты, используют одни и те же данные, но у кого-то получается сварить борщ, а у кого-то нет. Более того, масса статей сегодня заканчивается тем, что мы получили такой-то позитивный результат, но, извините, не можем его объяснить. Приводятся правдоподобные рассуждения, но научными их назвать нельзя. То есть технологии работают, но мы не понимаем, как именно. Я не оптимист и трезво оцениваю сложность задачи — возможно, она вряд ли будет решена даже в ближайшие десятки лет.

А как доверять результатам, если мы не можем понять, каким образом они получены?

Все проверяется на огромных базах данных. Например, ImageNet, которую сделали китайцы по заказу Стэнфордского университета. Там сейчас 14 млн 197 тыс. изображений, собранных в 21 тыс. 840 классов, и все подписаны — растения, животные, реки и т. д. Теперь на основе этих данных создаются программы, которые могут опознать любое изображение на фото. Или, скажем, Apple недавно объявила, что создала программу диагностики рака в ранней стадии по маммограмме. Программа работает с вероятностью 89%, тогда как лучший клиницист определяет рак в 73% случаев. Я не знаю, откуда они взяли цифру 73%, но программа, построенная на машинном обучении, умеет выявлять и идентифицировать болезнь лучше врача. Сейчас подобные технологии используются в самых разных областях. Например, актуальная тема — предсказательное техобслуживание: как угадать, когда техника сломается. Здесь не только экономический интерес, но вопрос безопасности — когда перестанет работать двигатель или, скажем, Саяно-Шушенская ГЭС выйдет из строя. И все это результат машинного обучения.

Что такое машинное обучение?

Представьте, что вы провели достаточно много экспериментов: на входе одно значение, на выходе — какой-то результат. Используя наработанную базу, можно попытаться угадать закономерности и предсказать, какой будет результат дальше. Например, многие производители сейчас выпускают браслеты, которые фиксируют пульс, связываются с мобильным телефоном и отмечают время сна и бодрствования владельца гаджета. В первые дни после покупки браслет показывает невесть что. Но надо иметь терпение, потому что механизм тренируется, и со временем результаты становятся все лучше и лучше. Наконец, через несколько месяцев устройство уже безошибочно определяет, что человек задремал на пять минут на семинаре. Это пример несложной программы, которая учится на основе данных.

Где работают самые продвинутые системы искусственного интеллекта?

У гигантов — Google, Apple, Facebook, Amazon. Тот же AlphaGo создан на базе гигантского облака, в том числе с графическими процессорами. Мало иметь хорошие алгоритмы, нужна технологическая база, огромные вычислительные ресурсы. У нас в стране таких нет. Хотя без ложной скромности могу сказать, что «Сколтех» собрал самую сильную команду в области искусственного интеллекта в России. Например, два года назад на конференции в Сочи я показывал известное сегодня приложение Prisma, которое обрабатывает изображения в стиле знаменитых художников. Эту программу за вечер разработал наш аспирант Павел Ерофеев, он прислал мне ее ради шутки. Но мне тогда и в голову не приходило, что эти картинки можно как-то монетизировать.

Какие открытия последних лет в области искусственного интеллекта вы считаете наиболее важными?

Я бы говорил не про открытия, а про эксперименты. Их сейчас очень много. Распознавание речи, текста, изображений — это все уже делается с великолепным качеством. Скажем, Google собирается запустить видеопоиск, и эта технология кардинально изменит нашу жизнь.

Каким образом?

Врать станет бессмысленно. Представьте, что вас случайно на улице сфотографировали китайцы, которые снимают вообще все, что видят, и в ту же минуту выложили в интернет. И по вашему изображению станет понятно, где вы были, обмануть жену или начальника не получится. Мир становится совершенно прозрачным, и это ведет к слому привычных представлений. Мы открыли ящик Пандоры или, во всяком случае, что-то удивительное. Романы Айзека Азимова становятся былью.

Вас это радует или огорчает?

Сложно сказать. Не то чтобы я был записным лгуном, но я с трудом представляю, как жить в мире, где невозможно соврать, потому что тебя поймают в один шаг. Если благодаря технологии блокчейн изменить приказ по организации задним числом будет невозможно, я так работать не смогу, меня не приучили. Видимо, надо по-другому людей воспитывать — и тогда их психология изменится. Придется смириться, что мы живем в пространстве, где нет никаких секретов и приватности, как у первобытных племен. И быть готовым к радикальному изменению человеческого бытия и базовых ценностей.

Компьютерные сервисы уже сейчас заменяют человека в рутинных интеллектуальных операциях. Как это отразится на рынке труда?

Профессии повара, сантехника, парикмахера останутся всегда — никакой искусственный интеллект их не заменит. Но функции рядовых инженеров будут исчезать на глазах как шагреневая кожа. Всевозможный софт заменяет рутинные процедуры, а настоящий инженерный труд становится все более интеллектуальным. То есть мир нуждается в более умных и образованных людях.

Получается, благодаря искусственному интеллекту человечество в целом станет умнее?

Да. Но, конечно, это будет болезненный процесс. Есть социальная эволюция — отбор и закрепление качеств, востребованных в социуме. А биологическая эволюция будет двигаться следом, но с определенным отставанием во времени, лет на 20—25. И пока новое поколение не выросло, проблем будет много. Этот период человечеству придется пережить.

А что делать тем, кто не сможет конкурировать с самыми умными?

Ничего, и с этим нужно как-то смириться. Представьте, например, племена горцев или кочевников во времена набегов. Куда девались люди, которые не умели сражаться? Они не находили себе невест. Их генетические характеристики переставали репродуцироваться, потому что в данном обществе они не были востребованы. В Средние века вплоть до эпохи Возрождения на первый план выходили разнообразные качества, но точно не интеллект. А когда умные люди стали нужны, интеллект сразу начал репродуцироваться с каким-то сдвигом во времени.

Если искусственный интеллект возьмет на себя всю рутину, не превратимся ли мы в изнеженных элоев из романа Герберта Уэллса «Машина времени»?

Аналогия понятна, такой пример приходит на ум. Мы действительно сейчас находимся у развилки. Но нужно правильно осознать вызовы, которые нам несет ближайшее будущее, это нетривиальная задача. Я лично голосую за возрождение советских образовательных традиций. Не зря президент США Эйзенхауэр в ответ на запуск в СССР первого искусственного спутника Земли усилил преподавание математики в американских школах.

Какими будут возможности искусственного интеллекта в будущем?

Предсказания в этой области бессмысленны. Семь-девять лет назад никто и представить не мог, что будет происходить сегодня в сфере машинного обучения. Десять лет назад я и сам сказал бы, что все это чушь. Сейчас понятен только тренд развития технологий, и он может быть довольно опасным. Потому что мы получили некую субстанцию, которая умеет думать по-другому и в чем-то лучше нас. А что это такое, мы не очень понимаем.

А что, если мы упустим контроль над технологиями? Фильм «Терминатор» все помнят.

До «Терминатора», я думаю, нам еще очень далеко, все это выглядит такой же фантастикой, как и 20 лет назад.

Но уже есть люди, пострадавшие от искусственного интеллекта. В прошлом году самоуправляемый автомобиль Google стал участником ДТП, а беспилотная Tesla — даже со смертельным случаем. Кто будет нести ответственность?

Наехать на человека может кто угодно. Но беспилотный транспорт задавит меньше людей, чем живые водители. Происшествия, конечно, будут, но их количество, по грубым оценкам, уменьшится в тысячу раз.

Но водитель несет за наезд уголовную ответственность. А кто будет отвечать за действия беспилотника?

Хороший вопрос. Недавно мы общались с заместителем председателя Бундестага Германии госпожой Эдельгард Бульман — у них это сейчас серьезная тема для дискуссий. Но моя собеседница развернула проблему другой стороной, о которой я даже не думал. Например, пешеход собирается переходить шоссе и знает, что беспилотный автомобиль перед ним остановится, не наедет на него ни при каких обстоятельствах. Будет ли человек в таком случае искать подземный переход? Скорее всего, нет, пойдет напрямик через улицу, хотя это и запрещено. И все будут так переходить, особенно в России. Если у нас люди и сейчас перебегают Тверскую, то что их удержит потом?

Получается, людей надо обучать взаимодействовать с искусственными системами?

Ответа пока никто не знает. В любом случае нас ждут последствия, о которых мы пока даже не подозреваем.

А как развитие искусственного интеллекта отразится на бизнесе?

Уже сейчас маркетологи работают с большими данными, персонал ищут и нанимают с помощью технологий. Политики тоже их используют. Была статья, где говорилось, что Трамп большую часть своего бюджета потратил в онлайне и выиграл выборы благодаря искусственному интеллекту. Он работал с компанией Cambridge Analytica, которая опиралась на метод анализа поведения пользователей социальных сетей, разработанный Михалом Козинским. Видя несколько десятков ваших лайков, аналитики могут довольно точно определить ваш пол, возраст, расу. После нескольких сотен лайков они знают о человеке больше, чем коллеги по работе и чем он сам. Фиксируя его поведение в соц­сетях, исследователи выстраивают потребительский профиль и могут рассылать человеку таргетированные сообщения, в какой-то степени манипулировать им. Зная потребности и слабости пользователя, можно легко нажимать на кнопочки, и он выдаст определенные реакции. Это в чистом виде искусственный интеллект.

Но если и политики, и Google, и другие компании будут использовать искусственный интеллект, начнется конкуренция компьютерных моделей? Они все будут биться за мозги и кошельки одних и тех же людей.

Вряд ли профили потребителей будут идентичными — каждый строит их по-своему. Но бизнес это изменит кардинально. Таргетированная рек­лама — только начало. Сила машинного обучения в том, что чем больше компьютер обрабатывает данных, тем точнее получается результат. А вот чему он в итоге выучится, один Бог знает.

* деятельность на территории РФ запрещена