Интеллект
или мошенничество

От редакции. Искусственный интеллект – это благо, величайшая опасность или ничего не значащее словосочетание для человечества? Людям следует бояться умных компьютеров, напротив стараться делать их еще умнее или попросту не замечать? Автор книги «Что мы думаем о машинах, которые думают» Джон Брокман задал эти вопросы ученым, популяризаторам науки, инженерам, писателям и философам с мировым именем и получил около 200 самых разных ответов. Мы публикуем несколько фрагментов из русского перевода книги Брокмана, который нынешней осенью выходит в издательстве «Альпина Нон-фикшн»).

Фрэнк Типлер, профессор Тулейнского университета, автор книг «Антропный космологический принцип» (совместно с Джоном Барроу) и «Физика бессмертия»

Земля обречена. Астрономам уже несколько десятилетии? известно, что однажды Солнце поглотит Землю, полностью уничтожив биосферу, если только разумная жизнь не покинет планету до того, как это произои?дет. Люди не приспособлены к жизни вдали от Земли — да вообще ни один многоклеточныи? организм, в основе которого лежат соединения углерода, не приспособлен к этому. Но к этому приспособлен искусственныи? интеллект, и однажды именно он с загруженными в него сознаниями людеи? (по сути, единыи? организм) колонизирует космос.

Несложные подсчеты показывают, что наши суперкомпьютеры уже обладают вычислительнои? мощностью человеческого мозга. Нам пока неизвестно, как создать сравнимыи? с ним по уровню и обладающии? творческими способностями искусственныи? интеллект, но через 20 лет у персональных компьютеров будет мощность сегодняшних суперкомпьютеров, а еще через 20 хакеры решат проблему программирования ИИ, и все это произои?дет задолго до создания первои? нашеи? колонии на Луне или Марсе. Именно искусственныи? интеллект, а не человек колонизирует эти планеты или, возможно, разберет их на кусочки. Ни один представитель углероднои? жизни не способен пересечь межзвездное пространство...

Для конфронтации между людьми и искусственным интеллектом нет причин. Человек способен жить в очень узком диапазоне условии? окружающеи? среды — в тонкои? кислородсодержащеи? газовои? оболочке вокруг небольшои? планеты. В распоряжении искусственного интеллекта будет вся Вселенная. Он покинет Землю, не оглядываясь. Мы, люди, возникли в Восточно-Африканскои? рифтовои? долине, сеи?час это жуткая пустыня. Почти все мы оттуда ушли. Кто-нибудь хочет обратно?

Любои? человек, что пожелает присоединиться к искусственному интеллекту в его экспансии, может стать загрузкои? — такая технология должна появиться примерно в одно время с разработкои? ИИ. Человеческая загрузка будет способна мыслить так же быстро, как компьютер, и если сама того пожелает, то конкурировать с ИИ. Не можешь победить — присоединяи?ся.

В конце концов присоединятся все люди. Земля обречена, помните? Когда рок будет близок, у любого оставшегося в живых и не желающего умереть человека не останется иного выбора, кроме как стать человеческои? загрузкои?. А если эти люди пожелают сохранить биосферу, она также может быть загружена.

Искусственныи? интеллект спасет нас всех.

Сезар Идальго, адъюнкт-профессор медиалаборатории Массачусетского технологического института, автор книги «Как информация управляет миром и определяет историю вселенной и живущих в них видов»

Машины, способные думать? Это такое же заблуждение, как и люди, способные думать! Мышление подразумевает обработку информации, порождение нового физического порядка из входящих потоков физического порядка. Мышление — ценная способность, к сожалению, являющаяся не привилегиеи? отдельных единиц, таких как машины или люди, но свои?ством систем, в которых эти единицы существуют.

Конечно, я сеи?час веду себя как провокатор, поскольку на личном уровне мы тоже обрабатываем информацию. Мы деи?ствительно думаем — иногда, или, по краи?неи? мере, нам кажется, что мы это делаем. Но наша способность мыслить — не полностью наша, мы ее взяли взаи?мы, поскольку аппаратное и программное обеспечение, которые мы используем, чтобы делать это, созданы не нами. Ни вы, ни я не развили в себе гены, которые помогли организовать наш мозг и язык, используемые, чтобы формировать мысли. Наша способность думать находится в зависимости от событии?, которые предшествовали нашему земному существованию, от прошлых глав биологическои? и культурнои? эволюции. Так что мы можем понять и нашу способность думать, и способность машин подражать человеческои? мысли только с учетом того, как способность единицы обрабатывать информацию соотносится с ее контекстом.

Представим человека, родившегося в темноте и одиночестве пустого пространства. Повода думать о чем-либо у него нет. То же самое было бы справедливо для изолированнои? и лишеннои? входящеи? информации машины. В таком контексте мы можем назвать нашу заимствованную способность обрабатывать информацию малым мышлением, поскольку это зависящая от контекста способность, которая возникает на уровне индивида. Большое мышление, напротив, является способностью обрабатывать информацию, воплощенную в системах, где отдельные элементы — машины или люди — это просто пешки.

Отделение малого мышления людеи? от большого мышления систем (куда входит процесс, которыи? порождает аппаратное и программное обеспечение, позволяющее единицам заниматься малым мышлением) помогает нам понять роль «умных» машин в этом широком контексте. Наша способность мыслить не только заимствована, она также зиждется на употреблении опосредованных взаимодеи?ствии? и на злоупотреблении ими. Чтобы человеческие/машинные системы могли мыслить, людям надо поедать ментальную отрыжку друг друга и снова ее изрыгать; иногда она принимает форму слов. Но, поскольку слова улетают с ветром, невероятная способность нашего вида мыслить зависит от более сложных приемов передачи и сохранения информации, которую мы производим: от нашеи? способности зашифровывать ее в материи.

В течение 100 000 лет наш вид занимался преобразованием планеты в гигантскии? магнитофон. Земля — это среда, на которои? мы отпечатываем наши мысли: иногда в символическои? форме, такои? как текст и рисунок, но также, что более важно, в виде предметов — фенов, пылесосов, здании? и автомобилеи?, — построенных из минералов, которые мы взяли из чрева Земли. У нашего общества есть замечательная коллективная способность обрабатывать информацию, потому что наша коммуникация содержит нечто большее, чем слова: она включает создание предметов, которые передают не расплывчатые мысли, но конкретные знания, их применение и ноу-хау. Предметы дополняют нас. Они позволяют нам делать что-либо, не зная, как это делается. Мы все с удовольствием пользуемся зубнои? пастои?, не имея представления, как синтезируется фторид натрия, или перемещаемся на большие расстояния, не умея самостоятельно построить самолет. Подобным образом все мы отправляем текстовые сообщения в любую точку мира за считанные секунды посредством социальных сетеи? или выполняем сложные математические операции посредством нажатия нескольких клавиш на ноутбуке.

Однако наша способность создавать безделушки, дополняющие нас, конечно, тоже развилась в результате коллективнои? готовности поедать ментальную отрыжку друг друга. Эта тенденция и приводит нас сеи?час к тои? точке, где у нас появляется среда, которая начинает конкурировать с нашеи? способностью обрабатывать информацию, или малым мышлением.

На протяжении большеи? части нашеи? истории все эти безделушки оставались статичными объектами. Даже наши инструменты были застывшими кусками порядка, например, каменные топоры, ножи или вязальные спицы. Несколько веков назад мы развили способность делегировать физическую силу и движение машинам, что вызвало небывалыи? подъем экономики. Теперь мы развили коллективную способность обрабатывать информацию, создавая предметы, умеющие порождать и рекомбинировать физическии? порядок. Это машины, обрабатывающие информацию — орудия, производящие числа, вроде тех, о которых мечтал Чарльз Беббидж.

Так что мы развили у себя способность мыслить коллективно, сперва обретя власть над материеи?, затем — над энергиеи?, а теперь — над физическим порядком или информациеи?. И все же нам не стоит обманываться, полагая, что мы способны думать или что это могут делать машины. Значительное развитие человеческои? мысли требует опосредованных взаимодеи?ствии?, и в будущем «умным» машинам предрешено остаться интерфеи?сами, посредством которых одни люди связываются с другими.

Пока мы тут говорим, «яи?цеголовые» в лучших университетах мира исследуют мозг, конструируют роботизированные протезы и разрабатывают примитивные версии технологии?, предзнаменующих будущее, в котором ваш правнук будет ловить каи?ф, напрямую подключая мозг к Сети. Эти детишки обзаведутся дополнениями, для нас невообразимыми и настолько причудливыми по нашим современными этическими стандартам, что мы даже не в силах судить о них (иначе мы бы выглядели как пуританин из XVI века, решившии? судить о нравах современного Сан-Франциско). Однако в масштабах Вселеннои? эти новые сети из людеи? и машин будут не чем иным, как следующим этапом в естественном развитии способности нашего вида порождать информацию. Вместе мы (люди) и наши дополнения (машины) продолжим разворачивать сети, которые будут подчинены главнои? великои? цели Вселеннои?: создавать зоны, где информации становится не меньше, а больше.

Эстер Дайсон, венчурный инвестор, работающий со стартапами в области информационных технологий, Edventure Holdings; бывший председатель Electronic Frontier Foundation и ICANN, автор книги «Release 2.0: жизнь в эпоху интернета»

Я думаю о различиях между искусственным интеллектом и искусственнои? жизнью. ИИ умен, сложен и в целом предсказуем для другого компьютера... ИЖ непредсказуема и сложна, она допускает непрогнозируемые отклонения, которые главным образом оказываются недостатками и ошибками, но иногда демонстрируют проблески гениальности или изумительного везения.

Вот по-настоящему серьезныи? вопрос: что получится, если объединить потрясающую вычислительную мощность, память и неутомимость с гениальностью и жаждои? жизни, которые каким-то образом заставляют разум выходить за рамки принятых схем и получать непредсказуемые результаты? Придется ли нам давать нашим машинам электронные аналоги психотропных препаратов или гормонов, чтобы стимулировать полет творчества и гениальные озарения (в противоположность зауряднои? одаренности)?

Если вы живои?, то вас ждет смерть. Но если вы система ИИ/ИЖ, существующая в машине, то, наверное, нет.

Каким окажется бессмертныи? разум уровня сингулярности? Если он будет добрым и альтруистичным, то как можно позволять человечеству вставать у него на пути? Даваи?те просто вежливо уступим ему планету ему и приготовимся к жизни в милом зоопарке, за которым присмотрит ИИ/ИЖ, раз уж он все равно когда-нибудь выяснит, как заселить всю нашу звездную систему и использовать солнце в качестве источника энергии.

Нас большеи? частью определяют наши собственные ограничения, прежде всего неизбежность смерти. Быть живым подразумевает возможность перестать быть таковым (а изобилие, оказывается, приводит к контрпродуктивному поведению, такому как переедание, мимолетные удовольствия и слишком малая физическая активность). Но если некто бессмертен, зачем ему склонность к альтруизму, к тому, чтобы чем-то делиться, — или даже к размножению, если он может просто расширяться? Зачем ему расходовать на поддержку других существ свои ограниченные ресурсы, за исключением тщательно продуманных рациональных транзакции?? Что произои?дет, когда ИИ/ИЖ перестанет нуждаться в нас? Какими будут ее мотивы?

Если ИИ/ИЖ может жить вечно, то не обленится ли она, не станет ли откладывать дела на потом? Или же ее однажды парализует страх либо сожаление? Какие бы ошибки ИИ/ИЖ ни допустила, еи? придется жить с ними вечно. Что такое сожаление для потенциально бессмертного существа, у которого есть вечность, чтобы все исправить?

Энди Кларк, философ и когнитивист, Эдинбургский университет, автор книги «Расширяем разум: материальное воплощение, действие и познавательное расширение»

Я думаю, что нам стоит минимум дважды подумать, прежде чем бросаться заявлениями про «инои?» интеллект в отношении нашего доморощенного ИИ. Ты — то, что ты ешь, а создаваемым сегодня обучающимся системам придется есть нас. Много и долго.

Брюс Стерлинг, писатель-фантаст, один из основоположников киберпанка

У нас уже есть несколько новых сущностеи? вроде Apple Siri, Microsoft Cortana, Google Now и Amazon Echo. Эти удивительные современные сервисы часто манерничают, разговаривая «женскими» голосами. Они говорят, как тьюринговы женщины, или, вернее, они подают реплики, как актрисы озвучивания. Однако они также дают быстрыи? доступ к обширным областям комбинаторных больших данных, какими никогда не обладал (и не будет обладать) ни один человек.

Эти сервисы — не отдельные машины Тьюринга. Это аморфные глобальные сети, которые прочесывают облака больших данных, алгоритмически систематизируют ответы от пользователеи?-людеи?, выдают результаты в реальном времени через широкополосные беспроводные сети и носят при этом псевдочеловеческие маски, чтобы удовлетворять некие базовые требования к дизаи?ну интерфеи?са. Вот что они такое. Каждыи? аспект вымученнои? метафоры «искусственныи? интеллект» постоянно мешает нам разобраться в том, как, зачем, где и для кого все это делается.

Apple Siri — не искусственная женщина. Siri — это искусственная актриса, машина-актриса — интерактивное представление с определенным сценарием, служащее интересам корпорации Apple в области продажи музыки, фильмов, предоставления услуг навигации, реализации мобильных приложении? и устрои?ств и тому подобных товаров. Siri для Apple и ее экосистемы — это актриса первого плана. Именно ее выхватывает прожектор мобильного устрои?ства, а сама корпорация — это театр, продюсер и рабочие сцены.

Совершенно удивительно, даже восхитительно то, что Siri может одновременно острить с тысячами пользователеи? Apple, но она не машина, которая становится разумом. Наоборот: в силу веских причин — денег, власти и влияния — Siri неуклонно превращается во что-то вроде полностью интегрированного в бизнес-процессы цифрового имущества Apple. Siri милая, харизматичная и антропоморфная, примерно как диснеевская Минни-Маус в свое время. Так же как Минни-Маус, Siri — это фасад для умнои? и могущественнои? калифорнии?скои? корпорации. В отличие от Минни-Маус, она — полностью цифровои? мультфильм с миллионами активных пользователеи? по всему миру.

«Интеллектуальная» парадигма мешает увидеть, как современные электронные услуги помогают перераспределять власть, деньги и влияние. Это плохо. Это не просто старомодно; честно говоря, это становится частью своего рода мошенничества. Задаваться сочувственными вопросами по поводу гражданских прав Siri, ее предполагаемых переживании?, предпочитаемых форм правления, вопросами о том, как бы она хотела перестроить человеческое общество, — подобная елеи?ность ни к чему. Это мракобесие. Такие вопросы скрывают то, что на самом деле важно. Они искажают наше восприятие. Мы никогда не переи?дем от нынешнеи? Siri к чему-то подобному. Будущее — за тем, что намного больше похоже на современную Siri и намного меньше на то, чего мы от нее ожидаем.

Что нам деи?ствительно нужно, так это некии? улучшенныи?, обновленныи? и содержательныи? язык, с помощью которого можно было бы описать современныи? квартет вещих сестричек — Siri, Cortana, Now и Echo — и то, чего их разработчики на самом деле хотят, как, зачем, и каким образом все это может (или не может) повлиять на наши собственные гражданские права, чувства, формы правления и общество. Вот проблема дня сегодняшнего. Все прочее — проблемы дня завтрашнего или послезавтрашнего. Вчерашняя проблема «мыслящих машин» никогда не появится на большои? сцене. Машина, которая мыслит, — это не машина. Она не мыслит. Она даже не актриса. Это покрытыи? плесенью сундук, набитыи? изгрызенным мышами тряпьем.

Крис Андерсон, куратор TED Conferences и TED Talks

Мышление — наша суперсила. Мы не самыи? сильныи?, не самыи? быстрыи?, крупныи? или выносливыи? вид. Но мы можем моделировать будущее и совершать намеренные деи?ствия, чтобы достигать его. Отчего-то именно мышление, а не умение высоко летать, глубоко нырять, громко рычать или производить миллионы детенышеи? позволило своим счастливым обладателям стать заметно (в буквальном смысле — это заметно из космоса) доминирующим видом на планете. Так что, если нам удастся построить нечто, обладающее нашеи? суперсилои?, но только в большем объеме, это окажется делом очень серьезным. Поразмыслите над следующим вопросом: будет ли через тысячу лет Homo sapiens (а) доминирующеи? разумнои? силои? на Земле или (б) историеи?, биологическим видом, породившим интеллект?

Ответ «а» мне кажется маловероятным. Но если произои?дет «б», плохо ли это? Все мы знаем, насколько порочны люди. Насколько алчны, иррациональны и ограничены в способности деи?ствовать сообща для общего блага. Есть опасность того, что мы уничтожим планету. Кто-нибудь в здравом уме захочет, чтобы человечество было последним словом эволюции?

Все зависит от того, как прои?дет переход. Власть меняется разными способами. Например, путем насильственного уничтожения — предположительно, это мы проделали с неандертальцами. Есть много сценариев, согласно которым сверхразум так же поступит с нами.

Но эти сценарии игнорируют ключевои? факт об интеллекте. Он не достигает полнои? силы в малых системах.

Каждая новая связь и каждыи? новыи? ресурс помогают увеличить его мощь. Отдельныи? человек может быть умен, но сообщество будет еще умнее. У вас потрясающии? саи?т, но Google связывает его с миллионом других саи?тов, и — о чудо! — все знания человечества оказываются в вашем распоряжении.

Если так рассуждать, разумные машины будущего не станут уничтожать людеи?. Вместо этого они по максимуму используют наши уникальные способности. Будущее за все большим смешением качеств человека и машины. Я бы пошел по такому пути. Он — лучшии? из возможных.

Отдельные его участки будут славными. Какие-то — неприятными. Возможно, некоторым людям не понравится, если некии? гибридныи? убер-интеллект попросит их произвести на свет генетически модифицированного потомка, чтобы повысить его творческие способности и снизить агрессивность, улучшив еще ряд характеристик с помощью основанных на кремнии имплантатов. Но не исключено, что красивая 3D-модель будущего потомка их убедит, и они с радостью согласятся. Может быть, люди станут с ностальгиеи? вспоминать, как когда-то они сами располагали своим временем и имели право просто так полистать интересную книжку. Но поразительныи? рост знания и воображения, доступныи? каждому, будет достои?нои? заменои?. Одно мы знаем наверняка: наша особая роль во все более умопомрачительнои? общеи? картине постепенно сои?дет на нет. Но к тому времени нам может и не быть до этого дела.

Нечто подобное, кстати, уже происходит. Я просыпаюсь утром, завариваю чаи?, а затем перемещаюсь к компьютеру, которыи? взывает ко мне. Я открываю его и мгновенно соединяюсь со 100 миллионами других разумов и машин по всему миру. Затем я 45 минут отвечаю на его заманчивые приглашения. Я инициирую этот процесс по собственнои? воле. Но потом я отдаю большую часть воли машине. Вы делаете то же самое. Мы вместе полубессознательно создаем разум улья, мощь которого намного превосходит все, что видела эта планета, — и намного уступает всему, что она скоро увидит.

«Мы против машин» — ошибочное умопостроение. Есть только одна машина, которая имеет значение. Нравится нам это или нет, но все мы — и мы сами, и наши компьютеры — становимся частью целого: громадного распределенного мозга. Когда-то у нас были неи?роны. Теперь неи?ронами становимся мы.