Все новости

"Роботы живут настоящим". Физик Митио Каку — об угрозе ИИ и прогнозах на два века вперед

Митио Каку
© EPA/JORGE ZAPATA
В Москве выступит ученый, популяризатор науки, автор книг "Физика невозможного" и "Будущее разума" Митио Каку. ТАСС записал его рассуждения об искусственном интеллекте и о том, что даст эта технология

Митио Каку сначала прославился в научных кругах — как теоретик, который пытается раздвинуть наше понимание природы шире теорий Макса Планка, Альберта Эйнштейна, Поля Дирака и других великих умов XX века. Но обычным людям он лучше известен как популяризатор науки: автор книг, гость ток-шоу, лектор, чьи интересы и эрудиция простираются намного дальше сферы его профессиональной компетенции. 20 июня Каку выступит в Москве на III Форуме социальных инноваций регионов, чтобы рассказать слушателям о потенциале создания "сверхразума" к 2050 году. За несколько дней до форума ученый рассказал по телефону о своем видении будущего редактору ТАСС.

О разнице между мозгом и компьютером

Мы, ученые, совершили ошибку 50 лет назад. Мы думали, что искусственный интеллект можно создать, представив мозг как компьютер. Но в мозге нет операционной системы, нет Windows, программ, центрального процессора — ничего, что есть в компьютере, кроме, конечно, электричества. Теперь-то мы понимаем, что мозг — это обучающаяся машина, ищущая повторения, паттерны.

Компьютеры логичны, поэтому повторяют одно и то же снова и снова, и можно сказать, что они будут делать в будущем. А мозг непредсказуем. Хотя он устроен весьма сложно, мозг совершает ошибки. У нас бывают галлюцинации, мы слышим и видим то, чего нет. Взять облака. Мы видим в них Микки Мауса, Дональда Дака.

Можно провести эксперимент. Зайдите в совершенно темную комнату, куда не проникает шум. Включите жуткий звук и пощекочите ступню пером — вы закричите, потому что покажется, будто к вам прикоснулся призрак. Но компьютер так не поступил бы. Он просто зарегистрировал бы входной сигнал.

Но почему мозг ошибается? Потому что ошибки — побочный продукт эволюции. Когда дело касается обработки информации, эволюция ищет короткие пути. Иначе мы бы просто не выжили! Те, кто ошибались, исчезли. Мозг ищет паттерны, он построен не на логике. Тут мы тоже просчитались.

О подходах к искусственному интеллекту

Есть два подхода к искусственному интеллекту: "сверху вниз" и "снизу вверх". На протяжении 50 лет мы применяли подход "сверху вниз": пытались перевести в программный код законы логики и здравого смысла, правила распознавания паттернов — и записать их на компакт-диск. Вставляешь этот диск в компьютер, и он говорит: "Я думаю, я осознаю, я живой". Такая была мечта, но из этого ничего не вышло.

Тогда пришло осознание, что природа придерживается второго подхода, "снизу вверх". Так учатся дети или насекомые. У насекомого где-то 100 тыс. нейронов — очень маленький мозг, но даже он способен на то, что не под силу самым передовым компьютерам. Если отнести компьютер в лес, что с ним произойдет? Он потеряется. Жук на его месте найдет себе укрытие, пищу, партнеров для спаривания — насекомое очень хорошо приспособлено к жизни в лесу.

Думаю, старый подход все еще дает о себе знать. Мы по-прежнему хотим все запрограммировать, строчка за строчкой, а не даем машине разобраться самостоятельно. В то же время мы пытаемся исправиться: конструируем машины, которые могут делать ошибки, находить паттерны и учиться подобно нейронным сетям в мозге.

О нынешнем уровне развития ИИ

Самые передовые роботы сходны с моделью ASIMO корпорации Honda. Они могут ходить, бегать, прыгать, подниматься по лестнице, танцевать. Танцуют они даже лучше меня. Как-то раз я разговаривал с создателем робота ASIMO во время телепередачи и спросил: "Насколько умны самые умные роботы?" Он ответил, что ASIMO сопоставим с тараканом.

Робот ASIMO EPA/EVERETT KENNEDY BROWN
Описание
Робот ASIMO
© EPA/EVERETT KENNEDY BROWN

Со временем машины догонят по интеллекту мышей, потом крыс, кроликов, кошек и собак. Возможно, к концу XXI века они будут так же умны, как обезьяны. В этот момент они могут стать опасными. Обезьяны осознают себя, им понятно, что они обезьяны. Собаки не такие: они думают, что мы тоже собаки, только вожаки.

К настоящим человеческим способностям мы подберемся еще не скоро. Современный ИИ способен освоить отдельные навыки: играть в шашки и шахматы, распознавать паттерны (например, анализировать рентгеновские снимки), причем лучше, чем человек. Но если попытаться поговорить с лучшей шахматной машиной, ничего не получится, потому что она только умеет играть в шахматы. С ней не обсудишь погоду, ее переживания — у нее нет самосознания.

Думаю, к концу XXI века появятся машины, осознающие себя. Сейчас роботы не знают, что они роботы. Илон Маск, который боится разумных роботов, окажется прав в отдаленной перспективе. Но точнее все-таки Марк Цукерберг, говорящий о том, что роботы будут создавать новые рабочие места на протяжении десятилетий.

О прогрессе в области ИИ

На пути к искусственному интеллекту возможны препятствия. Движущая сила компьютерных разработок — закон Мура, гласящий, что производительность компьютеров удваивается примерно каждые 18 месяцев. Если предположить, что закон Мура будет соблюдаться и дальше, то легко допустить, что машины станут такими же умными, как человек.

Но технологические компании признают, что наращивать производительность прежними темпами не получится. Причина в том, что транзисторы в микросхемах слишком малы, в них возникают нежелательные квантовые эффекты, к тому же они все сильнее нагреваются, а кремний плавится. В конце концов, закон Мура вообще перестанет работать. Точно так же, как транзисторы заменили вакуумные трубки, кремниевая электроника тоже устареет. Наступит эпоха квантовых компьютеров.

Детали для квантового компьютера AP Photo/Seth Wenig
Описание
Детали для квантового компьютера
© AP Photo/Seth Wenig

Только пока квантовые компьютеры не готовы, и еще не известно, заменят ли они кремниевые микросхемы. В следующие несколько десятилетий мощность компьютеров все же будет увеличиваться, но тем не менее они не достигнут уровня человеческого мозга. Недавно была составлена карта мозга плодовой мушки, в котором где-то 100 тыс. нейронов. В нашем мозге около 100 млрд нейронов — придется попотеть, чтобы в этом разобраться. Я не говорю, что это невозможно, но это очень-очень сложно.

Об устройстве сознания

Единица сознания — петля обратной связи, что-то вроде термостата в комнате, а все вместе эти петли создают модель "Я" в пространстве, обществе и времени. У растения есть где-то пять таких единиц: они узнают температуру, влажность, освещенность, направление гравитации, но и только. Следующий уровень — животные. Рептилия обладает "пространственным мозгом", где есть примерно 100 петель.

У нас в задней части тоже есть "мозг рептилии", помогающий понять положение в пространстве, найти партнера и т.п. В центре нашего мозга — "обезьяний мозг", отвечающий за эмоции и иерархии. "Человеческий мозг" расположен в передней части, и это "временной мозг". Мы мечтаем, думаем о будущем, у нас есть замыслы и планы. Животные так не делают.

Представим эксперимент. Попробуйте объяснить своей собаке, что такое завтра. Ничего не выйдет, это невозможно. Мозг собаки не думает о будущем, разве что на пару часов вперед. Кто-то скажет, что медведи впадают в спячку и должны думать о будущем. Но это инстинкт. Медведи не планируют, они не думают, что пора сложить вещи в чемодан и купить билеты на самолет. Им просто становится холодно, и они идут в берлогу. В этом отличие между нами. Мы постоянно моделируем будущее.

На каком уровне находятся сегодняшние роботы? Как термостат с его одной петлей? Как растение с пятью? Современные роботы почти сравнялись с крокодилами: они кое-как ходят по помещению, кое-как делают то, что способны выполнить животные. Но у них нет никаких представлений об обществе, манерах, эмоциях, и уж точно они не думают о будущем. Так что впереди еще много работы, чтобы у машин появилось сознание, как у нас.

Об органическом ИИ, выращенном в пробирке

Все возможно, но никто не знает, как это сделать. Пока это просто слова, а сама идея очень-очень сильно превосходит наши возможности. Для начала требуется схема связи нейронов. Каждая клетка в нашем мозге соединена с 10 тыс. других клеток, а всего их 100 млрд.

Но мы помним, что мировой рекорд в этой области — картирование мозга плодовой мушки с 100 тыс. нейронов. А ведь это только карта — к манипулированию настоящими клетками мы еще даже не подошли. Вы видите, как далеко мы от цели. Пройдут столетия прежде, чем мы сможем такое осуществить.

Об интерфейсах мозг-компьютер

Интерфейсы между мозгом и компьютером отличаются от искусственного интеллекта тем, что в них уже задействована мощь 100 млрд нейронов. ИИ приходится создавать с нуля, поэтому такие интерфейсы поначалу будут более продвинутыми. Они дадут телепатию — волшебство, как в фильмах про Гарри Поттера. Мы сможем передавать по интернету чувства, эмоции, ощущения и воспоминания. Подростки будут в восторге! Общение друг с другом поменяется.

О негативных последствиях беспокоиться рано, потому что технология пока примитивна. Два года назад было впервые записано воспоминание. Когда-нибудь мы сможем записывать происходящее в мозге пациентов с болезнью Альцгеймера. У них будет кнопка: стоит ее нажать, воспоминания всплывут в гиппокампе (отдел мозга, кроме прочего участвующий в процессе запоминания информации).

В Массачусетском технологическом институте создали ложное воспоминание. Это уже страшновато. Но, повторюсь, технология очень молодая, в отличие, например, от экзоскелетов для парализованных ветеранов, где нервная система тоже соединяется с компьютером.

О будущем человечества

Наука развивается волнами, волнами инноваций. Первая была связана с паровым двигателем — началась промышленная революция. Потом было электричество и еще одна революция. Третья волна — хай-тек, компьютерная революция. Четвертая — физика на молекулярном уровне: ИИ, био- и нанотехнологии. Они будут толкать прогресс и увеличивать благосостояние в будущем.

Мы не должны бояться технологий. Когда искусственный интеллект разовьется до такого уровня, что будет представлять опасность, нам нужно будет встроить в него кнопку аварийного выключения. Но через двести лет роботы станут такими умными, что смогут обойти эту систему защиты. Что случится после этого?

Мне кажется, нам нужно будет слиться с компьютерами, а не воевать. Тогда мы станем бессмертными. Конечно, такой технологии еще нет, но ее появление можно предвидеть. У нас будут совершенные тела, бесконечная жизнь — и мы отправимся исследовать Вселенную. Мы будем делать это, потому что можем, потому что хотим, а не потому что должны. Разумеется, это уже научная фантастика, но и речь идет о столетиях.

Записал Марат Кузаев