После ухода из большой политики Репше занялся тем, что его интересовало с юности: вопросами информационных технологий и техники. И в 2011 году он создал Фонд искусственного интеллекта (который, впрочем, был ликвидирован уже в 2014 году). Чтобы узнать, как относиться к компьютерному разуму, программа Латвийского радио 4 «Природа вещей» поговорила с экс-политиком лично.
— Искусственный интеллект — это утопия или вестник апокалипсиса?
— Это не противоположные теории. Это две разные теории. Скажем, те, кто говорит об апокалипсисе, верят, что искусственный интеллект возможен, что рано или поздно он спонтанно возникнет, или будет создан. И будет довольно стремительно развиваться дальше – самостоятельно. То есть, в том, что искусственный интеллект возможен, у них сомнений нет.
Но есть люди, которые боятся этого интеллекта – того, что он превзойдёт интеллект человеческий, будет развиваться быстрее и захватит мир. И будет относиться к нам, людям, как минимум так же, как мы сейчас относимся к представителям вымирающих видов в зоопарках.
В свою очередь те, кто говорит, что искусственный интеллект это утопия, - это скорее всего люди, не слишком занятые в процессе научного мышления, которые считают, что «это невозможно, потому, что невозможно».
К сожалению, совокупность всех наук и знаний, показывает, что возможно, и еще как.
В конце концов, интеллект это вычислительный процесс. Конечно, это поднимает множество вопросов, например, может быть, наш интеллект лучше можно описать при помощи квантового компьютера (что, скорее всего, так и есть), или при помощи обычного компьютера это тоже можно сделать. Какова роль квантовых эффектов именно в работе мозга и его нейронов? Мы вроде знаем, как работает мозг, знаем простейшие механизмы того, как нейроны соединяются между собой.
Но открытым остается вопрос: действительно ли как в других сферах биологии природа успешно использовала квантовые эффекты в работе нашего мозга? Квантовые эффекты, которые до сих пор достаточно не изучены, играют большую роль в понимании этого вопроса. Возможно, симуляцию настоящего искусственного интеллекта лучше всего провести именно на квантовом компьютере, когда в будущем нам наконец удастся создать и начать использовать такие компьютеры. Но утверждение, что это в принципе невозможно — не имеет под собой почвы.
Вообще, весь наш мир можно, по большому счету, назвать одним большим вычислительным процессом. И наш интеллект, как и любой другой интеллект – часть этого общего процесса.
— Как у вас появился интерес к этим процессам?
— Ну, как. Во-первых, я по образованию физик. Во-вторых, я много интересовался вопросами устройства мира и его тайнами. Я еще и программист — в юности я очень увлекался написанием разных программ. Так что и с компьютерными науками я знаком. Все это и вызвало мой интерес к искусственному интеллекту.
— И вы пришли к тому, что основали фонд, который так и назывался — «Фонд искусственного интеллекта»?
— Да, мы создали такой фонд, в котором занимались исследованиями, в одном довольно узком направлении. Было интересно! [...]
Направление наших исследований главным образом было связано с тем, как моделировать на компьютере строение и действие мозга и конкретно — более молодой думающей части мозга, неокортекса.
Интересно то, что неокортекс – часть мозга, которая присуща только млекопитающим, самая «высшая» часть мозга, которая в процессе эволюции образовалась сравнительно недавно. Фактически, это и есть так называемая кора головного мозга, «площадка» или, если хотите, структура размером с носовой платок, та самая складчатая поверхность мозга. Интересно, что по своей структуре этот неокортекс очень однородный, как бы воспроизводящий сам себя.
Там шесть слоев и все эти шесть слоев практически одинаковы на всей площади неокортекса. И поэтому появилась такая гипотеза, что вся эта думающая, мыслящая часть мозга выполняет очень простой и похожий алгоритм. Только одна часть неокортекса специализируется например на обработке визуальной информации, другая на обработке звуковой информации, другая – на обработке более сложных, абстрактных идей.
Но эти алгоритмы и их суть довольно похожи для всех слоев неокортекса. И это объясняет, почему люди, лишенные какого-то из видов осязания, например, люди, утратившие зрение или слух — почему у них соответствующая часть неокортекса легко и успешно перепрограммируется, чтобы лучше улавливать и использовать другие осязательные навыки.
Были, например такие эксперименты, когда людям визуальную информацию проецировали при помощи специального аппарата на кожу — например, на кожу живота. При помощи специальных тактильных сенсоров, там такие «мячики» прыгают, и эти мячики направляет камера. То есть, изображение с камеры проецируют при помощи сенсоров на коже живота. И если реципиенты не видят, то они довольно быстро таким образом начинают ориентироваться в пространстве, и начинают «видеть».
Конечно, не так четко, как мы глазами, но по-крайней мере они могут избежать препятствий, видят контуры предметов, то есть фактически они начинают реально видеть кожей живота. Или кожей лба — неважно, какую именно используют. Речь о том, что мозг человека очень пластичен и может перестраиваться. Разные его участки могут успешно перенимать ранее несвойственные себе функции. И это тоже говорит о том, что не только структура слоев неокортекса, но и алгоритм, лежащий в основе его функционирования — одинаков, похож и просто подстраивается под обработку абстрактных идей разного уровня.
Нам было интересно попытаться понять, что это за алгоритм и можем ли мы например воспроизвести его на компьютере. Или сделать такую компьютерную программу, которая попытается работать похожим способом и будет развиваться и обучаться, как это, возможно, делает наш мозг.
Отчасти это было связано с исследованиями нейросетей, которые очень популярны во всем мире. Но мы пытаемся эти нейросети делать не аналоговыми, а цифровыми. То есть такими, которые могли бы лучше сами себя перепрограммировать. В сущности, мы смотрели на самопрограммирующиеся программы — которые могли бы развиваться, эволюционировать и обучаться — так, как это делают живые существа, или как это делали мы в процессе эволюции.
В таких делах быстрого успеха быть не может. И они, надо признать, требуют серьезных материальных вложений. Так что всю работу, которую мы планировали, мы сделать не смогли.
Знаете, и сейчас над проблемой искусственного интеллекта бьются немало умов, лабораторий, индивидуумов по всему миру – и в самых разных направлениях.
Одно из популярных направлений сейчас — это не думать так уж много над тем, что такое сознание и что такое интеллект и мышление, а вместо этого фокусироваться на практическом применении — беспилотные автомобили, распознавание паттернов при лечении различных заболеваний, прогнозирование разных процессов.
Это тоже очень важное и существенное направление, которое год от года будет пользоваться все большим успехом и спросом.
Но меня больше интересуют фундаментальные вопросы — что такое сознание, что такое интеллект как таковой, можно ли воссоздать его при помощи компьютера, а если нет, то как объяснить этот факт. К слову, скорее, это возможно.
Только как я уже сказал в начале, не лучше ли использовать для этого квантовые компьютеры?
Любой процесс можно реплицировать и на обычном компьютере. Нет такого процесса, который квантовый компьютер мог бы воспроизвести, а обычный компьютер – в принципе нет. Но есть вещи, которые на простых компьютерах происходят намного медленнее.
Так что эти вещи очень интересны, и я думаю, вскоре наука даст нам новые ответы на вопросы. Например, что такое сознание? Как оно возникает и как его воссоздать искусственно? И как использовать эти знания, чтобы сделать нашу жизнь безопаснее, легче и интереснее. Продуктивнее.
— Не все согласны с таким мнением. Скажем, Илон Маск давно известен своим осторожным отношением к искусственному интеллекту. Он постоянно говорит об угрозе со стороны умных машин и предупреждает человечество о скором конце. На днях основатель Tesla и SpaceX в очередной раз напомнил о дамокловом мече, нависшем над людьми, написав в Twitter, что развитие искусственного интеллекта опаснее конфликта с Северной Кореей. Там же он поместил картинку: «В конце машины выиграют». Как по-вашему, это спекуляция или реальная угроза?
— Илон Маск очень умный человек, и очень опытный, и в определенном смысле визионер, так что я думаю к его словам следует прислушаться всерьез. И для опасений есть основания. Ни один закон природы не гарантирует, что человек – высшая форма или проявление эволюции. И что никогда, при дальнейшем развитии естественным или искусственным путем не возникнет новая высшая форма жизни.
Нет никаких оснований полагать, что мы, белковые тела массой до 100 килограммов, являемся высшей возможной в этом мире формой интеллекта.
Нет таких физических или научно-обоснованных ограничений. В противном случае примитивные бактерии могли думать так же – если, конечно, они были в состоянии думать — когда они были единственной формой жизни на земле, миллиарды лет тому назад. И примитивные млекопитающие могли бы считать себя венцом творения, и что ничего дальше развиваться не будет. И мартышки могли бы думать, что венец творения достигнут; и вот точно так же и у людей нет никаких оснований полагать, что природа в процессе эволюции искусственно или естественным путём никогда не превзойдет то, что достиг на данный момент человек. Нет таких ограничений.
Ну, и конечно, так называемый искусственный интеллект, или то, что сейчас мы помогаем создавать своими руками, своими знаниями, — может быть, именно он и станет новой формой эволюции.
Если мы создадим искусственную систему, которая сможет сама себя воспроизвести, сможет размножаться, и которая будет способна развиваться, то есть подвергнуть себя дальнейшей эволюции, так что ее процессы можно будет назвать формой жизни — ну, тогда это будущее станет очень интересным.
И если нам удастся в компьютерной среде, то есть в быстродействующей среде создать живой организм, то есть мыслящую сущность, которая сможет сама себя воспроизводить, и сама себя развивать, то там этот процесс эволюции может происходить намного стремительнее, чем до сих пор это было в биологическом пространстве земли.
И конечно в такой ситуации может возникнуть высший разум, который будет смотреть на нас примерно так, как мы смотрим на приматов или примитивных млекопитающих — в общем, на низшие формы жизни.
Я уже сказал вначале — было бы хорошо, если бы те высшие формы жизни и разума относились к нам хотя бы так же хорошо, как мы к исчезающим видам животных, которых мы содержим в зоопарках.
В общем, никаких преград я не вижу — мы сами своими руками можем дать импульс для создания условий для появления высшего разума. А для его дальнейшей эволюции многого не требуется: умение воспроизводить себя, временами в процессе воспроизведения допускать осознанные или неосознанные ошибки, и затем — ввести некий фильтр или отбор. И наследственность, конечно. Итак: воспроизведение, мутации, наследственность и отбор — и вот вам классическая эволюция. К чему она может привести — мы никогда не можем предсказать это заранее.
Но важно понимать: до сих пор никогда научный или технический прогресс в мире не останавливался из опасения плохих последствий. Я думаю, такое и невозможно. Ну не получится сейчас остановить прогресс просто потому что нам страшно.
И остается только действовать осторожно и учиться жить с последствиями. Может быть довольно интересно. Я думаю можно сказать, что в примитивной форме искусственный интеллект уже сегодня вошел в нашу жизнь. Скоро он войдет в нее еще увереннее, и, я думаю, мы застанем время, когда мы сможем весьма приятно общаться со своим виртуальным ассистентом. Как с полноценным собеседником, причем. Мы сможем задавать ему не только простейшие стандартные вопросы, как сегодня, но, например, поручить ему спланировать наш отпуск. Купить билеты так, чтобы мы смогли путешествовать максимально далеко за минимальную цену. Для этого потребуются более мощные компьютеры и программы — если не сказать интеллект — чем сейчас нам доступны. Но это — наш завтрашний день.
— Каково ваше видение совместного будущего человеческого разума и искусственного интеллекта? Какие еще формы сотрудничества, синергии, могут быть созданы?
— Я думаю, человек научится очень хорошо использовать науку, технику и искусственный интеллект, чтобы расширить собственные способности. Не только в индустрии развлечений, как это происходит сейчас. Вы посмотрите, что дети делают с компьютерами, в какой виртуальной среде они проводят время, играя в собственноручно созданные миры. А завтра, я уверен, эта среда станет краеугольным камнем и индустрии развлечений для взрослых.
Человек сможет в виртуальной реальности делать то, что в физической, например, дорого или опасно. Объехать мир, увидеть своими глазами его чудеса, насладиться полетом, — да что угодно.
И не только в сфере развлечений виртуальная реальность и искусственный интеллект будут иметь такое значение. Мы и правда научимся намного быстрее, рациональнее и проще обеспечивать свои ежедневные потребности: питание, энергию, обеспечение. Нам больше не придется там много и тяжело работать, чтобы выжить. У нас останется намного больше времени на творческие и интеллектуальные занятия, и там, я думаю, человек тоже активно будет использовать компьютерный интеллект, чтобы расширить собственные возможности. Видеть дальше. Слышать лучше. Узнать больше. Лучше запоминать. В этом направлении мир будет развиваться.
В любом случае, скучно точно не будет.
И в тот момент, когда наши виртуальные ассистенты разовьются настолько, что с ними станет действительно приятно и интересно общаться, дискутировать и обмениваться мнениями, то это станет еще одним качественным скачком в сфере обучения и усвоения знаний.
Уже сейчас мы фактически живем во время образовательно-технологического взрыва, какого раньше не было.
Я помню времена, когда я сам был студентом. Чтобы узнать, например, что в сфере теоретической физики, которой я интересовался, делается в других странах мира, я ходил в фундаментальную академическую библиотеку, руками листал подшивки и монографии за 3 месяца — а надо понимать, что доступны были только те их них, которые перевели и прислали. И из прочитанного пытался понять, что люди в других частях света думают по этому вопросу. Сейчас, если у кого-то появляется идея, и он публикует ее в интернете, то она моментально становится доступна всем ученым, исследователям, любому желающему. И это огромное ускорение.
Или, например, доступная любому человеку возможность виртуально учиться в любом университете мира. Слушать лекции лучших лекторов мира. Это уникальные возможности, которые были нам недоступны всего каких-то лет десять назад. И такой скачок не останется без последствий. Мы будем создавать все лучшие продукты и технологии, все быстрее и успешнее.
Так что, я думаю, объективно жизнь станет все лучше и лучше. Главное — избежать опасностей, например, угрозы самоуничтожения. Было бы обидно взорвать себя нечаянно, прежде чем все станет настолько интересно.
— Кстати, именно об этом незадолго до своей смерти предупреждал профессор Стивен Хокинг, один из самых уважаемых и известных британских ученых. Он заявил, что усилия по созданию мыслящих машин могут привести к тому, что само существование человечества окажется под угрозой. В интервью Би-би-си он отметил, что «появление полноценного искусственного интеллекта может стать концом человеческой расы». До сих пор у нас были защитные механизмы, вроде теста Тьюринга. В нем задача компьютера так сымитировать человеческую логику, чтобы экспериментатор задавая вопросы не смог найти различий между человеком и машиной. Недавно это было невозможно, но вот программа Cleverbot уже научилась обманывать людей, имитируя ход человеческой мысли. Получается, машины становятся все умнее. Может, пора подумать о новых защитных механизмах?
— Да, но надо ли нам становиться на пути у мирового прогресса? Я думаю, не надо. Разумеется, нам надо быть ответственными и осторожными.
Но ни один ученый не перестанет изучать, например, проблемы ядерной энергии, опасаясь, что это приведет к созданию атомной бомбы. Никогда мировая наука не прекратила серьезные исследования только потому, что были опасения, что эти результаты кто-то сможет использовать неправильно, злонамеренно.
Да, надо учиться, надо думать о том, чтобы по дороге нечаянно не отравить себя или не взорвать, не выпустить в мир новую биологическую бациллу, которая окажется очень заразной и смертельной. Но это не значит, что не надо заниматься изучением компьютерного интеллекта или биологическими экспериментами. Человечество продолжит это делать и, полагаю, достигнет успеха, так что наша жизнь станет интереснее и лучше. И человечество сможет осуществить давнюю мечту о покорении вселенной. Мы перестанем быть заложниками планеты Земля, где теоретически мы под угрозой.
Если в Землю врежется большой астероид, или начнется неконтролируемая ядерная война, то человечество может быть уничтожено. Но если мы успеем создать внеземные колонии, уничтожить жизнь станет все сложнее. Я думаю, нам надо к этому стремиться.
Ну, конечно искусственный интеллект, искусственная жизнь, или модифицированная жизнь могут стать ответвлениями традиционной эволюции, и кто сейчас может утверждать, что они будут хуже нас, нашей «ветви»? Очень интересно смотреть на мир как на вычислительный процесс. Есть серьезные физики, ученые, которые воспринимают всю вселенную как один большой вычислительный процесс.
Например, апологет теории квантовых систем, профессор Сет Ллойд, который сам себя называет «квантовым механиком» — он любит шутить «если ваши кванты не работают, как надо, давайте их сюда, я их починю». Так вот, Ллойд говорит, что вселенная это один большой квантовый компьютер, который постоянно вычисляет свой следующий шаг и производит все, что мы видим вокруг, включая нас самих.
И что мы знаем об основах квантовой механики, указывает на то, что в фундаментальной основе природы может лежать математика, а не вещество и материя.
Вы же знаете, что по своей сути элементарные частицы существуют только определенное время, и можно сказать виртуально. Они не фундаментальны по сути – они появляются и исчезают. И вероятность того что они появятся или исчезнут в определенном месте и в определенном состоянии описывает так называемая волновая функция, - и вот она-то, похоже фундаментальна.
Материя – не фундаментальна. Она появляется и исчезает. Частицы тоже. А вот волновая функция, как мы ее сейчас понимаем — фундаментальна.
Конечно, возникает вопрос. Волновая функция – это математическая функция, комплексная, - где, в каком мире она живет? На каких компьютерах рассчитывается? В каком пространстве она существует? Потому что в мире элементарных частиц нет такого, чтобы существовал, скажем, электрон, и его движение можно было бы четко описать и вычислить. Нет! Но при этом есть волновая функция, которая описывает возможность того, что электрон появится в том или ином месте в том или ином состоянии. И это очень любопытно — есть так называемая «нелокальность квантовой механики», которой в свое время очень удивлялся сам Эйнштейн — он не мог ее принять и понять.
Как такое может быть — есть волновая функция, которая описывает вероятность, или обозначает, или создает вероятность того, что частица появится там или сям, с определенной вероятностью?! Но при этом — если частица где-то появилась и была измерена, она больше нигде в тот момент и в таком состоянии появиться не может. То есть волновая функция во всей вселенной знает, что эта частица была измерена именно в это время и в этом месте. И ее дубликат нигде не появится.
То есть эта информация, или как ее ни назови — о том, где замерили этот электрон или фотон и в каком состоянии — моментально, даже не со скоростью света, а моментально распространяется по всей вселенной. И нигде больше дубликат не появится.
То же самое касается связанных квантовых состояний. Вы уже знаете, что две или больше частиц, если они хоть раз встретились и взаимодействовали, навсегда сохраняют какую-то призрачную связь. Вне времени и пространства.
И снова – информация о появлении такой связи распространяется моментально. Если что-то происходит с одной из связанных частиц, неважно, как далеко она будет, это оставит влияние и на остальные частицы в связке. И это замерено и подтверждено экспериментально. И это лежит в основе так называемой квантовой телепортации, которая была проведена в лаборатории, но никто так и не понял, как это происходит, что это значит и что это говорит о нашем мире и о его самых глубинных тайнах.
Наша интерпретация квантовой механики по-прежнему крайне запутанна и туманна. Есть разные интерпретации, но ни одной, которая бы побеждала, или хотя бы четко объясняла, что это и как это происходит. Так что мир полон чудес.
И если мы задумаемся о том, кто мы такие – то мы тоже биологические программы, которые исполняются с момента, когда генетическая информация наших матери и отца соединились в уникальный генетический код.
Мы — не те частицы, не те тела, в которых мы родились. Потому что любая частица из которых мы состоим, за время жизни меняется многократно. Но мы — программа. Мы генетический код, который мы получили от отца и матери и в течение жизни он развивается. Так что по сути мы тоже можем считать себя биологическими компьютерами, не так уж сильно отличающимися от машин, которые мы строим или будем строить в будущем.
Я недавно слушал интересного мыслителя, который считает, что нет никаких оснований полагать, что во вселенной высший уровень сознания совпадает с тем, что содержится в нашем мозге.
Ну нет оснований считать, что вот этот 100-килограммовый объект, которым является человек, суть высшая доступная во вселенной форма интеллекта.
Тогда вопрос: а есть ли такое явление, как общественное сознание? Ну вроде как существует – мы его не чувствуем, но иногда наблюдаем. А может, существуют еще более высшие и сложные уровни сознания?
Кто может утверждать, что крупномасштабные структуры вселенной не могут между собой взаимодействовать? Скорее всего — могут.
Возможно, именно через эти связанные квантовые состояния. В конце концов, во времена великого взрыва, когда вселенная была еще цельной, все ее частицы взаимодействовали друг с другом очень плотно. Теоретически, они и сегодня могли бы сохранить эти свойства.
И не исключено, что они могут взаимодействовать на таком уровне и в таких масштабах, что мы и представить себе не способны. Как, скажем, наши клетки, или бактерии, входящие в нашу экосистему, что уж говорить об атомах и молекулах. Они и понятия не имеют о нашем существовании, о том, чем мы там заняты, о чем думаем, и тем не менее мы с ними вместе как-то взаимодействуем. И весьма успешно. Нигде не доказано, что точно так же не происходит взаимодействие в более крупных масштабах.
— Я сейчас подумала, что главное преимущество компьютеров перед нами, людьми, в том, что компьютеры не могут быть несчастны. Мы, будь мы даже и программы, умеем как-то загнать себя в эмоциональный тупик.
— Я считаю, это зависит исключительно от уровня развития. Вы думаете, у искусственного интеллекта будут те же проблемы, что и у нас? Да, потому что, в конце концов, эмоции у нас развились не просто так, а с какой-то целью. У них есть какая-то задача, функция. Я думаю, когда искусственный интеллект разовьется сильнее и достигнет по уровню хотя бы человеческого сознания (чего еще нет, пока искусственный интеллект едва превосходит уровень букашек). Так вот, когда он приблизится хотя бы к уровню развитых животных, млекопитающих — даже еще не человека — я уверен, у него появится возможность чувствовать, и быть счастливым или несчастливым.
Бактерии, скорее всего, не слишком часто думают о смысле жизни и не грустят о мире. Но никто не скажет, что бактерия не живая. Просто она слишком примитивна для такого уровня мышления. (Подчеркну — если принять за истину, что бактерии не думают).
Точно так же — компьютеры, которые сейчас по своему интеллектуальному уровню едва превосходят бактерий или насекомых, не чувствуют грусти. Но возможно, в будущем такие эмоции будут очень полезным механизмом для решения определенных задач и проблем.
И они окажутся нужными. И я думаю —
будущее не за специфически запрограммированными компьютерами, а за компьютерами, которые будут способны самостоятельно обучаться и эволюционировать.
Представьте, если бы мы могли «усадить» компьютер, который оснащен искусственным интеллектом хотя бы в нашей национальной библиотеке, или в библиотеках мира, или в интернете с доступом ко всем хранящимся там знаниям, данным и ресурсам.
И дать ему основательно все это изучить — намного быстрее, чем это может человеческий мозг. Я думаю, там на выходе были бы весьма интересные идеи. И если мы позволим ему развиваться и эволюционировать – только надо придумать, в какой среде это правильно делать — это и будет будущее. Завтрашний день компьютерных технологий. Я уверен, латвийские инженеры могли бы приложить к нему руку.
