Так о чём же думает компьютер?

Немного истории

В одна тысяча шестьсот сорок первом году француз по имени Блез Паскаль соорудил механическую счётную машину -- примерно то, что ныне именуется арифмометром. Посмотрел на неё, покрутил ручку (или что там у неё было), а потом взял перо и записал для потомков: «Действия счётной машины, по-видимому, более напоминают мышление, чем всё то, на что способны животные».

С тех пор пошло по нарастающей. В 1808 году Жозеф Жаккар создал автоматический ткацкий станок (1). Несколько позже Чарльз Бэббидж пытался построить компьютер, работающий по заданной программе. В 1890 году Холлерит использовал для обработки результатов переписи населения электромеханические табуляторы с управлением от перфокарт. В 1936 Тьюринг доказал, что любой алгоритм может быть реализован на придуманной им абстрактной машине. В 1941 году Конрад Цузе построил-таки действующий электронный компьютер под названием Z3. Потом появились ЭНИАК, ЭДВАК, Марк I, БЭСМ, Apple, ЕС, БЗ-34 :-), ZX Spectrum, Корвет, IBM...

Какое-то время успехи ЭВМ (от проектирования турбин до игры в шахматы) преподносились как громкая сенсация, потом к ним понемногу привыкли. А где-то в середине этого процесса люди вспомнили изречение Паскаля и придумали словосочетание «искусственный интеллект» (artifical intellingence, AI).

Термин есть. Что дальше?

А что, собственно, понимается под таким названием? С какого момента (и по какой шкале) программа становится «интеллектуальной»? Для ответа на этот вопрос я перерыл груду литературы (от специальной до художественной), а впридачу опросил сколько мог народу.

Кстати, народ сперва не понимал, чего я от него хочу. На вопрос «что такое искусственный интеллект?» первым делом отвечали: «Способность компьютера думать, как человек» (или что-нибудь в этом роде). Приходилось уточнять: «А как думает человек? Что такое вообще интеллект?». Так что большинство из полученных мною ответов относились не только к машинному разуму, но и к «интеллекту вообще». Подумав, я разделил ответы на несколько групп и в каждой отобрал один-два наиболее типичных:

ОТВЕТЫ ОТРИЦАТЕЛЬНЫЕ

Этого никто не знает. А кто знает, те сомневаются. Знаешь, один психолог ответил: «Интеллект? Это то, что измеряют мои тесты».

ОТВЕТЫ, НИЧЕГО НЕ ОБЪЯСНЯЮЩИЕ, В ТОМ ЧИСЛЕ ПОЛУШУТЛИВЫЕ

Разум есть такое свойство человека, которое отличает его деятельность от деятельности животных.

Разум есть способность живого существа совершать нецелесообразные или неестественные поступки.

ОТВЕТЫ МАЛОПОНЯТНЫЕ

Разум -- ум, способность понимания и осмысления.

ОТВЕТЫ КОНКРЕТНЫЕ

Интеллект -- способность самостоятельно вырабатывать алгоритмы поведения.

Способность к абстрактному мышлению. То есть, например, отличать дом вообще от данного конкретного дома.

Способность совершать поступки, кажущиеся нецелесообразными на первый взгляд. Например, обезьяну можно научить открывать кран с водой, умываться и даже чистить зубы, но закрывать кран она не научится.

ОТВЕТЫ ИМЕННО ОБ ИСКУССТВЕННОМ ИНТЕЛЛЕКТЕ

Искусственный интеллект -- тот блок программы (игровой), который отвечает за поведение игроков, управляемых компьютером.

ОТВЕТЫ ПЕССИМИСТИЧНЫЕ

Модные слова для привлечения покупателей. Одно время новая версия любого продукта сопровождалась громким криком: «Теперь это с AI».

Первый вывод и кое-какие размышления

Очень мало кто смог дать конкретный ответ как о машинном разуме, так и о человеческом. Те, кто давал-таки ответ, либо сами в нём сомневались, либо вовсе придумывали его на ходу. Однако можно заметить: никто не сомневался, что уж у человека интеллект есть, что бы это ни значило. Попробуем «плясать» от этого.

«Искусственный интеллект» аркадных и стратегических игрушек вряд ли можно назвать полным аналогом человеческого разума. Он не направлен ни на абстрактное мышление, ни на самостоятельную выработку алгоритмов поведения (в лучшем случае -- выбор одного алгоритма из нескольких, разработанных заранее программистом). В любом случае, эти алгоритмы предназначены только для управления боевыми единицами и вряд ли пригодны для чего-то другого. Кто видел, чтобы Duke Nukem, Heroes of Might&Magic или Warlords писали философские трактаты или изобретали хотя бы велосипед?

Но, может быть, мы просто не пытались как следует их попросить? Ведь есть же алгоритмы для замены человека в самых разных областях -- от разводки печатных плат до сочинения музыкальных произведений, да и для изобретательской деятельности тоже (2). Может быть, сведя эти алгоритмы воедино (и, возможно, добавив к ним некий алгоритм-супервизор), мы получим мыслящую машину?

Немного пофантазируем...

Не будем ходить далеко. Возьмём тот компьютер, который стоит у Вас на столе (или который Вы мечтаете туда поставить). Представим, что он имеет, как говорят химики, «достаточное количество» оперативной и дисковой памяти, что надёжность его абсолютна, а тактовая частота ограничена только Вашей фантазией («Такого числа не бывает!» :-). Представим вдобавок, что в Вашем распоряжении все лучшие специалисты планеты по разработке софта и периферии, а для полного кайфа Вам предоставлены все деньги, до сих пор бестолково тратившиеся на гонку вооружений.

И вот ценой нечеловеческих усилий и бессонных ночей создан Совершенный Алгоритм Мышления! (Как создан -- не суть важно. Возможно, были как раз объединены существующие алгоритмы, а может, просто взяли готового человека и оцифровали его с точностью до постоянной Планка).

Пока отвлечёмся...

И вот перед тем, как запустить наш Совершенный Алгоритм на выполнение, присмотримся повнимательнее к компьютеру, на котором мы собираемся его реализовать. Из чего он сделан? Верно, из микросхем. А точнее?

Если Вы незнакомы со схемотехникой, постарайтесь повнимательнее прочитать следующие абзацы. (Если знакомы -- всё равно проглядите хотя бы по диагонали, чтобы не упустить ход мыслей).

Все микросхемы состоят из логических элементов, которые делятся на два класса. Первый из них -- комбинационные схемы, то есть элементы И, ИЛИ, НЕ и различные их комбинации. Второй -- элементарные запоминающие ячейки (ЭЗЯ), или триггеры. Из этих элементов, соединяемых в различных комбинациях, создаются более сложные схемы, делящиеся опять-таки на два класса: с памятью и без памяти.

Схемы без памяти (мультиплексоры, сумматоры, буфера и прочие) выдают на выход сигнал, зависящий только от сигналов, присутствующих на входах схемы (с учётом временн'ой задержки между входом и выходом).

У схем с памятью выходной сигнал зависит не только от состояния входов, но и от состояния имеющихся в схеме ЭЗЯ. А оно также меняется, причем не только в зависимости от входных сигналов, но и от состояния ЭЗЯ в предыдущем такте. Таким образом, состояние выхода схемы с памятью зависит, во-первых, от текущих сигналов на входе, а во-вторых, от предыдущих состояний схемы.

Проиллюстрируем это на примере. Для простоты вообразим себе схему, содержащую только один запоминающий элемент, один вход и один выход, причём состояние запоминающего элемента (0 или 1) напрямую передаётся на выход. Обозначим состояние триггера (а зачит, и выхода) в текущий момент времени буквой Т, входа -- буквой В. Тогда наш автомат может находиться в одном из четырёх состояний:

+---+---+---+
| No| Т | В |
|---+---+---|
| 0 | 0 | 0 |
| 1 | 0 | 1 |
| 2 | 1 | 0 |
| 3 | 1 | 1 |
+---+---+---+

Каждому из этих состояний поставим в соответствие какое-то состояние Т1, в которое перейдёт автомат в следующий момент времени, например:

+---+---+---+---+
| No| Т | В | Т1|
|---+---+---+---|
| 0 | 0 | 0 | 0 |
| 1 | 0 | 1 | 1 |
| 2 | 1 | 0 | 1 |
| 3 | 1 | 1 | 0 |
+---+---+---+---+

Естественно, могут быть и любые другие варианты -- смотря по необходимости или фантазии. Впрочем, легко понять, что желательна (а обычно и необходима) возможность четырёх переходов: 0-0, 0-1, 1-1, 1-0, то есть из любого состояния в любое другое (3).

Теперь допустим, что при включении схемы она всегда устанавливается в нулевое состояние, а мы хотим, чтобы на её входе последовательно появлялись такие, например, значения: 00101110 (взято с потолка). Составим необходимую для этого последовательность, которую будем подавать на вход:

+-----+---------+---------+-----------+
|Номер| Текущее |Желаемое |Надо подать|
|такта|состояние|состояние|  на вход  |
|-----+---------+---------+-----------|
|  0  |    0    |    0    |     0     |
|  1  |    0    |    1    |     1     |
|  2  |    1    |    0    |     1     |
|  3  |    0    |    1    |     1     |
|  4  |    1    |    1    |     0     |
|  5  |    1    |    1    |     0     |
|  6  |    1    |    0    |     1     |
|  7  |    0    |    -    |     -     |
+-----+---------+---------+-----------+

Таким образом, для получения желаемого результата надо подать на вход нашей схемы сразу после включения последовательность сигналов: 0111001. И наоборот, если после включения схемы подать на её вход сигналы 0111001, то на выходе получим последовательность 00101110. Варианты исключены, если, конечно, микросхема исправна.

Впрочем, даже если она и неисправна, то выходная последовательность всё равно будет однозначно зависеть от входной. Вот только в число «входных сигналов» добавятся все факторы, влияющие на прохождение тока через транзисторы (4), и зависимость выходной последовательности от входной будет описываться не выражениями булевой алгебры, а формулами физики твёрдого тела. И если знать эту зависимость, то достаточно поглядеть на входные сигналы, чтобы предсказать: все такие микросхемы при выполнении этой «программы» выдадут такую-то последовательность, и только её.

А теперь возьмём схему посложнее, например, Pentium (правда, сложная схема?). При всей своей сложности он состоит из тех же ЭЗЯ и комбинационных элементов, а значит, если хорошенько подумать, то и он имеет столь же однозначную зависимость между входом и выходом.

Между прочим, это можно понять и без знания схемотехники: если я пишу в своей программе, например, инструкцию MOV AX, BX, то я желаю, чтобы процессор, получив на вход эту команду, скопировал содержимое регистра AX в регистр BX, а не делал что-нибудь ещё, то есть я жду от него однозначного и точного выполнения моих команд.

Кстати, в самом начале этой статьи я привёл изречение Паскаля не целиком. После похвал мыслительным способностям своей счётной машинки философ добавил: «Однако она не делает ничего, что могло бы навести на мысль о наличии у неё свободной воли».

Разочарование

Вряд ли можно отрицать, что свободной воли нет не только у арифмометра, а вообще у всего, созданного руками человека. Причина проста: что бы человек ни создавал, он делает это для чего-то, а значит, всемерно старается, чтобы его создание делало то, для чего придумано, и по возможности не делало ничего другого.

Тут мне, наверное, могут возразить: де человек порой делает что-то, не зная результата, просто поглядеть, что получится. Например, на том же компьютере создали Creatures (см., например, «К вопросу о норнологии», КТ #215 от 22.09.97, стр.60). Чем не самостоятельная программа?

А вот тем самым. Загляните в справочник по любому языку программирования, от ассемблера до бейсика. Где здесь оператор самостоятельного выбора? Нету. Все операторы (а также стандартные процедуры, состоящие из тех же операторов) не спрашивают компьютер, чего ему хочется, а сообщают, что хочется человеку: возьми, сложи, запомни, выдай, если -- то, иначе -- всё. А процессору, кстати, это всё равно не важно. Транзистор, на который подали ток, откроется независимо от того, участвует он в операции взятия логарифма или стоит на стенде в школьной лаборатории. Creatures не более самостоятельны, чем Hello, world. Норны могут совершить то или иное действие только в случае, если оно предусмотрено программистом (хотя бы косвенно). Да, они действительно «обнаруживают зачатки социального поведения». Но я готов поставить что угодно: это лишь потому, что в некоем файле когда-то написали: «IF YouSeeOtherNorn THEN ...» иличто-то в этом роде.

И вряд ли стоит запускать пресловутый Совершенный Алгоритм Мышления, ибо он будет не мыслить, а лишь имитировать мышление, причём так и только так, как нам этого захотелось (или -- как у нас получилось).

Примерно то же самое (с незначительными отличиями) будет и в случае, если мы воспользуемся другими платформами (например, нейронными, аналоговыми или квантовыми компьютерами).

Ещё б'ольшее разочарование

А теперь сядьте так, чтобы не упасть. Я готовлюсь поведать Вам страшную вещь. Помните, при создании Алгоритма я предлагал просто взять готового человека (хотя бы Вас, ведь Вы-то обладаете интеллектом? :-) и оцифровать его? По идее, в этом случае все процессы, моделируемые таким алгоритмом, будут полностью идентичны процессам, реально происходящим в нашем мозгу и теле, то есть при одинаковых «входных последовательностях» у Вас и всех Ваших кибердвойников будут одинаковые «выходные последовательности». Опять никаких вариантов.

Но ведь при оцифровке мы предусмотрели все-все факторы, вплоть до взрывов сверхновых в галактике М1429, если они хоть как-то влияют на состояние Ваших нейронов! Мы создали Совершенную Модель Человека! И она оказалась несамостоятельной? Увы...

Что же выходит, никакой самостоятельности, свободы воли и тому подобного не существует? Ведь всё зависит в конечном счете от физических законов, которые если и неизвестны пока человеку, то всё равно однозначно действуют во всей Вселенной. И соответствующий компьютер вполне мог бы просчитать и предсказать всё течение дел и наше поведение (до мельчайшего чиха) на много лет вперёд. И никаких вариантов. Безрадостная перспектива...

Налегай на весло, неудачник! Мы с тобою давно решены, -- Жизнь похожа на школьный задачник, Где в конце все ответы даны... В.С.Шефнер

Cogito ergo sum

Что ж, нам остаётся лишь признать: если мы действительно ничего не упустили, то нет на свете никакой самостоятельности. Астрономы, знающие положение планет и законы Кеплера, рассчитывают их движение на века вперёд. Так же при знании «расположения» элементарных частиц и их скоплений (людей и прочих объектов) в этом мире и закономерностей их «перемещения» можно точно предсказать судьбу человечества в целом и каждого человека в отдельности. И человек от этой судьбы никак не отвертится.

Или, если мы так уж не желаем этого признать (я, например, не желаю), то можно заявить: чего-то мы таки не предусмотрели. Впрочем, тут кончается область «точной науки» и начинаются чистые домыслы. Или, если угодно, логические умозаключения, основанные на сомнительных постулатах. Поэтому те, кому нужны строгие доказательства, могут дальше не читать.

А те, кто всё-таки читает, для начала вспомните ещё одного из современников Паскаля, Рене Декарта, с его заявлением: Cogito, ergo sum (Мыслю, следовательно, существую). Теперь слегка изменим это утверждение применительно к нашей теме: Я мыслю, Я Сам обрабатываю поступающую извне информацию и Сам же на её основе принимаю решения о моём дальнейшем поведении -- следовательно, Я существую как Самостоятельная Личность.

А потом примемся выдумывать: как же это происходит? Чего мы, как сказано выше, не предусмотрели?

Лично у меня, например, сложилась примерно такая картина (5). Существует некая до сих пор малоизученная, но тем не менее вполне материальная (6) субстанция, которую по привычке назовём старинным словом «душа». Она, собственно, и является этаким «вместилищем» человеческой самостоятельности и самосознания. Мозговые же нейроны -- скорее «контроллер» человеческого тела, используемого «прикладными программами» души (возможно, через некую «операционную систему») для ввода-вывода информации.

Конечно, такое объяснение по сути ничего не объясняет. Что есть душа? Какие неоткрытые доселе законы природы позволяют ей быть самостоятельной? Что за «операционная система» используется для того, чтобы превратить моё желание, например, нажать кнопку на клавиатуре в сложную последовательность нервных импульсов? Зачем вообще душе «самовыражаться» в человеческом теле (вопрос не нов, но вразумительных, а главное -- убедительных объяснений не так уж много)? Можно ли, наконец, искусственно создать некую оболочку, куда «согласится» вселиться какая-нибудь душа (а то и создать душу)? Вопросов много, ответов нет или очень мало. Однако, по крайней мере, можно в очередной раз гордо, хотя и бездоказательно, заявить: человек не марионетка в руках судьбы (природы, Провидения, божества...), он обладает своей волей и может сам решать, что делать, как жить, какую статью написать и куда её послать...

Май-ноябрь 1998.

(1) (обратно к тексту) Ряд «перфокарт», соединённый в бесконечную ленту, проходил над несколькими рычагами. Если рычаг попадал в отверстие, он поднимал через специальную тягу крючок с цветной ниткой, и на ткани появлялся «пиксел» соответствующего цвета.

(2) (обратно к тексту) Программа под названием «Изобретающая машина. Семейство интеллектуальных систем поддержки решения изобретательских задач» была написана в конце 80-х годов при содействии небезызветного Г.С.Альтшуллера, реально использовалась для решения изобретательских задач и была высоко оценена отечественными и иностранными специалистами. К сожалению, я ничего не слышал о её последующих версиях. Интересующиеся могут заглянуть, например, в сборник «Как стать еретиком» (Петрозаводск, изд-во «Карелия», 1991, стр. 287-295). Кстати, вы заметили слово «интеллектуальный» в названии?

(3) (обратно к тексту) Ну и, конечно, надо поконкретней определить «следующий момент времени». Для этого обычно вводится дополнительный вход, называемый тактовым или стробирующим, куда подаётся тактовый сигнал (строб). Таким образом, время с «точки зрения» микросхемы квантовано.

(4) (обратно к тексту) Вплоть до тепловых шумов.

(5) (обратно к тексту) Это лишь вариант, не претендующий на догматичность. Сможете предложить что-нибудь более убедительное -- буду только рад. Замечу лишь, что до очень похожей картины независимо от меня додумались и многие другие люди, включая учёных и философов.

(6) (обратно к тексту) Назвать её «нематериальной» или даже «сверхъестественной», как это обычно делается, будет неправильно. Она существует -- значит, уже поэтому естественна и материальна.

Компания «Грузоперевозки-Калуга» предлагает аренду строительной техники: аренду самосвалов, аренду экскаваторов, а также такие услуги, как вывоз мусора, земляные работы, доставка песка, доставка щебня. Также вы можете купить песок, купить щебень и другие стройматериалы.