From: Eugeny Kornienko ( korn@glasnet.ru ) Date: 23:17:41 15/11/99
Наверно, мои рассуждения иногда кажутся слишком абстрактными,
оторванными от реальности. Для меня это, конечно, не так. "Приземлённые"
источники этих "абстракций" - литература о поведении животных, переписка
в конференциях о сознании, и просто опыты с моей программой, реализующей
один из вариантов ассоциативного мозга.
Вот из этих конкретных вещей и выходит, что философский разбор отношения
между материальным и идеальным, между субъективным и объективным,
логический анализ трудностей, которые возникнут в пока несуществующей
теории сознания, конструктивно важны для разработки алгоритмов,
призванных обеспечить самообучение конкретных искусственных существ.
В этой заметке я ещё раз покажу, что о сознании можно судить только по
поведению, и попробую сформулировать задачу для программиста, который
намерен соревноваться с природой в создании мозга для
самообучающегося существа.
Как это ни кажется парадоксальным, но у нас нет прямых и объективных
свидетельств сознания. Зато у нас есть субъективные свидетельства,
некоторые из которых более весомы, чем объективные. :)
Во-первых, не существует, (а может, никогда и не будет) общепризнанного
определения сознания, интеллекта и разума. По этой причине мы не можем
выполнить какой-то тест, который убедит всех в том, что некая вещь
обладает сознанием.
Во-вторых (вот оно - самое весомое свидетельство существования разума),
каждый из нас на 100% уверен, что лично он обладает сознанием. Из этого
факта мы делаем менее надёжный (99.99999999%), но с научной точки зрения
очень надёжный вывод, что все люди разумны, "потому что они похожи на
меня".
Дальнейшие умозаключения делят людей на 3 группы.
(1) Кто-то считает, что наиболее развитые обезьяны и дельфины имеют
сознание, а кошки и мышки - нет.
(2) Кто-то верит в сознание кошки, но не червяка.
(3) Есть даже отдельные энтузиасты, которые допускают, что камни и трава
тоже чувствуют что-то своё.
Все эти мнения являются экстраполяциями из двух надёжных аксиом: "Я
обладаю сознанием" и "Я похож на другие вещи".
Допустим, искусственный разум уже создан. И мы сделали кибер-кота,
который ведёт себя как настоящий кот. Я думаю, что эксперты из группы
(1) не смогут поверить, что этот кот обладает сознанием, а эксперты из
группы (3) очень легко признают кота разумным.
Может показаться, что ситуация безнадёжна, и мы никогда не выясним,
обладает ли искусственный кот сознанием "на самом деле".
Не всё не так плохо, ведь возможна "экспертная оценка", подобная той,
которая применяется в тесте Тьюринга. При помощи такой оценки,
выполненной специалистами в области сознания и в области поведения
животных, мы можем распределить всех животных от гидры до человека по
"шкале разумности". Затем эксперты дадут оценку кибер-коту, и он
окажется где-то на этой шкале, получив свою долю нашей веры в его
способность любить, страдать, хитрить.
Зачем далеко ходить, я готов дать первую экспертную оценку
искусственному существу: Интеллект Windows больше, чем у бактерии, но
меньше, чем у мышки. Сознание Microsoft (как организма) сильнее, чем у
кузнечика, и слабее, чем у кошки. :)
Ясно, что потребуется много работы для накопления статистики. Для начала
нужно выявить "опорные" существа (о которых будет получено наиболее
согласованное мнение разных экспертов) в различных классах: интеллект,
сознание, разум, чувствительность, изобретательность и т.д.
И вот мы создали кибер-человека, который ведёт себя ну точно, как
обыкновенный человек. Те, кто признает, что этот человек обладает
ощущениями и сознанием, признают также, что он осознаёт себя. Ведь это
видно по его поведению. Если вдруг выяснится, что он не отличает себя от
шкафа, то такое поведение нельзя будет назвать "обычным человеческим
поведением".
Применим эту логику к кибер-коту или кибер-муравью. Если этот муравей не
пытается схватить одну из шести своих лапок, чтобы отнести её в
муравейник, значит, он отличает лапку от других вещей. Приходится
признать, что он понимает, с какой-то своей степенью понимания, что его
лапка - часть его тела, а не щепка или не лапка другого муравья.
Возможно, он пытался её хватать, но понял, что этого больше делать не
надо. Также и ребёнок суёт в рот свою руку и ногу, пока не поймёт, что
есть более привлекательные вещи. Заодно он понимает, что это его
собственная рука и нога.
Много лет назад обезьяна считалась таким же бездушным животным, как ёжик
или любой из лесных зверей. А сейчас, в результате более тесного
изучения поведения обезьян, мы готовы признать, что они думают, применяя
свои слова. Я слышал, что одну обезьяну приучали к языку жестов. Она
освоила сотни слов и даже изобрела новые. Например, она назвала лебедя
"водяной птицей".
Итак, различие животных по уровню развития сознания (и ума) является
научным фактом. Таким же фактом является зависимость уровня сознания от
величины мозга. По этому параметру люди, дельфины и обезьяны находятся в
первых рядах. Кто-то, вроде улитки, замыкает список. А бактерии вообще
не имеют мозга.
Задачу создания кибер-кота можно разделить на две части: создание тела и
создание мозга. Начнём с мозга, чтобы выполнить ещё один мысленный
эксперимент. Допустим, мы сделали маленький, но надёжный, искусственный
мозг. И заменили живой мозг живого кота на этот "протез". Сначала
бедному коту придётся нелегко. Всему придётся учиться заново, так как в
его новом мозгу ещё нет опыта взаимодействия с реальным телом кота. Но
мы сделали мозг хорошо, и довольно скоро кот восстановит свои физические
навыки, и продолжит свою интересную жизнь в общении с другими
лабораторными котами.
А кого только нет в этой лаборатории по разработке кибер-котов! Итак,
после необходимой реабилитации, обучения в играх и привыкания друг к
другу коты занялись своими кошачьими делами. Мы видим, что настоящий
кот, живой кот с кибер-мозгом, и кибер-кот из синтетических материалов
признали друг друга. Они играют или дерутся как уличные коты, не
спрашивая, кто какой национальности.
Один из выводов, который следует из этого выдуманного опыта, состоит в
том, что сознание и осознавание себя возникают не в мозгу. Они возникают
у тела, снабжённого мозгом, в то время когда это существо наблюдает себя
и своё поведение в реальном заинтересованном взаимодействии с реальным
миром.
Следовательно, искусственный разум не сводится к искусственному мозгу.
Разум развивается вместе с поведением, а также в процессе обучения и
накопления выработанных ранее культурных (интеллектуальных) традиций. А
мы судим о развитии сознания, сравнивая поведение данного существа с
поведением других менее и более смышленых животных.
Сейчас уже возможно снабдить робота органами чувств, которые более
чувствительны и имеют больший динамический диапазон, чем органы
человека. Но универсальный мозг для обслуживания ЛЮБЫХ органов чувств
пока не изобрели. Универсальный мозг не настроен на специфические
физические особенности органов. Он общается с ними по совершенно
одинаковым нервным каналам связи.
Искусственный мозг нашего живого кота подключен к нервным окончаниям,
приходящим от разных органов. Как он может понять и различить смысл
разных нервных импульсов?
Но в таком же положении находится и живой мозг. Нервные импульсы от
разных органов принципиально ничем не отличаются. Я не буду сейчас
говорить о специализации различных участков мозга. Эта специализация
является результатом того, что к различным участкам подходят нервные
волокна от разных органов, и не умаляет универсальность мозга как
изолированной от физического взаимодействия с миром информационной
машины.
Итак, раз уж мозг не имеет физической связи с миром, то ему всё равно,
какое тело обслуживать.
Мы могли бы использовать тот же самый искусственный мозг для вживления в
голову собаки, а не кота. И, следовательно, задача создания
искусственного мозга может быть решена независимо от создания органов
чувств.
Разработку универсального мозга начнём с простого технического задания.
Мы проводим соревнование среди программистов. Жюри соревнования,
состоящее из специалистов по роботостроению и поведению животных,
разрабатывает искусственного кота с минимальным количеством управляющих
каналов, которые, тем не менее, должны обеспечить полноценное поведение
этого существа при соответствующем управлении.
Допустим, этот кот имеет не более 10 входов для управления различными
системами, и не более 10 выходов от органов чувств, в том числе и от
датчиков, контролирующих исполнительные механизмы. Сигналы, которые
нужно подавать и принимать от этих каналов, имеют всего 2 или 3
значения. Например,
0в (шум слева сильнее), +1в (шум справа сильнее)
0в (увеличить скорость), +1в (уменьшить скорость)
0в (батарея заряжена), +1в (требуется зарядка)
Важное требование к универсальности мозга состоит в том, что разработчик
мозга не знает, какой канал за что отвечает. А разработчики кибер-кота
могут изменять его конструкцию, заменять и добавлять новые механизмы, не
сообщая об этом разработчикам мозга.
Итак, разработчик мозга имеет 10+10, а в более сложном случае просто 20
ненумерованных проводов, к которым надо подключить универсальный мозг.
Каждому участнику соревнования выдаётся коробочка с 20 клеммами. Из этой
коробочки происходит управление котом по радио. На арене несколько
одинаковых котов. В креслах жюри - эксперты по поведению животных.
Программисты подключают проводки, и коты оживают.
Конечно, не так просто научиться более-менее разумному поведению с нуля.
До приглашения жюри можно дать котам сутки (или неделю, или месяц?) на
самообучение. В итоге побеждает тот кот, который покажется жюри
наиболее способным "любить, страдать, хитрить".
Чем разумнее поведение, тем лучше искусственный мозг. Если эксперты
будут вынуждены признать, что чей-то кот обладает сознанием, то мы будем
рады признать, что искусственный разум создан.
Eugeny Kornienko