From: Eugeny Kornienko ( korn@online.ru ) Date: 16:41:52 25/08/00
С разрешения Валерия Анисимова va@mail.rcom.ru
я посылаю в конференцию фрагмент его письма с небольшими моими
комментариями. Это сообщение может открыть дискуссию по теме
"в чём состоит задача создания искусственного сознания".
===
Эволюция сознания
Что касается не качественной, а количественной оценки уровня сознания
субъекта (существа), то я рассуждаю примерно следующим образом.
1. Для меня очевидно, что самосознание невозможно без памяти.
Представьте себе, что мы полностью лишили памяти субъекта во время его
сна (кроме врожденных рефлекторных реакций типа дыхания и т.д.).
Проснувшись, он окажется в положении младенца, как известно, сознанием
практически не обладающего (в силу тривиальности его поведения).
Теоретически, если бы это было возможно по физиологическим законам, он
мог бы постепенно развиваться, как развивается ребенок, научиться
видеть, слышать, ходить, говорить, читать и писать и т.д. Т.е. он в
итоге мог бы превратиться опять в личность с полноценным сознанием. Но
ведь это был бы уже совсем другой человек, не имеющий ничего общего,
кроме тела, с первым!
Таким образом, приходим к выводу, что сознание существа неразрывно
связано с его памятью, и без нее невозможно. При этом под памятью я
понимаю не только статический набор баз данных об объектах внешнего
мира, но и сведения об их взаимосвязи, алгоритмах их использования и
т.д., т.е. нечто вроде того, что называется базой знаний.
EK> Поскольку все знания направлены на взаимодействие с внешним миром
> (поведение), то лучше говорить, что у этого существа есть знания, а не
> база знаний. А то, что физически хранится в его физической памяти -
> это какие-то средства для перекодировки сигналов сенсоров в
> команды, управляющие мышцами.
Возможно, лучше действительно сформулировать эту мысль таким образом.
2. Я считаю, что сознание появилось на определенной ступени
эволюционного развития как мощное средство, способствующее выживанию
вида. Как только начали появляться аффекторы, с помощью которых существо
могло активно взаимодействовать с окружающей средой (предшественники
ножек, крылышек и т.д.), так на повестку дня встал вопрос оптимизации
управления этими аффекторами с тем, что бы максимально способствовать
выживанию. Но для того, что бы управлять, надо сначала собрать
информацию об окружающей обстановке. Поэтому начали одновременно
формироваться органы чувств (зрение, слух и т.д.) и нервная система для
переработки поступающей от них информации и выработки соответствующих
решений.
Таким образом, пра-сознание появилось тогда, когда появилась возможность
ВЫБИРАТЬ одно решение из огромного числа потенциально возможных решений.
Можно пойти налево, а можно направо. Можно попытаться убежать от
опасности, а можно замереть, притворившись мертвым. Можно принять вызов
на драку за самку, а можно слинять. И т.д. При этом каждое из принятых
решений приведет через некоторое время к изменению сигналов, поступающих
от внутренних рецепторов, характеризующих внутреннее состояние существа
(голода, боли, сексуальной удовлетворенности и пр.), которые существо,
собственно, и пытается оптимизировать.
Оно "знает", какие сигналы от внутренних рецепторов для него
предпочтительнее, но "не знает", как этого добиться. Однако, между его
действиями, и будущим внутренним состоянием есть вполне конкретная
связь. Если бы существо могло "предвидеть", к каким последствиям
приведет его то или иное решение, то оно могло бы всегда сделать
"правильный выбор". Собственно, именно для такого моделирования будущего
развития событий и предназначается сознание. Отсюда и ощущение "свободы
воли", так как при внутреннем моделировании будущего развития событий мы
можем в уме "просмотреть" множество вариантов, выбрав только один.
Замечу, что когда оптимальное решение практически всегда
однозначно-очевидно и ЕДИНСТВЕННО (горячо - отдернуть руку), никакого
сознания для принятия решения не нужно.
3. Если бы между некоторыми видами (хищник-жертва) и некоторыми
экземплярами внутри видов (конкуренция за ограниченные ресурсы еды,
самок и т.д.) не существовало антагонизма и соперничества, то, сознание,
возможно, так бы и оставалось на довольно примитивном уровне,
обеспечивающем относительно безопасную навигацию животных в окружающем
мире. Для этого вполне достаточно простой модели окружающего мира,
поддерживаемой в реальном масштабе времени и способностей "узнавания"
некоторых опасных и полезных предметов. Но в силу постоянной конкуренции
выживали те экземпляры, которые были уже не столько сильнее физически,
сколько "умнее", т.е. могли прогнозировать будущее развитие событий
(включая предполагаемое поведение антагониста-конкурента).
4. Таким образом, если принять тезис, что уровень сознания можно
характеризовать по уровню результатов его конечной работы (разнице между
предполагаемым развитием ситуации и ее фактическим развитием), то
сознание "мощнее" у того, кто дальше и лучше предвидит будущее. Но ведь
в мозг существа не заглянешь. Так что единственный критерий, которым мы
можем руководствоваться, это соответствие того, к чему, по нашим
понятиям, существо должно стремиться, и того, что происходит на самом
деле.
Типичный пример - эксперимент, когда кормушка с пищей, двигающаяся по
транспортеру, въезжает в "туннель", заканчивающийся через несколько
десятков метров. Лишь относительно высокоорганизованные животные при
преследовании "догадываются" подойти к противоположному концу туннеля и
там ждать, когда кормушка выедет из него. Другой пример - игра в
шахматы. Чем лучше и дальше игрок может предвидеть развитие ситуации на
доске (с учетом возможных ходов противника!), тем лучше он играет. В
данном случае, есть даже объективный цифровой коэффициент, позволяющий
сравнивать уровень "сознания" различных шахматистов (только
применительно к данной проблемной области!) - так называемый коэффициент
ЭЛО.
5. По существу, вся наша жизнь состоит из постоянно решаемых мелких и
крупных проблем в различных областях от быта до доказательства теорем и
т.д. Часто человек, который является очень искусным в одной области,
совсем неуклюже смотрится в другой. Он может быть, например, прекрасным
столяром (то есть уметь исключительно точно предвидеть последствия своих
определенных мускульных усилий и т.д.), но совсем не уметь, скажем,
водить машину или играть в теннис.
Таким образом, некорректно говорить об общем уровне сознания, а можно
говорить (и сравнивать между собой) лишь уровни сознания в определенных
конкретных областях.
EK> Здесь лучше говорить не о сознании, а об умении, навыках,
> разумности. Но такое сравнение не относится к эмоциональному
> отношению к ситуации, чувству. Сознание включает, как
> ощущение, так и способность к продумыванию своих
> действий, так и способность к обучению конкретным
> навыкам. Только последнее свойство наблюдаемо "извне".
Я бы сказал, что эмоции (чувства) задают ту функцию "удовлетворенности",
которую существо, собственно, и пытается оптимизировать. В этом смысле,
у него здесь НЕТ ВЫБОРА. Оно не может не чувствовать жажду, голод, боль,
сексуальную потребность и т.д. (экзотику типа йоги, оставим пока в
стороне). Оно может лишь пытаться их удовлетворить, реализую свое право
выбора (поведение). Таким образом, хотя чувства и эмоции обычно (но, по
Фрейду, далеко не всегда) осознаются, но они, в общем-то, примерно
одинаковы у большинства людей. Да и у животных они, несомненно,
присутствуют. За всю историю развития человечества способность к
предсказанию (предвидению) непрерывно улучшалась, а что касается чувств,
то они, если и эволюционировали, то очень незначительно.
Короче, если мы считаем, что сознание постоянно улучшается и развивается
по мере развития эволюционного процесса, и пытаемся найти составляющие
этого процесса, то "чувственная составляющая" сознания, по видимому, не
представляет для нас большого интереса в силу своей биологической
консервативности и относительной примитивности. Я бы даже сказал, что
наличие сильных чувств иногда приводит к заметному "поглупению".
Общеизвестно, например, что человек, находящийся под влиянием чувства
сильной влюбленности часто может совершать смешные, и даже глупые
действия (с точки зрения окружающих людей), которые не приближают, а
иногда, наоборот, отдаляют желанную цель. Он, как говорится, "теряет
голову". Предчувствую, что такой подход, возможно, вызовет волну критики
в силу своей "антигуманности", "безнравственности" и т.д. Поэтому,
заранее предупреждаю, что я готов обсуждать лишь чисто научные, а не
"гуманитарные" его аспекты.
Что же касается так называемого "бытового сознания", которое позволяет
нам ориентироваться во внешнем мире и предвидеть ближайшие последствия
наших мускульных действий (не переходить дорогу перед мчащейся машиной,
не пытаться выпрыгнуть в окно с десятого этажа и пр.), то оно, по моему
мнению, примерно одинаково у большинства людей. Кроме того, такое
сознание, в том или ином виде, несомненно, присутствует и у высших
животных.
6. Итак, уровень сознания определяется "качеством прогноза на будущее" в
данной проблемной области. Внешне оно проявляется в том, кто лучше и
быстрее добивается какого-либо стандартного результата в какой-либо
предметной области. В шахматах это подсчитывается довольно точно уже
сейчас. В других областях косвенно может быть определено системой
разрядов, научных званий и т.д. Но наиболее справедливый и
беспристрастный арбитр здесь - результаты конкуренции на свободном рынке
где, как известно, побеждает сильнейший.
EK> Если результат - это выживание в эволюционной борьбе, то человек
> имеет такое же сознание, как инфузория туфелька или лютик.
Отнюдь. Тут важны два момента. Во-первых, ни лютик, ни инфузория
туфелька никоим образом не конкурируют с видом Гомо Сапиенс, так как ни
их интересы, ни необходимые им ресурсы практически никак не пересекаются
между собой. А очень многим видам, которые реально конкурировали с
человечеством (или просто были в зоне его "жизненных интересов") повезло
гораздо меньше. Во-вторых, вся тенденция эволюционного развития идет в
направлении от выживаемости вида за счет высокой плодовитости к
выживаемости за счет низкой смертности на уровне отдельных особей. Так
сказать, "от количества, к качеству". И человечество здесь, несомненно,
давно и прочно лидирует...
EK> По-моему, более точным критерием является способность к
> универсальному обучению. Кто может научиться чему угодно в пределах
> физических возможностей своего тела, тот умнее (разумнее, более точно
> ориентируется, ощущает, воспринимает), чем тот, кто не способен
> обучиться.
Для того, что бы обучаться, необходимо и достаточно правильно предвидеть
будущее. С другой стороны, физические возможности тела могут стать
существенным тормозом для "универсального обучения" чему угодно. Вряд ли
вы (или я) сможем научиться прыгать так же высоко, как Сатомайер, или
играть в шахматы так же хорошо, как Каспаров. Сколько бы мы не
тренировались и не обучались. На самом деле, физические возможности тела
(и особенности строения мозга!) практически всегда серьезно ограничивают
наши способности к обучению. Поэтому, сравнивать по этому параметру двух
разных людей на большом множестве различных "упражнений на обучение",
объективно очень трудно, если вообще возможно.
EK> Я думаю, что можно сравнивать уровень сознания даже и у тех, кто
> живёт в совершенно разных "предметных областях". Например, музыкант
> и технарь могут быть оба умными или глупыми и вообще и в своей
> области.
Предложите объективный параметр, по которому можно сравнивать двух
разных людей на "вообще умность" (или "вообще глупость"), тогда можно
будет что-то обсуждать конкретно. Пусть этот параметр будет даже не
количественным, а хотя бы качественным (то есть после проведения
соответствующего эксперимента, в отношении "умности" всегда можно будет
поставить соответствие больше, меньше, рано). Как только вы предложите
схему такого эксперимента, можно будет продолжить конструктивное
обсуждение. В противном случае, мы скатимся к беллетристике...
7. Исходя из всего вышеизложенного, можно заключить, что уровень ИИ
заведомо превысит человеческий тогда, когда во всех предметных областях
он будет решать задачи заведомо лучше, чем человек (и лучше, чем любая
система человек-машина). В некоторых областях (шахматы, например), этот
день если еще и не наступил, то уж во всяком случае, очень близок. В
других до него еще далеко (то же самое "бытовое сознание" например). Но
сомнений в том, что количество предметных областей, в которых человек
еще сможет конкурировать с ИИ будет неизбежно и быстро убывать, у меня
лично, нет.
Валерий Анисимов
va@mail.rcom.ru