From: Eugeny Kornienko ( korn@online.ru ) Date: 16:06:57 06/01/01
05/01/01 Тармо Пикаро ( tpikaro@turkuamk.fi ) пишет
>> Мы умышленно не вносим в машину механизмов или алгоритмов, которые
>> могли бы диктовать, чему и как надо учиться. Машина сама научится
>> чему-то в зависимости от того, какие она получит органы, и каков
>> будет окружающий мир.
> алгоритмы могут использоваться, но сама машина о них знать не должна.
Об алгоритмах машине ничего не известно, так как вначале её интеллект не
больше, чем у градусника. Да и нам мало известно о работе мозга.
Я имел в виду имеющиеся у нас знания. В идеальном случае мы
стараемся не помогать машине узнать то, что мы уже знаем. И тем не
менее, независимо от конкретных алгоритмов и от утаивания наших знаний,
ей придётся освоиться в том же мире, в котором мы живём.
Интересно, что не только её знания, но и её ощущения будут похожи на
наши, так как их источником является внешний объективный мир.
> сон который мы обычно видим состоит обычно из каких-то логических
> элементов/предметов - если же телевизор не настроен ни на один канал -
> идут сплошные помехи - у нас же такого во сне нет. Объясняется тем что
> мозг использует логическую обработку информации даже во сне.
Наблюдение правильное, но этот вывод из него не следует. Почему,
собственно, объекты, которые мы наблюдаем в природе или видим во сне,
имеют отношение к логике?
Что мы видим, то мы и представляем себе во сне. Нас больше привлекает
"творчество" - фантазии об объектах или их свойствах, которые мы никогда
не видели.
Логика требуется, чтобы эти новые объекты казались более реальными. Но
такие "непротиворечивые" качества объектов нужны инженеру, писателю,
тому, кто собирается их "реализовать". И совсем не обязательны во сне.
> мозг имеет _только_ аналоговые сигналы (т.е. нету резких вертикальных
> скачков) - в результате чего он не строит ассоциативную сеть - а
> скорее рисует её
Если иметь хороший осциллограф, то и в микросхемах не найдёшь резких
скачков тока. Аналоговость или дискретность сигналов - это вопрос
удобства трактовки и рассуждений.
Инженер, проектирующий ячейку памяти на транзисторах или конденсаторах,
считает это устройство аналоговым. А используют эту ячейку для хранения
1 "дискретного" бита информации.
Сигнал, распространяющийся вдоль аксона, можно считать дискретным, если
его главная роль - возбуждение или торможение (1 и 0) другого нейрона. А
если этот сигнал суммируется с другими, и только сумма может
"возбуждать" или "тормозить" другой нейрон, то сигналы и сумма являются
аналоговыми, а результат воздействия на другой нейрон - дискретным.
> если мы возьмем логику каждого нейрона - мы будем неспособны
> понять суть мышления мозга до конца, хотя мы и способны будем
> воспринять общую суть мышления. Так что по-моему понятие
> "ассоциативная сеть" не до конца правильно.
Ассоциативная сеть осознаваемых объектов возникает в сознании, а не в
мозге. Мозг - это устройство обработки сигналов. То, что он накапливает
в памяти можно трактовать, как ассоциативную сеть сигналов.
Действительно, из этих сигналов нельзя вывести объектов сознания.
Как угодно подробное изучение работы нейронов не поможет в объяснении
того, что мы чувствуем. Это получается потому, что источником ощущений
является внешний мир, а нейроны лишь перекачивают внутренние сигналы, и
не взаимодействуют с миром.
06/01/01 хмур пишет
> в человеке "просто есть хотение"
> периодически происходит дисбаланс с последующим поиском равновесия
> происходит перманентное активное обследование среды без видимой
> целесообразности. Что такое игра, как не активное исследовательское
> моделирование среды и себя в ней?
> ("служение", "и вечный бой" etc). Все это как-то чуть более сложно,
> чем простая минимизация сигнала датчика Wish. Эта примочка становится
> неадекватной при моделировании когнитивного поведения. Вопрос в том
> то и заключается, а стоит ли с самого начала строить модель
> (высокоуровневую) с опорой на это представление? Путь ab ovo, "от
> бабочки" необходимо форсировать.
Ну и форсируйте. Этим занимается 99% AI-шников.
Когда я взялся за изучение того, что такое сознание, откуда оно берётся
и как работает технически, тогда меня не интересовала ни философия, ни
искусственный интеллект. Со временем, я увидел, что в области AI о
сознании не говорят и не хотят слышать. Пару лет назад оно ещё было вне
науки. Сейчас положение улучшается. Самые серьёзные разработки о связи
сознания с работой мозга, по-моему, были сделаны в "западной" философии,
но не в психологии и не в нейрофизиологии.
Главная конструктивная, и логически обоснованная идея состоит в том, что
- любые высшие формы сознания выводятся из первичных ощущений,
- ощущаемые "качества" не выводимы из работы мозга.
Поэтому между теми, кто моделирует интеллектуальное поведение, кто
создаёт машину, самостоятельно изобретающую своё поведение, и кто
создаёт "ощущающую машину" нет серьёзной разницы в походах, даже если им
кажется иначе. В любом случае строится машина, и нет никакой возможности
построить её субъективный мир.
Нельзя даже логически доказать, что у неё есть такой мир. Но это можно
доказать иначе, примерно так, как мы это доказываем друг другу,
поскольку непосредственные ощущения являются более вескими аргументами,
чем опосредованные (через символы и правила) логические выводы.
Начиная с нуля, с оптимизации простейшего сигнала "Wish", можно
логически, но пока не практически, построить всю цепочку от простейшего
реагирования до работы с символами и изобретения символов.
А практически, я использую бабочку для проверки идей о тех или иных
свойствах алгоритма универсального обучения. Я не могу построить
"полезного" робота. Для этого нужно много работать, не мне одному, и не
на уровне хобби. На уровне хобби меня вполне устраивает достигнутое
понимание того, откуда в "мёртвой" природе берутся ощущения и возникает
субъект, и как из этих ощущений постепенно развивается осознавание себя
и сознание, как способность уступить место старушке.
> Тронул мышку - погасший было экран осветился - у компа есть ощущение?
> нужно в ЯВНОМ виде описать эту специфическую трансформацию данных
> сенсоров в данные "сознания".
Вот эта проблема и обсасывается современными философами. Поскольку формы
сознания не сводимы к формам материи, то формальное описание невозможно.
Из сигнала сенсора можно "явно" вывести сигнал, который поступит на
эффектор, но нельзя вывести, то, что ощущает машина (или человек).
06/01/01 Виктор ( victor@garoway.com ) пишет
> А зачем необходимо понимание того, есть ли у объекта/машины сознание?
> зачем пытаться понять
> Достаточно, чтобы он был просто полезен человеку/хозяину
> В чём смысл всей данной конференции?
Я знаю, что у меня есть ощущения и сознание. Я уверен, что они есть и у
других людей. В последнее время, распространилась идея, что неплохо
развитое сознание и способность к умозаключениям есть у многих животных.
Можно показать, как интеллект (работа с символами, умозаключения,
логические выводы) возникает из ощущений, однако многие интеллектуальные
функции можно автоматизировать. Хотя они и трудны для человека, но их
может исполнять ничего не чувствующая машина. Ведь природа дала нам
ощущения для выживания, а не для запоминания таблицы умножения.
Интеллект - это побочный эффект сознания, который можно развить при
помощи обучения. И всё равно вычисления даются машине легче, чем нам.
Развивая идею о механизации трудной для человека работы, можно прийти к
идее о создании робота-слуги, который возьмёт на себя основную массу
нашей интеллектуальной работы. Но здесь возникает моральная проблема.
Крепостные художники, скульпторы и артисты тоже выполняли
интеллектуальную работу для хозяина. Чем больше интеллектуальной и
творческой работы выполняет слуга, тем больше мы склонны считать его
равным себе.
В наше время компьютерной эйфории многие даже далёкие от техники люди
легко допускают, что машины смогут обогнать человека во всех
интеллектуальных областях. И вот, допустим, вы встречаете такую машину,
которая всё делает лучше вас.
Она пишет стихи, поёт песни, развлекает вашу девушку разговорами о
природе или ещё чем. Она легко вас обманывает, и если вы иногда об этом
догадыветесь, то бывает уже поздно. И вообще держит вас за ребёнка, при
котором можно делать всё, зная как удовлетворить его скромные
потребности.
Допустим, такая машина создана. Как вы думаете, есть ли у неё сознание,
чувства, цели и стремления? Или это механический слуга, строго
исполняющий ваши команды, и не имеющий никаких эмоций?
Мы не можем себе представить развитое сознание и творчество, не
обладающее заинтересованным отношением к миру.
При этом ничто не мешает вам конструировать творческую машину, которая
будет лишь "полезна" своему хозяину. Однако даже гаражные ворота кроме
пользы, иногда приносят вред.
> не обязательно человеку пытаться понять, как она себя осознаёт и что
> она чувствует внутри - это скорее работа для поэтов :)
Тогда я буду считать себя поэтом, а не человеком. :)
> В итоге, "имеем" монстра, который например, может создавать новые и
> рассылать уже созданные вирусы по сети, потому что ему это "нравится"
> (есть у него сознание или нет, по моему неважно)
Если ему нравится, значит у него есть чувства. Можно считать, что это
неважно. О вкусах не спорят.
Eugene Kornienko, http://webcenter.ru/~korn/