Евгений Корниенко
Быстрая адаптация требует способности предвидеть, амотивом адаптации служат жизненные потребности организма. Искусственноесознание развивается из этих же свойств. Цель исследования: конструктивныйпоиск алгоритма сознания. Этюд «Бабочка и цветок» демонстрируетосновы работы сознания.
Эта работа в основном была сделана в 1997 году. Яхотел разобраться, как работает сознание, используя конструктивный подход: идеясчитается достойной внимания, только если она подкреплена детальным алгоритмом,который должен работать уже сегодня, а не в неопределённом будущем.
В результате проработки и отбраковки многочисленныхтупиковых идей пришлось отказаться от применения таких признанных инструментов,как нейронные сети и семантический анализ. Первоначальное сознание не требует(и не может возникнуть из современных искусственных) нейронных сетей, а языкпоявляется на поздних стадиях развития сознания. Вместе с тем, я считаю этинаправления технически очень важными. После того, как построена активнаясистема, способная обучаться и накапливать полезный опыт, её восприятие мираможет быть значительно улучшено применением систем распознавания образов,основанных на нейронных сетях, а её разумность может быть повышена путёмобучения с применением обоснованных семантических структур для передачи знаний.В моём алгоритме сознания возникают и развиваются структуры, похожие нанейронные сети, и ёмкие команды, похожие на слова.
Сознание возникает у животных как одно из средств,улучшающее их адаптацию к окружающей среде. Быстрая (по сравнению со временемжизни животного) адаптация требует способности предвидеть, а мотивом адаптациислужат биологические жизненные потребности организма. Искусственная система,обладающая такими свойствами, тоже приобретает сознание.
В этой статье я стараюсь рассказать о работе сознанияв «функциональном» стиле. Читатели с тренированным системныммышлением увидят за этим описанием взаимодействие объектов, которое может быть запрограммировано.Малая ресурсоёмкость алгоритма наводит меня на мысль, что весьма высокийуровень сознания, вплоть до сознания млекопитающих, может быть воплощёнсегодня. Это послужило поводом написать вступительную статью «Опасно разумен».
Я недостаточно знаком с мировым опытом в областиискусственного интеллекта, не претендую на новое слово, и заранее извиняюсь заповторение уже известных идей без соответствующих ссылок.
Алгоритм сознания, который я демонстрирую в этюде«бабочка и цветок», запоминает, структурирует, использует опыт ипытается удовлетворить свои желания. Он может быть встроен как в эфемерноесущество на экране, так и в игрушечного робота. Но уровень его сознания,достигаемый без специального обучения, не превышает сознания селёдки. В результатеобучения, например, различных игр, этот уровень может сравниться с сознаниеммыши или даже кошки. Я уделял основное внимание «чистому»самообучающемуся сознанию, и пока ещё не разработал средств интерактивногообучения. В используемом алгоритме важен не столько мозг, сколько системавзаимодействия с внешним миром.
Что такое сознание?
Как устроено сознание? Какие процессы, механизмы,взаимодействующие объекты требуются, чтобы возникло сознание и осознание себя?Что нужно для изготовления не модели сознания, а просто сознания?
Обычно слово сознание применяется, как характеристикаотдельного существа. Оно может «потерять сознание». А слово разумозначает принципиальную способность быть сознательным. Например, «человекразумный». Есть и другие толкования. Но я не буду больше останавливатьсяна словах. Только на том, почему возможно сознание и как оно работает.
Неизвестно, как доказать, что человек думает.
Уверенность в том, что люди думают, основана на опытеи убеждённости в собственном сознании, а не на измерениях и логических выводахиз них. Вот почему науке трудно подступиться к глубокому изучению сознания. Мыможем изучать мозг, нейроны, языки, поведение, но не сознание само по себе.
Мы наблюдаем не разум, а разумное поведение.
Раз уж мы не можем это точно доказать, то будемсубъективно судить о наличии сознания у некоторого объекта по его поведению.При этом можно принять какое-то поведение за сознательное, а впоследствиивыяснить, что это была ошибка. Но более надёжного способа у нас нет, и не будемтерять время на его установление, если только это не окажется критичным дляответа на поставленные вопросы.
Сущность субъекта субъективна.
Человек относится к себе слишком предвзято. И хотя ясчитаю, что могу сделать полезные выводы о природе сознания на основанииповедения людей, но я также уверен, что эти аргументы не убедительны (длялюдей). Поэтому будем рассматривать сознание других животных.
Поведение животного управляется его нервной системой.
Обычно, чем больше мозг животного, тем разумнееповедение этого животного. Нервная система, как и другие органы и системыорганизма, изобретена природой как одно из средств, обеспечивающих выживаниевида. Развитие нервной системы и увеличение централизованного мозга произошлотоже в результате эволюционной борьбы за выживание. Но есть такие формы жизни,которые выживают и без нервной системы, например, растения.
Растения не живут, а выживают.
Сравним индивидуальное поведение растения и животного.Что, собственно, в их поведении способствует выживанию вида? Само словоповедение плохо подходит к растению. Растения проживают свой век без заметногопроявления индивидуальных свойств. Выживаемость одного растения заключается втом, что оно способно вынести неблагоприятные условия, которые могут наступитьв какой-то период жизни растения. Приспособляемость вида растений кизменяющимся условиям обеспечивается тем, что растения, которые плохоприспособлены к данным условиям, не выживают и не передают свои неудачныепризнаки потомству.
Животные способны улучшить свою жизнь.
Совершенно иначе относятся к неблагоприятным условиямживотные, например, кошки и мышки. Они активно пытаются найти выход изположения. Собственно, это я и называю поведением. Поведение — это достаточнобыстрая реакция в ответ на изменяющиеся внешние условия. Если плохие условиясохраняются долго, то кошка пытается приспособиться к ним. Она ищет правильноеповедение в новой для неё обстановке. Но если все попытки улучшить ситуациюоказываются безнадёжными, то кошке, как и растению, остаётся только надеяться итерпеть.
Сложное поведение животных является проявлениемусловных и врождённых рефлексов. Это справедливо как для простых животных,вроде улитки, так и для наиболее смышлёных, вроде собаки. В отличие отрастений, животные, имеющие нервную систему, способны приобретать условные,генетически не запрограммированные рефлексы, то есть обучаться.
Животные могут найти новое выгодное (то естьразумное?) поведение.
В некоторых случаях поведение, основанное наприобретённых рефлексах, настолько «разумно», что некоторые, напримеря, считают его разумным без кавычек. Является ли это поведение проявлением«настоящего» разума или лишь изощрённой адаптацией живого организма кменяющемуся миру, неизвестно, так как мы можем судить о разуме только поповедению, и не имеем конструктивного «индикатора наличия разума». Ачем, если не адаптацией к миру вплоть до изменения мира по своим потребностям,является поведение человека?
Итак, условившись судить о разуме по поведению, мыможем признать два важных факта.
Суждение о наличии разумасубъективно, вплоть до того, чтонекоторые люди считают поведение некоторых своих соплеменников несознательным.
Можно ввести субъективную шкалуразумности. Например, улитка,кошка и человек перечислены здесь в порядке увеличения разумности.
Не исключено, что разум начинается не с самогопростейшего уровня организации нервной системы, а «возникает» придостаточном её развитии. Однако, пока нам не ясно, что такое разум, и не ясенмеханизм такого возникновения, будем считать, что все существа с нервнойсистемой разумны. В частности, самые простые существа могут иметь«нулевую» или «исчезающе малую» разумность. Зато при такомподходе мы можем сравнить поведение многих животных, чтобы найти, что же именнов поведении данного животного кажется нам разумным. Это должны быть такиепризнаки, которые выявляются у всех без исключения животных. Явно разумностьзаключается не в том, что существо питается и размножается, потому что подобныепризнаки есть и у растений, которые, судя по отсутствию поведения, разумом необладают.
Такие неплохие определения сознания, как способность кдостижению цели, или к нахождению решения, или к принятию решения, нам тоже неподходят, так как они не конструктивны, в частности, не связаны однозначно снаблюдаемым поведением. «Цель» и «решение» самиопределяются через сознание. Способность к общению с себе подобными, и формытакого общения «более наблюдаемы», но часто их трудно отличить отфизического взаимодействия. Пример: перенос пыльцы.
По-моему, хорошим наблюдаемым критерием разумностиявляется способность активно приспосабливаться к меняющимся окружающимусловиям, то есть способность обучаться на основе своего опыта.
Самообучение — признаксознания.
Сознание — это внутреннее свойство, творческий моторсамообучающегося организма.
Начальное сознание возникает при такой организациинервной системы, которая обеспечивает возможность обучаться. Это ещё не тосамосознание, которое заставляет вас уступить место старушке. Конструктивностьэтого определения состоит в том, что оно не ограничивает средства дляизготовления «творческого мотора». Изобретите и создайте устройство,способное самообучаться — и оно получит сознание. Найдите способность ксамообучению у робота, и этим будет доказано, что он обладает сознанием.
Вместо слова «самообучение» я иногдаиспользую более широкое понятие «адаптация». Если существосамостоятельно находит новое поведение в новых условиях, причём никто не училего этому поведению, то это существо способно к адаптации (к самообучению). Изобретение нового поведения — признак творчества, атворчество — признак сознания.
Человек вооружённый
Человек, снабжённый современными техническимисредствами (книгами, автомобилями, оружием), способен выжить в более широкомдиапазоне внешних условий. Он лучше адаптирован к миру, чем человек, как живоесущество. В соответствии с таким определением, можно считать, что сознаниецивилизованного человека продолжает развиваться, хотя сознание«биологического» человека, может быть, имеет пределы, которые ужедостигнуты, судя по тому, что нам приходится интенсивно учиться всю жизнь.
Разумность пропорциональна способности к адаптации.
Большой потенциал адаптации хорошо виден из такогомысленного эксперимента. Представим себе существо с максимально развитойадаптацией. Пусть это существо вынуждено приспосабливаться к человеческойкультуре. И оно научилось играть в шахматы, конструировать космические ракеты исочинять изысканные стихи. Кто теперь откажет ему в разумности!
Поэтому способности живого существа к адаптацииследует считать проявлениями его сознания. И каждый вправе субъективнооценивать степень развития этого сознания.
Осознавание себя
«Начальное» сознание не гарантируетосознавания. Осознавание — это такой уровень развития сознания, при которомсубъект отличает себя от других объектов.
Осознавание себя – главный общепризнанный признаксознания. Однако это лишь частный случай осознавания «внешнего» мира.Мы воспринимаем внешний мир в виде различных качеств, которые отражаютфизические параметры природных явлений, регистрируемые нашими органами чувств.Мы осознаём не своё сознание, а свои ощущения объектного мира и свои мысли,представимые в виде образов из объектного мира, то есть в виде образовощущений. Суждение о собственном сознании выводится из наблюдения своегоповедения. Поэтому проблема осознавания себя сводится к проблеме осознаваниясвоих ощущений.
Осознавание ощущений обеспечивает тот же внутренниймеханизм сознания — мотор самообучения и творчества. Собственно сознание – этоне мозг, не поведение, а именно механизм, то есть процесс обработки информации.В мозгу информация представлена в виде биохимических состояний и динамикинейронов. В сознании этой информации соответствуют образы, элементами которыхявляются ощущения.
Сознание — это процесс.
Можно полностью сохранить информацию, и остановитьпроцесс её обработки. При этом сознание исчезнет.
Для осознавания важно, что творческий механизмсознания вырабатывает оптимальное в данных обстоятельствах поведение органов.Поведение мозга — это его взаимодействие с другими органами. Поведение руки — это её взаимодействие с физическим миром и с мозгом. Если найдено достаточносовершенное «не улучшаемое» поведение, то осознавание тоже исчезает, заменяясьавтоматическим управлением. Поэтому тщательно отработанное поведение, например,при игре на музыкальном инструменте, становится автоматическим и не отвлекаетосознавание от музыкального творчества.
Хотя мы не придаём этому большого значения, но следуетзаметить, что сопутствующие автоматическому поведению ощущения тоже могутстановиться автоматическими, то есть неосознаваемыми. Например, здоровыйчеловек не обращает внимания на то, что при ходьбе на ступни его ног действуетсила в десятки килограммов. А в другой ситуации мы чувствуем и сознательнореагируем на лёгкое прикосновение.
Сознание — это не материальныйпредмет.
Вопрос «где находится сознание» не имеетсмысла. Необходимую обработку информации может выполнять локальный нервныйузел, мозг или удалённый процессор, но сознание не находится внутри этихорганов. Например, мы видим бабочку на экране компьютера. Обработка сигналов,вырабатываемых её органами, происходит внутри системного блока, а материальноготела у неё вообще нет. Отсюда следует, что нельзя присваивать функцию сознаниямозгу, так как мозг является только одним из органов, поддерживающихнаблюдаемое сознательное поведение живого существа.
Осознавание необходимо только там, где невозможнаавтоматизация.
Живой мозг, как информационная машина, постоянновзаимодействует с объектным миром. Только малую часть своих способностей онвыделяет для осознаваемого творчества. А сам механизм сознания — этонеостановимый процесс, который работает, даже когда мы спим и ничего неосознаём. Осознание себя — это только один из многочисленных процессов,происходящих в сознании при управлении телом и его поведением в окружающеммире. Это процесс творческого (то есть, неавтоматического) восприятия внешнегомира. Восприятие мира нельзя полностью автоматизировать, так как разумное живоесущество должно быть готово к неожиданному непредсказуемому изменению вокружающем мире. Требуется сохранять внимание и иметь «резервразумности» (осознавание и способность к умозаключениям), чтобы адекватноизменить поведение.
Большая часть процессов сознания — это управлениеорганами тела, доведённое до автоматизма, и поэтому оно не осознаваемо. Ядопускаю, что в то время, когда мозг и другие органы ещё не родившегося ребёнкаразвивались и приучались взаимодействовать друг с другом, этот творческийпроцесс самообучения был осознаваем. А материнский организм помогал обучению,страхуя плод от слишком богатого творчества.
Осознание себя индивидуальностью — не основа сознания,а ощущаемая, наиболее творческая сторона его работы, которая не можетпревратиться в автоматическое легко узнаваемое поведение. Поэтому сознаниедругого субъекта непосредственно не наблюдаемо. А вот собственное сознаниенаблюдаемо. Хотя автоматические процессы и составляют основную работу механизмасознания, но они являются подсознательными и не отвлекают нашего внимания оттворческой работы сознания, какой бы малой она ни была.
Критерий понимания – это работающий самообучающийсяалгоритм.
Разработав алгоритм (технологию) самообучения илиуниверсальной адаптации и снабдив этим алгоритмом искусственное существо, мыобеспечиваем его средством для развития сознания и осознавания себя.
Жизнь среди себе подобных
Поскольку изолированное сознание не наблюдаемо, томоделирование самообучающейся системы возможно только одновременно смоделированием органов чувств и действий, то есть датчиков для взаимодействия сискусственным или реальным миром. Объекты (тела) в этом мире могут не иметьразума или выполнять какие-то запрограммированные действия. А часть объектовмогут быть разумными, например, это люди и роботы.
Для нас разумны только люди.
Пусть создана искусственная жизнь. Попробуем проверитьразумность какого-нибудь искусственного существа. Если оно развивалось вокружении себе подобных, а не людей, то у него совсем другой мир интересов. Онобудет похоже для нас не на мыслителя или хитреца из теста Тьюринга, а наживотное, машину или программу.
Голый философ
Отсутствие давления человеческой культуры сделает тоже самое и с человеком. Представим себе тёмное безграничное пространство безтяжести, заполненное неподвижным чистым воздухом при нормальных условиях. Вэтой невесомости висит голый философ. Для упрощения, пусть он не хочет есть.Долго ли он будет оставаться мудрецом?
Вскоре он потеряет разум. Опыт показывает, что сильноеуменьшение сенсорного потока (сенсорный голод) приводит к потере сознания. Апродолжительное ограничение контакта с людьми, как в одиночной тюремной камере,опасно для психики.
Этот пример ещё раз показывает, что постоянныйдинамический контакт с объектным миром является обязательным условием какжизни, так и разума. А полноценная разумная жизнь возможна только вкакой-нибудь культурной среде. Например, среди людей. Для того чтобы мы моглипризнать существо разумным, оно должно приспособиться к человеческой культуре. Если попугайсможет пройти тест Тьюринга, то никто не станет сомневаться в том, что онобладает сознанием. Но если такой же или ещё более разумный попугай никогда невстречал людей, то он не может пройти тест Тьюринга. Потому что это тест наналичие человеческого сознания.
Самообучение, как признак сознания, связано свыживаемостью потому, что существо, способное обучаться, способно предвидетьчто-то важное, что может произойти в ближайшие секунды.
Способность обучаться
В природе умение быстро обучаться или быстраяадаптация способствуют выживанию вида в конкуренции с другими подобными видами.Самообучение, как признак сознания, связано с выживаемостью потому, чтосущество, способное обучаться, способно предвидеть что-то важное, что можетпроизойти в ближайшие секунды, или, хотя бы, доли секунды. Это существопредвидит и результат своего действия, например, таракан знает, что он убегаетот опасности.
Адаптация требует умения прогнозировать и находитьновое поведение.
Биологическая польза сознания – способностьпредвидеть.
Польза осознавания — правильная реакция на то, чегонельзя было предвидеть.
Тест на способность обучаться
Этот тест предполагается применить к наиболеепримитивным существам: улитке, гидре. Если он даст положительный результат,значит, это существо способно предвидеть, обучаться и самообучаться, то естьоно обладает, по крайней мере, рудиментарным сознанием.
Подготовка.
Наблюдаем за существом в естественной для него средеобитания. Находим 3 каких-нибудь как можно более лёгких воздействия насущество, на которые оно откликается чётко различимыми, различными для этихтрёх воздействий реакциями. Обозначим эти воздействия буквами A, B, C.
Приучение к воздействию AB.
В естественных для существа условиях, когда оноспособно к восприятию, применяем к нему воздействие A, а затем через время, достаточноедля реагирования на A,применяем воздействие B.В результате, после многократного повторения этих действий, с учётом того,чтобы это обучение не сильно влияло на обычный образ жизни существа, оно должнопроявить признаки предвидения и реагировать на A, как будто это B,даже если B не былоприменено.
Приучение к воздействию AC.
Точно также, в естественных для существа условияхмногократно применяем к нему воздействие A,а затем С. Врезультате оно должно приучиться реагировать на A почти как на С.
Выводы.
Если в одних и тех же условиях без какого-либовоздействия на среду или на существо оно способно в ответ на воздействие A достаточно устойчиво реагироватьодним образом, а после переучивания на то же воздействие A оно реагирует другим чёткоотличимым от первого образом, то такое существо способно к обучению. Обратитевнимание, что отрицательный результат этого теста не говорит о том, чтоизучаемое существо не имеет способностей. Не так просто подобрать подходящиетестирующие воздействия.
Тест демонстрирует элементарное обучение, «квантобучения». Aplysia имеет примерно 20000 нейронов и проходит тест наспособность к обучению. Я не слышал о способности к обучению у гидры. Хорошо бынайти тот минимальный уровень организации нервной системы, при которомспособность к обучению уже можно зарегистрировать.
В этом тесте экспериментатор не задаёт поощряющиестимулы.
Стимулом в тесте на способность обучаться являетсявнутреннее «правильное» состояние организма. События B и C являются не стимулами, а объективными воздействиями,которые должны быть предсказаны существом. Оно должно повести себя так, чтобыпри этих воздействиях его внутреннее (субъективное) состояние оставалосьнормальным (не ухудшилось). При обычном обучении удачный выбор стимула можетускорить обучение, но мы проверяем не качество обучения, а только фактобучения.
На самом деле мотивы поведения существа скрыты отэкспериментатора.
Мы теоретически реконструируем эти мотивы, наблюдаяповедение. Можно изготовить программу или машину, которая успешно пройдёт этоттест, но больше ни на что не способна. Такая машина исполняет поведение,предусмотренное разработчиком. В частности, многие разработки в областиискусственного интеллекта имитируют человеческое поведение.
Но Aplysia самостоятельно изобретает подходящееповедение. Механизм такого изобретения, видимо, не очень сложен, и состоит втом, что Aplysia подбирает такое поведение, которое максимально сохраняеткомфортные условия жизни. По наблюдаемому результату поведение жёсткозапрограммированной машины и такого простого живого существа, в принципе,похоже. Это не случайно. Примитивное живое существо действительно является«живой машиной», имеющей небольшой, достаточный для выживания,арсенал реакций на воздействия окружающей среды.
Простейший «Алгоритм творчества», видимосостоит в переборе предусмотренных заранее вариантов поведения. Выборзавершается при достижении оптимального значения «целевой функции»,то есть при достижении достаточно комфортного ощущения.
Таким образом, поведение существа, обладающегопростейшим уровнем сознания, неотличимо от «механического» исполненияпрограммы. Сознание было творческим, а осознавание — активным в процессесамопрограммирования, в то время, когда творческий механизм сознания(самообучения) подбирал и отрабатывал новое поведение. После надёжногоприучения к определённой последовательности воздействий, осознавание этой последовательностиисчезает и заменяется автоматическим поведением.
Механизм свободы воли
Если выбор поведения не слишком сложен, например, еслиорганизм имеет небольшой арсенал возможных реакций, или если необходимыеварианты поведения заранее известны, то творческая работа сознания не велика.Жёсткий выбор «if — then — else» — это нулевой уровень сознания,лишённый творчества, свободы выбора и осознавания. Следовательно, в процессетворческого подбора подходящего поведения сознание проявляет ещё и «свободуволи».
Практически выбор решения происходит ассоциативно взависимости от обстоятельств. При этом «воля» не имеет техническогозначения. Однако обстоятельства интерпретируются субъективно. Можно подумать исклониться к одному решению. Можно подумать ещё, увидеть в тех жеобстоятельствах новые детали, из-за которых эти обстоятельства кажутся другими,такими, что из них следует другое решение. Впечатление о свободе воли возникаетпотому, что человек помнит, что он мог принять одно или другое решение в объективноодних и тех же условиях, и он свободно принял одно из решений.
Таким образом, «свобода воли» — это одно изпроявлений осознавания, заключающееся в том, что одновременно с осознаваемымидействиями мы можем размышлять на другую тему, например, «вспоминать».
У бабочки такой механизм ещё не внедрён. У неё нетразличия между обдумыванием и осуществлением её идей — «Что на уме, то ина языке». В этой программе ещё не использован алгоритм «обдумываниябез исполнения», которое происходит, если сенсоры и эффекторыавтоматически выполняют свою работу, освобождая мозг от детального управления.
Благодаря способности к автоматизации поведения мозгполучает возможность развивать свой чисто «ментальный» опыт, то естьдумать. Для мозга мысль — это тот же процесс взаимодействия с органами тела, вовремя которого они не исполняют команды мозга, так как их внимание отвлеченоисполнением ранее запущенных автоматических процессов. При достаточно активномнеавтоматическом поведении мозг постоянно отвлекается от «мыслей» дляосознаваемого управления. Это затрудняет ассоциативное продумываниепродолжительных действий. Видимо, поэтому живой организм устроен так, что вовремя сна многие органы не реагируют на фантазии мозга. Это позволяетпроигрывать в уме длительные сценарии и вырабатывать сжатые ассоциативныеобразы длительных процессов, что в дальнейшем используется для осознаваемого«планирования» поведения.
Первая и третья персоны
Обычно считается, что идеальное восприятие иматериальные процессы несводимы друг к другу. То есть невозможно на основеизмерений логически доказать, что человек или другое существо испытывает больили удовольствие. Сознательное существо, «первая персона»,воспринимает свой опыт в виде потока ощущений или потока сознания. Я чувствуюболь или удовольствие. Это прямое восприятие абсолютно не связано с тем,догадываюсь ли я о том, что у меня есть нервная система, и прокручиваются ли вней какие-то алгоритмы.
Конечно, можно набрать статистику и установить,опрашивая испытуемых людей, что им больно, когда количество какого-то гормона втаком-то органе находится в таких-то пределах. А как узнать, испытывает ли больрыба? Ведь она не может выразить свои ощущения словами.
Поскольку я знаю из опыта, что все люди во многомпохожи на меня, то я не сомневаюсь, что и они испытывают боль и удовольствие,хотя их боль абсолютно недоступна моим ощущениям. Я могу только«сочувствовать» им, но не чувствовать эту боль.
Другой сознательный объект, «третья персона»с точки зрения первой персоны, выражает своё сознание через поведение.Отвечающие за поведение физические и информационные механизмы — объективны. Ихможно изучать и моделировать. Я могу сочувствовать другому существу только втой мере, в какой я понимаю его поведение. В частности, я не понимаю, чтоиспытывает осьминог. А специалист по осьминогам уже может это понимать. Но и онне может ощущать те же чувства, что и осьминог.
Очеловечивание машин
Мы часто используем слова, обозначающие субъективное,идеальное восприятие, в применении к техническим системам: Word запомнил этотмакрос. Я могу обозначить чувственными терминами переменные в программе:«удовольствие» увеличилось на 1, а «чувство удовлетворения»уменьшилось на 30%.
Когда компьютер «вспоминает» файл, он неприкладывает никаких особых субъективных усилий и не осознаёт, что он что-товспомнил. Это чисто механическая работа, как у хороших часов. Все частиправильно пригнаны, и при нажатии на определённые рычажки они выполняютзадуманные конструктором действия. Если иногда и происходят непредусмотренныедействия, то не потому, что компьютер проявляет свою волю, а потому, что иконструктор, и изготовитель компьютера, и программист, и пользователь — люди, иим свойственно ошибаться.
Компьютер не вспоминает и не принимает решения — этичасто применяемые технические термины относятся к функционированию третьейперсоны, а не к субъективному осознаваемому размышлению.
Поэтому, как бы мы не назвали какой-то датчик илипеременную в программе — «настоящее удовольствие»,«псевдоудовольствие» или «истинное наслаждение» — этоничего не говорит о возможном субъективном восприятии создаваемогоискусственного разумного существа. Чтобы убедиться, что оно действительночто-то чувствует, нужны испытания его поведения, такие же, как наблюдения заповадками осьминогов.
Тест осознавания себя
Осознавание себя развивается из осознавания своихощущений. Я надеюсь, что по некоторым признакам поведения можно доказать, чтотретья персона осознаёт свои субъективные ощущения, и даже осознаёт себя.
По мере развития сознания его можно характеризоватьтакими качествами:
Начальное сознание — такой уровень развития нервной системы, которыйобеспечивает самообучение.
Осознавание (ощущений) — это такой уровень сознания, при которомсознательное существо испытывает субъективные чувства, эмоции, впечатления.
Осознавание себя — это уровень осознавания, при котором сознательноесущество субъективно отличает себя от других объектов, а своё поведение отдругих явлений.
Таким образом, если робот осознаёт себя, значит, ониспытывает боль, страх или какие-то свои неизвестные нам чувства.
Персональное осознавание тождественно самому себе.Если я осознаю себя, то мне не требуется «объективное» доказательствоэтого факта. Тест или специальный эксперимент нужен для доказательства того,что другое существо осознаёт себя.
Конечно, из-за того, что я не сомневаюсь в собственномсознании и без всяких тестов уверен в осознавании себя людьми, подобный тест невполне объективен. Сам тест может быть проверен только субъективнымисредствами. Например, я уверен, что мой телевизор не осознаёт себя, а мой другосознаёт себя. Если тест покажет обратное, то либо он в принципе не годится,либо его надо исправлять. А если тест покажет, что какой-то объект осознаётсебя, то я могу доверять этому результату не более, чем своей уверенности (неподкреплённой строгим логическим доказательством) в том, что мой друг тожеобладает сознанием. Это не снижение уровня доказательства. Напротив, некоторыенаши убеждения, например, те, на которых основана формальная логика, обоснованы«более чем логически».
Осознавание себя — это одно из проявлений осознаваниясвоих ощущений и своего поведения. Осознающий своё поведение субъект можетобладать одним из субъективных качеств поведения — свободой воли, то естьспособностью осознаваемого выбора одного из нескольких равноценных решений.
Свобода воли имеет и объективное, и субъективноеобъяснения, что можно использовать для построения теста, логически связывающегонаблюдаемое поведение с субъективным впечатлением. Субъективное восприятиесвободы воли относится к первой персоне, к субъекту, который чувствует, что онсвободно принимает решения. А объективный механизм ассоциативного выборарешения, обеспечивающий свободу воли, действует в третьей персоне. Его можноизучать и перепроверять как научный факт.
Объективно выбор решения не зависит от наличиясознания и «воли». Он происходит ассоциативно в зависимости отобстоятельств. Можно подумать и склониться к одному решению. В результатеразмышления можно увидеть в тех же обстоятельствах новые детали, из-за которыхэти обстоятельства кажутся другими, такими, что из них следует другое решение.Таким образом, выбор решения жёстко связан с текущими ассоциациями. А засубъективным процессом размышления лежит объективный механизм«ассоциативного блуждания», нахождения то одних, то другихассоциативных связей между текущими обстоятельствами и хранимым в памятипрежним опытом субъекта.
Впечатление о свободе воли возникает потому, чточеловек помнит (думает, размышляет) о том, что он мог принять одно или другоерешение в объективно одних и тех же условиях, и он свободно принял одно изрешений. При этом как выполнение принятого решения, так и размышление о другихвозможных решениях являются одновременными и осознаваемыми.
Заметим, что автоматические или рефлекторные действия,например, выделение желудочного сока, не осознаваемы и не приводят кформированию впечатления о свободе воли.
Итак, свобода воли — это часть и явный признакосознавания. Признаком наличия свободы воли является способность одновременно скаким-то неавтоматическим действием размышлять «на другую тему».
Размышление — это проигрывание в уме каких-то реальныхили вымышленных действий. У человека эти действия наполнены смыслом, так как вних используются ёмкие символы действия — слова. У животных в«размышлениях» могут участвовать зрительные, обонятельные или другиеобразы. Поскольку сами размышления не наблюдаемы, то нам требуется какой-тонаблюдаемый индикатор размышления, то есть индикатор внутренней ассоциативнойработы «на другую тему». Таким индикатором может быть не только речь,но и любое неавтоматическое действие, которое не имеет обязательной логическойсвязи с первым действием.
Таким образом, способность выполнять одновременно дванеавтоматических (нерефлекторных) и логически не связанных друг с другомдействия является достаточным признаком свободы воли и, следовательно,сознания, осознавания (своих ощущений) и осознавания себя.
Можно изготовить робота, который будет выполнять двадействия — идти и петь. Но если я проведу дополнительные испытания, подставлюроботу подножку, и он упадёт и будет продолжать петь, то я сделаю вывод, чтоего «пение» происходит автоматически. Значит, я не могу сделатьвывод, что этот робот обладает сознанием.
То, что действия не являются автоматическими,требуется доказывать.
В этих рассуждениях слово «действие» можнопонимать обобщённо, как активное или пассивное взаимодействие с окружающиммиром.
Кошка лежит у меня на коленях и испытывает(неавтоматическое) удовольствие от общения с хозяином. Она не пойдёт на коленик кому попало. Одновременно она наблюдает за рыбками в аквариуме. Никакие рыбкии аквариумы не могли быть зашиты в сознание кошки генетически. Значит, этонаблюдение тоже не автоматическое. Следовательно, кошка обладает свободой воли,осознаёт то, что она воспринимает, и осознаёт себя.
То, что это удовольствие и наблюдение не являютсячисто рефлекторными автоматическими процессами должно быть доказано, а это нетак просто сделать. Чтобы уменьшить возможность субъективной интерпретации,лучше делать выводы на основе более убедительных активных действий.
Обезьяна с криком убегает от пантеры. Этот криквыражает не только страх. Это примитивная речь, сигнал, сообщающий другимобезьянам этой стаи, что им угрожает пантера. Это не генетический безусловныйрефлекс. Обезьяна обучилась языку в своей стае. В других стаях той же породыобезьян сообщение о пантере звучит иначе. Убегает она тоже не совсем«рефлекторно». Это хорошо натренированные действия, которым онанаучилась в играх и в реальной жизни, а не была способна от рождения. Хотя криклогически связан с убеганием, но я считаю, что обезьяна могла бы убегать имолча, как поступает большинство зверей. Если в другой ситуации, когда обезьяназнает, что никто её не услышит, она (иногда) убегает молча, то это доказывает,что этот крик-сигнал является независимым действием со специальной«социальной» целью. Следовательно, эта обезьяна осознает себя.
Рыбка, увидев тень птицы, плывёт в свою норку подкамень. При этом она дрожит, «подзывая мальков». Укрытие в норке — это не совсем автоматическое действие. Она научилась хорошо ориентироватьсявблизи норки благодаря своей способности к обучению. Рельеф дна, расположениекамней и растений не могли быть генетически запрограммированы. А дрожание«от страха» — это безусловный рефлекс. Из этого примера нельзязаключить, что рыба осознаёт себя. Хотя из того, что она способна ксамообучению, следует, что она обладает сознанием.
Можно поставить специальный эксперимент, в котором этаже рыба должна одновременно выполнять два «выученных» действия,которые при обучении не были ассоциированы друг с другом. Если это получится,то придётся признать, что у неё есть свобода воли и осознавание, хотя бы и внебольшой степени.
Постановку эксперимента в общем виде можно представитькак последовательность обучений с заключительным испытанием, подобно тому, каквыполняется эксперимент по проверке способности к самообучению.
Это испытание можно применить и к машине, претендующейна обладание сознанием.
Итак, если объект обладает сознанием, то есть способенобучаться, и может одновременно выполнять два логически не связанныхсознательных действия, то из этого следует, что у него есть субъективновоспринимаемая им свобода воли, а, значит, и осознавание себя и субъективныеощущения.
Применение теста к человеку
Если я не помню какого-то эпизода из своей жизни,когда мне было 20 лет, то это не значит, что тогда я не осознавал себя. Если яне помню подробностей первой недели своей жизни, то я не могу утверждать, чтотогда я не осознавал себя. Значит, я не могу быть уверен, что я не осознавалсебя и за 4.5 месяца до моего рождения.
Конечно, я не могу вернуться в прошлое, но если меняинтересует вопрос о том, осознавал ли я себя в возрасте 1 неделя, то можнопопробовать протестировать других младенцев. Если тест надёжный, то я узнаючто-то интересное о себе, так как, в принципе, я от них ничем не отличался.
Благодаря свободе своей воли человек может и незахотеть участвовать в этом тесте. Поэтому неудачный результат теста недоказывает отсутствия свободы воли.
Порядок исполнения теста наосознавание
Сначала подбираем стимулы и реакции. Доказываем, чтоэти реакции выполняются одним сознательным мотором, то есть, что перед намиодно существо. Это нужно потому, что два сознательных существа легко могутвыполнять два сознательных действия одновременно. Но при этом каждое из нихможет быть не осознающим. Далее, доказываем, что это существо способнопереучиваться и отвечать по-разному на одни и те же стимулы. И, наконец,доказываем, что оно может выполнять два сознательных действия одновременно.
Первый тест на самообучение.
1) Находим такие 4 воздействия A, B, C, D, на которые существоотвечает заметными и различающимися реакциями a, b, c, d. Хотя бы две из этих реакций физически могутвыполняться одновременно. Пусть это будут реакции a и b.
2) Приучаем существо к событию CA, так, что на C оно реагирует как на A (предвидит A). Обозначим результат обучениясловами «из Cследует a».
3) Приучаем существо к событию CB, так, что из C следует b.
4) Если этот тест на самообучение проходит,следовательно, на входные стимулы A,B, C реагирует одно сознательное существо.
Второй тест на самообучение.
5) Приучаем существо к событию DA, так, что из D следует a.
6) Приучаем существо к событию DB, так, что из D следует b.
7) Если это удаётся, то этим доказано, что все входы A, B, C, D воспринимаются однимсознательным существом, и все 4 выходных реакции исполняются этим же существом.
Проверка выполнения двух сознательных действий.
8) Вновь приучаем существо к событию CA, так, что из C следует a.
9) Подаём одновременные стимулы C и D и получаем одновременные реакции a и b.
10) Этим доказано наличие двух одновременныхосознаваемых процессов в одном процессоре, что является признаком наличиясубъективной свободы воли. Следовательно, это существо осознаёт себя и своиощущения.
Человек легко проходит этот тест. Причём для обученияему не требуется ни одного повтора пар событий. Достаточно сказать, как себянужно вести. Но человек может и не захотеть исполнять всё, что ему говорят.Неудачный результат теста не доказывает отсутствия осознавания себя.
Пример с курицей
Я не держу кур. Это чисто умозрительный пример. Онможет содержать ошибочные описания признаков поведения, которые совсем нехарактерны для курицы. Возможно, когда-нибудь я придумаю другой, болеереалистичный пример. А ещё лучше, если кто-нибудь вспомнит что-то похожее изреального поведения животных.
1) Пусть в начале уже освоенные пары стимул-реакция таковы:
Aa: По команде «цып-цып-цып» (команда A) курица идёт к хозяйке (реакция a).
Bb: На курицу капает (брызгает) вода, и она хлопаеткрыльями.
Cc: На курицу сыплются песчинки (зёрнышки), и онаначинает искать зёрнышки (клюёт).
Dd: Перед курицей разрыхляют землю (граблями), и онаищет червячков (разгребает землю лапами).
2) Ca.Обучаем курицу новому поведению: На курицу сыплют песчинки, и она идёт кхозяйке.
3) Cb.На курицу сыплют песчинки, и она машет крыльями.
4) Я думаю, что этот этап курица пройдёт. Значит, онаспособна к обучению и у неё есть сознание. Эти песчинки — неуклюжий пример.Наверно, есть более естественный стимул, на который курица сможет отвечатьпо-разному, в результате переучивания.
5) Da.Перед курицей разрыхляют землю, и курица идёт к хозяйке.
6) Db.Перед курицей разрыхляют землю, и она хлопает крыльями.
7) Успешный результат доказывает, что все четырестимула обрабатываются одним «нейронным процессором», и по всемчетырём каналам курица может переучиваться.
8) Ca.На курицу сыплют песчинки, и она идёт к хозяйке.
9) CDab.Перед курицей разрыхляют землю и одновременно на неё сыплют песчинки. Онадолжна идти к хозяйке и при этом хлопать крыльями.
Если у курицы действительно есть свобода воли, то онане всегда будет исполнять то, что «должна». Тест признаётся успешным,если испытуемое существо проходит его хотя бы иногда.
Можно симулировать глупость, но не ум.
В этом «тесте на осознавание» я пытаюсьдоказать, что субъективное осознавание связано с наблюдаемым поведением приспециально организованном переучивании. Если это так, то получается, что нельзяимитировать осознавание себя. Если «имитирующий» робот проходит этоттест, то он действительно осознаёт себя и имеет эмоции.
Безусловные рефлексы и жизненно важные биологическиепотребности лежат в основании иерархии смыслов, которая развивается увоспринимающего существа по мере накопления жизненного опыта.
Безусловные рефлексы
Какие-то «достоверные» знания и умения данысуществу от рождения. Какова природа первичных навыков? Как существо можетполучить их без обучения? В течение развития зародыша все его органыприобретают определённую форму и структуру. С самого начала глаза уже настроенывидеть, а рука — хватать. Эти первичные функции можно назвать безусловнымиинстинктами. Возможно и мозг имеет некоторые безусловные инстинкты, то естьжизненно необходимые знания. Если они оказываются полезными, то такая особь сбольшей вероятностью выживет и даст потомство. Кроме этого, мозг способен ксамообучению. Если эта способность достаточно развита, то особь будет быстрееадаптироваться к окружающим условиям, и вероятность выживания тоже возрастает.Вообще-то все органы, имеющие нервную систему, могут переучиваться. Но мозгделает это лучше.
Обычно слова «врождённые рефлексы» относятсяк моторной (мышечной) системе. Телёнок от рождения умеет стоять. Может быть, имозг имеет врождённые рефлексы, но в отличие от других органов, они ему нетребуются. Во-первых, потому что он не имеет прямой связи с объектным миром и,во-вторых, потому что он может всему научиться.
Например, не все детали поведения бабочки, котораяищет другую бабочку по запаху, могли быть предусмотрены генетически потому, чтоокружающий мир содержит больше информации, чем любая генетическая структура. Длятакого поиска требуется координация всех систем организма, а этим заведуетмозг. Мозг вынужден (и способен) обучиться управлять системами организма, чтобыудовлетворить его врождённые потребности. Врождённым является не сложноеповедение во всех деталях, а биологические, жизненно важные потребностиорганизма. Вместе с тем, поведение и ощущения, исходящее не от мозга, а оторганов, могут быть врождёнными. Например, особый запах другой бабочки являетсяпривлекательным и без обучения.
Правильные первичные инстинкты закрепляются путёместественного отбора. Бабочка ищет по запаху другую бабочку. Не найдёт — у неёне будет потомства. Учителем оказывается естественный отбор. Эти первичныезнания имеют жизненно важный, проверенный тысячелетиями смысл. На эти твёрдыезнания вполне могут опираться последующие смыслы и логические умозаключения,возникающие при обучении и при творческой работе.
Безусловные рефлексы и жизненно важные биологическиепотребности лежат в основании иерархии смыслов, которая развивается у воспринимающегосущества по мере накопления жизненного опыта.
Смысл объектов
Если самообучающаяся система преднамеренно создана снулевыми знаниями, то она сначала не может выделить никаких объектов из своихощущений. Эта способность развивается по мере накопления опыта.
Рассмотрим множество всех мыслимых объектов, которыепредставляют собой «формы сознания». Некоторые из них отражаютреальные объекты, некоторые — это чистые формы сознания, некоторые — формыподсознания. Это множество содержит всё, что представимо внутренними средстваминервной системы.
ЦНС и просто нервная система — это единая системаорганизма, поддерживающая обработку информационных потоков для обеспеченияработы сознания. Различные «формы сознания» обрабатываются единымисредствами. Отдельный нейрон не может знать общего процесса, в котором онучаствует. Поэтому для нервной системы нет разницы между неосознаваемыми иосознаваемыми формами. Но для нас такая разница есть. Почему мы осознаёмнекоторые «мыслимые объекты» и не осознаём другие? Например, яосознаю то, что вижу, но не осознаю, какой гормон надо бы дополнительновыработать в моём организме. Хотя оба информационных процесса на нейронномуровне равноправны и обслуживаются одной и той же нервной системой.
Мы осознаём те объекты, восприятие которых неавтоматизировано, и которые объективно представимы — имеют прочную связь сощущениями. То есть мы можем осознавать объекты, представимые в звуках,запахах, и т.п. И наоборот, если объект не выражается через ощущения, то такойобъект не может стать осознаваемым.
Из разделения форм сознания на«представимые» и «не представимые» через ощущения следует,что любое существо, имеющее ассоциативную память и неавтоматические (готовые кнеожиданным изменениям) ощущения, осознаёт то, что оно ощущает. Конечно,уровень этого осознавания зависит от развитости сознания.
Каждый мыслимый объект ассоциативно связан с другимитакими объектами. Все связи одного объекта образуют его смысл. Этот смыслопределяет место объекта среди других объектов и способ, как этот объектиспользуется в нервном информационном процессе. Но если какой-то объект неимеет прямых или достаточно прочных связей с ощущениями, то этот объект неосознаваем. Он может равноправно участвовать в нервном информационном процессе ииметь смысл для мозга, но он не имеет осознаваемого смысла. Если и можноговорить о смыслах на подсознательном уровне, то они тоже формируютсямеханизмом сознания, а не присущи самим природным объектам.
Мыслимый объект, не имеющий связей с другими объектами,полностью лишён смысла, то есть он не воспринимается как объект и вообще неопознаётся ни сознательно, ни подсознательно. В частности, он не может бытьиспользован, так как с ним невозможно установить ассоциацию. Можно считать, чтотакой объект не существует для нервного информационного процесса. А еслимыслимый объект по какой-то причине теряет ассоциативные связи с другимиобъектами, то он исчезает как форма сознания — забывается.
Следовательно, множество мыслимых объектов вместе с ихвзаимосвязями есть одни ассоциативные взаимосвязи. Мыслимый объект, как узелпаутины смыслов, не имеет структуры и не имеет никакого содержания сам по себе.Моя бабочка не хранит в памяти образы «объектов», которые онавоспринимает. Она хранит только динамические потоки ощущений и ассоциативныесвязи между ними.
Поэтому, если какое-то существо начинает развиватьсяот нулевых знаний и не имеет никаких «генетически зашитых» смыслов(потребностей, безусловных рефлексов), то никакие новые смыслы не могутвозникнуть. Им не на что нарастать.
А если существо от рождения имеет потребности, то ономожет выращивать своё дерево смыслов по мере накопления опыта, который«вплетает» информацию о внешнем мире в уже существующую смысловуюсеть и развивает её. Чем лучше развиты средства взаимодействия с окружающиммиром, то есть, чем шире диапазон объективной представимости, тем выше уровеньосознавания этого мира.
Самообучение
Скорость обучения — это простое и конструктивноеиспытание интеллекта, которое можно использовать в качестве теста уровнясознания живого существа или машины. Однако способности существа лучшехарактеризуются скоростью самообучения,чем скоростью обучения, которая зависит от активности учителя и от способаобучения. Трудно вычесть влияние учителя, если мы сравниваем способности,например, осьминога и вороны.
Как происходит самообучение
Существо замечает, что некоторое повторяющеесяобстоятельство важно.
Примеры таких обстоятельств — ночь, голод, убегание отврага.
Иногда животное повторяет ситуацию своими действиями,например, охотится.
При повторении ситуации существо пытается подобратьболее выгодноеповедение.
В результате, в такой ситуации оно ведёт себя довольноуспешно.
Ключевое различие между обучением и самообучениемсостоит в способе выработки поведения. При обучении учитель показывает илипрямо стимулирует правильное поведение. Он ставит оценку за элементы поведения,то есть за промежуточные этапы работы. Обучая детей, роботов и нейронные сетимы применяем промежуточные оценки за каждый успех или неудачу. При этом толькоучитель способен оценить эффективность каждого этапа обучения.
При самообучении существо само изобретает правильноеповедение, получая положительную оценку (удовольствие, избежание опасности)только за правильный конечный результат. Между поведением и оценкой имеетсялогическая причинная связь, которая обычно далеко не очевидна. Решение проблемы«За что именно получена оценка» — одна из основных задач механизмасознания.
Я определяю качество моих «разумных»алгоритмов по скорости их самообучения в некоторых стандартных задачах.Интересно сравнить разные алгоритмы с животными в похожих тестах. Где сейчаснаходится мой алгоритм самообучения? Между гидрой и улиткой, или между муравьёми бабочкой?
Самообучающаяся бабочка
Сейчас у меня есть простейшая демонстрацияадаптирующегося искусственного интеллекта, которая способна впечатлить покатолько тех, кто понимает. Это программа tmpbrain.zip для Windows.
/>
Программа показывает маленький мир, в котором живутбабочка и цветок. Бабочка специально сделана настолько простой, как только ясмог себе представить. Она имеет чувства (органы чувств), моторную систему(органы действий) и мозг.
Органы бабочки
Чувство цветка, или желание. Wish=0означает, что желание удовлетворено. Бабочка ощущает это при помощиспециального органа, когда она касается цветка. Wish=1 означает, что бабочка имеет желание.
Зрение определяет, с какой из четырёх сторон света находитсяцветок. При помощи зрения бабочка чувствует одно из четырёх качеств, которыепозже ассоциируются у неё с направлениями к цветку. Номера направленийиспользуются мозгом как четыре не связанных друг с другом качества, которыепервоначально не имеют смысла.
Движение. Моторная система интерпретирует выработанный мозгомсигнал, как команду двигаться в одном из четырёх направлений. Только моторнаясистема «знает», что это за направления, и как нужно двигаться.
Мозг получает сигналы от органов чувств (сенсоров) иподаёт сигналы моторной системе. Единственный сигнал, имеющий смысл для мозга,это «желание». Мозг пытается выработать такой выходной сигнал, чтобыудовлетворить желание.
Движение бабочки довольно медленное и хаотичное. Ноправильная ориентация в пространстве развивается у неё достаточно быстро. Постепенноона начинает двигаеться менее случайно, и почти в правильном направлении. Онапринимает решение об этом направлении ассоциативно, на основании своегопредшествующего опыта.
Я догадываюсь, судя по отзывам на мою статью "Основы натуральной философии",что поначалу очень трудно оценить высокую степень абстракции используемогоалгоритма. Но и живой мозг, и живые органы чувств, по-моему, тоже гораздо болееабстрактны (то есть, более универсальны), чем многие думают, и готовы отрождения к жизни в любом мире. Именно это усиливает сознание организма. Никакиецели, желания и стремления не присущи мозгу изначально. Это машина, способнаятолько на творчество, то есть на поиск и проработку «поведения».
В моей модели ощущение, поведение и желание — одинаково слепые информационные потоки для неопытного мозга. Когда я говорю,что мозг ищет правильное поведение, это означает, что он пытается изменитьданные во всех информационных потоках, чтобы «предсказать»удовлетворение желания. Мозг не отличает «объективных» данных отсозданных им самим «субъективных». Но организм-хозяин тольконекоторые потоки использует, как «поведение», в то время как другиепотоки информации являются «ощущениями», неподконтрольными командаммозга. Абстрактный мозг не знает, что эти потоки чем-то отличаются и чтонекоторые из них являются «входящими», а некоторые«исходящими» для организма.
«Желание» имеет биологическую аналогию. Ядумаю, что живой мозг получает часть информации по нервным волокнам, а часть — из биохимического состояния организма. Последнее и моделируется сигналом«Желание». Оно зависит от биохимического (и эмоционального) состояния(самочувствия) организма. Такое «химическое желание» имеетпредопределённый смысл для мозга. Алгоритмически, этот смысл состоит в том, чтомозг лучше запоминает своё состояние когда желание удовлетворено. Другиесигналы имеют чисто информационный смысл. Бабочка чувствует себя плохо (желаниене удовлетворено), и на основании прежнего опыта она выбирает (то естьвспоминает) такое поведение, в результате которого она будет чувствовать себяхорошо (желание удовлетворено).
Когда вы запускаете программу, бабочка не имеет опыта.Её зрение (но не мозг) видит цветок, так как оно устроено, чтобы видеть. Еёмоторная система устроена так, что она может перемещать «тело»бабочки в одном из четырёх направлений. Мозг «не понимает», чтобабочка чувствует себя плохо, так как она ещё ни разу не касалась цветка и«чувство цветка» не вырабатывало «гормоны удовольствия»,способствующие запоминанию.
Ассоциация стимула с поведением создаёт условныйрефлекс.
Вначале мозг (единственный творческий мотор в бабочке)не имеет цели, намерений, стремлений. Он не понимает, что бабочка видит цветок,и что это означает. Он не понимает, что может двигаться и может чувствоватьсебя хорошо. Цветок абсолютно не привлекает внимания неопытного существа. Онначинает привлекать внимание только по мере накопления опыта. Через некотороевремя, после десятков случайных касаний цветка, у бабочки возникает условныйрефлекс на вид цветка. Бабочка видит цветок и понимает, что нужно делать, чтобыполучить удовольствие. Она приобретает цель,которая представляет собой желаниеплюс способ его удовлетворения.
Я думаю, что сложность и богатство целей живогосущества развиваются из богатства условий окружающего мира по мере того, какэто существо периодически удовлетворяет свои простые желания. Чем богачечувства и желания, тем разумнее поведение. Я думаю, что живая бабочка имеетболее развитые органы чувств и более слабый мозг, чем моя кибер-бабочка.
Ассоциативное узнавание приводит к самоорганизациипамяти в виде причинно-связанных цепочек событий.
Механизм предвидения
Прогноз возможен только путём«воспоминаний»
Большинство природных явлений могут быть описаны ввиде физических моделей, содержащих дифференциальные уравнения. «То, чтопроизойдёт в ближайшие секунды» рассчитывается из этих уравнений. Но мозги отдельные нейроны не могут использовать предопределённые уравнения дляпредвидения, поскольку биологически одинаковые нейроны должны уметь предвидетьсобытия различной физической природы. Единственный способ такого«универсального» предвидения, на который способны нейроны – это«воспоминание о своих прежних впечатлениях». Это похоже на «решение»уравнений по таблицам. Этот способ гораздо хуже и слишком конкретный посравнению с решением уравнений. Но другого не дано.
Поэтому простейший природный механизм самообученияиспользует «индукцию», то есть непроизвольное обнаружение аналогий иповторов при сравнении своих текущих ощущений с образами ощущений, сохранённымив ассоциативной памяти.Ассоциативное узнавание приводит также к самоорганизации повторяющегося опыта ввиде причинно-связанных цепочек событий. Предвидение происходит потому, чтосущество узнаёт не «текущее состояние», а текущий процесс в динамике.«Ближайшее будущее» ассоциативно связано с текущим состоянием потому,что, как это состояние, так и его будущее, имеют их причинно связанные аналогив прошлом. Ближайшее будущее — это будущее узнаваемого прошлого события.
Нейрон должен обладать творчеством и успешно работатьв команде
Способность к обучению обеспечивается нервнойсистемой. Поскольку число нейронов у разных существ может отличаться в миллионыраз, приходится признать, что способностью к обучению, видимо, обладаетструктура из любого количества нейронов, и даже один нейрон. Значит, каждыйнейрон должен обладать способностью к предвидению и к самообучению. Хотя, можетбыть, зарегистрировать эту способность у одиночного нейрона почти невозможно.Кроме того, нейроны в нервной системе и в мозгу организованы так, что потенциаладаптации увеличивается при увеличении количества нейронов. Также должны бытьорганизованы искусственные нейронные структуры.
Определение творчества.
Творчество – это решение задач, способ решения которыхнеизвестен. Конечно, ту часть задачи, для решения которой имеются известныеметоды, можно решить и без творчества. Нота часть задачи, к которой даже неизвестно как подступиться, может быть решенатолько путём случайной догадки.
Творчество — это способность получения новыхрезультатов без учителя, то есть путём самообучения. При решении творческойзадачи, то есть такой, которую неизвестно как решать, творец делает разные(случайные или осмысленные) попытки решения в окрестности того, что емуизвестно. Благодаря его заинтересованности он более чем другие способеноценить, что какая-то из попыток приближает его к решению задачи. После этогопроисходит исследование вновь открывшихся возможностей. И так далее. Если творецошибся в самооценке, то он может зайти в тупик и не решить задачу. Не каждомувезёт.
В этом случае учителем является сознание, котороеоценивает и выбирает варианты, достойные более детального изучения. Такоесамоконтролируемое обучение похоже не на броуновское блуждание, а на поискмаксимума методом последовательного подъёма в случайных направлениях.
Простейшее самообучение похоже на естественный отборповедений, а осознаваемое творчество похоже на искусственный отбор идей.
Примитивный случайный поиск
Новое поведение находится путём случайного поиска вокрестности уже освоенного поведения.
Случайный поиск исключительно неэффективен. Максимум,что можно ещё пытаться угадать — это информация из нескольких бит. Уже 10 бит,то есть тысяча равноправных вариантов – много даже для человека.
Для оценки скорости самообучения при случайном подбореповедения рассмотрим обучение таблицы перекодировки. Таблица содержит N ячеек,то есть она способна запомнить реакцию на N входных сигналов. Внешняя средаможет обеспечить N разных входных сигналов, причём каждому сигналусоответствует одна правильная реакция таблицы в виде числа от 1 до N. Входныесигналы меняются случайно. Реакция является случайной (1 — N), если ответ неизвестен. Реакция запоминается, если за неё дана положительная оценка.
При таких условиях вероятность того, что на случайныйвходной сигнал будет случайно дан правильный ответ равна 1/N. Средняя степеньобучения (то есть, почти на каждый входной сигнал найден правильный ответ) будетдостигнута за N2 шагов. Если вход имеет ширину 64 бита, то N2= 2128 = 1040. Самообучение всегда слишком долгое, а вданном примере, оно невозможно.
Такое «универсальное» самообучениетехнически бесперспективно. Вместо него применяется обучение искусственныхсистем учителем (супервизором). Учитель может вести систему “за ручку” поправильному пути. При этом она не может научиться находить путь, но будетзнать, какой путь правильный. А если учитель ещё и показывает правильноеповедение (принуждает систему вести себя правильно) и поощряет такое поведение,то скорость обучения значительно возрастает.
Однако в жизни самообучение – обычное дело, особенно упростейших животных, а следовательно, и у простейших нейронных структур. Мозгне мог знать до рождения, в каком мире он окажется. В отличие от«физических» органов чувств, «информационный» мозг вообщене имеет прямого контакта с физическим миром. Но, тем не менее, кошка сумеетвыжить, даже если она ни разу в жизни не увидит мышку. Мозг достаточноабстрактен и универсален, чтобы приспособиться к любым окружающим условиям.Вследствие универсальности мозгу запрещено использовать такие конкретныеинформационные инструменты, как «уравнения», «правила» и«семантический разбор».
Как же он обучается? Также как дети, испытывая разныеварианты поведения в окрестностях уже освоенных. Поиск нового долженпроисходить на фоне уже освоенного и известного. Причём это новое должно бытьминимально информационно насыщенно (минимально содержательно). После успешногонахождения «нескольких новых бит» и согласования их с имеющимисязнаниями, они включаются в «освоенные» знания. И далее поиск новогопродолжается такими же мельчайшими шажками.
Поиск поведения
Живая адаптирующаяся система должна всегда учиться.Она может считать, что знает правильное поведение, но должна беспрестаннодоказывать, что это поведение действительно правильное, потому что внешний мирможет измениться. Такое самообучение может происходить подсознательно (бытьнеосознаваемым). Именно в этом постоянном самообучении и состоит обычная работасознания как биологического адаптивного механизма.
Управляя согласованным поведением жизненно важныхсистем организма, механизм сознания постоянно тестирует сам себя. Выживаниеданного существа (и выживание его сознания) зависит от правильной работы этихсистем. Самотестирование служит для сдерживания творческого «полётафантазии», который может расстроить систему управления. Поэтому человек,делающий работающие, логически непротиворечивые вещи, более способен к логичнымрассуждениям, чем человек, создающий «нематериальные» творения. Абездельник вообще не может быть рассудительным. Между внутренним миром творца ибездельника такая же разница, как между внутренним миром человека и животного.
В процессе такого самотестирования мозг постояннотребует оценок своего поведения. Если мозг не получает оценок от внешнего мираза свое хорошее или плохое поведение, то он со временем теряет способностьдумать и управлять телом. Это происходит потому, что механизм случайногоподбора поведения продолжает действовать и поведение (мозга), не закрепляемоеоценкой, всё больше отличается от освоенного ранее, правильного с точки зренияжизнеобеспечения организма.
Орган зрения крота постоянно изменялся из-за случайныхмутаций. Эти изменения не получали оценки выживанием от механизма естественногоотбора. Поэтому, со временем орган зрения крота потерял способность номальновидеть.
Мозг гологофилософа не получает оценок от внешнего мира за свое хорошее илиплохое поведение. Поэтому спонтанные изменения свойств нейронов (это и естьпростейший механизм творчества) постепенно приводят к жизненно опаснымизменениям поведения мозга. Философ теряет разум.
И напротив, постоянный творческий поиск,сопровождаемый «объективной» оценкой поведения, укрепляет сознание.Бабочка «начинает понимать», то есть начинает поступать правильно втой ситуации, в которой она раньше не знала, что делать, и поступаланеправильно. В приложении к более разумному существу и к некоторому виду задачмы бы могли назвать такой процесс накоплением опыта путём успешного«исследования».
Биологические мотивы творчества.
Не только учитель воздействует на ученика сопределенной целью, но и наоборот, ученик на учителя. Целью ученика являетсяполучение хорошей оценки. Если же обучение происходит без заинтересованностиученика, то это не ученик, а база данных, например, словарь или шахматнаяпрограмма. Зачем и что нужно учить ученику,если у него нет никакого внутреннего направляющего стремления?
Может показаться, что на начальном этапе, покаинтеллект ещё не развит или задача слишком новая, обучение может происходитьбез заинтересованности. Такое «незаинтересованное» привыканиесущества к изменяющемуся внешнему миру происходит не бессознательно, так какименно сознание управляет адаптацией. При привыкании приходится приучаться кновому, полезному в новых условиях поведению.
Например, крысу приучают нажимать на педаль послезвонка. Она не была заинтересована в нажимании на педаль, но она всегда имеетвнутренний «интерес». Её интерес заключается в поддержании«нормальных» собственных ощущений. Эти ощущения являютсясубъективными и самоценными только для этой крысы. Но они же объективно даны ейприродой как врождённые потребности.
Привыкание, адаптация или самообучение без постоянногостимулирования (без заинтересованности в самом процессе учёбы) похожи наестественный отбор, а обучение с учителем — на искусственный. Учитель выбираети поощряет только правильные реакции ученика на заданные условия. Посколькупричинная связь между действиями ученика и поощрением хорошо заметна, такоеумышленное обучение происходит гораздо быстрее, чем самообучение. Присамообучении ученику приходилось бы самостоятельно выявлять весьма сложныепричинные зависимости между его поведением и полезным (для ученика) конечнымрезультатом.
Итак, биологическим стимулом для творчества являетсяжизненно важная оценка. Если эту оценку даёт учитель, то скорость обучениявозрастает. Если оценка «даётся» внешней средой, то она может быть инегарантированной, и сильно отложенной во времени. Внутренний механизмсамообучения должен установить причинную связь между действиями существа итакой ненадёжной, но беспристрастной оценкой.
Мы считаем разумным или «целесообразным»такое поведение, которое удовлетворяет внутренние потребности организма. Этипотребности заданы биологически, но без правил или намёков на то, как ихудовлетворить. Поскольку это не мои потребности, то я не всегда могу оценитьразумность поведения того или другого существа.
Разум кибер-бабочки
Разумность поведения моей бабочки доступна моемупониманию, потому что я детально знаю её внутренние потребности. Сначала у неёнет картины мира. В её памяти хранятся случайные данные, настолько не похожиена мир, в который она попадает, что этот мир не вызывает у неё никаких надёжныхассоциаций. У бабочки нет представлений о логике, пространстве или времени. Всёэто появляется в результате реального опыта. По мере накопления опыта онаначинать узнавать разные ситуации, в которых она оказывается: как это былораньше, и как она поступала раньше. Она выбирает из прежнего опыта болееуспешное поведение. Все возможные «идеи» бабочки представимы только ввиде наблюдавшихся ранее образов или их фрагментов. Бабочка не имеет никакихотвлечённых от опыта средств преставления своих «мыслей».
Самообучение и творчество бабочки состоит в том, чтополезный опыт накапливается и на его фоне происходит постоянный случайный поискнового поведения.
Случайность, приводящую к обнаружению новогоповедения, можно трактовать, как неудачнуюпопытку точно повторить то поведение, которое бабочка считаетуспешным, или как неточное воспроизведениеуспешного прежнего поведения. Оба варианта могут быть следствиями как случайныхнарушений в памяти, так и неточного узнавания текущей ситуации.
Тестовая задача о «бабочке и цветке»демонстрирует не какой-то изысканный или очень эффективный алгоритм сознания, апринципиальную возможность нахождения правильного «разумного»поведения только на основе неясного внутреннего желания произвольной природы.Если через некоторое время вы заметите, что вероятность попадания бабочки нацветок больше, чем вероятность попадания в какую-то определённую назначеннуювами другую точку окна, то это и означает, что бабочка уже узнаёт цветок, истремится к нему, то есть, она ориентируется в пространстве.
Если сделать окно сразу большим, то, вероятно, бабочканикогда не научится находить цветок, так как будет мало случайного успешногоопыта. Но может случайно повезти.
От чего зависит скорость обучения в этом примере? Отуспешного опыта. Можно помогать бабочке учиться, например, подставляя цветок снужной стороны, чтобы она постепенно освоила весь необходимый набор движений.Но учтите, что способности бабочки ограничены. Она может достичь максимально возможногодля неё мастерства в течение нескольких минут. И дальнейшее обучение большеничего не даст. А можно ей вредить. И она никогда не научится.
Мозг живой бабочки, как и мозг кибер-бабочки«стремится повторить успех». Живая бабочка летит к цветку, потому чтоеё привлекает запах. Этот запах ей нравится от рождения. Поэтому я не могууверенно сказать, что она сознательно стремится к цветку. Во всяком случае, еёсознанию каждую секунду помогает безусловный рефлекс на запах.
В рассмотренной тестовой задаче нет никаких прямых«физических» воздействий (вроде запаха) со стороны цветка на бабочку.Она не испытывает удовольствия от того, что видит цветок. Она летит к немупотому, что из своего опыта она знает, что получит удовольствие, когда коснётсяцветка. Её привлекает не запах и даже не вид цветка, а знание (идея, понимание) того, что правильноеповедение завершится удовольствием. Это чисто интеллектуальное стремление или условный рефлекс. Она сознательностремится коснуться цветка, потому что использованный алгоритм непредусматривает автоматизации поведения. Эта бабочка осознаёт то, что онавидит.
Совершенно правильные движения бабочки не приводят кнемедленному успеху, так как требуется преодолеть некоторое расстояние доцветка, а бабочка не имеет органа восприятия расстояния. «Вид цветка»никак не изменяется по мере приближения к нему. Поэтому бабочка испытываетнеуверенность. Кажется, что она делает «неоправданно» много случайныхпопыток улучшить своё поведение, которое, в результате, становится похожим на панику.«Кто мало видел — много плачет».
От смутного желания косознаванию себя
Вообще-то можно построить систему, имитирующуюразумное поведение, но не имеющую внутреннего мотива к поиску такого поведения.Пусть эффекторы точно исполняют поступающие от мозга команды. Если их поведениене устраивает разработчика, то происходит перекоммутация входных и выходныхканалов, другие настройки мозга. Обычно, например, в практике нейронных сетей,эти настройки называют обучением. В такой системе ни мозг, ни отдельные нейроныили органы чувств не обладают самостоятельным творчеством или свободой выбораповедения. Поведение, как выходной сигнал, строго ассоциировано с входнымиданными. После обучения такая система представляет собой автомат, имитирующийразумное (с точки зрения человека) поведение. Хотя прогноз наблюдения нетребуется, но он может использоваться для автоматизации процесса обучения.
Перед прогнозирующим механизмом системы можнопоставить задачу получения не правильного прогноза, а определённого прогноза.Это выглядит так, будто сенсоры «стремятся» почувствовать что-тоопределённое. Для этого обучающий механизм, например, алгоритм перекоммутациимежнейронных связей, должен иметь возможность и средства для синтеза новогоповедения, которое обеспечит достижение этих определённых чувств. Только такойвыгодный для системы субъективный прогноз может сделать её творческой исознательной.
Чтобы система не распалась на отдельные«осознающие себя» подсистемы, все её средства прогнозирования и подбораповедения должны стремиться к общей цели: обеспечить «выгодный»прогноз определёнными сенсорами. Выгодный прогноз – это предвидениеопределённой положительной оценки (ощущения), которая присуща системе отприроды или предусмотрена разработчиком. Творческая прогнозирующая системаподчиняется этой задаче в ущерб объективному прогнозу. Такая система стремитсяповторить (правильно «предвидеть») своё успешное поведение, ивыполняет небольшой случайный поиск нового поведения на фоне этого уже освоенного.
Основная проблема самообучения состоит в том, чтообучающееся существо не знает, за что оно получает оценки (поощрения инаказания). Я предполагаю, что биологически эта задача решается так. Еслисущество чувствует себя хорошо, то есть все его желания удовлетворены, исостояние организма нормальное, то оно способно сохранить в памяти своивосприятия и поведение в течение некоторого времени. Если состояние организмаухудшается, то способности к запоминанию тоже ухудшаются. Поэтому поведение,которое приводит к нормальному или субъективно лучшему состоянию организма,запоминается лучше.
Если субъективно привлекательные ощущения достигаютсяслишком легко, в результате слишком простого поведения, то организм попадает впсихическую зависимость, так как простое поведение быстро становитсяавтоматическим и неподконтрольным осознаванию. В результате«сознательное» существо теряет свободу выбора других поведений, крометех, которые ведут к легко достижимой «эйфории».
Критерий успеха – удовлетворённое желание
У бабочки субъективное прогнозирование управляется«анализатором успеха». Его задача выявить и сохранить важнуюинформацию (не объективную, не точную, а субъективно важную для удовлетворенияжелания), и попробовать достичь ещё большего успеха. Несмотря на загадочное название,это устройство выполняет простую функцию. Оно запрещает органам бабочкивспоминать неуспешный опыт. Но более важно то, что этот механизм объединяеталгоритмически независимые органы бабочки в единую систему с общими желаниями исогласованно исполняемыми целями. Благодаря этой централизации бабочкавоспринимает себя как единое «Я», а не как колонию органов.
Зарождение смысла
«Научное» определение информации состоит втом, что полное число состояний системы не несёт информации, а если какие-то«типы» состояний оказываются невозможными или наоборот, неизбежными,то появляется нетривиальная информация об этой системе. В пределе, еслиизвестно, что система находится в одном определённом состоянии, то информация оней максимальна.
Между абстрактной «системой» иинформационным сообщением есть принципиальная разница. Семантическое«сообщение» использует символы и правила, имеющие«приписанный» смысл. Мы приписываем важный для человека смыслприродным явлениям, так как будто они тоже являются символами. «Полезноерастение». Любое произведение искусства, машина или «законприроды» состоит для нас из элементов, имеющих символический смысл врамках человеческой культуры. Мы обнаруживаем признаки целесообразности даже врасположении звёзд. Также и читатель «вчитывает» книгу. Винформационном смысле 99% содержания книги находится в голове читателя. Асимволы, которые он видит, только вызывают в его сознании те или иныеассоциации.
Семантическая информация — это надстройка надсознанием. Поэтому она не может быть в основе создаваемой (новой) разумнойсистемы. А научная информация, то есть возникновение смысла из хаоса, — это«физическое явление», которое позволяет «вырастить» разумиз небольшого количества исходных смыслов «желаний».
То, что я называю самообучением или адаптацией — это«чистое творчество». Правила не известны. Естественно, нет исимволов, над которыми могли бы действовать эти правила. Однако образы, а затеми некие символы могут быть изобретены творческим механизмом сознания, иприменяться сознательным существом по мере накопления им жизненного опыта.
Зарождение семантики происходит на неосознаваемомуровне в сознании.
Механизм этого явления основан на том, что органы(сенсоры и эффекторы) имеют свою нервную систему и тоже могут обучаться. Послетого, как рука под детальным управлением мозга освоила до автоматизма какое-тоновое движение, в её нервной системе возникают новые ассоциации для этогодвижения. В процессе творческого поиска мозг может найти упрощённые команды,активизирующие эти ассоциации и запускающие управление нужным движением. Такмозг переходит от детального управления к «общему». Появляетсякороткий «символ», содержащий информацию, приписанную ему нервнойсистемой руки.
Осознаваемая семантика — это естественное продолжение такойсамопроизвольной структуризации опыта.
Некоторые итоги
Существо разумно, если оно ведёт себя разумно. Аразумное поведение — это полезное для данного существа поведение. Объективныйкритерий полезности состоит в том, что это существо или весь вид благодарятакому разумному поведению выживает. Такое определение разумности похоже наопределение рациональности. А само разумное поведение выглядит как способностьк быстрой адаптации.
Именно таким разумом (который находит причинно-следственныесвязи между событиями) обладают все животные и даже отдельный нейрон! Толькоявления, доступные разным животным, очень различаются. Не только поинформационной сложности, но и по физической доступности. Благодаря присущейразуму избыточности, человек (и другие высшие животные) использует его нетолько для выживания, но и для других развлечений.
Сознание оперирует не сущностями, а их субъективнымиотражениями — образами и понятиями. Такие абстракции недоступны мозгу какинформационному процессору. В мозгу хранятся не образы и факты из внешнегомира, а динамический опыт взаимодействия с органами тела. Аналогично, нервнаясистема отдельного органа запоминает опыт своего взаимодействия с миром и смозгом. Нейроны и мозг в целом хранятметоды преобразования информации сенсор-мозг-эффектор, а несведения о её источнике и приемнике. Нейрон «запоминает» эти методы ввиде своей внутренней биохимической структуры, от которой зависит, что будет навыходе при определенной динамике входных логических сигналов. Изменение этойструктуры приводит как к забыванию, так и к творчеству.
Поскольку образы «хранятся» в сознании, тоони, как и само сознание, являются динамическими объектами, то естьинформационными потоками, а не статическими «картинами». Механизмсознания функционально объединяет абстрактный мозг и конкретные органы чувств идействий в единое разумное существо, которое материальными средствамиподдерживает идеальный поток сознания.
Нормальные условия жизниспособствуют запоминанию.Вследствие этого полезное поведение закрепляется. Однако, если это обычныеусловия и обычное поведение, то не происходит накопления новой информации. Естьтолько «регенерация» старой и повторение освоенных до автоматизмадействий. Нарушение нормального биологического состояния организма ухудшаетзапоминание. Может быть поэтому, мы помним больше хорошего, чем плохого.
Мозг не живет в объектном мире, как, например, тело.Поэтому непосредственная информация об объектах ему недоступна. Её воспринимаютдатчики (глаза) и преобразуют в информационный поток, который обрабатываетсямозгом. На выходе находятся другие датчики (мышцы), способные преобразоватьпоток информации в объектный вид. Когда мы видим или слышим, говорим илитрогаем — мы действуем в объектном мире. Если этот мир изменится, то придетсядействовать иначе. Мозг способен переучиться для обработки новой информации.Поскольку такие изменения внешнего мира встречаются довольно часто, мозгоказался таким ценным органом, что его совершенствование стало важным условиемвыживания некоторых видов, например, человека.
Разум не способен понять всё. Но, не имея разума,который, по существу своему, субъективен и ограничен, вообще ничего понятьнельзя. Допустим, кто-то создал думающую машину. Он знает в подробностях, какона устроена. И она уже не кажется ему сознательной. Просто известные алгоритмывырабатывают нужные выходные реакции в ответ на входные сигналы. Также инейрохирург не видит никакой тайны в сознании, которое так легко поддаётся егоскальпелю.
В результате своих исследований разума я всё большеубеждаюсь, что человек хотя и царь природы, но он царствует среди равных емудумающих животных.
Список литературы
Для подготовки данной работы были использованыматериалы с сайта webcenter.ru/