Мои Конспекты
Главная | Обратная связь

...

Автомобили
Астрономия
Биология
География
Дом и сад
Другие языки
Другое
Информатика
История
Культура
Литература
Логика
Математика
Медицина
Металлургия
Механика
Образование
Охрана труда
Педагогика
Политика
Право
Психология
Религия
Риторика
Социология
Спорт
Строительство
Технология
Туризм
Физика
Философия
Финансы
Химия
Черчение
Экология
Экономика
Электроника

Теорема о возможностях СР-сетей. 5 страница





Помощь в ✍️ написании работы
Поможем с курсовой, контрольной, дипломной, рефератом, отчетом по практике, научно-исследовательской и любой другой работой

3.5. Обучение без учителя

Пусть головы моей рука твоя коснется

И ты сотрешь меня со списка бытия,

Но пред моим судом, покуда сердце бьется.

Мы силы равные, и торжествую я.

Еще ты каждый миг моей покорна воле,

Ты тень у ног моих, безличный призрак ты;

Покуда я дышу — ты мысль моя, не более

Игрушка шаткая тоскующей мечты.

А.А.Фет

В предыдущих разделах был рассмотрен процесс обучения системы с учителем. В то время, когда на вход системы окружающая среда оказывала воздействие значениями входных переменных х и у, учитель, предъявлял на выход значение z. При этом процесс обучения по каждому обучающему набору (x,y,z) состоял из двух этапов:

1) уничтожение нейронов, которое происходило, если возникающее напряжение превышало жизненную силу нейронов;

2) рождение нейронов, способных выполнить операцию d, исходя из требования минимизации целевой функции

min(z—d(x,y))2 .

D

В результате, учитывая, что d может принимать значения только из некоторого фиксированного множества значений, минимизация целевой функции по d осуществлялась путем простейшего перебора.

Теперь рассмотрим ситуацию, которая может возникнуть при отсутствии учителя у системы. Отсутствие учителя предполагает, что значение z не определено. Когда выходной результат не известен, система может предположить следующее:

1) правильный ответ — это отсутствие ответа, т.е. ответа не должно быть вообще;

2) правильный ответ выходит за возможности системы и поэтому его не должно быть;

3) ответ принадлежит к множеству выходных значений системы.

Получается, что при отсутствии учителя система должна минимизировать целевую функцию уже по двум параметрам (z и d):

Min (z — d(x,y))2 .

D,z

Безусловно, что, если возможное z принадлежит к множеству выходных значений системы, то минимизация только по z является более привлекательной, так как не требует от системы именно в данный момент никакой дополнительной внутренней перестройки. Правда, при этом неизвестно, как этот ответ из серии «сказал— не подумал» в дальнейшем отзовется на судьбе системы.

Исследуем процесс обучения без учителя для СР-сетей, исходяизследующих начальных волюнтаристических предположений:

1) система обучена на некоторой обучающей выборке, т.е. количестве элементов СР-сети больше ноля;

2) на вход поступают значения, с которыми в процессе обучения система не сталкивалась;

3) получаемый выходной результат выходитиз диапазона значений, в рамках которого работает система. Образно говоря, «сказать хочется, а слов нет».

Какие возможны в данной ситуации варианты поведения системы?

Вариант 1

1. Признать полученный результат неверным.

2. В качестве выходного результата определить действие «ничего не делать» или пустое (нулевое) значение, которое всегда принадлежит множеств выходных значений.

3. Осуществить процесс обучения (разрушение и генерацию нейронов) для поступивших входных значений и выходного значения, определенного в п. 2. Таким образом, система самостоятельно от неизвестной ей схем] «обучение без учителя» переходит к известной схеме «обучение с учителем».

Вариант 2

1. Признать полученный результат неверным.

2. В качестве выходного результата определить значение, наиболее близкое к полученному результату, но принадлежащее множеству допустимых для выходного результата значений.

3. Осуществить процесс обучения (разрушение и генерацию нейронов для поступивших входных значений и выходного значения, определенно в п.2.

Вариант 3

1. Признать полученный результат правильным. Невозможность его реализации объяснить несовершенством системы по генерации соответствующих выходных значений. Например, система неспособна мгновенно взлететь в небо или закопаться в землю. Но другого решения не искать, а попытаться реализовать полученное путем изменения собственных «физических» возможностей или путем разрушения ограничений на диапазон выходных значений.

Вариант 4

1. Признать полученный результат правильным. Невозможность его реализации объяснить несовершенством системы, ее неспособностью к генерации соответствующих выходных значений.

2. Выработать такой выходной результат, который, изменяя окружающую среду, позволял бы избежать в дальнейшем поступления на вход подобных входных значений.

3. Осуществить процесс обучения (разрушение и генерацию нейронов) для поступивших входных значений и выходного значения, определенного в п.2.

Что интересно, выбор того или иного варианта поведения системы во многом определяет черты ее характера, если, конечно, проводя аналогию с живым существом, можно это назвать чертами характера, например:

смирение— присущая системе ориентация в большей степени на первый вариант поведения; упрямство— ориентация на третий вариант и т.п. Таким образом информационная система начинает приобретать индивидуальность.


Глава 4. ЭВМ, СР-сети и эмоции как

критерии истинности (возникновение нового знания)

Как на грозный Терек выгнали казаки,

Выгнали казаки 40 тысяч лошадей.

И покрылся берег, и покрылось поле

Сотнями порубленных, пострелянных людей

Любо, братцы, любо...

Материал данной главы находится несколько в стороне от протоптанной ранее столбовой тропинки. По своей форме он больше напоминает антракт в театре, когда публику пытаются развлечь второстепенными актерами исключительно для того, чтобы вся толпа не ринулась в маленький буфет. В этом искусственном антракте попытаемся построить и продемонстрировать модель, в рамках которой можно было бы объяснить те особенности информационных систем, которые на первый взгляд ниоткуда не следуют. Действительно, зачем живым информационным системам типа человека нужны эмоции, радости и печали? То ли они (эмоции) представляют собой неотъемлемую атрибутику всего живого, то ли это свойства исключительно самообучающихся систем, и биологическая природа здесь вторична? Попробуем исследовать эту проблему в рамках обобщенной модели СР-сетей. Безусловно, любая модель в чем-то ущербна. При этом зачастую ущербность в деталях компенсируется повышением уровня абстракции, что позволяет исследователю перейти к философскому осознанию анализируемого явления. Здесь мы и займ­емся подобным философским осознанием.

В главе сделана попытка определить критерии истинности при выборе самообучающейся системой той или иной СР-сети. По сути это попытка ответить на вопросы типа: Чем руководствуется система при выборе своей собственной системы координат среди нескольких равновозможных ? Что происходит, когда сталкиваются несколько целевых функций? Насколько значима логика при информационном взаимодействии самообучающихся систем? И логикой ли меряют системы меру своей и чужой некомпетентности. Всеми этими вопросами и объясняется выбор эпиграфа.

Для начала отметим, что возникновение нового знания у живого индивидуума всегда сопровождается эмоциональным всплеском, чувством озарения, возникновением т. н. эмоциональной разрядки, как положительной, так и отрицательной, которая является результатом любого открытия, например нового закона (вспомните Архимеда) или результатом осознания, что все ценности системы не более чем «обман и ложь» придерживаясь строгих позиций, предполагающих, что подобное эмоциональное напряжение не может быть не связанным с какими-либо органическими изменениями в самом индивидууме, можно выдвинуть и попытаться обосновать гипотезу, согласно которой возникновение эмоциональной разрядки базируется на изменениях, вызванных, например, массовой гибелью нейронов.

В рамках предложенной выше модели самообучения, основанной на принципах самозарождения и гибели, конкретному знанию соответствует определенная структура СР-сети или, согласно предыдущей терминологии, фантом. Появление у системы нового знания всегда связано с корректировкой структуры СР-сети, образно говоря, с уничтожением одного фантома и рождением другого, или с появлением некой новой дополнительной структуры.

При этом, как было отмечено ранее, размеры и «жизнестойкость» зарождающихся нейроконструкций определяют значимость нового знания. Так незначительная корректировка, связанная с гибелью (рождением) относительно небольшого числа нейронов, практически не отражается на состоянии и поведении индивидуума. Но иначе обстоят дела в случае массовой гибели нейронов. А массовая гибель становится возможной, когда новые входные данные разрушают старые структуры, для поддержания которых требовалась серьезная энергетическая подпитка, и порождают новую, позволяющую решать весь комплекс тех же самых задач, но меньшим числом нейронов. Здесь речь идет чуть ли не о смене фундамента — это обновление, озарение, очищение, катарсис и т.п. Для системы подобное событие воспринимается как жертва. Новое знание становится возможным благодаря жертве.

П.Д.Успенский писал в своем единственном художественном произведении «Странная жизнь Ивана Осокина»:

«А для того, чтобы знать, необходимо выучиться, а для того, чтобы выучиться, необходимо жертвовать. Ничто не может быть приобретено без жертвы...

Человеку может быть дано только то, что он в состоянии использовать, а использовать он может только то, ради чего он чем-то жертвовал. В этом состоит закон человеческой природы. Так что, если человек хочет помощи, чтобы приобрести важные знания или новую власть, он должен пожертвовать другим, важным для него в данный момент. Более того, он может приобрести лишь столько, насколько он отказался от чего-то для этого... Вы не сможете иметь результатов без причин. Жертвуя, вы издаете причины. Существуют разные пути, но отличаются они только по форме, напряженности и итогам жертвы. В большинстве случаев надо отказаться от всего сразу и не ожидая ничего.»

Катарсис неизбежно должен иметь свою биологическую основу, энергетическую компоненту. Когда приходит понимание чего-то большего, той тайны, Ради проникновения в которую и было создано множество СР-сетей, структур,элементы которых постоянно требуют своего энергетического обеспечения тогда начинается их массовое уничтожение.Озарение истиной— это завершение выбора, влекущее за собой уничтожение всего того, что рядом, что похоже на цели системы, но все же не совсем то, что ей требуется. Буриданов осел вдруг принимает решение и теряет вторую охапку соломы, но обретает спасение от голодной смерти.

Понимание — это облегчение, как бы посланное свыше, но за ним стоят очень простые и доступные базовые образы: «Баба с возу — кобыле легче» или, более культурно: «Когда леди слезает с дилижанса, то пони идет быстрее».

Истина в данный момент — это абстракция чуть более высокого порядка, чем то, что понималось мгновение назад. Тривиальный факт.

Образно говоря, порой осознание, что все проблемы есть не более чем «жалкий частный случай теоремы Пифагора» — это и есть приближение к истине.

В современной литературе было много сказано о прогнозировании с использованием нетрадиционных подходов, в частности, с применением «человеческого биокомпьютера» (шаманов, прорицателей и т.п.). В этих подходах не только попытки, но и истинность результатов прогнозирования непосредственно связаны с эмоциональным состоянием исполнителя. Ю.В.Росциус в работе «Синдром Кассандры», анализируя дошедшие до нас материалы о Сократе, Р. Труэне и И.И.Бахтине, отмечает, что способность к прогнозированию связана со способностью среди множества протекающих мыслей выделять те. которые сопровождаются специфической эмоцией, такой эмоцией, которая очень похожа на ощущение удовлетворенности от хорошо сделанного дела. Правда, при этом остается без ответа вопрос, как подобная эмоция может быть сопоставлена с прогнозом, который, например, говорит об ожидаемом несчастье для самого носителя прогнозного механизма. Но, как бы то ни было, ситуация все же характеризуется тем, что именно эмоция выступает в качестве критерия истинности. Обратите внимание, критерием истинности названы не результаты логического мышления, а сопровождающие их эмоции.

Наверняка, в жизни каждого человека были ситуации, которые первоначально воспринимались с «положительной» эмоциональной окрашенностью, а затем, по прошествии некоторого времени, оценивались как непоправимая ошибка. В чем здесь причина и не свидетельствует ли это об ошибочно завышенной оценке эмоционального состояния системы для задач прогнозирования? На этот вопрос может быть дано следующее объяснение. За время, прошедшее между двумя эмоциональными оценками события, произошло существенное изменение всей структуры системы, например, значительная перестройка организма и самого прогнозного механизма. Понятно, что в этом случае новое эмоциональное состояние принадлежит уже как бы другой информационной системе, другому человеку, и соответственно имеет Другую измерительную шкалу. Например, в теории К.Кастанеды подобная перестройка (или изменение уровня восприятия) называлась изменением «точки сборки».

После всего сказанного остается поискать место понятию «энергия» в рамках модели СР-сетей. Нейроны гибнут и нейроны рождаются, но они должны же еще и питаться.

Модель самообучения на базе СР-сетей позволяет сделать количественную оценку «эмоциональной разрядки» системы при получении нового знания, что может быть использовано не только для того, чтобы заставить компьютер улыбаться и плакать, но и для того, чтобы оценить правдоподобность нового знания.

Предположим, что поддержание жизнедеятельности одного нейрона требует постоянной энергетической подпитки в размере v условных единиц. Тогда для поддержания сети из n нейронов потребуется постоянная энергия (в условных ед.)

Еn =nv .

Определим, что для самообучающейся информационной системы изменение потребности в энергии отражает ее эмоциональное восприятие мира. При увеличении Еn (рождение нейронов) система «чувствует усталость», а при уменьшении (гибель нейронов) испытывает «эмоциональный всплеск». Все сказанное сказано только для случая, когда фактическая энергия постоянна, т.е. Eф=const.

Таким образом, функция, являющаяся производной по времени от потребности системы в энергии, может быть в данной трактовке использована для моделирования эмоционального поведения компьютерной программы в процессе ее обучения. В более общем случае эмоциональную проекцию (эмоциональное состояние) системы будем определять по формуле

Э= d(Еф - Eп)/dt.

Подобный путь очеловечивания компьютерных программ может быть и наивен, но как модель эмоционального поведения, как модельочищения знанием вполне, с моей точки зрения, имеет право на существование. Представьте себе отображаемое в углу экрана «лицо программы», например в виде человеческого, которое с каждой новой порцией обучающей выборки выглядит все суровее и суровее, и, наконец, радостная улыбка, сменяемая «чувством глубокого удовлетворения», возвещает пользователю о том, что решение найдено.

Например, в третьей главе данной части работы СР-сеть занималась распознаванием функциональной зависимости вида

z =xо x1 + 3x1.

Изменения структуры СР-сети в зависимости от входных данных были иллюстрированы рис. 7.1. Рассмотрим на примере этих схем изменения «эмоционального состояния» данной системы и его влияние на точность предсказания. Из представленной ниже таблицы видно, как первоначально осуществляется накопление в системе «усталости» — количество элементов растет, а точность предсказания далека от совершенства. Наконец, на обучающей порции рис. 1.7.5 происходит катастрофа — параметр «эмоциональное состояние» меняет свой знак с положительного на отрицательный и далее остается равным нулю на любой обучающей выборке, порожденной функциональной зависимостью

z =xо x1 + 3x1.

СР-сеть К-во элементов "Эмоциональное состояние" Ошибка предсказания
рис. 1.7.1. +3 x0-2x1
рис. 1.7.2. +1 x1x1-x0x1-3x1
рис. 1.7.3. +1 x0-4x1
рис. 1.7.4. б +1 x0-x0x1
рис.1.7.5. -2
рис. 1.7.*

В случае приведенной таблицы получилось, что найденная истина стала причиной эмоциональной разрядки, своего рода катастрофой, приведшей к рез­кому сокращению текущего (по предыдущему этапу) количества элементов системы.

Последующее длительное равенство нулю «эмоционального состояния» говорит о правильности найденного решения. И чем дольше системе удается удерживать этот ноль, тем более правильным было решение, тем более структура системы гармонирует с окружающим миром. Получается, что требование познания мира является результатом стремления к покою, к гармонии.

Если в свете сказанного попытаться посмотреть на взаимопонимание людей, то сразу находится объяснение, почему, имея логическую убежденность в истинности какого-либо факта или теории, люди изменяют этой убежденности под воздействием эмоционально заряженного оратора, эмоциональной телепередачи или газетной публикации. Все дело в том, что, как было показано выше,эмоции для самообучающейся информационной системы — это критерии истинности. Информационная самообучающаяся система при при­нятии знания в первую очередь ориентируется на сопровождающее это знание эмоции.

В предыдущих разделах, говоря о такой самообучающейся системе, как человек, мы акцентировали внимание читателей на том факте, что в процессе жизни человека нейроны только гибнут; процесс обучения на принципе самоза­рождения идет лишь при формировании зародыша. В свете сказанного возникает вопрос: Каким образом приведенное здесь определение «эмоционального состояния» может быть применимо к системам типа человек? Безусловно, одно­значное перенесение полученных результатов в данном случае невозможно в силу того, что все определения давались применительно к СР-сетям, в которых процессы рождения и гибели чередуются (например, Человечество).

Что же касается формальной модели отдельно взятого человека, то тут требуется небольшая корректировка, объясняемая следующими соображениями и предположениями:

1) количество нейронов в течение жизни постоянно сокращается;

2) сокращение нейронов осуществляется неравномерно, т.е. процесс носит скачкообразный характер;

3) общая фактическая энергия организма с возрастом уменьшается, в том числе энергия, питающая нейроны;

4) замедление процесса гибели нейронов отражается на общем со­стоянии организма, приводя его к «утомлению». Это происходит в силу того, что фактическая энергия постоянно уменьшается и ее уже начинает не хватать для удовлетворения вчерашних потребностей;

5) ускорение процесса гибели приводит организм в состояние катарси­са, эмоциональной разрядки, так как наличная (фактическая) энергия начина­ет удовлетворять все его потребности.

Опираясь на изложенную выше гипотезу, попробуем ответить на вопрос:

«Что будет с человеком в случае массовой гибели почти всех нейронов, как, например, в случае смерти?

Умирание неизбежно связано с массовой гибелью нейронов головного мозга. А согласно изложенному выше. подобная гибель оценивается информационной системой как получение максимального знания, как высший катарсис, высшее очищение и приближение к самой великой истине для данного конкретного человека.

Парадокс? В чем-то— да. Но что делать? Если за знание человек расплачивается элементами памяти, то чем больше он платит, тем больше получает. Отдав всю память без остатка, он получит все возможное знание.

Массовая гибель нейронов создает ощущение полного понимания всех смыслов, это и «яркий белый свет», и встреча с Богом, и абсолютная истина в ее последней инстанции. И действительно в последней инстанции, потому что больше уже ничего не будет. Как это ни грустно, но все факты Р.А.Моуди («Жизнь после жизни») подтверждают не наличие жизни после смерти, а всего лишь наличие единого алгоритма умирания, и, к сожалению, могут быть объяс­нены с помощи изложенной выше схемы возникновения эмоций на модели са­моразрушающихся сетей.

Как правило, наиболее простое объяснение, основанное на принципах «здравого смысла» без привлечения мистического элемента, всегда оказывается ближе к «суровой» правде.

В заключение попытаемся ответить на вопрос, вынесенный в название, — нужны ли эмоции ЭВМ? Какая система должны обладать эмоциями?

Ответ напрашивается сам собой. Эмоции, являясь критерием истинности в процессе познания (речь идет о модели СР-сетей), могут быть присущи только самообучающейся информационной системе; любым другим системам они не нужны. Но самой самообучающейся системеэмоции, как способ внешнего проявления усвоенного знания, необходимы только тогда, когда можно учиться на чужом примере, на примере подобных же систем.

Подведем итог, перечислив необходимые условия наличия (возникновения) эмоций у системы:

1) способность к самообучению;

2) способность к взаимодействию с себе подобными;

3) способность к обучению на чужих примерах.

Под эти условия попадают люди.

Компьютеры, объединившись в сети и контактируя друг с другом, также близки к этому. Им остается последний шаг — включение элементов самообу­чения на уровень операционных систем, на уровень библиотечных функций языков программирования, на уровень технологии программирования.


Глава 5. Возможности самозарождающихся и разрушающихся структур

Ведь некоторые не знают, что нам суждено здесь погибнуть. У тех же, кто знает это, сразу прекращаются ссоры.

Г.Л.Олди

Теперь настало время привести наиболее важные результаты для моделей на базе СР-сетей.

Теорема о возможностях СР-сетей.

Проблема обучения информационной самообучающейся системы. построенной на принципах СР-сети. решению любой задачи, даже при условии. что информационная емкость СР-сети (исходное количество элементов) достаточна для хранения поступающей на вход информации, является алгоритмически неразрешимой.

Для доказательства воспользуемся результатами М.И.Дехтяря и А.Я. Диковского [24], которые для дедуктивных баз данных (ДБД) ввели понятие перспективное состояние. Перспективное состояние - это состояние, для которого существует конечная ограниченная траектория, позволяющая достигнуть допустимого состояния. (Дедуктивная база данных — логическая программа, дополненная некоторым набором условий (ограничений целостности), которым должны удовлетворять динамически изменяющееся состояния базы данных). Среди всех продукционных ДБД есть ДБД, правила которых содержат как операции удаления элементов (фактов), так и операции создания (включения). Подобные ДБД по своим функциональным возможностям аналогичны СР-сетям.

В силу того, что в такихпродукционных ДБД проблема перспективности неразрешима, можно заключить, что нахождение алгоритма, позволяющего обучить СР-сеть любой задаче (обучение — это как раз и есть поиск траектории, переводящей систему из одного состояния в Другое) также является алгоритмически неразрешимой проблемой.

Ф.И. Тютчев в 1869 году сформулировал данную теорему более изящно:

«Нам не дано предугадать,

Как наше слово отзовется. —

И нам сочувствие дается,

Как нам дается благодать...»

Доверь свою работу ✍️ кандидату наук!
Поможем с курсовой, контрольной, дипломной, рефератом, отчетом по практике, научно-исследовательской и любой другой работой



Поиск по сайту:







©2015-2020 mykonspekts.ru Все права принадлежат авторам размещенных материалов.