ФЕДЕРАЛЬНОЕАГЕНСТВО ПО ОБРАЗОВАНИЮ.
Федеральноегосударственное образовательное учреждение
Высшегопрофессионального образования
«Чувашскийгосударственный университет имени И.Н.Ульянова»
Факультетэкономический.
Кафедраинформационных систем
КУРСОВАЯРАБОТА.
По дисциплине:Интеллектуальные информационные системы
На тему: «Технология разработки экспертной системы. Выбор подходящей проблемы дляразработки экспертной системы »
Выполнила: студентка гр. ЭК
Проверила: Бутунина Я. И.
Чебоксары2008
Содержание
Введение
Глава 1. Введение в сущность экспертных систем
1.1. История развития экспертных систем
1.2. Определение экспертных систем. Главноедостоинство и назначение
экспертных систем
Глава 2. Технология разработкиэкспертных систем
2.1. Этапа разработкиэкспертных систем
2.2. Технологии быстрогопрототипирования
Глава 3. Анализ теории экспертныхсистем и выводы
3.1.Выбор подходящей проблемы дляразработки экспертной системы
3.2. Преимущества экспертных системперед человеком-экспертом.
Список использованной литературы
Введение
Технология экспертныхсистем является одним из направлений новой области исследования, котораяполучила наименование искусственного интеллекта. Исследования в этой областисконцентрированы на разработке и внедрении компьютерных программ, способныхимитировать, воспроизводить те области деятельности человека, которые требуютмышления, определенного мастерства и накопленного опыта. К ним относятся задачипринятия решений, распознавания образов и понимания человеческого языка. Этатехнология уже успешно применяется в некоторых областях техники и жизни общества— органической химии, поиске полезных ископаемых, медицинской диагностике. Вот в этом заключается актуальность. А точнее актуальность темы моей работызаключается в том что, именно интеллектуальные информационные технологии иэкспертные системы являются последними прогрессами науки в области информатикии информационного общества. Именно над этим направлением трудятся многие ученыеинформатики, именная эта тема у всех на слуху, над ней трудятся ее развивают. Степеньразработанности темы довольна весомая. Работ по теме и изданий много, я быхотела выделить последние на мой взгляд хорошие и качественные. Разработку темыподдерживал Вильямс В. Г. Джердан Р.Ш., Донценко Н. А. Рубаков Ш.А.
Цель — написание курсовой работы по даннойдисциплине с последующем его усвоении. Для достижения поставленной целипоставлены следующие вопросы:
— с какой стороны подойтик изучению темы;
— на практическую илитеоретическую часть делать акцент;
— качественный подборлитературы по данной теме.
И решены следующие задачи:
— изучение и анализ основинтеллектуальных систем;
— изучение и выявлениесущности экспертных систем;
— разбор технологиипроектирования экспертных систем;
— изучить,проанализировать, и высказать свою точку зрения по вопросу;
— разработка предложений.
Объект исследования — интеллектуальные и экспертныесистемы. Предмет исследования — разработка экспертной системы. Основойдля написания работы стала книга Д. Джарратано, Г. Райли. Экспертныесистемы. Принципы разработки и программирование. Изд. Вильямс, 2006., именно вней подробно и понятно рассмотрены все основные аспекты интеллектуальных системс учетом последних прогрессов и продвижений в области информатики ипрограммирования.
В результатепроделанной работыбыли выявлены, и изучены и проанализированы :
-технология разработкиэкспертных систем;
-прототиппрограммирования;
— сущность и определениеинтеллектуальных систем.
А также высказана свояточка зрения с предложениями по данной теме.
Глава 1.Введение в сущность экспертных систем.
1.1. История развитияэкспертных систем.
Наиболее известные ЭС,разработанные в 60-70-х годах, стали в своих областях уже классическими. Попроисхождению, предметным областям и по преемственности применяемых идей,методов и инструментальных программных средств их можно разделить на несколькосемейств.
1. META-DENDRAL.Система DENDRAL позволяет определить наиболее вероятную структурухимического соединения по экспериментальным данным (маспектрографии, даннымядерном магнитного резонанса и др.).M-D автоматизирует процесс приобретениязнаний для DENDRAL. Она генерирует правила построенияфрагментов химических структур.
2. MYCIN-EMYCIN-TEIREIAS-PUFF-NEOMYCIN. Это семейство медицинских ЭС исервисных программных средств для их построения.
3. PROSPECTOR-KAS. PROSPECTOR- предназначена для поиска (предсказания) месторождений на основегеологических анализов. KAS-система приобретения знаний для PROSPECTOR.
4. CASNET-EXPERT. Система CASNET- медицинская ЭС для диагностики выдачи рекомендаций по лечению глазныхзаболеваний. На ее основе разработан язык инженерии знаний EXPERT, с помощью которой создан ряд другихмедицинских диагностических систем.
5. HEARSAY-HEARSAY-2-HEARSAY-3-AGE. Первые две системы этого рядаявляются развитием интеллектуальной системы распознавания слитной человеческойречи, слова которой берутся из заданного словаря. Эти системы отличаютсяоригинальной структурой, основанной на использовании доски объявлений — глобальной базы данных, содержащей текущие результаты работы системы. Вдальнейшем на основе этих систем были созданы инструментальные системыHEARSAY-3 и AGE (Attempt to Generalize- попытка общения) для построения ЭС.
6.Системы AM (Artifical Mathematician- искусственный математик) и EURISCOбылиразработаны в Станфордском университете доктором Д. Ленатом дляисследовательских и учебных целей. Ленат считает, что эффективность любой ЭСопределяется закладываемыми в нее знаниями. По его мнению, чтобы система быласпособна к обучению, в нее должно быть введено около миллиона сведений общегохарактера. Это примерно соответствует объему информации, каким располагает четырехлетнийребенок со средними способностями. Ленат также считает, что путь созданияузкоспециализированных ЭС с уменьшенным объемом знаний ведет к тупику.
В систему AMпервоначально было заложено около 100 правил вывода и более 200 эвристическихалгоритмов обучения, позволяющих строить произвольные математические теории ипредставления. Сначала результаты работы системы были весьма многообещающими.Она могла сформулировать понятия натурального ряда и простых чисел. Кроме того,она синтезировала вариант гипотезы Гольдбаха о том, что каждое четное число,большее двух, можно представить в виде суммы двух простых чисел. До сих пор неудалось ни найти доказательства данной гипотезы, ни опровергнуть ее. Дальнейшееразвитие системы замедлилось и было отмечено, что, несмотря на проявленные, напервых порах “математические способности”, система не может синтезировать новыхэвристических правил, т.е. ее возможности определяются только теми эвристиками,что были в нее изначально заложены.
При разработке системыEURISCO была предпринята попытка преодолеть указанные недостатки системы AM.Как и в начале эксплуатации AM, первые результаты, полученные с помощьюEURISCO, были эффективными. Сообщалось, что система EURISCO может успешноучаствовать в очень сложных играх. С ее помощью в военно-стратегической игре,проводимой ВМФ США, была разработана стратегия, содержащая ряд оригинальныхтактических ходов. Согласно одному из них, например, предлагалось взрывать своикорабли, получившие повреждения. При этом корабли, оставшиеся неповрежденными,получает необходимое пространство для выполнения маневра.
Однако через некотороевремя обнаружилось, что система не всегда корректно переопределяетпервоначально заложенные в нее правила. Так, например, она стала нарушатьстрогое предписание обращаться к программистам с вопросами только вопределенное время суток. Т.о., система EURISCO, так же как и еепредшественница, остановилась в своем развитии, достигнув предела, определенного,в конечном счете, ее разработчиком.
С 1990 года доктор Ленатво главе исследовательской группы занят кодированием и вводом нескольких соттысяч элементов знаний, необходимых, по его мнению, для создания “интеллектуальной”системы. Этот проект назван Cyc (“Цик”, от английского слова enciklopaedia).
Далее рассмотрим проблемы,возникающие при создании ЭС и. перспективы разработки.
С 70-х годов ЭС сталиведущим направлением в области искусственного интеллекта. При их разработкенашли применение методы ИИ, разработанные ранее: методы представления знаний,логического вывода, эвристического поиска, распознавания предложений наестественном языке и др. Можно утверждать, что именно ЭС позволили получитьочень большой коммерческий эффект от применения таких мощных методов. В этом — их особая роль.
Каталог ЭС иинструментальных программных средств для их разработки, опубликованный в США в1987 году, содержит более 1000 систем (сейчас их уже значительно больше). Вразвитых зарубежных странах сотни фирм занимаются их разработкой и внедрением.Имеются и отечественные разработки ЭС, в том числе — нашедший промышленное применение.
Однако уже на начальныхэтапах выявились серьезные принципиальные трудности, препятствующие болееширокому распространению ЭС и серьезно замедляющие и осложняющие их разработку.Они вполне естественных и вытекают из самих принципов разработки ЭС.
Первая трудностьвозникает в связи с постановкой задач. Большинство заказчиков, планируяразработку ЭС, вследствие недостаточной компетентности в вопросах примененияметодов ИИ, склонна значительно преувеличивать ожидаемые возможности системы.Заказчик желает увидеть в ней самостоятельно мыслящего эксперта в исследуемойобласти, способного решать широкий круг задач. Отсюда и типичные первоначальныепостановки задачи по созданию ЭС: “Разработать ЭС по обработке изображения”;“Создать медицинские ЭС по лечению заболеваний опорно-двигательного аппарата удетей”. Однако, как уже отмечалось, мощность эвристических методов решениязадач при увеличении общности их постановки резко уменьшается. Поэтому наиболеецелесообразно (особенно при попытке создания ЭС в области, для которой уразработчиков еще нет опыта создания подобных систем) ограничиться для началане слишком сложной обозримой задачей в рассматриваемой области, для решениякоторой нет простого алгоритмического способа (то есть неочевидно, как написатьпрограмму для решения этой задачи, не используя методы обработки знаний). Крометого, важно, чтобы уже существовала сложившаяся методика решения этой задачи“вручную” или какими-либо расчетными методами. Для успешной разработки ЭС необходимыне только четкая и конкретная постановка задач, но и разработка подробного(хотя бы словесного) описания “ручного” (или расчетного) метода ее решения.Если это сделать затруднительно, дальнейшая работа по построению ЭС теряетсмысл.
Вторая и основнаятрудность — проблема приобретения (усвоения) знаний. Эта проблема возникает при“передаче” знаний, которыми обладают эксперты-люди, ЭС. Разумеется, для того,чтобы “обучить” им компьютерную систему, прежде всего, требуетсясформулировать, систематизировать и формализовать эти знания “на бумаге”. Этоможет показаться парадоксальным, но большинство экспертов (за исключением,может быть, математиков), успешно используя в повседневной деятельности своиобширные знания, испытывают большие затруднения при попытке сформулировать ипредставить в системном виде хотя бы основную часть этих знаний: иерархиюиспользуемых понятий, эвристики, алгоритмы, связи между ними. Оказывается, чтодля подобной формализации знаний необходим определенный систематический стильмышления, более близкий математикам и программистам, чем, например, юристам имедикам. Кроме того, необходимы, с одной стороны, знания в областиматематической логики и методов представления знаний, с другой — знаниявозможности ЭВМ, из программного обеспечения, в частности, языков и системпрограммирования.
Таким образом,выясняется, что для разработки ЭС необходимо участие в ней особого родаспециалистов, обладающих указанной совокупностью знаний и выполняющих функции“посредников” между экспертами в предметной области и компьютерными(экспертными) системами. Они получили название инженеры знаний (в оригинале — knowledge engineers), а сам процесс разработки ЭС идругих интеллектуальных программ, основанных на представлении и обработкезнаний — инженерией знаний (knowledge engineering). Вразвитых зарубежных странах специальность “инженер знаний” введена во многихвузах, в нашей стране основы инженерии знаний изучаются пока в рамкахспециализаций по системному программированию. Функции эксперта и инженеразнаний редко совмещаются в одном лице. Чаще функции инженера знаний выполняетразработчик ЭС. Как показал опыт многих разработок, для первоначальногоприобретения знаний, в которых участвуют эксперты, инженеры знаний иразработчики ЭС, требуется активная работа всех трех категорий специалистов.Она может длиться от нескольких недель до нескольких месяцев.
На этапе приобретениязнаний могут возникнуть трудности и психологического порядка: эксперт можетпрепятствовать передаче своих знаний ЭС, полагая, что это снизит его престижкак специалиста и создаст предпосылки для замены его “машиной”. Однако этиопасения лишены оснований: ЭС “уверенно” работает лишь в типовых ситуациях, атакже удобна в случаях, когда человек находится в состоянии стресса, в наиболеесложных ситуациях, требующих нестандартных рассуждений и оценок, эксперт-человек незаменим.
Третья серьезная трудность- в очень большой трудоемкости создания ЭС: требуется разработать средствауправления базой знаний, логического вывода, диалогового взаимодействия спользователем и т.д. Объем программирования столь велик, а программы стольсложны и нетрадиционны, что имеет смысл, как это принято сейчас при разработкебольших программ, на первом этапе создать демонстрационный прототип системы — предварительный вариант, в котором в упрощенном виде реализованы лишь ееосновные планируемые возможности и которая будет служить для заказчикаподтверждниением того, что разработка ЭС для решения данной задачипринципиально возможна, а для разработчиков — основой для последующегоулучшения и развития системы.
Одной из причин неудач всоздании ЭС стала недооценка авторами ЭС объемов и роли неявных знаний.Системы, базы знаний которых создавались на основе справочников, в лучшемслучае так справочниками и остались. Большинство же таких систем оказывалисьдаже хуже справочников, так как сковывали исследовательскую мысль пользователя.Вторым “узким местом” ЭС оказалась модель, на которой были основаны их первыеэкземпляры, и лишь модель знаний, принимающая вид пороговой направленнойиерархической сети с возможностью выбора в конечном из логических узлов (где каждаяотдельная ситуация похожа на дерево с листьями), может стать базой для построенияЭС.
Когда стала очевиднойполная непригодность этих систем и созданного для них специализированногоаппаратного оборудования, многие обозреватели пришли к выводу, что существующаятехнология создания ЭС была тупиковым направлением в развитии информационныхтехнологий. В последнее десятилетие ЭС возродились в виде систем с базойзнаний, которые тесно переплетались с существующими деловыми системами. Ихиспользуют в здравоохранении, страховании, банковском деле и других областях,чтобы с помощью правил и объектов накапливать опыт, повысить качество принимаемыхрешений. Базы знаний встроены сегодня в наиболее современные крупные системы.Они находятся в самой сердцевине программ- агентов, осуществляющих поиск в сетиInternet, и помогают коллективам пользователейсправиться с потоками информации.
Рассмотрим факторы,стимулировавшие развитие систем с базами знаний:
— компании, добившиесязначительной экономии денежных средств благодаря технологии баз знаний,развивают и выстраивают ее в специальные бизнес — процессы, которые были быпросто невозможны без компьютерной экспертизы;
— разработаны новыетехнологии создания баз знаний, является необходимым средством, которое можетизменить бизнес — процесс;
— современные системыреализованы не на специализированном, а на стандартном оборудовании.
Объединение всех видовпрограммных продуктов и их отдельных компонентов в единую ЭС признаноэкономически выгодным, так как применение ЭС позволяет существенно сократитьрасходы на подготовку квалифицированного персонала, дальнейшую проверкуработоспособности и надежности, разрабатываемых и исследовательских систем, атакже уменьшить время проектирования и (или) исследования.
Объектная технология, наоснове которой могут создаваться и развиваться современные ЭС,- значительныйшаг вперед по сравнению с CASE-средствами, т.к. она похожа на наше восприятие окружающей действительности.Наше представление о моделировании меняется, то же самое происходит и собъектами, поэтому сопровождение программируемых объектов может, выполнятсяаналогично приспособлению наших умозрительных образов к изменению окружающихусловий. Данная технология прекрасно подходит аналитикам и программистам т.к.очень напоминает стратегию решения проблем и соответствует мыслительнымпроцессам людей, считающихся экспертами в своей области.
Чтобы стать экспертом,специалисту нужен инструментарий, имитирующий мышление эксперта. Разработкапарадигмы превращается из задачи, чуждой мышлению человека, в знакомое,привычное и легко выполняемое задание.
Как работают эксперты?Следуя принципам, заложенным в объектно-ориентированные технологии, ониподразумевают проблемы на объекты или классы объектов. По мере накоплениязнаний в определенной области они делают обобщения, ориентируясь на выделенныеобъекты или классы объектов. Некоторые обобщения имеют иерархическую структуру,где свойства высших объектов наследуются объектами низшего уровня. Сущностьможет соответствовать нескольким классам объектов и взаимодействовать сразличными объектами или классами. По мере того как знания экспертауглубляются, на их основе формируются новые ассоциации, а отдельные уровнииерархии пропадают или расширяются.
Методика объектно-ориентированногопрограммирования основана на модели, напоминающей образы, возникающие в мозгуаналитика, которая представляет предметы и процессы в виде объектов и связеймежду ними. Наблюдая событие, эксперт легко выделяет знакомые образы. Длярешения проблем он испытывает конкретные правила, рассматривая при этом исследуемуюпроблему под определенным ракурсом.
При разработке системавтоматизированного проектирования (САПР) уже нельзя обойтись без ЭС; ихиспользование признано экономически выгодным.
С середины 80-х годовнаиболее популярные системы с базами знаний создавались с ориентацией настандартное оборудование. В этом ключ к пониманию причин успеха современнойтехнологии баз знаний. Опыт показывает, что системы с базами знаний необходимовстраивать в самые важные бизнес-с — процессы и организовывать работу персоналатак, чтобы он мог максимально использовать их преимущества для достижениянаилучших результатов.
1.2. Определениеэкспертных систем. Главное достоинство и назначение.
Экспертные системы (ЭС)-это яркое и быстро прогрессирующее направление в области искусственного интеллекта (ИИ). Причиной повышенного интереса, который ЭС вызывают к себе напротяжении всего своего существования является возможность их применения к решениюзадач из самых различных областей человеческой деятельности. Пожалуй, ненайдется такой проблемной области, в которой не было бы создано ни одной ЭС или,по крайней мере, такие попытки не предпринимались бы.
ЭС — это набор программили программное обеспечение, которое выполняет функции эксперта при решениикакой-либо задачи в области его компетенции. ЭС, как и эксперт-человек, впроцессе своей работы оперирует со знаниями. Знания о предметной области,необходимые для работы ЭС, определенным образом формализованы и представлены впамяти ЭВМ в виде базы знаний, которая может изменяться и дополняться впроцессе развития системы.
ЭС выдают советы,проводят анализ, выполняют классификацию, дают консультации и ставят диагноз.Они ориентированы на решение задач, обычно требующих проведения экспертизычеловеком-специалистом. В отличие от машинных программ, использующий процедурныйанализ, ЭС решают задачи в узкой предметной области (конкретной области экспертизы)на основе дедуктивных рассуждений. Такие системы часто оказываются способныминайти решение задач, которые неструктурированны и плохо определены. Онисправляются с отсутствием структурированности путем привлечения эвристик, т. е.правил, взятых “с потолка”, что может быть полезным в тех системах, когданедостаток необходимых знаний или времени исключает возможность проведенияполного анализа.
Главное достоинство ЭС — возможность накапливать знания, сохранять их длительное время, обновлять и темсамым обеспечивать относительную независимость конкретной организации отналичия в ней квалифицированных специалистов. Накопление знаний позволяетповышать квалификацию специалистов, работающих на предприятии, используя наилучшие,проверенные решения.
Практическое применениеискусственного интеллекта на машиностроительных предприятиях и в экономикеосновано на ЭС, позволяющих повысить качество и сохранить время принятиярешений, а также способствующих росту эффективности работы и повышениюквалификации специалистов.
/>Типичная статическая ЭС состоит из следующих основных компонентов(рис. 1.):
— решателя(интерпретатора);
— рабочей памяти (РП),называемой также базой данных (БД);
— базы знаний (БЗ);
— компонентовприобретения знаний;
— объяснительногокомпонента;
— диалогового компонента.
База данных(рабочая память) предназначена для хранения исходных и промежуточных данныхрешаемой в текущий момент задачи. Этот термин совпадает по названию, но не посмыслу с термином, используемым в информационно-поисковых системах (ИПС) исистемах управления базами данных (СУБД) для обозначения всех данных (в первуюочередь долгосрочных), хранимых в системе.
База знаний (БЗ) в ЭС предназначенадля хранения долгосрочных данных, описывающих рассматриваемую область (а нетекущих данных), и правил, описывающих целесообразные преобразования данныхэтой области.
Решатель, используя исходныеданные из рабочей памяти и знания из БЗ, формирует такую последовательностьправил, которые, будучи примененными, к исходным данным, приводят к решениюзадачи.
Компонент приобретения знанийавтоматизирует процесс наполнения ЭС знаниями, осуществляемыйпользователем-экспертом.
Объяснительныйкомпонентобъясняет, как система получила решение задачи (или почему она не получиларешение) и какие знания она при этом использовала, что облегчает экспертутестирование системы и повышает доверие пользователя к полученному результату.
/>
Диалоговыйкомпоненториентирован на организацию дружественного общения с пользователем, как в ходерешения задач, так и в процессе приобретения знаний и объяснения результатовработы. В разработке ЭС участвуют представители следующих специальностей:
— эксперт в проблемнойобласти, задачи которой будет решать ЭС;
— инженер по знаниям — специалист по разработке ЭС (используемые им технологию, методы называюттехнологией (методами) инженерии знаний);
— программист поразработке инструментальных средств (ИС), предназначенных для ускоренияразработки ЭС.
Необходимоотметить, что отсутствие среди участников разработки инженеров по знаниям (т.е. их замена программистами) либо приводит к неудаче процесс создания ЭС, либозначительно удлиняет его.
Эксперт определяет знания(данные и правила), характеризующие проблемную область, обеспечивает полноту иправильность введенных в ЭС знаний.
Инженер познаниямпомогает эксперту выявить и структурировать знания, необходимые для работы ЭС;осуществляет выбор того ИС, которое наиболее подходит для данной проблемнойобласти, и определяет способ представления знаний в этом ИС; выделяет ипрограммирует (традиционными средствами) стандартные функции (типичные дляданной проблемной области), которые будут использоваться в правилах, вводимыхэкспертом.
Программист разрабатывает ИС (еслиИС разрабатывается заново), содержащее в пределе все основные компоненты ЭС, иосуществляет его сопряжение с той средой, в которой оно будет использовано. Экспертнаясистема работает в двух режимах: режиме приобретения знаний и в режиме решениязадачи (называемом также режимом консультации или режимом использования ЭС).
В режимеприобретения знаний общение с ЭС осуществляет (через посредничество инженера познаниям) эксперт. В этом режиме эксперт, используя компонент приобретениязнаний, наполняет систему знаниями, которые позволяют ЭС в режиме решениясамостоятельно (без эксперта) решать задачи из проблемной области. Экспертописывает проблемную область в виде совокупности данных и правил. Данныеопределяют объекты, их характеристики и значения, существующие в областиэкспертизы. Правила определяют способы манипулирования с данными, характерныедля рассматриваемой области. Отметим, что режиму приобретения знаний втрадиционном подходе к разработке программ соответствуют этапы алгоритмизации,программирования и отладки, выполняемые программистом. Таким образом, в отличиеот традиционного подхода в случае ЭС разработку программ осуществляет непрограммист, а эксперт (с помощью ЭС), не владеющий программированием.
В режимеконсультацииобщение с ЭС осуществляет конечный пользователь, которого интересует результати (или) способ его получения. Необходимо отметить, что в зависимости отназначения ЭС пользователь может не быть специалистом в данной проблемнойобласти (в этом случае он обращается к ЭС за результатом, не умея получить егосам), или быть специалистом (в этом случае пользователь может сам получитьрезультат, но он обращается к ЭС с целью либо ускорить процесс получениярезультата, либо возложить на ЭС рутинную работу). В режиме консультации данныео задаче пользователя после обработки их диалоговым компонентом поступают врабочую память. Решатель на основе входных данных из рабочей памяти, общихданных о проблемной области и правил из БЗ формирует решение задачи. ЭС прирешении задачи не только исполняет предписанную последовательность операции, нои предварительно формирует ее.
Глава 2.Технология разработки экспертных систем.
2.1. Этапаразработки экспертных систем.
Процесс разработкипромышленной экспертной системы, опираясь на традиционные технологии, можноразделить на шесть более или менее независимых этапов (рис 2.1.), практическине зависимых от предметной области.
Последовательность этаповдана для общего представления о создании идеального проекта. Конечно,последовательность эта не вполне фиксированная. В действительности каждыйпоследующий этап разработки ЭС приносит новые идеи, которые могут повлиять напредыдущие решения и даже привести к их переработке. Именно поэтому многиеспециалисты по информатике весьма критично относятся к методологии экспертныхсистем. Они считают, что расходы на разработку таких систем очень большие,время разработки слишком длительное, а полученные в результате программыложатся тяжелым бременем на вычислительные ресурсы.
В целом за разработкуэкспертных систем целесообразно браться организации, где накоплен опыт поавтоматизации рутинных процедур обработки информации, например:
— информационный поиск;
— сложные расчеты;
— графика;
— обработка текстов.
Решение таких задач,во-первых, подготавливает высококвалифицированных специалистов по информатике,необходимых для создания интеллектуальных систем, во-вторых, позволяет отделитьот экспертных систем неэкспертные задачи.
Этап 1. Выбор подходящей проблемы.Этот этап включает деятельность, предшествующую решению начать разрабатыватьконкретную ЭС. Он включает:
— определение проблемнойобласти и задачи;
— нахождение эксперта,желающего сотрудничать при решении проблемы, и назначение коллективаразработчиков;
— определениепредварительного подхода к решению проблемы;
— анализ расходов иприбыли от разработки;
— подготовку подробногоплана разработки.
/>
Рис. 2.1… Этапы разработки ЭС
Правильный выбор проблемыпредставляет, наверное, самую критическую часть разработки в целом. Есливыбрать неподходящую проблему, можно очень быстро увязнуть в «болоте»проектирования задач, которые никто не знает, как решать. Неподходящая проблемаможет также привести к созданию экспертной системы, которая стоит намногобольше, чем экономит. Дело будет обстоять еще хуже, если разработать систему,которая работает, но не приемлема для пользователей. Даже если разработкавыполняется самой организацией для собственных целей, эта фаза являетсяподходящим моментом для получения рекомендаций извне, чтобы гарантироватьудачно выбранный и осуществимый с технической точки зрения первоначальныйпроект. При выборе области применения следует учитывать, что если знание,необходимое для решения задач, постоянное, четко формулируемое, и связано свычислительной обработкой, то обычные алгоритмические программы, по всейвероятности, будут самым целесообразным способом решения проблем в этойобласти,
Экспертная система ни вкоем случае не устранит потребность в реляционных базах данных, статистическомпрограммном обеспечении, электронных таблицах и системах текстовой обработки.Но если результативность задачи зависит от знания, которое являетсясубъективным, изменяющимся, символьным или вытекающим частично из соображенийздравого смысла, тогда область может обоснованно выступать претендентом наэкспертную систему.
Приведем некоторые факты,свидетельствующие о необходимости разработки и внедрения экспертных систем:
— нехватка специалистов,расходующих значительное время для оказания помощи другим;
— потребность вмногочисленном коллективе специалистов, поскольку ни один из них не обладаетдостаточным знанием;
— большое расхождениемежду решениями самых хороших и самых плохих исполнителей;
— наличие конкурентов,имеющих преимущество в том, что они лучше справляются с поставленной задачей.
Подходящие задачиимеют следующие характеристики:
— являютсяузкоспециализированными;
— не зависят взначительной степени от общечеловеческих знаний или соображении здравогосмысла;
- не являются дляэксперта ни слишком легкими, ни слишком сложными (время, необходимое экспертудля решения проблемы, может составлять от трех часов до трех недель);
— условия исполнениязадачи определяются самим пользователем системы;
— имеет результаты,которые можно оценить.
Обычно экспертные системыразрабатываются путем получения специфических знаний от эксперта и ввода их всистему. Некоторые системы могут содержать стратегии одного индивида.Следовательно, найти подходящего эксперта — это ключевой шаг в созданииэкспертных систем.
В процессе разработки ипоследующего расширения системы инженер по знаниям и эксперт обычно работаютвместе. Инженер по знаниям помогает эксперту структурировать знания, определятьи формализовать понятия и правила, необходимые для решения проблемы.
Во время первоначальныхбесед они решают, будет ли их сотрудничество успешным. Это немаловажно,поскольку обе стороны будут работать вместе, по меньшей мере, в течение одногогода. Кроме них в коллектив разработчиков целесообразно включить потенциальныхпользователей и профессиональных программистов.
Предварительный подход кпрограммной реализации задачи определяется исходя из характеристик задачи иресурсов, выделенных на ее решение. Инженер по знаниям выдвигает обычнонесколько вариантов, связанных с использованием имеющихся на рынке программныхсредств. Окончательный выбор возможен лишь на этапе разработки прототипа. Послетого как задача определена, необходимо подсчитать расходы и прибыли отразработки экспертной системы. В расходы включаются затраты на оплату трудаколлектива разработчиков. В дополнительные расходы приобретаемого программногоинструментария, с помощью которого разрабатывается экспертная система. Прибыльвозможна за счет снижения цены продукции, повышения производительности труда,расширения номенклатуры продукции или услуг или даже разработки новых видовпродукции или услуг в этой области. Соответствующие расходы и прибыли отсистемы определяются относительно времени, в течение которого возвращаютсясредства, вложенные в разработку. На современном этапе большая часть фирм,развивающих крупные экспертные системы, предпочли разрабатывать дорогостоящиепроекты, приносящие значительные прибыли.
Наметились тенденцииразработки менее дорогостоящих систем, хотя и с более длительным срокомвозвращаемости вложенных в них средств, так как программные средства разработкиэкспертных систем непрерывно совершенствуются. После того как инженер познаниям убедился, что:
— данная задача можетбыть решена с помощью экспертной системы;
— экспертную системуможно создать предлагаемыми на рынке средствами;
— имеется подходящийэксперт;
— предложенные критериипроизводительности являются разумными;
— затраты и срок ихвозвращаемости приемлемы для заказчика.
Он составляет планразработки. План определяет шаги процесса разработки и необходимые затраты, атакже ожидаемые результаты.
Этап 2. Разработкапрототипной системы — его мы рассмотрим позже./>
Этап 3. Развитиепрототипа до промышленной ЭС. При неудовлетворительном функционировании прототипа эксперт и инженер познаниям имеют возможность оценить, что именно будет включено в разработкуокончательного варианта системы. Если первоначально выбранные объекты илисвойства оказываются неподходящими, их необходимо изменить. Можно сделатьоценку общего числа эвристических правил, необходимых для созданияокончательного варианта экспертной системы. Иногда при разработке промышленнойсистемы выделяют дополнительные этапы для перехода: демонстрационный прототип — исследовательский прототип — действующий прототип — промышленная система. Однакочаще реализуется плавный переход от демонстрационного прототипа к промышленнойсистеме, при этом, если программный инструментарий выбран удачно, необязательнаперепись другими программными средствами.
Таблица 2.1Демонстрационный прототип ЭС Система решает часть задач, демонстрируя жизнеспособность полхода (несколько десятков правил или понятий) Исследовательский прототип ЭС Система решает большинство задач, но не устойчива в работе и не полностью проверена несколько сотен правил или понятий. Действующий прототип ЭС Система надежно решает все задачи на реальных примерах, но для сложной задачи требует много времени и памяти Промышленная система Система обеспечивает высокое качество решений при минимизации требуемого времени и памяти: переписывается с использованием более эффективных средств представления знаний Коммерческая система Промышленная система, пригодная к продаже, т.е. хорошо документирована и снабжена сервисом
2.1 Переходот прототипа к промышленной экспертной системе
Основное на третьем этапезаключается в добавлении большого числа дополнительных эвристик. Послеустановления основной структуры ЭС инженер по знаниям приступает к разработке иадаптации интерфейсов, с помощью которых система будет общаться с пользователеми экспертом. Необходимо обратить особое внимание на языковые возможностиинтерфейсов, их простоту и удобство для управления работой ЭС. Система должнаобеспечивать пользователю возможность легким и естественным образом спрашиватьнепонятное, приостанавливать работу и т.д. В частности, могут оказатьсяполезными графические представления. На этом этапе разработки большинствоэкспертов узнают достаточно о вводе правил и могут сами вводить в систему новыеправила. Таким образом, начинается процесс, во время которого инженер познаниям передает право собственности и контроля за системой эксперту дляуточнения, детальной разработки и обслуживания.
Этап 4. Оценка системы. Послезавершения этапа разработки промышленной экспертной системы необходимо провестиее тестирование в отношении критериев эффективности. К тестированию широкопривлекаются другие эксперты с целью апробирования работоспособности системы наразличных примерах. Экспертные системы оцениваются главным образом для того,чтобы проверить точность работы программы и ее полезность. Оценку можнопроводить, исходя из различных критериев, которые сгруппируем следующимобразом:
— критерии пользователей(понятность и «прозрачность» работы системы, удобство интерфейсов идр.);
— критерии приглашенныхэкспертов (оценка советов-решений, предлагаемых системой, сравнение ее ссобственными решениями, оценка подсистемы объяснений и др.);
— критерии коллективаразработчиков.
Этап 5. Стыковка системы.На этом этапе осуществляется стыковка экспертной системы с другими программнымисредствами в среде, в которой она будет работать, и обучение людей, которых онабудет обслуживать. Иногда это означает внесение существенных изменений. Такоеизменение требует непременного вмешательства инженера по знаниям иликакого-либо другого специалиста, который сможет модифицировать систему. Подстыковкой подразумевается также разработка связей между экспертной системой исредой, в которой она действует. Когда экспертная система уже готова, инженерпо знаниям должен убедиться в том, что эксперты, пользователи и персонал знают,как эксплуатировать и обслуживать ее. После передачи им своего опыта в областиинформационной технологии инженер по знаниям может полностью предоставить ее враспоряжение пользователей. Для подтверждения полезности системы важнопредоставить каждому из пользователей возможность поставить перед ЭС реальныезадачи, а затем проследить, как она выполняет эти задачи. Чтобы система былаодобрена, необходимо представить ее как помощника, освобождающего пользователейот обременительных задач, а не как средство их замещения.
Стыковка включаетобеспечение связи ЭС с существующими базами данных и другими системами напредприятии, а также улучшение системных факторов, зависящих от времени, чтобыможно было обеспечить ее более эффективную работу и улучшить характеристики еетехнических средств, если система работает в необычной среде.
Этап 6. Поддержкасистемы. При перекодировании системы на язык, подобный Си, повышается еебыстродействие и увеличивается переносимость, однако гибкость при этомуменьшается. Это приемлемо лишь в том случае, если система сохраняет все знанияпроблемной области, и это знание не будет изменяться в ближайшем будущем.Однако если экспертная система создана именно из-за того, что проблемнаяобласть изменяется, то необходимо поддерживать систему в инструментальной средеразработки.
2.2.Технологии быстрого прототипирования.
При разработке экспертныхсистем используется концепция «быстрого прототипа». Суть ее в следующем:сначала создается не экспертная система, а ее прототип, который должен решатьтипичные задачи и требовать на свою разработку незначительное время. Этотпрототип должен демонстрировать пригодность методов экспертной системы дляданной области.В ходе работ по созданию экспертныхсистем сложилась определенная технология их разработки, включающая 6 этапов:
- идентификация;
— концептуализация
— формализация;
— выполнение;
— тестирование;
— опытная эксплуатация.
Прототипнаясистема является усеченной версией экспертной системы,спроектированной для проверки правильности кодирования фактов, связей истратегий рассуждения эксперта. Она также дает возможность инженеру по знаниямпривлечь эксперта к активному участию в разработке экспертной системы и,следовательно, к принятию им обязательства приложить все усилия для созданиясистемы в полном объеме. Объем прототипа — несколько десятков правил, фреймовили примеров. На рис. 2.2. изображены шесть стадий разработки прототипа и минимальныйколлектив разработчиков, занятых на каждой из стадий. Приведем краткуюхарактеристику каждой из стадий, хотя эта схема представляет грубое приближениек сложному итеративному процессу. Хотя любое теоретическое разделение бываетчасто условным, осознание коллективом разработчиков четких задач каждой стадиипредставляется целесообразным. Роли разработчиков (эксперт, программист,пользователь и аналитик) являются постоянными на протяжении всей разработки.Совмещение ролей нежелательно.
/>
Рис.2.2… Стадииразработки прототипа ЭС
Идентификация проблемы. Уточняется задача, планируется ходразработки прототипа экспертной системы, определяются: необходимыересурсы (время, люди, ЭВМ и т.д.), источники знаний (книги,дополнительные эксперты, методики), имеющиеся аналогичные экспертныесистемы, цели (распространение опыта, автоматизация рутинных действий идр.), классы решаемых задач и т.д.Идентификация проблемы — знакомствои обучение коллектива разработчиков, а также создание неформальной формулировкипроблемы.Средняя продолжительность 1 — 2 недели.
Извлечение знаний. Происходит перенос компетентности экспертов наинженеров по знаниям с использованием различных методов: анализ текстов,диалоги, экспертные игры, лекции, дискуссии, интервью, наблюдение и другие. Извлечение знаний — получениеинженером по знаниям наиболее полного представления о предметной области испособах принятия решения в ней. Средняя продолжительность 1 -3 месяца.
Структурирование или концептуализация знаний. Выявляется структура полученныхзнаний о предметной области, т.е. определяются: терминология, список основныхпонятий и их атрибутов, отношения между понятиями, структура входной и выходнойинформации, стратегия принятия решений, ограничения стратегий и т.д. Концептуализация знаний — разработканеформального описания знаний о предметной области в виде графа, таблицы,диаграммы или текста, которое отражает основные концепции и взаимосвязи междупонятиями предметной области. Такое описание называется полем знаний. Средняяпродолжительность этапа 2 — 4 недели.
Формализация. Строится формализованное представление концепций предметнойобласти на основе выбранного языка представления знаний (ЯПЗ). Традиционно наэтом этапе используются: логические методы (исчисления предикатов I порядка идр.), продукционные модели (с прямым и обратным выводом), семантические сети,фреймы, объектно-ориентированные языки, основанные на иерархии классов,объектов и др.Формализациязнаний — разработка базы знаний на языке, который, с однойстороны, соответствует структуре поля знаний, а с другой — позволяетреализовать прототип системы на следующей стадии программной реализации. Всечаще на этой стадии используется симбиоз языков представления знаний, например,в системе ОМЕГА — фреймы + семантические сети + полный набор возможностей языкаисчисления предикатов. Средняя продолжительность 1 — 2 месяца.
Реализация. Создается прототип экспертной системы, включающий базузнаний и остальные блоки, при помощи одного из следующих способов: программированиена традиционных языках типа Паскаль, Си и др., программирование наспециализированных языках, применяемых в задачах искусственного интеллекта: LISP, FRL, SmallTalk и др., использование инструментальных средств разработки ЭСтипа СПЭИС, ПИЭС, использование «пустых» ЭС или «оболочек»типа ЭКСПЕРТ, ФИАКР и др. Реализация — разработка программного комплекса, демонстрирующего жизнеспособность подходав целом. Чаще всего первый прототип отбрасывается на этапе реализациидействующей ЭС. Средняя продолжительность 1 — 2 месяца.
Тестирование. Оценивается и проверяется работа программ прототипа с цельюприведения в соответствие с реальными запросами пользователей. Прототиппроверяется на: удобство и адекватность интерфейсов ввода-вывода, эффективностьстратегии управления, качество проверочных примеров, корректность базы знаний. Тестирование — выявлениеошибок в подходе и реализации прототипа и выработка рекомендаций по доводкесистемы до промышленного варианта. Средняя продолжительность 1 — 2 недели.
Глава 3.Анализ теории экспертных систем и выводы
3.1.Выбор подходящей проблемы дляразработки экспертной системы.
Этот этап включаетдеятельность, предшествующую решению начать разрабатывать конкретную ЭС. Онвключает:
— определение проблемнойобласти и задачи;
— нахождение эксперта,желающего сотрудничать при решении проблемы, и назначение коллективаразработчиков;
— определениепредварительного подхода к решению проблемы;
— анализ расходов иприбыли от разработки;
— подготовку подробногоплана разработки.
Правильный выбор проблемыпредставляет, наверное, самую критическую часть разработки в целом. Есливыбрать неподходящую проблему, можно очень быстро увязнуть в «болоте»проектирования задач, которые никто не знает, как решать. Неподходящая проблемаможет также привести к созданию экспертной системы, которая стоит намногобольше, чем экономит. Дело будет обстоять еще хуже, если разработать систему,которая работает, но не приемлема для пользователей. Даже если разработкавыполняется самой организацией для собственных целей, эта фаза являетсяподходящим моментом для получения рекомендаций извне, чтобы гарантироватьудачно выбранный и осуществимый с технической точки зрения первоначальныйпроект.
При выборе областиприменения следует учитывать, что если знание, необходимое для решения задач,постоянное, четко формулируемое, и связано с вычислительной обработкой, тообычные алгоритмические программы, по всей вероятности, будут самымцелесообразным способом решения проблем в этой области,
Экспертная система ни вкоем случае не устранит потребность в реляционных базах данных, статистическомпрограммном обеспечении, электронных таблицах и системах текстовой обработки.Но если результативность задачи зависит от знания, которое являетсясубъективным, изменяющимся, символьным или вытекающим частично из соображенийздравого смысла, тогда область может обоснованно выступать претендентом наэкспертную систему.
Приведем некоторые факты,свидетельствующие о необходимости разработки и внедрения экспертных систем:
— нехватка специалистов,расходующих значительное время для оказания помощи другим;
— потребность в многочисленномколлективе специалистов, поскольку ни один из них не обладает достаточнымзнанием;
— сниженнаяпроизводительность, поскольку задача требует полного анализа — сложное набораусловий, а обычный специалист не в состоянии просмотреть (за отведенное время)все эти условия;
— большое расхождениемежду решениями самых хороших и самых плохих исполнителей;
— наличие конкурентов,имеющих преимущество в том, что они лучше справляются с поставленной задачей.
Подходящие задачи имеютследующие характеристики:
1)являютсяузкоспециализированными;
2) не зависят взначительной степени от общечеловеческих знаний или соображении здравогосмысла;
3) не являются дляэксперта ни слишком легкими, ни слишком сложными (время, необходимое экспертудля решения проблемы, может составлять от трех часов до трех недель);
4) условия исполнениязадачи определяются самим пользователем системы;
5) имеет результаты,которые можно оценить.
Обычно экспертные системыразрабатываются путем получения специфических знаний от эксперта и ввода их всистему. Некоторые системы могут содержать стратегии одного индивида.Следовательно, найти подходящего эксперта — это ключевой шаг в созданииэкспертных систем.
В процессе разработки ипоследующего расширения системы инженер по знаниям и эксперт обычно работаютвместе. Инженер по знаниям помогает эксперту структурировал знания, определятьи формализовать понятия и правила, необходимые для решения проблемы.
Во время первоначальныхбесед они решают, будет ли их сотрудничество успешным. Это немаловажно, посколькуобе стороны будут работать вместе, по меньшей мере, в течение одного года.Кроме них в коллектив разработчиков целесообразно включить потенциальныхпользователей и профессиональных программистов.
Предварительный подход кпрограммной реализации задачи определяется исходя из характеристик задачи иресурсов, выделенных на ее решение. Инженер по знаниям выдвигает обычнонесколько вариантов, связанных с использованием имеющихся на рынке программныхсредств. Окончательный выбор возможен лишь на этапе разработки прототипа.
После того как задачаопределена, необходимо подсчитать расходы и прибыли от разработки экспертнойсистемы. В расходы включаются затраты на оплату труда коллектива разработчиков.В дополнительные расходы приобретаемого программного инструментария, с помощьюкоторого разрабатывается экспертная система.
Прибыль возможна за счетснижения цены продукции, повышения производительности труда, расширенияноменклатуры продукции или услуг или даже разработки новых видов продукции илиуслуг в этой области. Соответствующие расходы и прибыли от системы определяютсяотносительно времени, в течение которого возвращаются средства, вложенные вразработку. На современном этапе большая часть фирм, развивающих крупныеэкспертные системы, предпочли разрабатывать дорогостоящие проекты, приносящиезначительные прибыли.
Наметились тенденцииразработки менее дорогостоящих систем, хотя и с более длительным срокомвозвращаемости вложенных в них средств, так как программные средства разработкиэкспертных систем непрерывно совершенствуются. После того как инженер познаниям убедился, что:
— данная задача можетбыть решена с помощью экспертной системы;
— экспертную системуможно создать предлагаемыми на рынке средствами;
— имеется подходящийэксперт;
— предложенные критериипроизводительности являются разумными;
— затраты и срок ихвозвращаемости приемлемы для заказчика.
Он составляет планразработки. План определяет шаги процесса разработки и необходимые затраты, атакже ожидаемые результаты.
3.2. Преимущества экспертных системперед человеком-экспертом.
Системы, основанные назнаниях, имеют определенные преимущества перед человеком-экспертом.
1. У них нетпредубеждений.
2. Они не делаютпоспешных выводов.
3. Эти системы работают,систематизировано, рассматривая все детали, часто выбирая наилучшуюальтернативу из всех возможных.
4. База знаний может бытьочень и очень большой. Будучи введены в машину один раз, знания сохраняютсянавсегда. Человек же имеет ограниченную базу знаний, и если данные долгое времяне используются, то они забываются и навсегда теряются.
5. Системы, основанные на знаниях,устойчивы к “помехам”. Эксперт пользуется побочными знаниями и легко поддаетсявлиянию внешних факторов, которые непосредственно не связаны с решаемойзадачей. ЭС, не обремененные знаниями из других областей, по своей природеменее подвержены “шумам”. Со временем системы, основанные на знаниях, могутрассматриваться пользователями как разновидность тиражирования — новый способ записии распространения знаний. Подобно другим видам компьютерных программ они немогут заменить человека в решении задач, а скорее напоминают орудия труда,которые дают ему возможность решат задачи быстрее и эффективнее.
6. Эти системы незаменяют специалиста, а являются инструментом в его руках.
Списокиспользованной литературы
1. Амарселлус Д. Программирование экспертных систем на Турбо Прологе: Пер. с англ. — М.: Финансы и статистика, 2005 г.
2. Моисеев В.Б. Представление знаний в интеллектуальных системах. Информатика и образование,. №2, 2003 г. с. 84-91
3. Андрейчиков А.В., Андрейчикова О.Н. Интеллектуальные информационные системы: М. Наука, 2004 г.
4. Зубов В. В., Макушкин В. А., Оглоблин А. Г. Экспертная система диагностирования цифровых устройств и БИС. Средства связи, №3, 2000, с. 32-36.
5. Зубов В. В., Макушкин В. А. Экспертная система диагностирования цифровых устройств ДИЭКС на персональной ЭВМ.ЭКСПЕРТНЫЕ СИСТЕМЫ НА ПЕРСОНАЛЬНЫХ КОМПЬЮТЕРАХ, М.: МДНТП, 2005, с. 115-120.
6. Макушкин В. А., Щербицкий К. А. Экспертная система для контроля и диагностирования цифроаналоговых устройств. НОВЫЕ ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ В ПЛАНИРОВАНИИ, УПРАВЛЕНИИ И В ПРОИЗВОДСТВЕ, М.: МДНТП, 2001, с. 121-125.
7. Попов Э. В., Фоминых И. Б., Кисель Е. Б., Шапт М. Д.Статические и динамические экспертные системы. М.: Финансы и статистика, 2003 г.
8. Гаврилова Т.А., Хорошевский В.Ф. Базы знаний интеллектуальных систем. СПб: Питер, 2003г.
9. Володичев Д.С., Макушкин В.А. OMEGAMON — эффективная система управления вычислительными ресурсами. М: Научная сессия МФТИ-2004, том 12, с.199-201.
10. Муромцев Д.И. Введение в технологию экспертных систем. СПб: СПб ГУ ИТМО, 2005.
11. Минский М.Л. Фреймы для представления знаний. М.: Энергия, 2001.
12. www.intuit.ru
13. www.ai.tsi.lv
14. knpi-iip.mipk.kharkiv.edu
15. www.libray.narod.ru
16. expro.kzn.ru
17. 256bit.ru
18. ru.wikipedia.org
19. 256bit.ru
20. tver.mesi.ru
21. www.ssti.ru
22. Моделирование управления движением человека М.: СпортАкадемПресс, 2003. 360 с., сборник научных трудов под ред. Шестакова М. П. и Аверкина А. Н.
23. Люгер Д. Искусственный интеллект М.: Мир, 2006. 690 с.
24. Макаров И. М., Топчиев Ю. И. Робототехника. История и перспективы М.: Наука, МАИ, 2004. 350 с.
25. Ярушкина Н. Г Основы теории нечетких и гибридных систем Учебное пособие, М.: Финансы и статистика, 2004. 320 c.
26. Рыбина Г. В., Пышагин С. В., Смирнов В. В., Левин Д. Е., Душкин Р. В. Инструментальный комплекс АТ-ТЕХНОЛОГИЯ для поддержки разработки интегрированных экспертных систем учебное пособие, М.: МИФИ, 2001, 100 с.
27. Частиков А. П., Гаврилова Т. А., Белов Д. Л. Разработка экспертных систем. Среда CLIPS BHV-Санкт-Петербург, 2003 г., 606 стр.
28. И. Абдуллин. Программирование в промышленности. – М.: Логос. 2000г
29. Г. Долин. Что такое ЭС. – Компьютер Пресс, 2002 г.
30. К. Нейлор. Как построить свою экспертную систему.- М.: Энегроатомиздат, 2007.
31. В.О. Сафонов. Экспертные системы – интеллектуальные помощники специалистов. – СПб.: Санкт-Петербургская организация общества «Знания Росси», 2007.
32. К. Таусенд, Д. Фохт. Проектирование и программная реализация экспертных систем на персональных ЭВМ. М.: Финансы и статистика. 2005.
33. Н. Убейко. Экспертные системы. – М.: МАИ, 2002.
34. Д. Джарратано, Г. Райли. Экспертные системы. Принципы разработки и программирование. Изд. Вильямс, 2006.
35. В.В. Круглов. Интеллектуальные информационные системы. 2002.
36. В. Л. Афонин, В.А. Макушкин. Интеллектуальные робототехнические системы. ИНТУИТ.РУ, 2005.