Проектирование систем управления документами

Понятие информационно-поисковой системы (ИПС). Состав компонент и технология работы с ИПС. В работе современных предприятий важную роль играют его информационные ресурсы, под которыми можно понимать проектную документацию, переписку с партнерами, внутренние приказы и распоряжения,
финансовые данные и другие документы, которые служат основой для принятия новых решений и используются в процессах управления предприятием. И если для хранения структурированных данных можно применять специализированные информационные системы (типа бухгалтерской или торговой системы или системы планового отдела), основанные, на использовании СУБД, то для неструктурированных данных нужны системы общего назначения - электронные архивы, работающие на принципах информационно-поисковой системы. Информационно-поисковая система (ИПС) - это система, предназначенная для хранения и поиска документов с текстовой, графической, табличной информацией по атрибутам, ключевым словам документа и содержанию в какой-либо предметной области. Выделяют ИПС двух типов: фактографические и документографические системы. ИПС фактографического типа предназначены для хранения и поиска фактов, показателей, характеристик каких-либо объектов или процессов (например, сведения о работниках, о предприятиях, акционерах и т.д.). Документографические ИПС отличаются тем, что объектом хранения и поиска в этих системах служат документы, отчеты, рефераты, обзоры, журналы, книги и т.д. Сценарий поиска документа при помощи ИПС обычно сводится к вводу запроса на поиск, состоящего из одного или нескольких слов, после чего предъявляется список имен найденных документов. Пользователь может открыть любой из найденных документов и если поисковая система позволяет, вхождения искомых слов в документе выделяются - «подсвечиваются». Можно выделить следующие особенности организации и функционирования документографической ИПС, отличающие ее от систем управления базами структурированных данных: - Документы могут храниться на бумаге, микрографических носителях или существовать в электронных форматах. Микрографические форматы включают микрофильмы, микрофиши, слайды и другие микроформы, производимые разнообразными документными камерами. Электронные форматы еще многочисленнее, они включают документы, подготовленные в текстовых процессорах, системах электронной почты и других компьютерных программах, оцифрованные изображения прошедших сканирование документов и проч. При этом предполагается обязательное хранение как электронных копий документов, так и их бумажных оригиналов. - Если документы занимают большой объем и полные электронные копии выдавать на просмотр или хранить не возможно, то для таких документов создают и хранят электронные адреса их хранения. - Поиск осуществляется нахождением документа по двум принципам: по атрибутам документа - дате создания, размеру, автору и пр. и по его содержанию (тексту). Обычно поиск по содержанию документа выполняется двумя способами: по ключевым словам и по всему тексту, который называют полнотекстовым, подчеркивая тем самым, что для поиска используется весь текст документа, а не только его реквизиты. - Для поиска документов создают и хранят их поисковые образы. Поисковый образ документа (ПОД) - совокупность кодов ведущих ключевых слов (дескрипторов), которые описывают смысл, содержание документа. - Ключевые слова и их коды хранятся в специальном словаре - тезаурусе. - Для того, чтобы осуществлять поиск документов, нужно создать информационно-поисковый язык (ИПЯ), в состав которого входит тезаурус и грамматика языка, т.е. совокупность правил задания множества высказываний на множестве ключевых слов. - Чтобы отыскать документ, нужно создать с помощью ИПЯ поисковый образ запроса (ПОЗ), который представляет собой совокупность закодированных ключевых слов, описывающие те документы, которые нужно найти. Схема взаимодействия компонент ИПС представлена на рис. 6.1. Рис 6.1. Схема взаимодействия компонент ИПС ИПС состоит из следующих обеспечивающих подсистем: - лингвистическое обеспечение, включающее в свой состав информационно- поисковый язык; - техническое обеспечение системы, включающее ЭВМ и устройства создания, хранения, чтения и размножения копий на бумажных носителях, в микроформатах и в электронной форме; - информационное обеспечение, состоящее из БД документов (БД Док.), адресов (БД Адр.) и БД поисковых образов документов (БД ПОД) и списков дескрипторов и их кодов - тезауруса; - программное обеспечение. Программное обеспечение ИПС предназначено для автоматизации следующих основных функций, которые должна выполнять эта система: - составления, кодирования и загрузки базы данных ПОД; - загрузки БД документов и их адресов хранения; - составления, кодирования ПОЗ; - выполнение операции поиска и выдачи ответа на запрос в виде документа или адресов хранения документов на экран ЭВМ, на бумагу, в файл; - актуализация баз данных ПОД, документов и адресов; - актуализация тезауруса; - выдача справок. Рассмотрим основные понятия, употребляемые в сфере поиска документов. Релевантность - степень соответствия найденного документа запросу. Найденный по запросу документ может иметь отношение к запросу, т. е. содержать нужную (искомую) информацию, а может и не иметь никакого отношения. В первом случае документ называется релевантным (по-английски relevant - «относящийся к делу»), во втором - нерелевантным, или шумовым. Как правило, в любой поисковой системе по запросу выдается несколько (чаще много) найденных документов. Многие из них могут повествовать не о том. И наоборот, некоторые важные, релевантные, документы могут быть пропущены при поиске. Ясно, что количество тех и других определяет качество поиска, которое можно определить достаточно точно. Основными понятиями в мире поисковых средств являются идеи точности и полноты поиска. Точность поиска (Т) определяется тем, какая часть информации, выданная в ответ на запрос, является релевантной, т.е. относящейся к этому запросу и является параметром, показывающим, какова доля релевантных документов в общем числе найденных. Этот показатель рассчитывается по формуле: Если, например, все выданные по запросу документы относятся к делу, то точность равна 100%; если, напротив, все документы шумовые, то точность поиска равна нулю. Полнота поиска (П) - дополнительный параметр, показывающий, какова доля (или процент) найденных релевантных документов в общем
количестве релевантных документов, т.е. характеризуется соотношением между всей релевантной информацией, имеющейся в базе, и той ее частью, которая включена в ответ и рассчитывается по формуле: Если в области поиска на самом деле имеется 100 документов,
содержащих нужную информацию, а по запросу найдено из них всего 30, то полнота поиска равна 30%. Кроме этого при оценке поисковых систем учитывается, с какими типами данных может работать та или иная система, в какой форме представляются результаты поиска и какой уровень подготовки пользователей необходим для работы в этой системе. Следует отметить, что точность поиска и его полнота зависят не только от свойств поисковой системы, но и от правильности построения конкретного запроса, а также от субъективного представления пользователя о том, какая нужна ему информация. Если стоит проблема оценки нескольких систем и выбора наиболее эффективной, можно вычислить средние значения полноты и точности рассматриваемых конкретных систем, протестировав их на эталонной базе документов. Индексация документов (т.е. составление ПОД), которая означает предварительную подготовку текстов для поиска и применяется главным образом для ускорения поиска; как правило, текстовые базы данных, предназначенные для многократного поиска, обрабатывают заранее, составляя так называемый индекс (ПОД). При индексации поисковая система составляет списки слов, встречающихся в тексте, и приписывает каждому слову его код - координаты в тексте (чаще всего номер документа и номер слова в документе). При поиске слово ищется в индексе, и по найденным координатам выдаются нужные документы. Если слов в запросе несколько, над их координатами производится операция пересечения. В том случае, если множество документов пополняется, приходится пополнять и индекс. Единица поиска - это квант текста, в пределах которого в данной поисковой системе осуществляется поиск, от величины которого зависит показатель точности поиска, величина шума и время ответа на запрос. Единицей поиска может быть документ, предложение или абзац. В технологии использования ИПС можно выделить три группы операций: - операции, связанные с получением поисковых образов документов (ПОД), описывающих содержание документов и загрузкой их в базу данных (БД ПОД), а также загрузкой самих документов или их адресов хранения в БДДок и БДАдр.; - операции составления поисковых образов запроса (ПОЗ) с использованием тезауруса, поиска и выдачи результатов на просмотр и отбор или файл или на печать найденных документов или списка адресов; - операции ведения информационно-поисковой системы, включающие актуализацию БД ПОД, БДДок., БДАдр. и тезауруса вследствие возникновения и необходимости пополнения памяти системы новыми документами или ключевыми словами. В состав операций ведения ИПС входит также процедура выдачи справок о работе системы, о ее структуре, методах поиска и классах и видах хранимых u1076 документах. 6.3. Классификация и характеристика методов поиска Одной из проблем организации СУД является выбор метода поиска и разработка или выбор программного обеспечения, что в значительной степени зависит от применяемых методов индексирования. Как было сказано выше, индексирование загружаемой на хранение информации может осуществляться по ключевым словам, по атрибутам документа либо путем создания полнотекстового индекса. Суть последнего подхода заключается в том, что при создании индексного файла (индексированной матрицы) в него вносятся все значимые слова (без союзов, предлогов и т. п.) из всех документов в алфавитном порядке, которые затем объединяются в пары с указателями на документы, содержащие эти слова. Задача поиска нужного документа формулируется так: зная примерные характеристики документа, нужно найти его, где бы он ни хранился. Характеристики документа могут быть как внешние (атрибуты документа): название, время создания, автор, размер документа, местонахождение и др., так и внутренние (содержание документа): заголовок, текст документа. Как правило, осуществляют поиск документов по совокупности внешних и внутренних характеристик, но если документов много, и если необходимо осуществлять поиск документов, согласно ситуации, то нужный документ отыскивают по его содержанию (тексту), а не по реквизитам (атрибутам). Существует несколько методов поиска документов по содержанию. Традиционные подходы к организации поиска информации можно разделить на три группы: методы индексного (или двоичного) поиска, статистические методы и семантические методы, основанные на базах знаний. Рассмотрим некоторые из них. Индексный, или двоичный, поиск применятся главным образом со структурированными базами данных. В таких методах слова интерпретируются как последовательности закодированных символов. Используя формальный синтаксис, или язык запросов, система двоичного поиска выбирает точное соответствие для отдельного слова или цепочки слов. Это самый простой вид поиска документа по содержанию, но и самый слабый вид поиска, что выражается в малой полноте (это означает, что редко удается найти нужный документ). Недостатки. Системы двоичного поиска имеют ограничения по точности, влияющие на возможность нахождения всей относящейся к запросу информации. В методах двоичного поиска не учитываются различные формы значения слов; пользователю непросто угадать точные слова и фразы, которые были использованы авторами в документах. Системы двоичного поиска не могут также ранжировать документы по степени соответствия запросу, поэтому пользователь вынужден читать каждый документ, чтобы определить, на сколько он соответствует запросу. Повышению полноты поиска по строке служат такие стандартные средства, как отождествление заглавных и малых букв и использование метасимволов, наподобие * (что означает любое количество каких-либо символов). Другим способом повышения полноты поиска служит поиск слов в разных грамматических формах. Почти любое русское слово — это набор из нескольких словоформ. Для среднего русского существительного таких форм двенадцать — одна основная и 11 косвенных (6 падежей единственного и 6 — множественного числа). У русского глагола косвенных форм — порядка 100 (а если считать причастия, то и все 180). В процессе словоизменения общий смысл слова остается тем же, изменяется только форма и роль слова в предложении. Нужен так называемый морфологический поиск, то есть поиск, опирающийся на знание морфологии языка, поскольку в языке есть еще и процессы словообразования, в ходе которых образуются «родственники» слова
— другие части речи, например, от слова «акция» получаются «акционерный» и «акционировать». Существует два способа осуществления морфологического поиска Бессловарный метод. Программа, основанная на этом методе выявляет основу каждого слова и отсекает окончания слов при обработке запроса, а затем
«приклеивать» их при поиске. Кроме того, у программы есть возможность соотнести окончание, отсеченное у искомого слова, с окончаниями найденных слов. Поиск «со словарем». Чтобы искать формы заданного слова более точно, поисковая система должна иметь словарь основ. Такой словарь состоит из списка основ слов, ссылки от которых указывают на соответствующие наборы окончаний. Некоторое снижение скорости поиска при использовании словаря обычно компенсируется существенно возросшей точностью. Качество поиска повышается, если применять поиск по логической комбинации слов, поскольку шум резко снижается при поиске не по одному, а по двум и более словам. Это происходит потому, что отдельное слово может встретиться где угодно в тексте, а вероятность совместного вхождения двух или трех искомых слов в ненужный документ гораздо ниже. При этом методе слова в запросе соединяются логическими операторами «И», «ИЛИ», «НЕ». В некоторых поисковых системах имеется возможность использовать в запросе скобки. Таким образом, пользователь может ввести для поиска целое логическое выражение, состоящее из слов, а также иногда и других внешних характеристик — даты, размера и т.п., например, «(приложение И договор) ИЛИ (соглашение И договор)». Такое логическое выражение называется булевой формой, а сам поиск — булевым. Более простым в технической реализации является метод поиска по близости (proximity search). Пользователь может задать, на каком расстоянии друг от друга должны находиться искомые слова, например «не далее 5 слов» или «не далее 3 строк». Альтернативой логическому запросу служит поиск по запросу на естественном языке. Промежуточным шагом к облегчению формулирования запроса является возможность в некоторых системах логического поиска задать так называемый нечеткий запрос (quorum search). Это означает, что пользователь задает запрос в виде множества из нескольких слов, а система находит все документы, в которые входят только некоторые слова из заданного множества (например, любые пять из семи заданных). Подбирать множество слов и задавать «процент явки» пользователю приходится самому. Поиск по запросу на естественном языке. Существуют системы, позволяющие искать текст по запросу, сделанному в виде обычного предложения (часто поиск по запросу на естественном языке также называют нечетким поиском). Модуль обработки естественно-языкового запроса независим от самой поисковой системы и «на выходе» может работать с логическим поиском. Ранжирование результатов поиска. Когда документы, содержащие слова запроса, обнаружены, поисковая система должна предъявить их пользователю в некотором порядке. Обычно найденные документы тем или иным способом «взвешиваются» на предмет близости к запросу (ранжируются) и показываются в порядке уменьшения этой близости. Как правило, для вычисления веса - ранга используются разные алгоритмы: учитываются общее количество слов запроса в документе, близость их друг к другу в тексте документа, наличие компактных групп, соответствие грамматических форм и т. д. Группа статистических методов основываются на расчете различных частотных характеристик: частоты вхождения слова в документ, взвешенной частоты вхождения и частоты совместного вхождения нескольких слов Семантический поиск. Следующий шаг в развитии поисковых систем - это так называемый семантический (то есть смысловой) поиск, основанный на построении и использовании базы знаний, с помощью которой осуществляется поиск информации на основе использования концептуальных отношений, которые не применяются при статистическом поиске. Существует несколько способов представления знаний. Применение файла синонимов, что позволяет при ответе на запрос учитывать не только термины, которые непосредственно указаны в запросе, но и все другие слова, близкие к ним по значениям. Другой известен как подход на основе использования лингвистических правил, при этом, разработчик создает систему лингвистических правил, которые используются для анализа или грамматического разбора текстовой базы данных. Этот метод анализа определяет ключевые слова и понятия, объединяющиеся в базу знаний, которая отражает содержание конкретной базы данных. Наиболее часто используется подход основанный на использовании ссылочных документов, и в том числе обычных словарей и словарей терминов. Этот подход основан на смысловых значениях слов и называется семантической сетью. Как и словарь, семантическая сеть содержит множество определений для каждого хранимого слова. Однако определение родственных слов и понятий связываются между собой. Значения слов, наиболее подходящие для данного поиска, могут быть выбраны самим пользователем с целью повышения точности этого поиска. Подход, основанный на построении семантических сетей, доступен для расширения и не слишком громоздок при эксплуатации. 6.4. Классификация систем DMS. Характеристика систем, используемых для организации архивов. В настоящее время на рынке систем DMS предлагается около 500 программных продуктов. Все существующие системы управления документами можно разбить на три категории, отражающие и эволюцию таких систем по технологии ввода, индексирования и поиска документов: 1. Системы, основанные на технологии использования ключевых слов для индексации и поиска документов. 2. Системы, опирающиеся на автоматизированном вводе и загрузке документов в архив и включающие поиск по полнотекстовому индексу. 3. Системы, основанные на применении метода "адаптивного распознавания текста". Системы, относящиеся к первому поколению, появились в середине 80- х годов. Технология работы с ними опирается на использование ключевых слов для индексации и поиска документов. Другими словами, после того как документ введен или отсканирован и получен его графический образ, необходимо приписать образу каждого документа набор ключевых слов, которые затем индексируются, и используются для поиска информации. Серьезные ограничения при использовании систем первой категории связаны со следующими обстоятельствами: - определение ключевых слов - достаточно субъективный процесс; даже при участии самого независимого эксперта трудно избежать односторонности при выборе ключевых слов; - определение ключевых слов - достаточно дорогостоящая процедура из-за
невозможности автоматической индексации и низкой производительности при определении ключевых слов вручную; - предполагается, что пользователи будут осуществлять поиск информации предсказуемым способом, используя предопределенные ключевые слова; - поиск по ключевым словам - это четкий поиск, - пользователь точно должен
знать, что он ищет. Если сделана ошибка при написании ключевого слова в запросе для поиска, система никогда не найдет нужную информацию; - ключевые слова могут со временем меняться (понятия, которые были "ключевыми" вчера, вовсе не обязательно будут столь же важны через год). В силу вышеперечисленных причин данный класс систем имеет ограниченное применение для хранения и поиска документов в специализированных архивах конкретных организаций или используется для хранения и поиска книг в библиотеках различного типа. Простейшие средства поиска документов по содержанию входят в состав текстового процессора Microsoft Word. Как и большинство других стандартных средств, эта функция ищет заданный текст только буквально, т. е. требует полного соответствия текста запросу и при этом ничего не знает о большом разнообразии u1092 форм русских слов. Если, например, проводится поиск по фразе из пяти слов, то будут найдены только тексты, содержащие каждое из них, причем именно в заданной форме. Поэтому в случае, когда пользователь помнит содержание нужного документа только в общем (а так чаще всего и бывает), подобные средства поиска малоэффективны. Аналогичные проблемы возникают при поиске текстовой информации в Internet, которая располагает большим количеством поисковых систем (например, AltaVista, HotBot, InfoSeek и др.), обеспечивающих доступ к десяткам миллионов документов. Возможности поиска здесь, конечно, намного более развитые, чем в Microsoft Word, однако говорить о высокой эффективности также не приходится. Можно отметить следующие основные недостатки стандартных поисковых средств и поисковых систем Internet: 1. отсутствие поиска на частичное совпадение - так называемого нечеткого поиска (находятся только документы, содержащие все слова запроса, поэтому достаточно одно слова запроса заменить на синоним, и нужный документ не будет обнаружен); 2. отсутствие так называемого морфологического анализа (например, слова bond и bonds при поиске считаются разными); 3. низкое качество ранжирования (упорядочивания) документов по убыванию степени соответствия запросу - в начале списка часто оказываются документы, не отвечающие запросу, а нужные документы выдаются после них; 4. высокий уровень шума: случается, пользователю предлагаются документы, не содержащие ни одного слова запроса; 5. при выдаче документов никак не выделяются вхождения слов запроса в просматриваемый документ, что в совокупности с низким качеством ранжирования приводит к большим затратам времени при анализе найденных документов. В настоящее время получили массовое применение системы второй категории, опирающиеся на автоматизированный полнотекстовый ввод, загрузку документов в архив и осуществляющие поиск по полнотекстовому индексу. Технология работы этих систем основана на автоматизированном вводе документов и чтении их с помощью сканера, преобразовании графических образов в текстовые файлы. Поиск информации в таких системах происходит с использованием семантических, статистических методов и с применением механизмов полнотекстового поиска (Full Text Retrieval.).