Задачі обробки сигналів та критерії оптимальності рішень
1. Класифікація задач обробки сигналів
Існують різні типи задач обробки сигналів, серед якихосновними є наступні.
Виявлення сигналу на фоні завад. У цій задачі обробкисигналів необхідно прийняти одну з двох гіпотез – діє тільки завада або сигнал з завадою:
/>
Задачарозрізнення заданих сигналів. У цій задачі обробки сигналів необхідно прийнятиодну з /> гіпотезпро дію одного із /> заданих сигналів на фоні завади:
/>
Задачаоцінювання параметрів сигналів. У цій задачі обробки сигналів за сумішшюсигналу з завадою /> необхідно прийняти рішення проте, яке значення приймає параметр /> сигналу />. При цьому припускається, що наінтервалі часу спостереження сигналу /> параметр /> не змінюється:
Задачафільтрації сигналів. У цій задачі обробки сигналів із суміші сигналу з завадою /> необхідновиділити параметр сигналу />. Припускається, що на інтервалічасу спостереження сигналу /> повідомлення /> змінюється у часі.Частинним випадком є задача виділення (фільтрування) сигналу /> із суміші з шумом />.
Зустрічаютьсятакож комбіновані задачі обробки сигналів, зокрема, сумісного виявлення (чирозрізнювання) та оцінювання параметрів сигналів.
Привирішенні вказаних задач обробки сигналів припускається відомою інформація провид корисного сигналу та статичні характеристики завади (щільність ймовірностірозподілу, кореляційна функція, математичне сподівання, дисперсія та ін.).Окрім того вважається заданим критерій оптимальності вирішення задачі обробкисигналів. Оскільки сигнали, що поступають на вхід приймального пристрою, носятьвипадковий характер, то при отриманні оптимальних методів обробки сигналівнеобхідно використовувати основні положення математичної статистики та теоріїприйняття статистичнихрішень.Математичнастатистика одержує певні висновки з експериментальних даних. Томуприпускається, що відома реалізація прийнятого сигналу, яка використовуєтьсябезпосередньо або у вигляді деяких її відліків.
Середзадач статистичного синтезу найважливішими для теорії обробки сигналів є такі:перевірка статистичних гіпотез (коли відносно характеристик розподілуймовірностей висуваються несумісні гіпотези /> і за вектором спостереженьвибирається одна з них), оцінювання параметрів розподілу, фільтруванняповідомлення з прийнятої реалізації сигналу.
У задачахперевірки гіпотез /> прийняття рішення геометричноозначає розбиття простору спостережень на />-ну область, що не перетинаються:
/>,/>. (1)
У цій задачі />-те рішенняприймається, коли вектор спостережень потрапляє в область/>.
Приоцінюванні параметра розподілу за спостереженням /> з простору /> знаходиться оцінкапараметра />,що належить простору параметрів />. У задачах фільтрування заприйнятою реалізацією /> знаходиться оцінка /> переданого повідомленняз простору/>.
Уматематичній статистиці, крім простору спостережень /> та функції правдоподібності /> до апріорноїінформації слід додати так звану функцію втрат, яка характеризується для кожноїпари; прийняте рішення – істинне твердження. Для задач перевірки гіпотез /> – це матриця втрат />, для задач оцінюванняпараметрів – функція втрат />. Функція втрат означає«платню» за вибирання гіпотези />, коли істинна гіпотеза />. Невід’ємна функція /> означає „платню” за вибирання оцінки />, коли істиннезначення параметра дорівнює />.
Для того, щобпорівняти рішення, у математичній статистиці вибирають ті чи інші показникиякості – критерії якості правил вибору рішень. Останні називають такожалгоритмами обробки спостережень. Спинимося на особливостях критеріїв у задачах перевіркигіпотез, оцінювання параметрів і фільтрування повідомлень.
Залежно відтого, яка у дослідника є апріорна інформація, вибираються ті чи інші показники якості вирішення задачіобробки сигналів.
2.Показники якостівирішення задачіобробки сигналів
Показниксереднього ризику. У задачах перевірки гіпотез />, /> має бути задана матриця втрат />. При цьому припускаються відомими ймовірності гіпотез – />.
Середнійризик вводитьсяяк математичне сподівання матриці втрат:
/>,
де /> – символматематичного сподівання.
Враховуючи,що імовірності /> можна обчислити через функціюправдоподібності
/>,
остаточномаємо
/>/>. (2)
Показниксередньої імовірності похибки. Середній ризик враховує як похибки, коли номеррішення /> незбігається з номером істинної гіпотези />, так і правильні рішення, коли />. В окремомувипадку, якщо матриця втрат проста – />, де /> – символ Кронекера, з (2) одержуємо ймовірністьсередньої похибки
/>. (3)
Замість /> можнавикористовувати еквівалентний показник якості – ймовірність правильного рішення
/>. (4)
Показникапостеріорної ймовірності гіпотези. Матриця втрат /> – це додаткова апріорнаінформація, що може бути не задана. У цьому разі раціонально вибрати критерій,в якому вона не фігурує. Це може бути апостеріорна ймовірність гіпотези />, що обчислюється заформулою Байєса:
/>. (5)
Використовуютьй інші показники якості. Досить часто (особливо в задачах оцінювання параметрів) за критерій якості приймаютьсаму функцію правдоподібності.
Розглянуті показники якості рішення використовуютьдля формулювання критеріїв оптимальності рішень при розв’язанні задач обробкисигналів.
3.Критеріїоптимальності рішеньу задачі перевірки гіпотез
Розглянемокритерії оптимальності рішень при вирішенні задач перевірки гіпотез.
Байєсівськийкритерій оптимальності використовує середній ризик (2) і вимагає йогомінімізації (у загальному випадку забезпечення нижньої границі):
/>. (6)
Рішення– це гіпотеза />, що забезпечує мінімум середньогоризику. Останнійшукається у множині /> відображень простору спостережень/> у простіррішень />.Нагадаємо, що аргумент функції правдоподібності – це значення параметра /> (або номергіпотези). Тому зручно (6) записувати також у вигляді
/>. (7)
Критеріймінімуму середньої ймовірності похибки (критерій Зігерта-Котельникова абокритерій ідеального спостерігача). У цьому разі використовується показникякості рішення (3). Цей критерій оптимальності вимагає мінімізації величинисередньої ймовірності похибки:
/>, (8)
або
/>. (8а)
Критерій називають такожкритерієм „ідеальногоспостерігача”,тому що можна уявити собі, що деякий спостерігач задає вагову матрицю /> так, що воназавжди нульова />, коли приймається правильнерішення. А коли виникає похибка, він не цікавиться тим, як саме вона виникла, і завжди задаєоднаковий вагомий коефіцієнт />.
Інодізручніше використовувати замість /> максимум імовірності правильногорішення (4):
/>. (9)
Критеріймаксимуму апостеріорної ймовірності. Згідно з показником якості (5) критерійоптимальності рішення задається так: серед гіпотез /> вибирається такий номер „/>”, щозабезпечується максимум у (5):
/>. (10)
Мінімакснийкритерій оптимальності. Введені вище критерії по суті вимагали знаннярозподілу /> переданогосигналу, що дає змогу ввести ймовірності гіпотез />. Коли розподіл /> невідомий, можна врахуватинайгірший випадок – мінімізувати середній ризик в умовах найгіршого (з точкизору величини ризику) розподілу:
/>. (11)
У теоріїстатистичних рішень доводиться, що рішення буде таке саме, якщо використовуватиумовні ризики
/>
та вимагати,щоб рішення шукалось за умови
/>. (11а)
Мінімакснийкритерій приводить до байєсівського рішення в умовах найгіршого розподілупараметра (переданого сигналу).
Критерійоптимальності Неймана-Пірсона. Спинимося детальніше на ілюстрованому прикладіприймання сигналів амплітудної маніпуляції. Тут задається лише дві гіпотези. Гіпотезу /> називаютьосновною, а /> –альтернативною. Ставиться задача перевірки гіпотези /> проти альтернативи />. Часто гіпотезинесиметричні і зручно основну увагу приділити одній з них. Саме таку гіпотезу уматематичній статистиці називають основною і позначають />.
У задачіперевірки гіпотези /> проти альтернативи /> мають місце дві похибки– умовні ймовірності:
/>
та
/>.
Ситуація,коли приймається гіпотеза /> за істинної гіпотези />, означає, щодійсно сигналу немає (існує тільки шум), але приймається рішення про існуваннясигналу. Тому /> називають умовно імовірністюхибної тривоги. У математичній статистиці її називають умовною ймовірністюпохибки першого роду. У разі, коли приймається гіпотеза /> при істинній гіпотезі /> (фізично сигнал існує), то приймається хибнерішення, що сигналу немає. Тому /> називають умовною ймовірністюпропуску сигналу, у математичній статистиці її називають умовною ймовірністюпохибки другого роду.
Крімімовірностей похибок /> та /> у задачі перевірки гіпотези /> протиальтернативи /> розглядають також імовірності правильнихрішень
/>
та
/>.
Критерійоптимальності рішення Неймана-Пірсона використовує два показники якості рішень – умовніймовірності хибної тривоги та пропуску цілі. У класичній літературі з теоріїстатистичних рішень ця обставина не підкреслюється. Але на рівні сучасноїтеорії вибору рішень (чи оптимізації систем і пристроїв) про це требапам’ятати.
КритерійНеймана-Пірсона вимагає знаходження рішення, що забезпечує мінімальне значенняумовної ймовірності пропуску цілі
/> (12)
при обмеженніумовної ймовірності хибної тривоги />.
Замість (12) часто використовуютьумову максимізації ймовірності правильного рішення про наявність цілі:
/> при обмеженні />. (12а)
4.Критерії оптимальності в задачі оцінювання параметрів
Критеріїоптимальності в задачі оцінювання параметрів розподілів ймовірностей маютьдеякі відмінності порівняно із задачею перевірки гіпотез. Різниця у тому, щопараметр функції правдоподібності /> у задачах вибору гіпотез маєдискретний характер (і значення параметра ототожнюється з гіпотезами), а взадачах оцінювання параметрів він звичайно набирає значення з континуальноїмножини. Цевідбивається як на вигляді показників (критеріїв) якості рішення, так і навигляді критеріїв оптимальності. Спинимося на них.
Показниксереднього ризику. Середній ризик – це середнє значення функції втрат:
/> (13)
Тутприпускається, що вимірність вектора параметрів /> у загальному випадку незбігається з вимірністю вектора спостережень />.
Показниксередньоквадратичної похибки. В окремому випадку квадратичної функції втрат середній ризик приводитьдо середньоквадратичної похибки оцінювання скалярного параметра
/>. (14)
Величина цієїпохибки і використовується як показник якості рішення.
Показникапостеріорної щільності ймовірності. Для завдання цього показника (критерію) якостівикористовують відповідну формулу Байєса:
/>. (15)
Наведеніпоказники (критерії) якості дають змогу ввести відповідні критеріїоптимальності рішень.
Байєсівськийкритерій оптимальності. Аналогічно (6), байєсівський критерій оптимальності характеризуєтьсяумовою мінімізації середнього ризику (13):
/>. (16)
Враховуючи,що
/>,
співвідношення(16) можна записати так:
/>.
У теоріїоцінювання параметрів доводиться, що оцінка, яка мінімізує функціонал
/>,
мінімізуєтакож і середній ризик />, що має назву апостеріорногоризику.
Критерій мінімізаціїсередньоквадратичної похибки. Тут вимагається мінімізація величини похибки />:
/>. (17)
Критеріймаксимуму апостеріорної щільності ймовірності. У задачі оцінюванняпараметрів цей критерій набирає такого вигляду:
/>. (18)
Оцінка /> має назвуоцінки максимальної апостеріорної щільності ймовірності оцінювання параметра.
Аналогічнозадачі вибору гіпотез можна розглядати мінімаксний критерій, критеріймаксимальної правдоподібності та інші.
Критеріймаксимальної правдоподібності. Показником якості рішення може бути функціяправдоподібності, акритерієм оптимальності – вимога максимізації цієї функції:
/>. (19)
У теоріїоцінювання параметрів розподілів важливі якісні характеристики одержуванихоцінок, основним з яких є: незсуненість, ефективність, обґрунтованість.
Оцінка,математичне сподівання якої за будь-якого значення параметра збігається зістинним значенням параметра
/>, (20)
називаєтьсянезсуненою.
Нагадаємо, щооцінка – це функція спостереження />. На множині спостережень /> заданаімовірнісна міра і тому можна розглядати одержувану оцінку /> як реалізаціювипадкової величини />. Тому для математичногосподівання цієї випадкової величини має місце співвідношення (20).
Дляпорівняння різних оцінок вводять ту чи іншу міру розкиду. Так, для скалярногопараметра використовують другий момент />. Якщо оцінка незсунена, цявеличина збігається з дисперсією />.
Оцінка /> більшефективна порівняно з оцінкою />, якщо />.
Введемо нижнюграницю
/>. (21)
Нарешті,оцінка /> параметра/> називаєтьсяобґрунтованою, якщо за умови /> вона збігається за ймовірністю з />, тобто якщо
/>. (22)
5.Критерії оптимальності в задачіфільтрування повідомлень
Утеорії зв’зку розглядаються особливості передавння різних повідомлень(дискретних, аналогових) різними методами. При передаванні дискретних чианалогових повідомлень з використанням цифрових і дискретних методів модуляціїзадачі приймання сигналів можна розв’язувати методами теорії перевірки гіпотезта оцінювання параметрів. Проте у загальному випадку передавання аналоговихповідомлень з використанням аналогових методів модуляції цих методівнедостатньо. Необхідно використовувати більш спеціальні методи – методифільтрування повідомлень.
Згідноз узагальненим рівнянням зв’язку, прийнятий сигнал /> описується операторним рівнянням
/>, (23)
де переданеповідомлення – />, переданий сигнал – />, завада –/>. Залежно відметодів модуляції та завадових умов залежність прийнятого сигналу від переданогоповідомлення може бути різною. У лінійних методах модуляції (АМ, ОМ, БМ), вумовах адитивних завад можна розглядати найпростішу задачу адитивної взаємодії /> та/>:
/>. (23а)
У нелінійнихметодах модуляції (ЧМ, ФМ, деякі імпульсні методи модуляції) за необхідністю цязалежність більш складна.
Задачафільтрування полягає у тому, що за прийнятою реалізацією сигналу /> необхідно знайти оцінку/> реалізаціїпереданого повідомлення/>. Оцінка має бути оптимальноюу тому чи іншому розумінні.
Як і взадачах перевірки гіпотез та оцінювання параметрів, насамперед, необхідно ввести(показники) критерії якості рішення та критерії їх оптимальності.
Якщорозв’язувати задачу фільтрування при кожному фіксованому значенні часу/>, можнавикористовувати всі критерії, введені в задачах оцінювання параметрів:середнього ризику, середньоквадратичні похибки, критерій правдоподібності тощо.Проте оцінювання повідомлення виконується на деякому фіксованому інтервалі часуі тому іноді придатними будуть інші критерії, що враховують якість відновленняреалізації у цілому.
Найчастішевикористовується критерій середньоквадратичної похибки, що вводиться длякожного /> наінтервалі часу/>:
/>. (24)
Співвідношення(24) можна подати так:
/>. (24а)
Відповіднийкритерій оптимальності рішення задається у вигляді вимоги мінімізації похибки (24а):
/>, (25)
Мінімум у (24) забезпечується, якщомінімізувати функціонал
/>, (26)
тобто якщозабезпечити мінімізацію середньоквадратичної похибки при кожному спостереженні />. Результатрішення – оцінка /> передавання повідомлення.
Найпростішазадача (24а) приводить до лінійного фільтрування.