| следующая статья ==>
Математический нейрон Маккалока — Питтса, формальный нейрон — узел искусственной нейронной сети, являющийся упрощённой моделью естественного нейрона.
Математический, искусственный нейрон обычно представляют как некоторую нелинейную функцию от единственного аргумента — линейной комбинации всех входных сигналов. Данную функцию называют функцией активации или функцией срабатывания, передаточной функцией. Полученный результат посылается на единственный выход. Такие искусственные нейроны объединяют в сети — соединяют выходы одних нейронов с входами других.
Рис. 12.5 Схема искусственного нейрона
1 – Соседние нейроны, выходные сигналы которых поступают на вход данному нейрону. 2 - Сумматор входных сигналов. 3 - Вычислитель передаточной функции. 4 - Нейроны, на входы которых подаётся выходной сигнал данного нейрона. 5 - wi — веса входных сигналов.
Математическая модель искусственного нейрона была предложена У. Маккалоком и В. Питтсом вместе с моделью сети, состоящей из этих нейронов. Авторы показали, что сеть на таких элементах может выполнять числовые и логические операции. Практически сеть была реализована Фрэнком Розенблаттом в 1958 году как компьютерная программа, а в последствии как электронное устройство — перцептрон (перцепция переводится как чувствительность, поэтому перцептрон – сенсорная система).
Первоначально нейрон мог оперировать только с сигналами логического нуля и логической единицы, поскольку был построен на основе биологического прототипа, который может пребывать только в двух состояниях — возбужденном или невозбужденном.
Развитие нейронных сетей показало, что для расширения области их применения необходимо, чтобы нейрон мог работать не только с бинарными, но и с непрерывными (аналоговыми) сигналами. Такое обобщение модели нейрона было сделано Уидроу и Хоффом, которые предложили в качестве функции срабатывания нейрона использовать логистическую кривую.
Связи, по которым выходные сигналы одних нейронов поступают на входы других, часто называют синапсами по аналогии со связями между биологическими нейронами.
Каждая связь характеризуется своим весом. Связи с положительным весом называются возбуждающими, а с отрицательным — тормозящими.
Нейрон имеет один выход, часто называемый аксоном по аналогии с биологическим прототипом. С единственного выхода нейрона сигнал может поступать на произвольное число входов других нейронов.
Математически нейрон представляет собой сумматор, единственный выход которого определяется через его входы и матрицу весов следующим образом:
здесь и — соответственно сигналы на входах нейрона и веса входов.
Возможные значения сигналов на входах нейрона всегда лежат в интервале [0,1], они могут быть либо дискретными (нуль или единица), либо аналоговыми. Дополнительный вход и соответствующий ему вес используется для инициализации нейрона. Под инициализацией подразумевается смещение активационной функции нейрона по горизонтальной оси, то есть формирование порога чувствительности нейрона. Кроме того, иногда к выходу нейрона специально добавляют некую случайную величину.
Передаточная функция определяет зависимость сигнала на выходе нейрона от взвешенной суммы сигналов на его входах. В большинстве случаев она является монотонно возрастающей и имеет область значений [−1,1] или [0,1], однако существуют исключения. Также для некоторых алгоритмов обучения сети необходимо, чтобы она была непрерывно дифференцируемой на всей числовой оси. Искусственный нейрон полностью характеризуется своей передаточной функцией. Использование различных передаточных функций позволяет вносить нелинейность в работу нейрона и в целом нейронной сети.
В основном, нейроны классифицируют на основе их положения в топологии сети. Разделяют:
· Входные нейроны — принимают исходный вектор, кодирующий входной сигнал. Как правило, эти нейроны не выполняют вычислительных операций, а просто передают полученный входной сигнал на выход, возможно, усилив или ослабив его.
· Выходные нейроны — представляют собой выходы сети. В выходных нейронах могут производиться какие-либо вычислительные операции.
· Промежуточные нейроны — выполняют основные вычислительные операции.
Основные типы передаточных функций нейрона:
· линейная функция активации с насыщением;
· линейная передаточная функция.
Рис. 12.6 Разновидности передаточных функций нейронов (линейная, пороговая, сигмоидальная).
Сигнал на выходе нейрона линейно связан с взвешенной суммой сигналов на его входе.
В искусственных нейронных сетях со слоистой структурой нейроны с передаточными функциями такого типа, как правило, составляют входной слой. Кроме простой линейной функции могут быть использованы её модификации.
Недостатками шаговой и полулинейной активационных функций относительно линейной можно назвать то, что они не являются дифференцируемыми на всей числовой оси, а значит, не могут быть использованы при обучении по некоторым алгоритмам.
Пороговая передаточная функция представляет собой перепад. До тех пор пока взвешенный сигнал на входе нейрона не достигает некоторого уровня — сигнал на выходе равен нулю. Как только сигнал на входе нейрона превышает указанный уровень — выходной сигнал скачкообразно изменяется на единицу.
Самый первый представитель слоистых искусственных нейронных сетей — перцептрон состоял исключительно из нейронов такого типа.
Ввиду того, что данная функция не является дифференцируемой на всей оси абсцисс, её нельзя использовать в сетях, обучающихся по алгоритму обратного распространения ошибки и другим алгоритмам, требующим дифференцируемости передаточной функции.
Сигмоидальная передаточная функция – один из самых часто используемых, на данный момент, типов передаточных функций. Введение функций сигмоидального типа было обусловлено ограниченностью нейронных сетей с пороговой функцией активации нейронов. При такой функции активации любой из выходов сети равен, либо нулю, либо единице, что ограничивает использование сетей. Использование сигмоидальных функций позволило перейти от бинарных выходов нейрона к аналоговым. Функции передачи такого типа, как правило, присущи нейронам, находящимся во внутренних слоях нейронной сети.
Логистическая функция. Математически эту функцию можно выразить так:
Здесь A — это параметр функции, определяющий её крутизну.
Когда A стремится к бесконечности, функция вырождается в пороговую. При A = 0 сигмоида вырождается в постоянную функцию со значением 0,5. Область значений данной функции находится в интервале (0,1). Важным достоинством этой функции является простота её производной:
То, что производная этой функции может быть выражена через её значение облегчает использование этой функции при обучении сети по алгоритму обратного распространения. Особенностью нейронов с такой передаточной характеристикой является то, что они усиливают сильные сигналы существенно меньше, чем слабые, поскольку области сильных сигналов соответствуют пологим участкам характеристики. Это позволяет предотвратить насыщение от больших сигналов.
Перечисленные выше функции составляют лишь часть от множества передаточных функций, используемых на данный момент. В число других передаточных функций входят такие, как: экспонента f(x) = exp( − Ax); тригонометрический синус;модульная: ; квадратичная.
Нейрон с пороговой передаточной функцией может моделировать различные логические функции.
Рис. 12.7 Схемы нейронов,моделирующие логические функции:
«И», «ИЛИ», «НЕ».
Изображения иллюстрируют, каким образом можно, задав веса входных сигналов и порог чувствительности, заставить нейрон выполнять конъюнкцию (логическое «И») и дизъюнкцию (логическое «ИЛИ») над входными сигналами, а также логическое отрицание входного сигнала. Этих трех операций достаточно, чтобы смоделировать абсолютно любую логическую функцию любого числа аргументов.
Нейронные сети, построенные на искусственных нейронах, обнаруживают некоторые признаки, которые позволяют сделать предположение о сходстве их структуры со структурой мозга живых организмов. Тем не менее, даже на низшем уровне искусственных нейронов существуют существенные различия. Например, искусственный нейрон является безынерционной системой, то есть сигнал на выходе появляется одновременно с появлением сигналов на входе, что совсем нехарактерно для биологического нейрона.
| следующая статья ==>