Учебное пособие по курсу «Нейроинформатика»

Обучение

Программа Hopfield.

При вычислении синаптической карты в данной программе предусмотрено использование одного из двух заложенных алгоритмов. Выбор алгоритма производится в подменю "Параметры" главного меню. Там же описана процедура предварительной обработки обучающего множества в случае применения алгоритма "Проекционный Хопфилд". В этом разделе описана общая для обоих алгоритмов процедура вычисления элемента синаптической карты по векторам обучающего множества. Поскольку мы имеем дело со стонейронной нейронной сетью, исходные данные любого примера можно представить в виде стомерного вектора. Обозначим вектора соответствующие обучающему множеству через A[1],…,A[k], вес l-ого примера — W[l], а ij-ый элемент синаптической карты — X[ij]. Тогда алгоритм вычисления синаптической карты можно представить в виде формулы:

X[ij] = Сумма по l от 1 до k (A[l][i]*A[l][j]*W[l])

Все программы, кроме программыHopfield.

В данной программе реализован «генетический» подход к формированию стратегии обучения. У Вас в руках ряд процедур, с помощью которых Вы можете подобрать стратегию обучения сети. Ниже приведена таблица всех возможных режимов

№	Использовать MParTan	Организация обучения	Вычисление направления	Способ оценивания	Допустимость
1	Да	Средн.	Антиградиент	МНК	Допустим
2	Да	Средн.	Антиградиент	РДМ	Допустим
3	Да	Средн.	Случайное	МНК	Допустим
4	Да	Средн.	Случайное	РДМ	Допустим
5	Да	Позад.	Антиградиент	МНК	Недопустим
6	Да	Позад.	Антиградиент	РДМ	Недопустим
7	Да	Позад.	Случайное	МНК	Недопустим
8	Да	Позад.	Случайное	РДМ	Недопустим
9	Да	Зад. N	Антиградиент	МНК	Допустим
10	Да	Зад. N	Антиградиент	РДМ	Допустим
11	Да	Зад. N	Случайное	МНК	Допустим
12	Нет	Зад. N	Случайное	РДМ	Допустим
13	Нет	Средн.	Антиградиент	МНК	Допустим
14	Нет	Средн.	Антиградиент	РДМ	Допустим
15	Нет	Средн.	Случайное	МНК	Допустим
16	Нет	Средн.	Случайное	РДМ	Допустим
17	Нет	Позад.	Антиградиент	МНК	Допустим
18	Нет	Позад.	Антиградиент	РДМ	Допустим
19	Нет	Позад.	Случайное	МНК	Допустим
20	Нет	Позад.	Случайное	РДМ	Допустим
21	Нет	Зад. N	Антиградиент	МНК	Допустим
22	Нет	Зад. N	Антиградиент	РДМ	Допустим
23	Нет	Зад. N	Случайное	МНК	Допустим
24	Нет	Зад. N	Случайное	РДМ	Допустим

Обозначения, использованные в таблице:

Средн. — Обучение по усредненной оценке (градиенту);

Позад. — Позадачное обучение;

Зад. # — Обучение задаче номер;

Случайно — Случайный спуск;

Антиградиент — Градиентный спуск;

МНК — Оценка типа Метода наименьших квадратов;

РДМ — Оценка типа Расстояние до множества.

Задать процедуру обучения Вы можете в меню Параметры, в подменю метода

Тест

В режиме Тест Вы можете проверить навыки нейронной сети. Возможно несколько видов тестирования: Тест обучающего множества, при котором проверяется правильность ответов сети при предъявлении ей примеров из обучающего множества; Тест текущего тестового примера, при котором проверяется решение сетью активного примера в тестовой задаче; Тест тестовой задачи — проверка решения сетью всех примеров тестовой задачи; все программы, кроме программыHopfield — Статистический тест — проверка сети на устойчивость к искажениям.

Тест обучающего множества

Часто бывает важно знать, какие ответы дает сеть при предъявлении ей примеров из обучающего множества. Это бывает полезно при выявлении «плохих» задач и во многих других случаях. После проведения Теста обучающего множества каждому примеру из обучающего множества ставится в соответствие ответ. Результаты теста можно узнать, просмотрев обучающее множество.

Тест текущего тестового примера

При работе с обученной нейронной сетью часто бывает важно узнать ее ответ на пример, не входящий в обучающее множество. Для этой цели предназначены режимы Тест текущего тестового примера и Тест тестовой задачи. Чтобы проверить реакцию сети на интересующий Вас пример Вы должны ввести этот пример в окне «Тест» и выполнить Тест текущего тестового примера.

Тест тестовой задачи