Сети с латеральным торможением (карты признаков Кохонена) - часть 2

  будет максимальным) образуется пузырёк активности (рис.2) , контрастность которого при выполнении итераций постепенно повышается.

Изменение уровней активности нейронов после 10 итераций

Рис. 2

3. Обучение

Обучение такой сети заключается в коррекции весов связей mij для получения желаемого отображения. Сеть обучается без учителя. Вводится следующий закон модификации весов связей:

                             

                            (3)

где a, b – положительные константы.

Если учесть, что соотношение активностей (y) внутри и вне пузырька практически бинарное, и промасштабировать переменные так, что a=b, правило (3) переходит в (4):

                             

                        (4)

где NC – «пузырёк».

Обычно пластичность а и радиус пузырька NC монотонно уменьшаются в процессе обучения.

Т.о. в результате обучения в сети должна формироваться непрерывная упорядоченная карта признаков сигнального пространства. Непрерывность следует из того, что связи соседних пузырьков модифицируются в одном направлении, что приводит к сглаживанию их величин. Упорядоченность была доказана только для одномерного отображения.

Алгоритм обучения

Входные данные:  обучающая выборка (набор входных векторов)

Выходные данные: скорректированные связи mij

1. Предъявить сети входной вектор

2.     Выполнять итерации до установления стабильного состояния

3.     Для всех узлов сети выполнить коррекцию связей согласно (2) или (3)

4.     Повторять [1-3] для каждого входного вектора

4. Пример (экспериментальные данные)

Существуют  многочисленные экспериментальные данные функционирования сетей с латеральным торможением в двухмерном сигнальном пространстве. В одной из моделей сеть состояла из 100 нейронов и матрицы связей M от двух входных нейронов (x1, x0). Обучение сети выполнялось по вышеописанному алгоритму и проиллюстрировано на рис.3. Здесь каждая точка изображает значения весов связей, каждая линия соединяет топологически ближайшие нейроны.

Функционирование карты Кохонена в двумерном пространстве

Рис. 3

Вначале веса связей выбраны произвольно внутри круга в середине сигнального пространства. После обучения получено равномерное и непрерывное отображение входного пространства на 2-мерную карту признаков.

Содержание  Назад  Вперед