Правило оджаса - Ojas rule

Правило обучения Оджи, или просто Правило Оджи, названный в честь финского ученого-информатика Эркки Оя, представляет собой модель того, как нейроны в головном мозге или в искусственные нейронные сети со временем измените силу соединения или научитесь. Это модификация стандартного правила Хебба (см. Hebbian обучение ), который посредством мультипликативной нормализации решает все проблемы устойчивости и генерирует алгоритм для анализ основных компонентов. Это вычислительная форма эффекта, который, как полагают, происходит в биологических нейронах.

Теория

Правило Оджи требует ряда упрощений для вывода, но в его окончательной форме оно очевидно стабильно, в отличие от правила Хебба. Это частный случай одиночного нейрона Обобщенный алгоритм Хебба. Однако правило Оджи можно обобщить и другими способами до разной степени стабильности и успеха.

Формула

Рассмотрим упрощенную модель нейрона. ${\displaystyle y}$ который возвращает линейную комбинацию своих входов Икс с использованием пресинаптических весов ш:

${\displaystyle \,y(\mathbf {x} )~=~\sum _{j=1}^{m}x_{j}w_{j}}$

Правило Оджи определяет изменение пресинаптических весов ш учитывая выходной ответ ${\displaystyle y}$ нейрона на его входы Икс быть

${\displaystyle \,\Delta \mathbf {w} ~=~\mathbf {w} _{n+1}-\mathbf {w} _{n}~=~\eta \,y_{n}(\mathbf {x} _{n}-y_{n}\mathbf {w} _{n}),}$

куда η это скорость обучения которые также могут измениться со временем. Обратите внимание, что жирным шрифтом выделены векторов и п определяет итерацию с дискретным временем. Правило также может быть сделано для непрерывных итераций как

${\displaystyle \,{\frac {d\mathbf {w} }{dt}}~=~\eta \,y(t)(\mathbf {x} (t)-y(t)\mathbf {w} (t)).}$

Вывод

Простейший правило обучения Известно правило Хебба, которое концептуально утверждает, что нейроны, которые срабатывают вместе, соединяются вместе. В компонентной форме в виде разностного уравнения записывается

${\displaystyle \,\Delta \mathbf {w} ~=~\eta \,y(\mathbf {x} _{n})\mathbf {x} _{n}}$,

или в скалярной форме с неявным п-зависимость,

${\displaystyle \,w_{i}(n+1)~=~w_{i}+\eta \,y(\mathbf {x} )x_{i}}$,

куда у(Икс_п) снова является выходом, на этот раз явно зависящим от его входного вектора Икс.

Правило Хебба имеет синаптические веса, приближающиеся к бесконечности с положительной скоростью обучения. Мы можем остановить это, нормализовав веса, чтобы величина каждого веса была ограничена от 0, что соответствует отсутствию веса, и 1, что соответствует единственному входному нейрону с любым весом. Мы делаем это, нормализуя весовой вектор, чтобы он имел длину один:

${\displaystyle \,w_{i}(n+1)~=~{\frac {w_{i}+\eta \,y(\mathbf {x} )x_{i}}{\left(\sum _{j=1}^{m}[w_{j}+\eta \,y(\mathbf {x} )x_{j}]^{p}\right)^{1/p}}}}$.

Обратите внимание, что в оригинальной статье Оджи^[1] п=2, соответствующий квадратуре (корень из суммы квадратов), который является знакомым Декартово правило нормализации. Однако любой тип нормализации, даже линейный, даст тот же результат. не теряя общий смысл.

За небольшую скорость обучения ${\displaystyle |\eta |\ll 1}$ уравнение можно разложить как Силовая серия в ${\displaystyle \eta }$.^[1]

${\displaystyle \,w_{i}(n+1)~=~{\frac {w_{i}}{\left(\sum _{j}w_{j}^{p}\right)^{1/p}}}~+~\eta \left({\frac {yx_{i}}{\left(\sum _{j}w_{j}^{p}\right)^{1/p}}}-{\frac {w_{i}\sum _{j}yx_{j}w_{j}^{p-1}}{\left(\sum _{j}w_{j}^{p}\right)^{(1+1/p)}}}\right)~+~O(\eta ^{2})}$.

Для малых η, наш условия высшего порядка О(η²) перейти к нулю. Мы снова делаем спецификацию линейного нейрона, то есть выход нейрона равен сумме произведения каждого входа и его синаптического веса, или

${\displaystyle \,y(\mathbf {x} )~=~\sum _{j=1}^{m}x_{j}w_{j}}$.

Мы также указываем, что наши веса нормализуются до 1, что будет необходимым условием устойчивости, поэтому

${\displaystyle \,|\mathbf {w} |~=~\left(\sum _{j=1}^{m}w_{j}^{p}\right)^{1/p}~=~1}$,

который, будучи замененным в нашем расширении, дает правило Оджи, или

${\displaystyle \,w_{i}(n+1)~=~w_{i}+\eta \,y(x_{i}-w_{i}y)}$.

Стабильность и PCA

Анализируя сходимость отдельного нейрона, развивающегося по правилу Оджи, извлекают первую главный компонентили особенность набора данных. Кроме того, с расширениями, использующими Обобщенный алгоритм Хебба, можно создать нейронную сеть с несколькими Oja, которая может извлекать столько функций, сколько требуется, что позволяет анализ основных компонентов.

Главный компонент а_j извлекается из набора данных Икс через некоторый связанный вектор q_j, или же а_j = q_j⋅Икс, и мы можем восстановить наш исходный набор данных, взяв

${\displaystyle \mathbf {x} ~=~\sum _{j}a_{j}\mathbf {q} _{j}}$.

В случае одиночного нейрона, обученного по правилу Оджи, мы обнаруживаем, что весовой вектор сходится к q₁, или первый главный компонент, когда время или количество итераций приближается к бесконечности. Мы также можем определить, учитывая набор входных векторов Икс_я, что его корреляционная матрица р_ij = Икс_яИкс_j имеет связанный собственный вектор данный q_j с собственное значение λ_j. В отклонение выходов нашего нейрона Oja σ²(п) = ⟨Y²(п)⟩ затем сходится с итерациями по времени к главному собственному значению, или

${\displaystyle \lim _{n\rightarrow \infty }\sigma ^{2}(n)~=~\lambda _{1}}$.

Эти результаты получены с использованием Функция Ляпунова анализ, и они показывают, что нейрон Оджи обязательно сходится строго на первом главном компоненте, если определенные условия выполняются в нашем исходном правиле обучения. Самое главное, наша скорость обучения η может изменяться со временем, но только так, чтобы его сумма расходящийся но его сумма мощности сходящийся, то есть

${\displaystyle \sum _{n=1}^{\infty }\eta (n)=\infty ,~~~\sum _{n=1}^{\infty }\eta (n)^{p}<\infty ,~~~p>1}$.

Наша продукция функция активации у(Икс(п)) также может быть нелинейным и нестатическим, но он должен быть непрерывно дифференцируемым в обоих Икс и ш и имеют производные, ограниченные по времени.^[2]

Обобщения

Недавно в контексте ассоциативного обучения было показано, что правило Хебба, которое похоже на правило Оджи, может быть обобщено с использованием модели, подобной Изингу:^[3] Основная идея обобщения основана на формулировке энергетической функции, как в модели Изинга, с последующим применением стохастический градиентный спуск алгоритм к этой энергетической функции. Энергетическая функция и правило обновления, соответствующие следующей производной, задаются следующим образом:

${\displaystyle E(\mathbf {w} )=-h\mathbf {w} -b\mathbf {w} ^{\top }\mathbf {V} \mathbf {w} -c\mathbf {w} ^{\top }\mathbf {x} y}$,

${\displaystyle \mathbf {w} _{n+1}=\mathbf {w} _{n}+\eta (h+b(\mathbf {V} +\mathbf {V} ^{\top })\mathbf {w} _{n}+c\mathbf {x} _{n+1}y_{n+1})}$,

куда:${\displaystyle y\in \{-1,1\}}$, ${\displaystyle b\in \mathbb {R} }$ это связь между входами, ${\displaystyle c>0}$ - сила корреляции между моделью и выходом, ${\displaystyle h\in \mathbb {R} }$ соответствует наличию внешнего магнитного поля, ${\displaystyle \mathbf {V} \in \{0,1\}^{D\times D}}$ определяет связи между входами.

Тогда для ${\displaystyle h=0}$, ${\displaystyle b=0}$, и ${\displaystyle c=1}$ мы получаем правило Хебба, а для ${\displaystyle h=0}$, ${\displaystyle b=-0.5}$, ${\displaystyle c=1}$, и ${\displaystyle \mathbf {V} =\mathbf {I} }$, куда ${\displaystyle \mathbf {I} }$ является единичной матрицей, введем убывание веса. Затем формула сводится к:

${\displaystyle \mathbf {w} _{n+1}=\mathbf {w} _{n}+\eta (2b\mathbf {w} _{n}+\mathbf {x} _{n+1}y_{n+1})}$,

Приложения

Правило Оджи было первоначально описано в статье Оджи 1982 г.,^[1] но принцип самоорганизации, к которому он применяется, в первую очередь приписывается Алан Тьюринг в 1952 г.^[2] PCA также имел долгую историю использования до того, как правило Оджи формализовало его использование в сетевых вычислениях в 1989 году. Таким образом, модель может быть применена к любой проблеме самоорганизующееся отображение, в особенности те, в которых извлечение признаков представляет особый интерес. Таким образом, правило Оджи занимает важное место в обработке изображений и речи. Это также полезно, поскольку оно легко расширяется до более высоких измерений обработки, что позволяет быстро интегрировать несколько выходов. Каноническим примером является его использование в бинокулярное зрение.^[4]

Биология и правило подпространства Оджи

Есть явные доказательства того, что оба долгосрочное потенцирование и длительная депрессия в биологических нейронных сетях, наряду с эффектом нормализации как входных весов, так и выходов нейронов. Однако, хотя пока нет прямых экспериментальных доказательств того, что правило Оджи действует в биологической нейронной сети, биофизический возможен вывод обобщения правила. Такое происхождение требует ретроградной передачи сигналов от постсинаптического нейрона, что является биологически вероятным (см. нейронное обратное распространение ), и принимает вид

${\displaystyle \Delta w_{ij}~\propto ~\langle x_{i}y_{j}\rangle -\epsilon \left\langle \left(c_{\mathrm {pre} }*\sum _{k}w_{ik}y_{k}\right)\cdot \left(c_{\mathrm {post} }*y_{j}\right)\right\rangle ,}$

где как раньше ш_ij это синаптический вес между яй вход и jth выходных нейронов, Икс это вход, у постсинаптический выход, и мы определяем ε быть постоянной, аналогичной скорости обучения, и c_{предварительно} и c_{почтовый} представляют собой пресинаптические и постсинаптические функции, моделирующие ослабление сигналов с течением времени. Обратите внимание, что угловые скобки обозначают среднее значение, а оператор ∗ является свертка. Взяв пре- и постсинаптические функции в частотное пространство и комбинируя члены интегрирования со сверткой, мы обнаруживаем, что это дает произвольное обобщение правила Оджи, известное как Подпространство Оджи,^[5] а именно

${\displaystyle \Delta w~=~Cx\cdot w-w\cdot Cy.}$^[6]

Смотрите также

• Теория BCM
• Синаптическая пластичность
• Самоорганизующаяся карта
• Анализ основных компонентов
• Анализ независимых компонентов
• Обобщенный алгоритм Хебба

Рекомендации

1. Оя, Эркки (Ноябрь 1982 г.). «Упрощенная модель нейрона как анализатор главных компонент». Журнал математической биологии. 15 (3): 267–273. Дои:10.1007 / BF00275687. PMID  7153672. S2CID  16577977. BF00275687.
2. Хайкин, Симон (1998). Нейронные сети: всеобъемлющий фундамент (2-е изд.). Прентис Холл. ISBN  978-0-13-273350-2.
3. Якуб М. Томчак, Ассоциативное обучение с использованием модели Изинга, в «Достижения в системной науке», (ред.) Ежи Свёнтек, Адам Гжех, Павел Свёнтек, Якуб М. Томчак, Достижения в области интеллектуальных и мягких вычислений, Vol. 240, Springer-Verlag, 2014, стр. 295-304, PDF
4. Интратор, Натан (2007). «Обучение без учителя». Лекции по нейронным вычислениям. Тель-Авивский университет. Получено 2007-11-22.
5. Оя, Эркки (1989). «Нейронные сети, основные компоненты и подпространства». Международный журнал нейронных систем. 1 (1): 61–68. Дои:10.1142 / S0129065789000475.
6. Friston, K.J .; CD. Фрит; Р.С.Дж. Frackowiak (22 октября 1993 г.). "Алгоритмы обучения анализу главных компонентов: нейробиологический анализ". Труды: Биологические науки.. 254 (1339): 47–54. Bibcode:1993РСПСБ.254 ... 47F. Дои:10.1098 / rspb.1993.0125. JSTOR  49565. PMID  8265675. S2CID  42179377.

внешняя ссылка

• Оя, Эркки: правило обучения Оя в Scholarpedia
• Оя, Эркки: Университет Аалто