Дискриминантный анализ ядра Фишера - Kernel Fisher discriminant analysis

В статистика, ядро дискриминантный анализ Фишера (KFD),^[1] также известен как обобщенный дискриминантный анализ^[2] и ядерный дискриминантный анализ,^[3] это версия ядра линейный дискриминантный анализ (LDA). Он назван в честь Рональд Фишер. С использованием трюк с ядром, LDA неявно выполняется в новом пространстве функций, что позволяет изучать нелинейные сопоставления.

Линейный дискриминантный анализ

Интуитивно идея LDA состоит в том, чтобы найти проекцию, в которой разделение классов максимально. Учитывая два набора помеченных данных, ${\displaystyle \mathbf {C} _{1}}$ и ${\displaystyle \mathbf {C} _{2}}$, определите класс средства ${\displaystyle \mathbf {m} _{1}}$ и ${\displaystyle \mathbf {m} _{2}}$ в качестве

${\displaystyle \mathbf {m} _{i}={\frac {1}{l_{i}}}\sum _{n=1}^{l_{i}}\mathbf {x} _{n}^{i},}$

куда ${\displaystyle l_{i}}$ количество примеров класса ${\displaystyle \mathbf {C} _{i}}$. Цель линейного дискриминантного анализа состоит в том, чтобы дать большое разделение средних классов, при этом сохраняя при этом небольшую внутриклассовую дисперсию.^[4] Это сформулировано как максимизация по отношению к ${\displaystyle \mathbf {w} }$, следующее соотношение:

${\displaystyle J(\mathbf {w} )={\frac {\mathbf {w} ^{\text{T}}\mathbf {S} _{B}\mathbf {w} }{\mathbf {w} ^{\text{T}}\mathbf {S} _{W}\mathbf {w} }},}$

куда ${\displaystyle \mathbf {S} _{B}}$ ковариационная матрица между классами и ${\displaystyle \mathbf {S} _{W}}$ - это общая ковариационная матрица внутри класса:

${\displaystyle {\begin{aligned}\mathbf {S} _{B}&=(\mathbf {m} _{2}-\mathbf {m} _{1})(\mathbf {m} _{2}-\mathbf {m} _{1})^{\text{T}}\\\mathbf {S} _{W}&=\sum _{i=1,2}\sum _{n=1}^{l_{i}}(\mathbf {x} _{n}^{i}-\mathbf {m} _{i})(\mathbf {x} _{n}^{i}-\mathbf {m} _{i})^{\text{T}}.\end{aligned}}}$

Максимум указанного отношения достигается при

${\displaystyle \mathbf {w} \propto \mathbf {S} _{W}^{-1}(\mathbf {m} _{2}-\mathbf {m} _{1}).}$

как может быть показано Множитель Лагранжа способ (эскиз доказательства):

Максимизация ${\displaystyle J(\mathbf {w} )={\frac {\mathbf {w} ^{\text{T}}\mathbf {S} _{B}\mathbf {w} }{\mathbf {w} ^{\text{T}}\mathbf {S} _{W}\mathbf {w} }}}$ эквивалентно максимизации

${\displaystyle \mathbf {w} ^{\text{T}}\mathbf {S} _{B}\mathbf {w} }$

при условии

${\displaystyle \mathbf {w} ^{\text{T}}\mathbf {S} _{W}\mathbf {w} =1.}$

Это, в свою очередь, эквивалентно максимизации ${\displaystyle I(\mathbf {w} ,\lambda )=\mathbf {w} ^{\text{T}}\mathbf {S} _{B}\mathbf {w} -\lambda (\mathbf {w} ^{\text{T}}\mathbf {S} _{W}\mathbf {w} -1)}$, куда ${\displaystyle \lambda }$ - множитель Лагранжа.

Максимально производные от ${\displaystyle I(\mathbf {w} ,\lambda )}$ относительно ${\displaystyle \mathbf {w} }$ и ${\displaystyle \lambda }$ должно быть равно нулю. Принимая ${\displaystyle {\frac {dI}{d\mathbf {w} }}=\mathbf {0} }$ дает

${\displaystyle \mathbf {S} _{B}\mathbf {w} -\lambda \mathbf {S} _{W}\mathbf {w} =\mathbf {0} ,}$

которому тривиально удовлетворяет ${\displaystyle \mathbf {w} =c\mathbf {S} _{W}^{-1}(\mathbf {m} _{2}-\mathbf {m} _{1})}$ и ${\displaystyle \lambda =(\mathbf {m} _{2}-\mathbf {m} _{1})^{\text{T}}\mathbf {S} _{W}^{-1}(\mathbf {m} _{2}-\mathbf {m} _{1}).}$

Уловка ядра с LDA

Чтобы расширить LDA на нелинейные отображения, данные, заданные как ${\displaystyle \ell }$ точки ${\displaystyle \mathbf {x} _{i},}$ можно сопоставить с новым пространством функций, ${\displaystyle F,}$ через какую-то функцию ${\displaystyle \phi .}$ В этом новом пространстве функций необходимо максимизировать функцию^[1]

${\displaystyle J(\mathbf {w} )={\frac {\mathbf {w} ^{\text{T}}\mathbf {S} _{B}^{\phi }\mathbf {w} }{\mathbf {w} ^{\text{T}}\mathbf {S} _{W}^{\phi }\mathbf {w} }},}$

куда

${\displaystyle {\begin{aligned}\mathbf {S} _{B}^{\phi }&=\left(\mathbf {m} _{2}^{\phi }-\mathbf {m} _{1}^{\phi }\right)\left(\mathbf {m} _{2}^{\phi }-\mathbf {m} _{1}^{\phi }\right)^{\text{T}}\\\mathbf {S} _{W}^{\phi }&=\sum _{i=1,2}\sum _{n=1}^{l_{i}}\left(\phi (\mathbf {x} _{n}^{i})-\mathbf {m} _{i}^{\phi }\right)\left(\phi (\mathbf {x} _{n}^{i})-\mathbf {m} _{i}^{\phi }\right)^{\text{T}},\end{aligned}}}$

и

${\displaystyle \mathbf {m} _{i}^{\phi }={\frac {1}{l_{i}}}\sum _{j=1}^{l_{i}}\phi (\mathbf {x} _{j}^{i}).}$

Далее отметим, что ${\displaystyle \mathbf {w} \in F}$. Явное вычисление отображений ${\displaystyle \phi (\mathbf {x} _{i})}$ а затем выполнение LDA может быть дорогостоящим с вычислительной точки зрения и во многих случаях трудноразрешимым. Например, ${\displaystyle F}$ может быть бесконечно размерным. Таким образом, вместо того, чтобы явно отображать данные в ${\displaystyle F}$, данные могут быть неявно встроены, переписав алгоритм в терминах точечные продукты и используя трюк с ядром в котором скалярное произведение в новом пространстве функций заменяется функцией ядра,${\displaystyle k(\mathbf {x} ,\mathbf {y} )=\phi (\mathbf {x} )\cdot \phi (\mathbf {y} )}$.

LDA можно переформулировать с точки зрения скалярных произведений, сначала отметив, что ${\displaystyle \mathbf {w} }$ будет иметь расширение формы^[5]

${\displaystyle \mathbf {w} =\sum _{i=1}^{l}\alpha _{i}\phi (\mathbf {x} _{i}).}$

Тогда обратите внимание, что

${\displaystyle \mathbf {w} ^{\text{T}}\mathbf {m} _{i}^{\phi }={\frac {1}{l_{i}}}\sum _{j=1}^{l}\sum _{k=1}^{l_{i}}\alpha _{j}k\left(\mathbf {x} _{j},\mathbf {x} _{k}^{i}\right)=\mathbf {\alpha } ^{\text{T}}\mathbf {M} _{i},}$

куда

${\displaystyle (\mathbf {M} _{i})_{j}={\frac {1}{l_{i}}}\sum _{k=1}^{l_{i}}k(\mathbf {x} _{j},\mathbf {x} _{k}^{i}).}$

В числителе ${\displaystyle J(\mathbf {w} )}$ тогда можно записать как:

${\displaystyle \mathbf {w} ^{\text{T}}\mathbf {S} _{B}^{\phi }\mathbf {w} =\mathbf {w} ^{\text{T}}\left(\mathbf {m} _{2}^{\phi }-\mathbf {m} _{1}^{\phi }\right)\left(\mathbf {m} _{2}^{\phi }-\mathbf {m} _{1}^{\phi }\right)^{\text{T}}\mathbf {w} =\mathbf {\alpha } ^{\text{T}}\mathbf {M} \mathbf {\alpha } ,\qquad {\text{where}}\qquad \mathbf {M} =(\mathbf {M} _{2}-\mathbf {M} _{1})(\mathbf {M} _{2}-\mathbf {M} _{1})^{\text{T}}.}$

Аналогично знаменатель можно записать как

${\displaystyle \mathbf {w} ^{\text{T}}\mathbf {S} _{W}^{\phi }\mathbf {w} =\mathbf {\alpha } ^{\text{T}}\mathbf {N} \mathbf {\alpha } ,\qquad {\text{where}}\qquad \mathbf {N} =\sum _{j=1,2}\mathbf {K} _{j}(\mathbf {I} -\mathbf {1} _{l_{j}})\mathbf {K} _{j}^{\text{T}},}$

с ${\displaystyle n^{\text{th}},m^{\text{th}}}$ компонент ${\displaystyle \mathbf {K} _{j}}$ определяется как ${\displaystyle k(\mathbf {x} _{n},\mathbf {x} _{m}^{j}),\mathbf {I} }$ - единичная матрица, а ${\displaystyle \mathbf {1} _{l_{j}}}$ матрица со всеми элементами, равными ${\displaystyle 1/l_{j}}$. Это тождество можно получить, начав с выражения для ${\displaystyle \mathbf {w} ^{\text{T}}\mathbf {S} _{W}^{\phi }\mathbf {w} }$ и используя расширение ${\displaystyle \mathbf {w} }$ и определения ${\displaystyle \mathbf {S} _{W}^{\phi }}$ и ${\displaystyle \mathbf {m} _{i}^{\phi }}$

${\displaystyle {\begin{aligned}\mathbf {w} ^{\text{T}}\mathbf {S} _{W}^{\phi }\mathbf {w} &=\left(\sum _{i=1}^{l}\alpha _{i}\phi ^{\text{T}}(\mathbf {x} _{i})\right)\left(\sum _{j=1,2}\sum _{n=1}^{l_{j}}\left(\phi (\mathbf {x} _{n}^{j})-\mathbf {m} _{j}^{\phi }\right)\left(\phi (\mathbf {x} _{n}^{j})-\mathbf {m} _{j}^{\phi }\right)^{\text{T}}\right)\left(\sum _{k=1}^{l}\alpha _{k}\phi (\mathbf {x} _{k})\right)\\&=\sum _{j=1,2}\sum _{i=1}^{l}\sum _{n=1}^{l_{j}}\sum _{k=1}^{l}\left(\alpha _{i}\phi ^{\text{T}}(\mathbf {x} _{i})\left(\phi (\mathbf {x} _{n}^{j})-\mathbf {m} _{j}^{\phi }\right)\left(\phi (\mathbf {x} _{n}^{j})-\mathbf {m} _{j}^{\phi }\right)^{\text{T}}\alpha _{k}\phi (\mathbf {x} _{k})\right)\\&=\sum _{j=1,2}\sum _{i=1}^{l}\sum _{n=1}^{l_{j}}\sum _{k=1}^{l}\left(\alpha _{i}k(\mathbf {x} _{i},\mathbf {x} _{n}^{j})-{\frac {1}{l_{j}}}\sum _{p=1}^{l_{j}}\alpha _{i}k(\mathbf {x} _{i},\mathbf {x} _{p}^{j})\right)\left(\alpha _{k}k(\mathbf {x} _{k},\mathbf {x} _{n}^{j})-{\frac {1}{l_{j}}}\sum _{q=1}^{l_{j}}\alpha _{k}k(\mathbf {x} _{k},\mathbf {x} _{q}^{j})\right)\\&=\sum _{j=1,2}\left(\sum _{i=1}^{l}\sum _{n=1}^{l_{j}}\sum _{k=1}^{l}\left(\alpha _{i}\alpha _{k}k(\mathbf {x} _{i},\mathbf {x} _{n}^{j})k(\mathbf {x} _{k},\mathbf {x} _{n}^{j})-{\frac {2\alpha _{i}\alpha _{k}}{l_{j}}}\sum _{p=1}^{l_{j}}k(\mathbf {x} _{i},\mathbf {x} _{n}^{j})k(\mathbf {x} _{k},\mathbf {x} _{p}^{j})+{\frac {\alpha _{i}\alpha _{k}}{l_{j}^{2}}}\sum _{p=1}^{l_{j}}\sum _{q=1}^{l_{j}}k(\mathbf {x} _{i},\mathbf {x} _{p}^{j})k(\mathbf {x} _{k},\mathbf {x} _{q}^{j})\right)\right)\\&=\sum _{j=1,2}\left(\sum _{i=1}^{l}\sum _{n=1}^{l_{j}}\sum _{k=1}^{l}\left(\alpha _{i}\alpha _{k}k(\mathbf {x} _{i},\mathbf {x} _{n}^{j})k(\mathbf {x} _{k},\mathbf {x} _{n}^{j})-{\frac {\alpha _{i}\alpha _{k}}{l_{j}}}\sum _{p=1}^{l_{j}}k(\mathbf {x} _{i},\mathbf {x} _{n}^{j})k(\mathbf {x} _{k},\mathbf {x} _{p}^{j})\right)\right)\\[6pt]&=\sum _{j=1,2}\mathbf {\alpha } ^{\text{T}}\mathbf {K} _{j}\mathbf {K} _{j}^{\text{T}}\mathbf {\alpha } -\mathbf {\alpha } ^{\text{T}}\mathbf {K} _{j}\mathbf {1} _{l_{j}}\mathbf {K} _{j}^{\text{T}}\mathbf {\alpha } \\[4pt]&=\mathbf {\alpha } ^{\text{T}}\mathbf {N} \mathbf {\alpha } .\end{aligned}}}$

Используя эти уравнения для числителя и знаменателя ${\displaystyle J(\mathbf {w} )}$, уравнение для ${\displaystyle J}$ можно переписать как

${\displaystyle J(\mathbf {\alpha } )={\frac {\mathbf {\alpha } ^{\text{T}}\mathbf {M} \mathbf {\alpha } }{\mathbf {\alpha } ^{\text{T}}\mathbf {N} \mathbf {\alpha } }}.}$

Тогда дифференцирование и установка равным нулю дает

${\displaystyle (\mathbf {\alpha } ^{\text{T}}\mathbf {M} \mathbf {\alpha } )\mathbf {N} \mathbf {\alpha } =(\mathbf {\alpha } ^{\text{T}}\mathbf {N} \mathbf {\alpha } )\mathbf {M} \mathbf {\alpha } .}$

Поскольку только направление ${\displaystyle \mathbf {w} }$, а значит, и направление ${\displaystyle \mathbf {\alpha } ,}$ вопросы, вышеуказанное можно решить для ${\displaystyle \mathbf {\alpha } }$ в качестве

${\displaystyle \mathbf {\alpha } =\mathbf {N} ^{-1}(\mathbf {M} _{2}-\mathbf {M} _{1}).}$

Обратите внимание, что на практике ${\displaystyle \mathbf {N} }$ обычно единственное число, поэтому к нему добавляется кратное число ^[1]

${\displaystyle \mathbf {N} _{\epsilon }=\mathbf {N} +\epsilon \mathbf {I} .}$

Учитывая решение для ${\displaystyle \mathbf {\alpha } }$, проекция новой точки данных дается выражением^[1]

${\displaystyle y(\mathbf {x} )=(\mathbf {w} \cdot \phi (\mathbf {x} ))=\sum _{i=1}^{l}\alpha _{i}k(\mathbf {x} _{i},\mathbf {x} ).}$

Мультиклассовый КФД

Распространение на случаи, когда существует более двух классов, относительно просто.^[2][6][7] Позволять ${\displaystyle c}$ быть количеством классов. Затем мультиклассовый KFD включает в себя проецирование данных в ${\displaystyle (c-1)}$-мерное пространство с использованием ${\displaystyle (c-1)}$ дискриминантные функции

${\displaystyle y_{i}=\mathbf {w} _{i}^{\text{T}}\phi (\mathbf {x} )\qquad i=1,\ldots ,c-1.}$

Это можно записать в матричных обозначениях

${\displaystyle \mathbf {y} =\mathbf {W} ^{\text{T}}\phi (\mathbf {x} ),}$

где ${\displaystyle \mathbf {w} _{i}}$ столбцы ${\displaystyle \mathbf {W} }$.^[6] Кроме того, ковариационная матрица между классами теперь

${\displaystyle \mathbf {S} _{B}^{\phi }=\sum _{i=1}^{c}l_{i}(\mathbf {m} _{i}^{\phi }-\mathbf {m} ^{\phi })(\mathbf {m} _{i}^{\phi }-\mathbf {m} ^{\phi })^{\text{T}},}$

куда ${\displaystyle \mathbf {m} ^{\phi }}$ - это среднее значение всех данных в новом пространстве функций. Ковариационная матрица внутри класса:

${\displaystyle \mathbf {S} _{W}^{\phi }=\sum _{i=1}^{c}\sum _{n=1}^{l_{i}}(\phi (\mathbf {x} _{n}^{i})-\mathbf {m} _{i}^{\phi })(\phi (\mathbf {x} _{n}^{i})-\mathbf {m} _{i}^{\phi })^{\text{T}},}$

Решение теперь получается максимизацией

${\displaystyle J(\mathbf {W} )={\frac {\left|\mathbf {W} ^{\text{T}}\mathbf {S} _{B}^{\phi }\mathbf {W} \right|}{\left|\mathbf {W} ^{\text{T}}\mathbf {S} _{W}^{\phi }\mathbf {W} \right|}}.}$

Снова можно использовать трюк с ядром, и цель мультиклассового KFD становится^[7]

${\displaystyle \mathbf {A} ^{*}={\underset {\mathbf {A} }{\operatorname {argmax} }}={\frac {\left|\mathbf {A} ^{\text{T}}\mathbf {M} \mathbf {A} \right|}{\left|\mathbf {A} ^{\text{T}}\mathbf {N} \mathbf {A} \right|}},}$

куда ${\displaystyle A=[\mathbf {\alpha } _{1},\ldots ,\mathbf {\alpha } _{c-1}]}$ и

${\displaystyle {\begin{aligned}M&=\sum _{j=1}^{c}l_{j}(\mathbf {M} _{j}-\mathbf {M} _{*})(\mathbf {M} _{j}-\mathbf {M} _{*})^{\text{T}}\\N&=\sum _{j=1}^{c}\mathbf {K} _{j}(\mathbf {I} -\mathbf {1} _{l_{j}})\mathbf {K} _{j}^{\text{T}}.\end{aligned}}}$

В ${\displaystyle \mathbf {M} _{i}}$ определены как в предыдущем разделе и ${\displaystyle \mathbf {M} _{*}}$ определяется как

${\displaystyle (\mathbf {M} _{*})_{j}={\frac {1}{l}}\sum _{k=1}^{l}k(\mathbf {x} _{j},\mathbf {x} _{k}).}$

${\displaystyle \mathbf {A} ^{*}}$ затем можно вычислить, найдя ${\displaystyle (c-1)}$ ведущие собственные векторы ${\displaystyle \mathbf {N} ^{-1}\mathbf {M} }$.^[7] Кроме того, проекция нового входа, ${\displaystyle \mathbf {x} _{t}}$, дан кем-то^[7]

${\displaystyle \mathbf {y} (\mathbf {x} _{t})=\left(\mathbf {A} ^{*}\right)^{\text{T}}\mathbf {K} _{t},}$

где ${\displaystyle i^{th}}$ компонент ${\displaystyle \mathbf {K} _{t}}$ дан кем-то ${\displaystyle k(\mathbf {x} _{i},\mathbf {x} _{t})}$.

Классификация с использованием KFD

Как в двухклассовом, так и в многоклассовом KFD метка класса нового входа может быть назначена как^[7]

${\displaystyle f(\mathbf {x} )=arg\min _{j}D(\mathbf {y} (\mathbf {x} ),{\bar {\mathbf {y} }}_{j}),}$

куда ${\displaystyle {\bar {\mathbf {y} }}_{j}}$ прогнозируемое среднее значение для класса ${\displaystyle j}$ и ${\displaystyle D(\cdot ,\cdot )}$ - функция расстояния.

Приложения

Дискриминантный анализ ядра используется во множестве приложений. К ним относятся:

• Распознавание лица^[3][8][9] и обнаружение^[10][11]
• Распознавание рукописных цифр^[1][12]
• Распознавание отпечатков пальцев^[13]
• Классификация злокачественных и доброкачественных кластерных микрокальцификатов^[14]
• Классификация семян^[2]
• Поиски бозона Хиггса в ЦЕРНе^[15]

Смотрите также

• Факторный анализ
• Анализ основных компонентов ядра
• Уловка ядра
• Линейный дискриминантный анализ

Рекомендации

1. Мика, S; Rätsch, G .; Вестон, Дж .; Schölkopf, B .; Мюллер, KR (1999). Дискриминантный анализ Фишера с ядрами. Нейронные сети для обработки сигналов. IX. С. 41–48. CiteSeerX  10.1.1.35.9904. Дои:10.1109 / ННСП.1999.788121. ISBN  978-0-7803-5673-3.
2. Baudat, G .; Ануар, Ф. (2000). «Обобщенный дискриминантный анализ с использованием ядерного подхода». Нейронные вычисления. 12 (10): 2385–2404. CiteSeerX  10.1.1.412.760. Дои:10.1162/089976600300014980. PMID  11032039.
3. Li, Y .; Gong, S .; Лидделл, Х. (2003). «Распознавание траекторий лиц с использованием дискриминантного анализа ядра». Вычисления изображений и зрения. 21 (13–14): 1077–1086. CiteSeerX  10.1.1.2.6315. Дои:10.1016 / j.imavis.2003.08.010.
4. Епископ, CM (2006). Распознавание образов и машинное обучение. Нью-Йорк, штат Нью-Йорк: Спрингер.
5. Scholkopf, B; Herbrich, R .; Смола, А. (2001). Обобщенная теорема о представителе. Теория вычислительного обучения. Конспект лекций по информатике. 2111. С. 416–426. CiteSeerX  10.1.1.42.8617. Дои:10.1007/3-540-44581-1_27. ISBN  978-3-540-42343-0.
6. Дуда, Р .; Hart, P .; Аист, Д. (2001). Классификация паттернов. Нью-Йорк, штат Нью-Йорк: Wiley.
7. Zhang, J .; Ма, К. (2004). «Дискриминант Фишера ядра для классификации текстур».
8. Liu, Q .; Lu, H .; Ма, С. (2004). «Улучшение ядра дискриминантного анализа Фишера для распознавания лиц». IEEE Transactions по схемам и системам для видеотехнологий. 14 (1): 42–49. Дои:10.1109 / tcsvt.2003.818352.
9. Liu, Q .; Huang, R .; Lu, H .; Ма, С. (2002). «Распознавание лиц с использованием дискриминантного анализа Фишера на основе ядра». Международная конференция IEEE по автоматическому распознаванию лиц и жестов.
10. Курита, Т .; Тагучи, Т. (2002). Модификация дискриминантного анализа Фишера на основе ядра для обнаружения лиц. Международная конференция IEEE по автоматическому распознаванию лиц и жестов. С. 300–305. CiteSeerX  10.1.1.100.3568. Дои:10.1109 / AFGR.2002.1004170. ISBN  978-0-7695-1602-8.
11. Feng, Y .; Ши, П. (2004). «Обнаружение лиц на основе дискриминантного анализа ядра Фишера». Международная конференция IEEE по автоматическому распознаванию лиц и жестов.
12. Yang, J .; Frangi, AF; Ян, JY; Занг, Д., Джин, З. (2005). «KPCA plus LDA: полная дискриминантная структура ядра Fisher для извлечения и распознавания признаков». IEEE Transactions по анализу шаблонов и машинному анализу. 27 (2): 230–244. CiteSeerX  10.1.1.330.1179. Дои:10.1109 / тпами.2005.33. PMID  15688560.
13. Wang, Y .; Руан, К. (2006). «Дискриминантный анализ ядра Фишера для распознавания отпечатков пальцев». Международная конференция по распознаванию образов.
14. Wei, L .; Ян, Й .; Nishikawa, R.M .; Цзян, Ю. (2005). «Исследование нескольких методов машинного обучения для классификации злокачественных и доброкачественных кластерных микрокальцификаций». IEEE Transactions по медицинской визуализации. 24 (3): 371–380. Дои:10.1109 / tmi.2004.842457.
15. Мальмгрен, Т. (1997). «Программа итеративного нелинейного дискриминантного анализа: IDA 1.0». Компьютерная физика Коммуникации. 106 (3): 230–236. Дои:10.1016 / S0010-4655 (97) 00100-8.

внешняя ссылка

• Дискриминантный анализ ядра в C # - Код C # для выполнения KFD.
• Набор инструментов Matlab для уменьшения размерности - Включает метод выполнения KFD.
• Распознавание рукописного ввода с использованием дискриминантного анализа ядра - Код C #, демонстрирующий распознавание рукописных цифр с использованием KFD.