Кривая обучения (машинное обучение) - Learning curve (machine learning)

Кривая обучения, показывающая оценку обучения и оценку перекрестной проверки

В машинное обучение, а кривая обучения (или кривая тренировок) участки то оптимальный стоимость модели функция потерь для обучающего набора против этой функции потерь, оцененной на Проверка набор данных с теми же параметрами, что и оптимальная функция. Это инструмент, позволяющий выяснить, насколько модель машины выигрывает от добавления дополнительных обучающих данных и страдает ли оценщик больше от ошибки дисперсии или ошибки смещения. Если и оценка валидации, и оценка обучения сходятся к слишком низкому значению при увеличении размера обучающего набора, большее количество обучающих данных не принесет большой пользы.^[1]

Кривая машинного обучения полезна для многих целей, включая сравнение различных алгоритмов,^[2] выбор параметров модели при проектировании,^[3] настройка оптимизации для улучшения сходимости и определение количества данных, используемых для обучения.^[4]

В области машинного обучения есть два следствия кривых обучения, различающихся по оси x кривых, при этом опыт модели отображается на графике либо как количество обучающих примеров, используемых для обучения, либо как количество итераций, используемых при обучении модели.^[5]

Формальное определение

Одна из моделей машинного обучения создает функция, f (x), который дал некоторую информацию, Икс, предсказывает некоторую переменную, у, из данных обучения ${\displaystyle X_{\text{train}}}$ и ${\displaystyle Y_{\text{train}}}$. Он отличается от математическая оптимизация потому что ${\displaystyle f}$ должен хорошо предсказывать ${\displaystyle x}$вне ${\displaystyle X_{\text{train}}}$.

Мы часто ограничиваем возможные функции семьей ${\displaystyle \{f_{\theta }(x):\theta \in \Theta \}}$ так что функция обобщаемый^[6] и чтобы определенные свойства были истинными, либо чтобы найти хорошее ${\displaystyle f}$ проще, или потому что у нас есть априорные основания полагать, что они верны.^[6]:172

Учитывая, что невозможно создать функцию, которая идеально подходит для данных, необходимо создать функцию потерь. ${\displaystyle L(f_{\theta }(X),Y')}$ чтобы измерить, насколько хорош наш прогноз. Затем мы определяем процесс оптимизации, который находит ${\displaystyle \theta }$ что сводит к минимуму ${\displaystyle L(f_{\theta }(X_{\text{train}}),Y_{\text{train}})}$ упоминается как ${\displaystyle \theta ^{*}(X,Y)}$ .

Кривая обучения для количества данных

Тогда, если наши обучающие данные ${\displaystyle \{x_{1},x_{2},\dots ,x_{n}\},\{y_{1},y_{2},\dots y_{n}\}}$ и наши данные проверки ${\displaystyle \{x_{1}',x_{2}',\dots x_{m}'\},\{y_{1}',y_{2}',\dots y_{m}'\}}$ кривая обучения - это график двух кривых

1. ${\displaystyle i\mapsto L(f_{\theta ^{*}(X_{i},Y_{i})}(X_{i}),Y_{i})}$
2. ${\displaystyle i\mapsto L(f_{\theta ^{*}(X_{i},Y_{i})}(X_{i}'),Y_{i}')}$

где ${\displaystyle X_{i}=\{x_{1},x_{2},\dots x_{i}\}}$

Кривая обучения для количества итераций

Многие процессы оптимизации являются итеративными, повторяя один и тот же шаг до тех пор, пока процесс сходится до оптимального значения. Градиентный спуск один из таких алгоритмов. Если вы определите ${\displaystyle \theta _{i}^{*}}$ как приближение оптимального ${\displaystyle \theta }$ после ${\displaystyle i}$ шагов, кривая обучения - это график

1. ${\displaystyle i\mapsto L(f_{\theta _{i}^{*}(X,Y)}(X),Y)}$
2. ${\displaystyle i\mapsto L(f_{\theta _{i}^{*}(X,Y)}(X'),Y')}$

Смотрите также

• Переоснащение
• Компромисс смещения и дисперсии
• Выбор модели
• Перекрестная проверка (статистика)
• Срок действия (статистика)
• Верификация и валидация

использованная литература

1. разработчиков scikit-learn. "Кривые валидации: построение оценок для оценки моделей - документация scikit-learn 0.20.2". Получено 15 февраля, 2019.
2. Мадхаван, П. (1997). «Новый алгоритм обучения рекуррентной нейронной сети для прогнозирования временных рядов» (PDF). Журнал интеллектуальных систем. п. 113 Рис.3.
3. «Машинное обучение 102: практические советы». Учебное пособие: Машинное обучение для астрономии с помощью Scikit-learn.
4. Кроткий, Кристофер; Тиссон, Бо; Хекерман, Дэвид (лето 2002 г.). "Метод выборки кривой обучения, применяемый к модельно-ориентированной кластеризации". Журнал исследований в области машинного обучения. 2 (3): 397. Архивировано с оригинал на 2013-07-15.
5. Саммут, Клод; Уэбб, Джеффри И. (ред.) (28 марта 2011 г.). Энциклопедия машинного обучения (1-е изд.). Springer. п. 578. ISBN  978-0-387-30768-8.
6. Гудфеллоу, Ян; Бенхио, Йошуа; Курвиль, Аарон (18 ноября 2016 г.). Глубокое обучение. MIT Press. п. 108. ISBN  978-0-262-03561-3.