Частично линейная модель - Partially linear model

А частично линейная модель это форма полупараметрическая модель, поскольку содержит параметрические и непараметрические элементы. Применение оценок наименьших квадратов возможно для частично линейной модели, если верна гипотеза известного непараметрического элемента. Частично линейные уравнения были впервые использованы при анализе взаимосвязи между температурой и потреблением электроэнергии Энглом, Грейнджером, Райсом и Вейссом (1986). Типичное применение частично линейной модели в области микроэкономики представлено Трипати в случае рентабельности производства фирмы в 1997 году. Также частично линейная модель успешно применяется в некоторых других академических областях. В 1994 году Зегер и Диггл ввели частично линейную модель в биометрию. В области науки об окружающей среде Парда-Санчес и др. Использовали частично линейную модель для анализа собранных данных в 2000 году. До сих пор частично линейная модель была оптимизирована во многих других статистических методах. В 1988 году Робинсон применил ядерную оценку Надарая-Вастона для проверки непараметрического элемента для построения оценки методом наименьших квадратов. После этого, в 1997 году, Труонг нашел локальный линейный метод.

Частично линейная модель

Основная статья: Эконометрика

Синопсис

Уравнение алгебры

Алгебраное выражение частично линейной модели записывается как:

${\displaystyle y_{i}=\delta _{T}^{i}\beta +f(T_{i})+\mu _{i}}$^[1]

Схема компонентов уравнения

${\displaystyle \delta _{T}^{i}}$ и ${\displaystyle T_{i}}$: Векторы независимых переменных. Независимо случайные или фиксированные распределенные переменные.

${\displaystyle \beta }$: Измеряемый параметр.

${\displaystyle \mu _{i}}$: Случайная ошибка в статистике с нулевым средним значением.

${\displaystyle f(T_{i})}$: Деталь, подлежащая измерению в частично линейной модели.

Предположение^[1]

Вольфганг, Хуа Лян и Цзити Гао рассматривают допущения и замечания частично линейной модели при фиксированных и случайных расчетных условиях.

При случайном распределении введите

${\displaystyle L_{j}(T_{i})=E(\delta _{i,j}|T_{i})}$ и ${\displaystyle \mu _{i,j}=\delta _{i,j}-E(\delta _{i,j}|T_{i})}$ (1)

${\displaystyle E(||\delta _{1}||^{3})|T=t)}$меньше положительной бесконечности, когда значение t находится между 0 и 1, а сумма ковариации ${\displaystyle \delta _{1}-E(\delta _{1}|T_{1})}$ положительный. Случайные ошибки µ не зависят от ${\displaystyle (\delta _{i},T_{i})}$,

Когда ${\displaystyle \delta _{i}}$ и Ti фиксированы, распределены, ${\displaystyle L_{j}}$оценивается от 0 до 1, и ${\displaystyle \delta _{i}}$удовлетворяет ${\displaystyle \delta _{ij}=L_{j}(T_{i})+\mu _{ij}}$, где коэффициент i составляет от 1 до n, а коэффициент j - от 1 до p, коэффициент ошибки ${\displaystyle \mu _{ij}}$удовлетворяет, ${\displaystyle \lim _{n\to \infty }1/n\sum _{i=1}^{n}\mu _{i}\mu _{i}^{T}=\sum }$.

Оценка методом наименьших квадратов (LS)^[1]

Предварительным условием применения оценщиков наименьших квадратов является наличие непараметрической составляющей и выполнение случайно распределенных и фиксированных распределенных случаев.

Прежде чем применять оценки методом наименьших квадратов, следует сначала ввести модель сглаживания Энгла, Грейнджера, Райса и Вайсса (1986). Алгебрационная функция их модели выражается как ${\displaystyle Y=\delta ^{T}\beta +f(t)}$ (2).

Вольфганг, Лян и Гао (1988) делают предположение, что пара (ß, g) удовлетворяет ${\displaystyle 1/n\textstyle \sum _{i=1}^{n}\displaystyle E\{Y_{i}-\delta _{i}^{T}\beta -f(T_{i})\}^{2}=min1/n\textstyle \sum _{i=1}^{n}\displaystyle E\{Y_{i}-\delta _{i}^{T}-f(T_{i})\}^{2}}$ (3).

Это означает, что для всех 1≤i≤n, ${\displaystyle \delta _{i}^{T}\beta _{1}+f_{1}(T_{i})=\delta _{i}^{T}\beta _{2}+f_{2}(T_{i})}$.

Так, ${\displaystyle f_{1}=f_{2}and\beta _{1}=\beta _{2}}$.

В случае случайного распределения Вольфганг, Хуа Лян и Цзити Гао предполагают, что для всех 1 ≤ i ≤ n, ${\displaystyle E[Y_{i}|(\delta _{i},T_{i})]=\delta _{i}^{T}\beta 1+f_{1}(T_{i})=\delta _{i}^{T}\beta _{2}+f_{2}(T_{i})}$ (4)

так, ${\displaystyle E\{Y_{i}-\delta _{i}^{T}\beta _{1}-f_{1}(T_{i})\}^{2}=E\{Y_{i}-\delta _{i}^{T}\beta _{2}-f_{2}(T_{i})\}^{2}+(\beta _{1}-\beta _{2})^{T}E\{(\delta _{i}-E[\delta _{i}|T_{i}])(\delta _{i}-E[\delta _{i}|T_{i}]^{T})\}(\beta _{1}-\beta _{2})}$${\displaystyle \beta _{1}=\beta _{2}}$, из-за ${\displaystyle E\{(\delta _{i}-E[\delta _{i}|T_{i}])(\delta _{i}-E[\delta _{i}|T_{i}]^{T})\}}$- положительное число, как доказала функция (1). ${\displaystyle f_{j}(T_{i})=E[Y_{i}|T_{i}]-E[\delta _{i}^{T}\beta _{j}|T_{i}]}$установлено для всех 1≤i≤n и j равно 1 и 2, когда ${\displaystyle f_{1}=f_{2}}$.

В фиксированном распределенном случае Путем параметризации коэффициента из модели сглаживания (2) как ${\displaystyle \{f(T_{1}),.........,f(T_{n})\}^{T}=\omega _{r}and\omega _{r}=Q(Y-x\beta )}$где ${\displaystyle Q=\omega (\omega ^{T}\omega )^{-1}\omega ^{T}}$.

Делая то же предположение, что и (4), которое следует из предположения (1), ${\displaystyle \beta _{1}=\beta _{2}}$и ${\displaystyle f_{1}=f_{2}}$по факту ${\displaystyle 1/nE\{(Y-X\beta _{1}-\omega _{r1})^{T}(Y-X\beta _{1}-\omega _{r1})\}=1/nE{(Y-X\beta _{2}-\omega _{r2})^{T}(Y-X\beta _{2}-\omega _{r2})}+1/n(\beta _{1}-\beta _{2})^{T}X^{T}(1-Q)X(\beta _{1}-\beta _{2})}$.

Допустимые факторы ${\displaystyle \delta _{i},T_{i},Y_{i}}$(я здесь натуральные числа) удовлетворяет ${\displaystyle y_{i}=\delta _{i}^{T}\beta +f(T_{i})+\mu _{i}}$и установить положительные весовые функции ${\displaystyle \psi _{ni}(t)}$. Любые оценщики ${\displaystyle f(t)}$, для каждого ${\displaystyle \beta }$, у нас есть ${\displaystyle f_{n}(t;\beta )=\sum _{i=1}^{n}\psi _{ni}(t)(Y_{i}-\delta _{i}^{T}\beta )}$. Применяя критерий LS, оценка LS ${\displaystyle \beta _{LS}=\{({\tilde {\delta }}^{T}{\tilde {\delta }})\}^{-1}{\tilde {\delta }}^{T}{\tilde {Y}}}$. Непараметрическая оценка ${\displaystyle f(n)}$ выражается как ${\displaystyle {\hat {f_{n}}}(t)=\sum _{i=1}^{n}\psi _{ni}(t)(Y_{i}-\delta _{i}^{T}\beta _{LS})}$. Итак, когда случайные ошибки распределены одинаково, оценки дисперсии ${\displaystyle \sigma ^{2}}$ выражается как, ${\displaystyle {\hat {\sigma }}_{n}^{2}=1/n\sum _{i=1}^{n}({\tilde {Y_{i}}}-{\tilde {\delta _{i}^{T}}}\beta _{LS})}$.

История и применение частично линейной модели

Реальное применение частично линейной модели впервые было рассмотрено для анализа данных Энглом, Грейнджером, Райсом и Вайссом в 1986 году.^[1]

С их точки зрения, связь между температурой и потреблением электроэнергии не может быть выражена в линейной модели, потому что существует множество смешивающих факторов, таких как средний доход, цена товаров, покупательная способность потребителей и некоторые другие виды экономической деятельности. Некоторые факторы связаны друг с другом и могут повлиять на наблюдаемый результат. Поэтому они ввели частично линейную модель, которая содержала как параметрические, так и непараметрические факторы. Частично линейная модель позволяет и упрощает линейное преобразование данных (Engle, Granger, Rice and Weiss, 1986). Они также применили в своих исследованиях технику сглаживающих сплайнов.

Был случай применения частично линейной модели в биометрии Зегером и Дигглом в 1994 году. Целью исследования их статьи является цикл периода эволюции количества клеток CD4 в сероконвертерах ВИЧ (вируса иммунодефицита человека) (Zeger and Diggle, 1994). ).^[2] Клетка CD4 играет важную роль в иммунной функции человеческого организма. Зегер и Диггл стремились оценить развитие болезни путем измерения изменяющегося количества клеток CD4. Количество клеток CD4 зависит от возраста тела, курения и так далее. Чтобы очистить группу данных наблюдения в своем эксперименте, Зегер и Диггл применили частично линейную модель для своей работы. Частично линейная модель в первую очередь способствует оценке среднего времени потери клеток CD4 и корректирует временную зависимость некоторых других коварим, чтобы упростить процесс сравнения данных, а также частично линейная модель характеризует отклонение типичной кривой для наблюдаемых группа для оценки кривой прогрессирования изменения количества клеток CD4. Отклонение, предоставленное частично линейной моделью, потенциально помогает распознать наблюдаемые цели, у которых наблюдается медленное изменение количества клеток CD4.

В 1999 году Шмалензее и Стокер (1999) использовали частично линейную модель в области экономики. Независимой переменной их исследования является спрос на бензин в Соединенных Штатах. Основная цель исследования в их статье - взаимосвязь между потреблением бензина и долгосрочной эластичностью дохода в США. Точно так же существует множество смешанных переменных, которые могут влиять друг на друга. Таким образом, Шмалемзее и Стокер решили решать проблемы линейного преобразования данных между параметрическими и непараметрическими данными, применяя частично линейную модель.^[3]

В области науки об окружающей среде Prada-Sanchez использовал частично линейную модель для прогнозирования загрязнения диоксидом серы в 2000 году (Prada-Sanchez, 2000).^[4], а в следующем году Лин и Кэрролл применили частично линейную модель для кластеризованных данных (Lin and Carroall, 2001).^[5]

Разработка частично линейной модели

Согласно статье Ляна, опубликованной в 2010 году (Liang, 2010), метод сглаживающих сплайнов был введен в частично линейную модель Энглом, Хекманом и Райсом в 1986 году. После этого Робинсон нашел доступную LS-оценку для непараметрических факторов в частично линейной модели в 1988 году. В том же году Спекман рекомендовал профильный метод LS.^[6]

Другие инструменты эконометрики в частично линейной модели

Регрессия ядра также была введена в частично линейную модель. Метод локальной константы, разработанный Спекманом, и локальный линейный метод, который был обнаружен Гамильтоном и Труонгом в 1997 году и был пересмотрен Опсомером и Руппертом в 1997 году, - все они включены в ядерную регрессию. Грин и др., Опсомер и Рупперт обнаружили, что одной из важных характеристик ядерных методов является недостаточное сглаживание, чтобы найти оценку корня n для бета. Однако исследование Спекмана в 1988 году и исследование Северини и Станисвалиса в 1994 году доказали, что это ограничение может быть отменено.

Выбор полосы пропускания в частично линейной модели^[7]

Выбор полосы пропускания в частично линейной модели вызывает затруднения. Лян рассмотрел возможное решение для этого выбора полосы пропускания в своей литературе, применив метод на основе профильного ядра и методы обратной подгонки. Также Лян обосновал необходимость сглаживания для метода обратной подгонки и причину, по которой метод на основе профильного ядра может обеспечить выбор оптимальной полосы пропускания. Общая стратегия вычислений применяется в литературе Ляна для оценки непараметрической функции. Кроме того, для частично линейных моделей и интенсивных экспериментов по моделированию был введен метод штрафных сплайнов, чтобы выявить численные особенности метода штрафных сплайнов, профилей и методов обратной сборки.

Профиль на основе ядра и метод обратной вставки^[7]

Представляя ${\displaystyle E(Y|T)={E(X|T)}^{T}\beta +g(T)}$

После ${\displaystyle Y-E(Y|T)={X-E(X|T)}^{T}\beta +\epsilon }$

Интуитивная оценка ß может быть определена как оценка LS после соответствующей оценки ${\displaystyle E(Y|T)andE(X|T)}$.

Тогда для всех случайных векторных переменных ${\displaystyle \xi }$, предполагать ${\displaystyle {\hat {E}}(\xi |T)}$оценка ядерной регрессии ${\displaystyle E(\xi |T)}$. Позволять ${\displaystyle {\tilde {\xi }}=\xi -E(\xi |T),\textstyle \sum _{X|T}\displaystyle =cov{X-E(X|T)}}$. Например, ${\displaystyle {\tilde {X}}_{i}=X_{i}-E(X_{i}|T_{i})}$. Обозначить ${\displaystyle Y=(Y_{1},...,Y_{n})^{T}}$X, g и T аналогично. Позволять ${\displaystyle m_{x}(t)=E(X|T=t),m_{y}(t)=E(Y|T=t)}$. Так ${\displaystyle \psi (m_{x},m_{y},\beta ,Y,X,T)={X-m_{x}(T)}[Y-m_{y}(T)-{X-m_{x}(T)^{T}\beta }]}$

Оценки на основе ядра профиля ${\displaystyle {\hat {\beta _{p}}}}$совы

${\displaystyle 0=\sum _{i=1}^{n}\psi ({\hat {m_{x}}},{\hat {m_{y}}},\beta ,Y_{i},X_{i},T_{i})}$

где ${\displaystyle {\hat {m_{x}}},{\hat {m_{y}}}}$являются оценками ядра mx и my.

Штрафной метод сплайна^[7]

Метод штрафных сплайнов был разработан Эйлерсом и Марксом в 1996 году. Рупперт и Кэрролл в 2000 году и Brumback, Рупперт и Ванд в 1999 году использовали этот метод в рамках LME.

Предполагая функцию ${\displaystyle g(t)}$можно оценить по ${\displaystyle g(t,\tau )=\tau _{0}+\tau _{1}t+...+\tau _{p}t^{p}+\textstyle \sum _{k=1}^{K}\displaystyle b_{k}(t-\xi _{k})^{p}}$

где ${\displaystyle p\geqslant 1}$целое число, а ${\displaystyle \xi _{1}<...<\xi _{k}}$фиксированные узлы, ${\displaystyle a_{+}=max(a,0).}$Обозначить ${\displaystyle \tau =(tau_{0},...,\tau _{p})^{T}}$Рассматривать ${\displaystyle Y=X^{T}\beta +g(T,\tau )+\epsilon }$. Оценщик сплайнов со штрафом ${\displaystyle ({\hat {\beta _{ps}^{T}}},{\hat {\tau _{ps}^{T}}})^{T}of(\beta ^{T},\tau ^{T})^{T}}$определяется следующим образом

${\displaystyle \sum _{i=1}^{n}[Y_{i}-X_{i}^{T}\beta _{i}-g(T_{i},\tau )]^{2}+\alpha \sum _{k=1}^{K}b_{k}^{2}}$

куда ${\displaystyle \alpha }$- параметр сглаживания.

Как упоминал Брамбак и др. В 1999 г.^[8], оценщик ${\displaystyle ({\hat {\beta _{ps}^{T}}},{\hat {\tau _{ps}^{T}}})^{T}}$то же, что и оценка ${\displaystyle \beta }$ на основе модели LME.

${\displaystyle y=\Lambda (\beta ^{T},\tau ^{T})^{T}+Zb+\epsilon }$,

где ${\displaystyle \Lambda ={\begin{pmatrix}x_{11}&...&x_{1d}&1&T_{1}&...&T_{1}^{p}\\x_{21}&...&x_{2d}&1&T_{2}&...&T_{2}^{p}\\.&...&.&.&.&...&.\\.&...&.&.&.&...&.\\.&...&.&.&.&...&.\\x_{n1}&...&x_{nd}&1&T_{n}&...&T_{n}^{p}\end{pmatrix}}}$, ${\displaystyle Z={\begin{pmatrix}(T_{1}-\xi _{1})^{p}&...&(T_{1}-\xi _{K})_{+}^{p}\\(T_{2}-\xi _{1})^{p}&...&(T_{2}-\xi _{K})_{+}^{p}\\.&...&.\\.&...&.\\.&...&.\\(T_{n}-\xi _{1})^{p}&...&(T_{n}-\xi _{K})_{+}^{p}\end{pmatrix}}}$

куда ${\displaystyle b=(b_{1},...,b_{k})^{T}\backsim (0,\sigma _{b}^{2}),\epsilon =(\epsilon _{1},...,\epsilon _{n})^{T}\sim (0,\sigma _{\epsilon }^{2})}$, и ${\displaystyle \alpha =\sigma _{\epsilon }^{2}/\sigma _{b}^{2}}$. Матрица показывает более гладкий сплайн со штрафом для вышеприведенной структуры.

использованная литература

1. Хардл, Лян, ЦзиТи, WolfGang, Хуа, Гао (2000). Частично линейная модель. PHYSICA-VERLAG.
2. Zeger, Scott L .; Диггл, Питер Дж. (1994). «Полупараметрические модели для продольных данных с приложением к количеству клеток CD4 в сероконвертерах ВИЧ». Биометрия. 50 (3): 689–699. Дои:10.2307/2532783. ISSN  0006-341X. JSTOR  2532783.
3. Шмалензее, Ричард; Стокер, Томас М. (1999). «Бытовой спрос на бензин в США» (PDF). Econometrica. 67 (3): 645–662. Дои:10.1111/1468-0262.00041. ISSN  1468-0262.
4. Prada ‐ Sánchez, J.M .; Фебреро ‐ Банде, М .; Котос-Яньес, Т .; González ‐ Manteiga, W .; Bermúdez ‐ Cela, J. L .; Лукас-Домингес, Т. (2000). «Прогнозирование инцидентов, вызывающих загрязнение SO2 вблизи электростанции, с использованием частично линейных моделей и исторической матрицы векторов прогнозирующего ответа». Окружающая среда. 11 (2): 209–225. Дои:10.1002 / (SICI) 1099-095X (200003/04) 11: 2 <209 :: AID-ENV403> 3.0.CO; 2-Z. ISSN  1099-095X.
5. Кэрролл, Раймонд Дж .; Линь, Сихун (2001-12-01). «Полупараметрическая регрессия для кластеризованных данных». Биометрика. 88 (4): 1179–1185. Дои:10.1093 / biomet / 88.4.1179. ISSN  0006-3444.
6. Лян, Хуа (10 февраля 2006 г.). «Оценка в частично линейных моделях и численные сравнения». Вычислительная статистика и анализ данных. 50 (3): 675–687. Дои:10.1016 / j.csda.2004.10.007. ISSN  0167-9473. ЧВК  2824448. PMID  20174596.
7. Лян, Хуа (10 февраля 2006 г.). «Оценка в частично линейных моделях и численные сравнения». Вычислительная статистика и анализ данных. 50 (3): 675–687. Дои:10.1016 / j.csda.2004.10.007. ISSN  0167-9473. ЧВК  2824448. PMID  20174596.
8. Брамбак, Бабетта А.; Рупперт, Дэвид; Жезл, М. П. (1999). «Выбор переменных и оценка функций в аддитивной непараметрической регрессии с использованием априорной оценки на основе данных: комментарий». Журнал Американской статистической ассоциации. 94 (447): 794–797. Дои:10.2307/2669991. ISSN  0162-1459. JSTOR  2669991.