Автокорреляция - Autocorrelation

Вверху: график серии из 100 случайных чисел, скрывающих синус функция. Ниже: функция синуса, показанная в коррелограмма производится автокорреляцией.

Визуальное сравнение свертки, взаимная корреляция, и автокорреляция. Для операций с функцией ж, и принимая высоту ж равно 1.0, значение результата в 5 различных точках указано заштрихованной областью под каждой точкой. Кроме того, симметрия ж это причина ${displaystyle g*f}$ и ${displaystyle fstar g}$ идентичны в этом примере.

Автокорреляция, также известный как серийная корреляция, это корреляция из сигнал с отложенной копией самого себя как функцию задержки. Неформально это сходство между наблюдениями как функция временного интервала между ними. Анализ автокорреляции - это математический инструмент для поиска повторяющихся закономерностей, таких как наличие периодический сигнал скрыто шум, или определение отсутствует основная частота в сигнале, подразумеваемом его гармонический частоты. Часто используется в обработка сигналов для анализа функций или рядов значений, таких как область времени сигналы.

В разных областях исследования автокорреляция определяется по-разному, и не все эти определения эквивалентны. В некоторых областях этот термин используется как синонимы автоковариация.

Единичный корень процессы, тренд-стационарные процессы, авторегрессионные процессы, и процессы скользящего среднего являются специфическими формами процессов с автокорреляцией.

Автокорреляция случайных процессов

В статистика, автокорреляция действительного или сложного случайный процесс это Корреляции Пирсона между значениями процесса в разное время в зависимости от двух моментов времени или временной задержки. Позволять ${displaystyle left{X_{t}ight}}$ быть случайным процессом, и ${displaystyle t}$ быть в любой момент времени (${displaystyle t}$ может быть целое число для дискретное время процесс или настоящий номер для непрерывное время процесс). потом ${displaystyle X_{t}}$ это значение (или реализация ) произведенный данным пробег процесса во время ${displaystyle t}$. Предположим, что процесс имеет иметь в виду ${displaystyle mu _{t}}$ и отклонение ${displaystyle sigma _{t}^{2}}$ вовремя ${displaystyle t}$, для каждого ${displaystyle t}$. Тогда определение функция автокорреляции между временами ${displaystyle t_{1}}$ и ${displaystyle t_{2}}$ является^{[1]:стр.388[2]:стр.165}

${displaystyle operatorname {R} _{XX}(t_{1},t_{2})=operatorname {E} left[X_{t_{1}}{overline {X}}_{t_{2}}ight]}$

(Уравнение 1)

куда ${displaystyle operatorname {E} }$ это ожидаемое значение оператор и полоса представляет комплексное сопряжение. Обратите внимание, что ожидание не может быть четко определено.

Вычитание среднего перед умножением дает функция автоковариации между временами ${displaystyle t_{1}}$ и ${displaystyle t_{2}}$:^{[1]:стр.392[2]:стр.168}

${displaystyle operatorname {K} _{XX}(t_{1},t_{2})=operatorname {E} left[(X_{t_{1}}-mu _{t_{1}}){overline {(X_{t_{2}}-mu _{t_{2}})}}ight]=operatorname {E} left[X_{t_{1}}{overline {X}}_{t_{2}}ight]-mu _{t_{1}}{overline {mu }}_{t_{2}}}$

(Уравнение 2)

Обратите внимание, что это выражение не является четко определенным для всех временных рядов или процессов, потому что среднее может не существовать, или дисперсия может быть нулевой (для постоянного процесса) или бесконечной (для процессов с распределением, не имеющим хороших моментов, таких как как некоторые виды степенного закона).

Определение стационарного случайного процесса в широком смысле

Если ${displaystyle left{X_{t}ight}}$ это стационарный процесс в широком смысле тогда среднее ${displaystyle mu }$ и дисперсия ${displaystyle sigma ^{2}}$ не зависят от времени, и далее функция автоковариации зависит только от запаздывания между ${displaystyle t_{1}}$ и ${displaystyle t_{2}}$: автоковариация зависит только от расстояния во времени между парой значений, но не от их положения во времени. Это также означает, что автоковариация и автокорреляция могут быть выражены как функция временного запаздывания, и что это будет даже функция отставания ${displaystyle au =t_{2}-t_{1}}$. Это дает более знакомые формы для функция автокорреляции^{[1]:стр.395}

${displaystyle operatorname {R} _{XX}( au )=operatorname {E} left[X_{t}{overline {X}}_{t+ au }ight]}$

(Уравнение 3)

и функция автоковариации:

${displaystyle operatorname {K} _{XX}( au )=operatorname {E} left[(X_{t}-mu ){overline {(X_{t+ au }-mu )}}ight]=operatorname {E} left[X_{t}{overline {X}}_{t+ au }ight]-mu {overline {mu }}}$

(Уравнение 4)

Нормализация

Это обычная практика в некоторых дисциплинах (например, статистика и анализ временных рядов ), чтобы нормализовать функцию автоковариации, чтобы получить зависящую от времени Коэффициент корреляции Пирсона. Однако в других дисциплинах (например, инженерии) от нормализации обычно отказываются, и термины «автокорреляция» и «автоковариация» используются как взаимозаменяемые.

Определение коэффициента автокорреляции случайного процесса:^{[2]:стр.169}

${displaystyle ho _{XX}(t_{1},t_{2})={frac {operatorname {K} _{XX}(t_{1},t_{2})}{sigma _{t_{1}}sigma _{t_{2}}}}={frac {operatorname {E} left[(X_{t_{1}}-mu _{t_{1}}){overline {(X_{t_{2}}-mu _{t_{2}})}}ight]}{sigma _{t_{1}}sigma _{t_{2}}}}.}$

Если функция ${displaystyle ho _{XX}}$ четко определено, его значение должно лежать в диапазоне ${displaystyle [-1,1]}$, где 1 указывает на идеальную корреляцию, а -1 указывает на идеальную антикорреляция.

Для слабого чутья стационарность, стационарность в широком смысле (WSS), определение

${displaystyle ho _{XX}( au )={frac {operatorname {K} _{XX}( au )}{sigma ^{2}}}={frac {operatorname {E} left[(X_{t}-mu ){overline {(X_{t+ au }-mu )}}ight]}{sigma ^{2}}}}$

куда

${displaystyle operatorname {K} _{XX}(0)=sigma ^{2}.}$

Нормализация важна и потому, что интерпретация автокорреляции как корреляции обеспечивает безмасштабную меру силы статистическая зависимость, и потому что нормализация влияет на статистические свойства оцененных автокорреляций.

Характеристики

Свойство симметрии

Тот факт, что функция автокорреляции ${displaystyle operatorname {R} _{XX}}$ является даже функция можно сформулировать как^{[2]:стр.171}

${displaystyle operatorname {R} _{XX}(t_{1},t_{2})={overline {operatorname {R} _{XX}(t_{2},t_{1})}}}$

Соответственно для процесса WSS:^{[2]:стр.173}

${displaystyle operatorname {R} _{XX}( au )={overline {operatorname {R} _{XX}(- au )}}.}$

Максимум на нуле

Для процесса WSS:^{[2]:стр.174}

${displaystyle left|operatorname {R} _{XX}( au )ight|leq operatorname {R} _{XX}(0)}$

Заметь ${displaystyle operatorname {R} _{XX}(0)}$ всегда реально.

Неравенство Коши – Шварца

В Неравенство Коши – Шварца, неравенство для случайных процессов:^{[1]:стр.392}

${displaystyle left|operatorname {R} _{XX}(t_{1},t_{2})ight|^{2}leq operatorname {E} left[|X_{t_{1}}|^{2}ight]operatorname {E} left[|X_{t_{2}}|^{2}ight]}$

Автокорреляция белого шума

Автокорреляция непрерывного времени белый шум сигнал будет иметь сильный пик (представленный Дельта-функция Дирака ) в ${displaystyle au =0}$ и будет ровно 0 для всех остальных ${displaystyle au }$.

Теорема Винера – Хинчина

В Теорема Винера – Хинчина связывает автокорреляционную функцию ${displaystyle operatorname {R} _{XX}}$ к спектральная плотность мощности ${displaystyle S_{XX}}$ через преобразование Фурье:

${displaystyle operatorname {R} _{XX}( au )=int _{-infty }^{infty }S_{XX}(f)e^{i2pi f au },{m {d}}f}$

${displaystyle S_{XX}(f)=int _{-infty }^{infty }operatorname {R} _{XX}( au )e^{-i2pi f au },{m {d}} au .}$

Для действительных функций симметричная автокорреляционная функция имеет действительное симметричное преобразование, поэтому Теорема Винера – Хинчина может быть выражено только в вещественных косинусах:

${displaystyle operatorname {R} _{XX}( au )=int _{-infty }^{infty }S_{XX}(f)cos(2pi f au ),{m {d}}f}$

${displaystyle S_{XX}(f)=int _{-infty }^{infty }operatorname {R} _{XX}( au )cos(2pi f au ),{m {d}} au .}$

Автокорреляция случайных векторов

В матрица автокорреляции (также называемый вторым моментом) случайный вектор ${displaystyle mathbf {X} =(X_{1},ldots ,X_{n})^{m {T}}}$ является ${displaystyle n imes n}$ матрица, содержащая в качестве элементов автокорреляции всех пар элементов случайного вектора ${displaystyle mathbf {X} }$. Матрица автокорреляции используется в различных алгоритмах цифровой обработки сигналов.

Для случайный вектор ${displaystyle mathbf {X} =(X_{1},ldots ,X_{n})^{m {T}}}$ содержащий случайные элементы чей ожидаемое значение и отклонение существуют, матрица автокорреляции определяется^{[3]:стр.190[1]:стр.334}

${displaystyle operatorname {R} _{mathbf {X} mathbf {X} } riangleq operatorname {E} left[mathbf {X} mathbf {X} ^{m {T}}ight]}$

(Уравнение 1)

куда ${displaystyle {}^{m {T}}}$ обозначает транспонирование и имеет размеры ${displaystyle n imes n}$.

Написано покомпонентно:

${displaystyle operatorname {R} _{mathbf {X} mathbf {X} }={egin{bmatrix}operatorname {E} [X_{1}X_{1}]&operatorname {E} [X_{1}X_{2}]&cdots &operatorname {E} [X_{1}X_{n}]\operatorname {E} [X_{2}X_{1}]&operatorname {E} [X_{2}X_{2}]&cdots &operatorname {E} [X_{2}X_{n}]\vdots &vdots &ddots &vdots \operatorname {E} [X_{n}X_{1}]&operatorname {E} [X_{n}X_{2}]&cdots &operatorname {E} [X_{n}X_{n}]\end{bmatrix}}}$

Если ${displaystyle mathbf {Z} }$ это комплексный случайный вектор, матрица автокорреляции вместо этого определяется как

${displaystyle operatorname {R} _{mathbf {Z} mathbf {Z} } riangleq operatorname {E} [mathbf {Z} mathbf {Z} ^{m {H}}].}$

Здесь ${displaystyle {}^{m {H}}}$ обозначает Эрмитова транспозиция.

Например, если ${displaystyle mathbf {X} =left(X_{1},X_{2},X_{3}ight)^{m {T}}}$ - случайные векторы, то ${displaystyle operatorname {R} _{mathbf {X} mathbf {X} }}$ это ${displaystyle 3 imes 3}$ матрица, чья ${displaystyle (i,j)}$-я запись ${displaystyle operatorname {E} [X_{i}X_{j}]}$.

Свойства автокорреляционной матрицы

• Матрица автокорреляции представляет собой Эрмитова матрица для комплексных случайных векторов и симметричная матрица для реальных случайных векторов.^{[3]:стр.190}
• Матрица автокорреляции - это положительно полуопределенная матрица,^{[3]:стр.190} т.е. ${displaystyle mathbf {a} ^{mathrm {T} }operatorname {R} _{mathbf {X} mathbf {X} }mathbf {a} geq 0quad { ext{for all }}mathbf {a} in mathbb {R} ^{n}}$ для реального случайного вектора соответственно ${displaystyle mathbf {a} ^{mathrm {H} }operatorname {R} _{mathbf {Z} mathbf {Z} }mathbf {a} geq 0quad { ext{for all }}mathbf {a} in mathbb {C} ^{n}}$ в случае сложного случайного вектора.
• Все собственные значения автокорреляционной матрицы действительны и неотрицательны.
• В матрица автоковариации связана с автокорреляционной матрицей следующим образом:

${displaystyle operatorname {K} _{mathbf {X} mathbf {X} }=operatorname {E} [(mathbf {X} -operatorname {E} [mathbf {X} ])(mathbf {X} -operatorname {E} [mathbf {X} ])^{m {T}}]=operatorname {R} _{mathbf {X} mathbf {X} }-operatorname {E} [mathbf {X} ]operatorname {E} [mathbf {X} ]^{m {T}}}$

Соответственно для сложных случайных векторов:

${displaystyle operatorname {K} _{mathbf {Z} mathbf {Z} }=operatorname {E} [(mathbf {Z} -operatorname {E} [mathbf {Z} ])(mathbf {Z} -operatorname {E} [mathbf {Z} ])^{m {H}}]=operatorname {R} _{mathbf {Z} mathbf {Z} }-operatorname {E} [mathbf {Z} ]operatorname {E} [mathbf {Z} ]^{m {H}}}$

Автокорреляция детерминированных сигналов

В обработка сигналов, приведенное выше определение часто используется без нормализации, то есть без вычитания среднего и деления на дисперсию. Когда автокорреляционная функция нормирована на среднее значение и дисперсию, ее иногда называют коэффициент автокорреляции^[4] или функция автоковариации.

Автокорреляция сигнала непрерывного времени

Учитывая сигнал ${displaystyle f(t)}$, непрерывная автокорреляция ${displaystyle R_{ff}( au )}$ чаще всего определяется как непрерывный интеграл взаимной корреляции ${displaystyle f(t)}$ с собой, с запаздыванием ${displaystyle au }$.^{[1]:стр.411}

${displaystyle R_{ff}( au )=int _{-infty }^{infty }f(t+ au ){overline {f(t)}},{m {d}}t=int _{-infty }^{infty }f(t){overline {f(t- au )}},{m {d}}t}$

(Уравнение 6)

куда ${displaystyle {overline {f(t)}}}$ представляет комплексно сопряженный из ${displaystyle f(t)}$. Обратите внимание, что параметр ${displaystyle t}$ в интеграле - это фиктивная переменная, которая необходима только для вычисления интеграла. Это не имеет особого значения.

Автокорреляция сигнала с дискретным временем

Дискретная автокорреляция ${displaystyle R}$ с отставанием ${displaystyle ell }$ для сигнала с дискретным временем ${displaystyle y(n)}$ является

${displaystyle R_{yy}(ell )=sum _{nin Z}y(n),{overline {y(n-ell )}}}$

(Уравнение 7)

Приведенные выше определения работают для сигналов, которые интегрируются в квадрате или суммируются в квадрате, то есть с конечной энергией. Сигналы, которые «длятся вечно», вместо этого рассматриваются как случайные процессы, и в этом случае требуются другие определения, основанные на ожидаемых значениях. За стационарные случайные процессы в широком смысле автокорреляции определяются как

${displaystyle R_{ff}( au )=operatorname {E} left[f(t){overline {f(t- au )}}ight]}$

${displaystyle R_{yy}(ell )=operatorname {E} left[y(n),{overline {y(n-ell )}}ight].}$

Для процессов, которые не стационарный, это также будут функции ${displaystyle t}$, или же ${displaystyle n}$.

Для процессов, которые также эргодический, ожидание можно заменить пределом среднего времени. Автокорреляция эргодического процесса иногда определяется как или приравнивается к^[4]

${displaystyle R_{ff}( au )=lim _{Tightarrow infty }{frac {1}{T}}int _{0}^{T}f(t+ au ){overline {f(t)}},{m {d}}t}$

${displaystyle R_{yy}(ell )=lim _{Nightarrow infty }{frac {1}{N}}sum _{n=0}^{N-1}y(n),{overline {y(n-ell )}}.}$

Преимущество этих определений состоит в том, что они дают разумные и четко определенные однопараметрические результаты для периодических функций, даже если эти функции не являются результатом стационарных эргодических процессов.

В качестве альтернативы сигнализирует, что длиться вечно можно рассматривать с помощью краткосрочного анализа автокорреляционной функции с использованием конечных временных интегралов. (Видеть кратковременное преобразование Фурье для связанного процесса.)

Определение периодических сигналов

Если ${displaystyle f}$ является непрерывной периодической функцией периода ${displaystyle T}$, интеграция из ${displaystyle -infty }$ к ${displaystyle infty }$ заменяется интегрированием по любому интервалу ${displaystyle [t_{0},t_{0}+T]}$ длины ${displaystyle T}$:

${displaystyle R_{ff}( au ) riangleq int _{t_{0}}^{t_{0}+T}f(t+ au ){overline {f(t)}},dt}$

что эквивалентно

${displaystyle R_{ff}( au ) riangleq int _{t_{0}}^{t_{0}+T}f(t){overline {f(t- au )}},dt}$

Характеристики

Далее мы будем описывать свойства только одномерных автокорреляций, поскольку большинство свойств легко переносятся из одномерного случая в многомерный. Эти свойства сохраняются для стационарные процессы в широком смысле.^[5]

• Основным свойством автокорреляции является симметрия, ${displaystyle R_{ff}( au )=R_{ff}(- au )}$, что легко доказать из определения. В непрерывном случае

автокорреляция - это даже функция

${displaystyle R_{ff}(- au )=R_{ff}( au ),}$ когда ${displaystyle f}$ это реальная функция,

а автокорреляция есть Эрмитова функция

${displaystyle R_{ff}(- au )=R_{ff}^{*}( au ),}$ когда ${displaystyle f}$ это сложная функция.

• Непрерывная автокорреляционная функция достигает своего пика в начале координат, где она принимает реальное значение, то есть для любой задержки ${displaystyle au }$, ${displaystyle |R_{ff}( au )|leq R_{ff}(0)}$.^{[1]:стр.410} Это следствие перестановочное неравенство. Тот же результат имеет место и в дискретном случае.
• Автокорреляция периодическая функция является периодическим с тем же периодом.
• Автокорреляция суммы двух полностью некоррелированных функций (взаимная корреляция равна нулю для всех ${displaystyle au }$) - сумма автокорреляций каждой функции в отдельности.
• Поскольку автокорреляция - это особый тип взаимная корреляция, он сохраняет все свойства взаимной корреляции.
• Используя символ ${displaystyle *}$ представлять свертка и ${displaystyle g_{-1}}$ это функция, которая управляет функцией ${displaystyle f}$ и определяется как ${displaystyle g_{-1}(f)(t)=f(-t)}$, определение для ${displaystyle R_{ff}( au )}$ можно записать как:

${displaystyle R_{ff}( au )=(f*g_{-1}({overline {f}}))( au )}$

Многомерная автокорреляция

Мульти-размерный автокорреляция определяется аналогично. Например, в три измерения автокорреляция суммируемого с квадратом дискретный сигнал было бы

${displaystyle R(j,k,ell )=sum _{n,q,r}x_{n,q,r},x_{n-j,q-k,r-ell }.}$

Когда средние значения вычитаются из сигналов перед вычислением функции автокорреляции, результирующая функция обычно называется функцией автоковариации.

Эффективное вычисление

Для данных, выраженных как дискретный последовательности, часто бывает необходимо вычислить автокорреляцию с высоким вычислительная эффективность. Метод грубой силы, основанный на определении обработки сигнала ${displaystyle R_{xx}(j)=sum _{n}x_{n},{overline {x}}_{n-j}}$ может использоваться при небольшом размере сигнала. Например, для расчета автокорреляции реальной сигнальной последовательности ${displaystyle x=(2,3,-1)}$ (т.е. ${displaystyle x_{0}=2,x_{1}=3,x_{2}=-1}$, и ${displaystyle x_{i}=0}$ для всех остальных значений я) вручную, мы сначала узнаем, что только что данное определение совпадает с "обычным" умножением, но со сдвигом вправо, где каждое вертикальное сложение дает автокорреляцию для определенных значений запаздывания:

${displaystyle {egin{array}{rrrrrr}&2&3&-1 imes &2&3&-1hline &-2&-3&1&&6&9&-3+&&&4&6&-2hline &-2&3&14&3&-2end{array}}}$

Таким образом, требуемая последовательность автокорреляции ${displaystyle R_{xx}=(-2,3,14,3,-2)}$, куда ${displaystyle R_{xx}(0)=14,}$ ${displaystyle R_{xx}(-1)=R_{xx}(1)=3,}$ и ${displaystyle R_{xx}(-2)=R_{xx}(2)=-2,}$ автокорреляция для других значений запаздывания равна нулю. В этом вычислении мы не выполняем операцию переноса во время сложения, как это обычно бывает при обычном умножении. Обратите внимание, что мы можем вдвое сократить количество необходимых операций, используя симметрию, присущую автокорреляции. Если сигнал оказывается периодическим, т.е. ${displaystyle x=(ldots ,2,3,-1,2,3,-1,ldots ),}$ тогда мы получаем круговую автокорреляцию (аналогично круговая свертка ), где левый и правый хвосты предыдущей автокорреляционной последовательности будут перекрываться и давать ${displaystyle R_{xx}=(ldots ,14,1,1,14,1,1,ldots )}$ который имеет тот же период, что и сигнальная последовательность ${displaystyle x.}$ Процедуру можно рассматривать как применение свойства свертки z-преобразование дискретного сигнала.

В то время как алгоритм грубой силы порядок п², существует несколько эффективных алгоритмов, которые могут вычислять автокорреляцию, чтобы п бревно(п). Например, Теорема Винера – Хинчина позволяет вычислить автокорреляцию из необработанных данных Икс(т) с двумя быстрые преобразования Фурье (БПФ):^[6]

${displaystyle {egin{aligned}F_{R}(f)&=operatorname {FFT} [X(t)]S(f)&=F_{R}(f)F_{R}^{*}(f)R( au )&=operatorname {IFFT} [S(f)]end{aligned}}}$

где IFFT обозначает обратный быстрое преобразование Фурье. Звездочка обозначает комплексно сопряженный.

В качестве альтернативы несколько τ корреляция может быть выполнена с помощью вычисления грубой силы для низких τ значения, а затем постепенно Икс(т) данные с логарифмический плотность для вычисления более высоких значений, что приводит к тому же п бревно(п) эффективность, но с меньшими требованиями к памяти.^[7][8]

Оценка

Для дискретный процесс с известным средним и дисперсией, для которого мы наблюдаем ${displaystyle n}$ наблюдения ${displaystyle {X_{1},,X_{2},,ldots ,,X_{n}}}$, оценка автокорреляции может быть получена как

${displaystyle {hat {R}}(k)={frac {1}{(n-k)sigma ^{2}}}sum _{t=1}^{n-k}(X_{t}-mu )(X_{t+k}-mu )}$

для любого положительного целого числа ${displaystyle k<n}$. Когда истинное среднее ${displaystyle mu }$ и дисперсия ${displaystyle sigma ^{2}}$ известны, эта оценка беспристрастный. Если истинное среднее и отклонение процесса неизвестны, есть несколько возможностей:

• Если ${displaystyle mu }$ и ${displaystyle sigma ^{2}}$ заменяются стандартными формулами для выборочного среднего и выборочной дисперсии, тогда это предвзятая оценка.
• А периодограмма смета заменяет ${displaystyle n-k}$ в приведенной выше формуле с ${displaystyle n}$. Эта оценка всегда необъективна; однако обычно он имеет меньшую среднеквадратичную ошибку.^[9][10]
• Другие возможности связаны с обработкой двух частей данных. ${displaystyle {X_{1},,X_{2},,ldots ,,X_{n-k}}}$ и ${displaystyle {X_{k+1},,X_{k+2},,ldots ,,X_{n}}}$ отдельно и вычисление отдельных выборочных средних и / или выборочных дисперсий для использования при определении оценки.^{[нужна цитата ]}

Преимущество оценок последнего типа состоит в том, что набор предполагаемых автокорреляций как функция ${displaystyle k}$, затем сформируйте функцию, которая является допустимой автокорреляцией в том смысле, что можно определить теоретический процесс, имеющий именно эту автокорреляцию. Другие оценки могут страдать от проблемы, заключающейся в том, что, если они используются для вычисления дисперсии линейной комбинации ${displaystyle X}$s, рассчитанная дисперсия может оказаться отрицательной.^[11]

Регрессивный анализ

В регрессивный анализ с помощью данные временного ряда автокорреляция в интересующей переменной обычно моделируется либо с помощью авторегрессионная модель (AR), а модель скользящего среднего (MA), их комбинация как модель авторегрессионного скользящего среднего (ARMA) или расширение последнего, называемое авторегрессионная интегрированная модель скользящего среднего (ARIMA). С несколькими взаимосвязанными рядами данных, векторная авторегрессия (VAR) или его расширения.

В обыкновенный метод наименьших квадратов (OLS), адекватность спецификации модели можно частично проверить, установив, есть ли автокорреляция остатки регрессии. Проблемную автокорреляцию ошибок, которые сами по себе не наблюдаются, обычно можно обнаружить, потому что она производит автокорреляцию в наблюдаемых остатках. (Ошибки также известны как "термины ошибок" в эконометрика.) Автокорреляция ошибок нарушает обычное допущение методом наименьших квадратов о том, что члены ошибок не коррелированы, что означает, что Теорема Гаусса Маркова не применяется, и что оценки МНК больше не являются лучшими линейными несмещенными оценками (СИНИЙ ). Хотя это не влияет на оценки коэффициента OLS, стандартные ошибки обычно недооцениваются (а t-баллы завышена), когда автокорреляция ошибок при малых лагах положительна.

Традиционным тестом на наличие автокорреляции первого порядка является Статистика Дарбина – Ватсона или, если независимые переменные включают зависимую переменную с задержкой, H-статистика Дарбина. Однако Дарбина-Ватсона можно линейно сопоставить с корреляцией Пирсона между значениями и их лагами.^[12] Более гибким тестом, охватывающим автокорреляцию более высоких порядков и применимым независимо от того, включают ли регрессоры лаги зависимой переменной, является Тест Бреуша – Годфри. Это включает в себя вспомогательную регрессию, в которой остатки, полученные в результате оценки интересующей модели, регрессируют на (а) исходные регрессоры и (б) k запаздывания остатков, где «k» - порядок проверки. Самый простой вариант тестовой статистики из этой вспомогательной регрессии: TR², куда Т размер выборки и р² это коэффициент детерминации. При нулевой гипотезе об отсутствии автокорреляции эта статистика асимптотически распределяется как ${displaystyle chi ^{2}}$ с k степени свободы.

Ответы на ненулевую автокорреляцию включают: обобщенный метод наименьших квадратов и Оценка HAC Ньюи – Уэста (Гетероскедастичность и автокорреляция согласованы).^[13]

По оценке модель скользящего среднего (MA) автокорреляционная функция используется для определения подходящего количества включенных слагаемых ошибок. Это основано на том факте, что для процесса заказа MA q, у нас есть ${displaystyle R( au )eq 0}$, за ${displaystyle au =0,1,ldots ,q}$, и ${displaystyle R( au )=0}$, за ${displaystyle au >q}$.

Приложения

• Автокорреляционный анализ широко используется в флуоресцентная корреляционная спектроскопия^[14] чтобы обеспечить количественное понимание диффузии на молекулярном уровне и химических реакций.^[15]
• Еще одно применение автокорреляции - измерение оптические спектры и измерение очень коротких свет импульсы произведено лазеры, оба используют оптические автокорреляторы.
• Автокорреляция используется для анализа динамическое рассеяние света данные, которые, в частности, позволяют определять гранулометрический состав частиц нанометрового размера или мицеллы приостановлено в жидкости. Лазер, освещающий смесь, производит пятнистый узор это результат движения частиц. Автокорреляцию сигнала можно проанализировать с точки зрения диффузии частиц. Исходя из этого, зная вязкость жидкости, можно рассчитать размеры частиц.
• Используется в GPS система, чтобы исправить Задержка распространения, или сдвиг во времени, между моментом времени при передаче несущий сигнал на спутниках и момент времени на приемнике на земле. Это выполняется приемником, генерирующим реплику сигнала 1023-битного кода C / A (курс / получение) и генерирующих строки кодовых чипов [-1,1] в пакетах по десять за раз, или 10230 чипов (1023 x 10), слегка смещаясь по мере продвижения, чтобы приспособиться к доплеровский сдвиг во входящем спутниковом сигнале, пока сигнал реплики приемника и коды спутникового сигнала не совпадут.^[16]
• В малоугловое рассеяние рентгеновских лучей Интенсивность наноструктурированной системы представляет собой преобразование Фурье пространственной автокорреляционной функции электронной плотности.
• В наука о поверхности и сканирующая зондовая микроскопия автокорреляция используется для установления связи между морфологией поверхности и функциональными характеристиками.^[17]
• В оптике нормированные автокорреляции и кросс-корреляции дают степень согласованности электромагнитного поля.
• В обработка сигналов автокорреляция может дать информацию о повторяющихся событиях, таких как музыкальный удары (например, чтобы определить темп ) или же пульсар частоты, хотя он не может определить положение во времени удара. Его также можно использовать для оценить высоту музыкального тона.
• В запись музыки автокорреляция используется как алгоритм определения высоты тона перед обработкой вокала, как эффект искажения или для устранения нежелательных ошибок и неточностей.^[18]

• Автокорреляция в пространстве, а не во времени, через Функция Паттерсона, используется рентгенологами, чтобы помочь восстановить «фазовую информацию Фурье» о положениях атомов, недоступную только с помощью дифракции.
• В статистике пространственная автокорреляция между местоположениями выборки также помогает оценить неопределенности среднего значения при отборе неоднородной популяции.
• В ЗАПРОС алгоритм анализа масс-спектры использует автокорреляцию в сочетании с взаимная корреляция оценить сходство наблюдаемого спектра с идеализированным спектром, представляющим пептид.
• В астрофизика, автокорреляция используется для изучения и характеристики пространственного распределения галактики во Вселенной и в многоволновых наблюдениях малой массы Рентгеновские двойные системы.
• В данные панели, пространственная автокорреляция относится к корреляции переменной с самой собой в пространстве.
• При анализе Цепь Маркова Монте-Карло данных, автокорреляция должна быть принята во внимание для правильного определения ошибки.
• В науках о Земле (в частности, в геофизике) его можно использовать для вычисления автокорреляционного сейсмического атрибута на основе трехмерной сейсмической разведки под землей.
• В медицинский ультразвук визуализация, автокорреляция используется для визуализации кровотока.
• В выбор межвременного портфеля, наличие или отсутствие автокорреляции в активах норма прибыли может повлиять на оптимальную часть портфеля для удержания в этом активе.

Серийная зависимость

Серийная зависимость тесно связано с понятием автокорреляции, но представляет собой отдельную концепцию (см. Корреляция и зависимость ). В частности, возможна серийная зависимость, но не (линейная) корреляция. Однако в некоторых областях эти два термина используются как синонимы.

А Временные ряды из случайная переменная имеет последовательную зависимость, если значение в какой-то момент ${displaystyle t}$ в сериале статистически зависимый по стоимости в другое время ${displaystyle s}$. Серия является серийно независимой, если нет зависимости между какой-либо парой.

Если временной ряд ${displaystyle left{X_{t}ight}}$ является стационарный, то статистическая зависимость между парой ${displaystyle (X_{t},X_{s})}$ означало бы, что существует статистическая зависимость между всеми парами значений с одинаковым лагом ${displaystyle au =s-t}$.

Смотрите также

• Матрица автокорреляции
• Автокорреляционная техника
• Автокорреляция формального слова
• Автокоррелятор
• Корреляционная функция
• Коррелограмма
• Взаимная корреляция
• Проблема Гальтона
• Функция частичной автокорреляции
• Флуоресцентная корреляционная спектроскопия
• Оптическая автокорреляция
• Алгоритм определения высоты тона
• Тройная корреляция
• CUSUM
• Оценка Кокрейна – Оркатта (преобразование для автокоррелированных членов ошибки)
• Преобразование Прайса – Винстена
• Масштабированная корреляция
• Беспристрастная оценка стандартного отклонения

Рекомендации

1. Губнер, Джон А. (2006). Вероятность и случайные процессы для инженеров-электриков и компьютерщиков. Издательство Кембриджского университета. ISBN  978-0-521-86470-1.
2. Кун Иль Парк, Основы вероятностных и случайных процессов с приложениями к коммуникациям, Springer, 2018, ISBN  978-3-319-68074-3
3. Папулис, Афанасий, Вероятность, случайные величины и случайные процессы, Макгроу-Хилл, 1991
4. Данн, Патрик Ф. (2005). Измерение и анализ данных для инженерии и науки. Нью-Йорк: Макгроу – Хилл. ISBN  978-0-07-282538-1.
5. Проакис, Джон (31 августа 2001 г.). Инженерия систем связи (2-е издание) (2-е изд.). Пирсон. п. 168. ISBN  978-0130617934.
6. Box, G.E.P .; Jenkins, G.M .; Рейнзель, Г. К. (1994). Анализ временных рядов: прогнозирование и контроль (3-е изд.). Река Аппер Сэдл, Нью-Джерси: Прентис – Холл. ISBN  978-0130607744.^{[страница нужна ]}
7. Френкель, Д .; Смит, Б. (2002). «глава 4.4.2». Понимание молекулярного моделирования (2-е изд.). Лондон: Academic Press. ISBN  978-0122673511.
8. Colberg, P .; Хёфлинг, Ф. (2011). «Высокоускоренное моделирование гладкой динамики с использованием графических процессоров: предостережения в отношении ограниченной точности с плавающей запятой». Комп. Phys. Comm. 182 (5): 1120–1129. arXiv:0912.3824. Bibcode:2011CoPhC.182.1120C. Дои:10.1016 / j.cpc.2011.01.009. S2CID  7173093.
9. Пристли, М. Б. (1982). Спектральный анализ и временные ряды. Лондон, Нью-Йорк: Academic Press. ISBN  978-0125649018.
10. Персиваль, Дональд Б.; Эндрю Т. Уолден (1993). Спектральный анализ для физических приложений: многоканальные и стандартные одномерные методы. Издательство Кембриджского университета. стр.190 –195. ISBN  978-0-521-43541-3.
11. Персиваль, Дональд Б. (1993). «Три любопытных свойства выборочной дисперсии и автоковариации для стационарных процессов с неизвестным средним». Американский статистик. 47 (4): 274–276. Дои:10.1080/00031305.1993.10475997.
12. «Методы последовательной корреляции». Статистические идеи. 26 мая 2014.
13. Баум, Кристофер Ф. (2006). Введение в современную эконометрику с использованием Stata. Stata Press. ISBN  978-1-59718-013-9.
14. Элсон, Эллиот Л. (декабрь 2011 г.). «Флуоресцентная корреляционная спектроскопия: прошлое, настоящее, будущее». Биофизический журнал. 101 (12): 2855–2870. Bibcode:2011BpJ ... 101.2855E. Дои:10.1016 / j.bpj.2011.11.012. ЧВК  3244056. PMID  22208184.
15. Холист, Роберт; Поневерски, Анджей; Чжан, Сюйчжу (2017). «Аналитическая форма автокорреляционной функции для флуоресцентной корреляционной спектроскопии». Мягкая материя. 13 (6): 1267–1275. Bibcode:2017SMat ... 13.1267H. Дои:10.1039 / C6SM02643E. ISSN  1744–683X. PMID  28106203.
16. Ван Сикл, январь (2008). GPS для геодезистов (Третье изд.). CRC Press. С. 18–19. ISBN  978-0-8493-9195-8.
17. Калвани, Паям Раджаби; Джахангири, Али Реза; Шапури, Самане; Сари, Амирхоссейн; Джалили, Юсеф Сейед (август 2019 г.). «Многомодовый АСМ анализ тонких пленок оксида цинка, легированных алюминием, распыленных при различных температурах подложки для оптоэлектронных приложений». Сверхрешетки и микроструктуры. 132: 106173. Дои:10.1016 / j.spmi.2019.106173.
18. Тирангил, Джош (05.02.2009). "Автонастройка: почему поп-музыка звучит идеально". Журнал Тайм.

дальнейшее чтение

• Кмента Ян (1986). Элементы эконометрики (Второе изд.). Нью-Йорк: Макмиллан. стр.298–334. ISBN  978-0-02-365070-3.
• Марно Вербеек (10 августа 2017 г.). Руководство по современной эконометрике. Вайли. ISBN  978-1-119-40110-0.
• Моджтаба Солтаналиан и Петре Стойка. "Вычислительный дизайн последовательностей с хорошими корреляционными свойствами. "IEEE Transactions on Signal Processing, 60.5 (2012): 2180–2193.
• Соломон В. Голомб и Гуан Гун. Дизайн сигнала для хорошей корреляции: для беспроводной связи, криптографии и радара. Издательство Кембриджского университета, 2005.
• Клапетек, Петр (2018). Количественная обработка данных в сканирующей зондовой микроскопии: приложения СЗМ для нанометрологии (Второе изд.). Эльзевир. стр. 108–112 ISBN  9780128133477.
• Вайсштейн, Эрик В. «Автокорреляция». MathWorld.