[БЕЗ ЗВУКА] В этом видео мы разберемся
еще с одним семейством непараметрических критериев — перестановочные критерии.
Давайте для начала вспомним, как работали критерии ранговые.
Мы брали наши выборки, превращали их в ранги, затем делали какое-то
дополнительное предположение и на основании этого предположения получали,
что разные конфигурации этих рангов могли реализоваться с той же самой вероятностью.
Мы перебирали все эти конфигурации и считали на каждой конфигурации значение
статистики, таким образом оценивали для нашей статистики нулевое распределение.
Что если в этом алгоритме мы пропустим первый пункт, не будем превращать наши
наблюдения в ранги, а все остальное будем делать точно так же?
Именно так работают перестановочные критерии.
Одновыборочный перестановочный критерий проверяет нулевую гипотезу о том,
что математическое ожидание случайной величины, из которой выборка взята,
равно некоторой константе m0.
Дополнительно делается предположение о том, что распределение исходной случайной
величины относительно математического ожидания симметрично.
Статистикой перестановочного критерия в одновыборочной задаче может служить
сумма разностей i-того значения x и m0.
Если нулевая гипотеза справедлива, каждый из объектов выборки мог с одинаковой
вероятностью реализоваться слева и справа от математического ожидания.
Поэтому мы будем перебирать все 2 в степени n знаков,
которые могут стоять в выражении для нашей статистики перед разностью xi − m0.
И вот на основании этого перебора мы и восстановим нулевое распределение
нашей статистики.
Давайте вспомним задачу анализа диаметра шайб: по выборке из 24 элементов мы
пытаемся понять, соответствует ли средний диаметр шайбы стандарту — 10 миллиметров.
Проверяем эту нулевую гипотезу мы против двухсторонней альтернативы о том,
что средний диаметр стандарту не соответствует.
Критерий знаковых рангов в нашем случае давал достигаемый уровень
значимости 0.067, и вот так выглядело его нулевое распределение.
Если мы используем перестановочный критерий,
его нулевое распределение выглядит вот так.
Значение статистики, которая в нашем эксперименте реализовалась — это 14.6.
Для того чтобы посчитать достигаемый уровень значимости,
мы суммируем высоты всех столбиков, начиная от 14.6 и больше,
а также от −14.6 и меньше, поскольку альтернатива у нас двухсторонняя.
В результате мы получаем достигаемый уровень значимости, равный примерно 0.1,
то есть нулевая гипотеза все еще не отвергается.
Обратите внимание, что достигаемый уровень значимости перестановочного критерия —
это фактически доля перебираемых перестановок,
на которых мы получаем такое же или еще более экстремальное значение статистики.
Двухвыборочная задача со связанными выборками решается абсолютно
таким же критерием — от двух связанных выборок мы переходим к одной
выборке соответствующих попарных разностей.
Проверяем нулевую гипотезу вида матожидание X1 − X2 = 0.
И делаем это с помощью статистики,
равной просто сумме построенных нами попарных разностей.
Чтобы рассчитать нулевое распределение этой статистики,
перебираем 2 в степени n знаков, которые могут возникать перед этими слагаемыми,
получаем ровно то же самое.
В задаче с оценкой эффективности транквилизатора у нас есть
девять пациентов,
для которых до и после приема мы измерили депрессивность по шкале Гамильтона.
И мы проверяем нулевую гипотезу о том, что депрессивность не изменилась,
против односторонней альтернативы о том, что транквилизатор подействовал,
то есть депрессивность снизилась.
Критерий знаковых рангов давал достигаемый уровень значимости 0.019,
и вот так выглядело его нулевое распределение.
Нулевое распределение перестановочного критерия изображено на нижнем графике.
Значение статистики, которое реализуется в нашем эксперименте — 3.887.
Суммируя высоты всех столбиков, начиная от 3.887 и направо,
мы получаем достигаемый уровень значимости, равный 0.04.
Нулевая гипотеза отвергается в пользу односторонней альтернативы.
Перестановочный критерий для независимых выборок выглядит абсолютно так же, как
критерий Манна-Уитни за исключением того, что мы не делаем ранговые преобразования.
Он проверяет нулевую гипотезу о том, что распределение случайных величин,
из которых взяты две независимые выборки, полностью совпадают,
против альтернативы сдвига.
Отличается только его статистика.
Статистика — это просто разность выборочных средних в этих двух выборках.
Нулевое распределение точно так же, как и для критерия Манна-Уитни,
получается перебором всех C из n1 + n2 по n1 размещений нашей объединенной
выборки по выборкам X1 и X2 объемов n1 и n2.
В задаче с анализом связей между кофеином и респираторным обменом мы проверяли
нулевую гипотезу о том, что среднее значение показателей респираторного обмена
не отличается в двух группах: пациентов, которые приняли кофеин и приняли
плацебо — против двухсторонней альтернативы о том, что что-то изменилось.
Критерий Манна-Уитни давал достигаемый уровень значимости 0.052.
Вот так выглядело его нулевое распределение.
На нижнем графике здесь нулевое распределение перестановочного критерия,
который мы только что рассмотрели.
Значение статистики, которое в эксперименте реализуется — 6.33,
оно соответствует достигаемому уровню значимости 0.0578.
Нулевая гипотеза все еще не отвергается.
У перестановочных критериев есть некоторые особенности,
о которых очень важно помнить.
Во-первых, статистику для перестановочных критериев можно выбирать по-разному.
В некоторых случаях это приводит к одному и тому же достигаемому уровню значимости,
то есть, по сути, ни на что не влияет.
Например, в одновыборочной задаче, если вы проверяете гипотезу о том,
что математическое ожидание равно нулю, вы можете использовать в качестве статистики
перестановочного критерия сумму элементов выборки, а можете — выборочное среднее.
Нулевые распределения этих двух статистик будут отличаться только сдвигом
и масштабом, поэтому достигаемый уровень значимости, посчитанный по ним,
будет одним и тем же.
В других случаях, по-разному выбирая статистику для перестановочного критерия,
вы можете получать разные достигаемые уровни значимости.
Например, распределения нулевые у статистик — выборочное среднее и
выборочное среднее, деленное на выборочную дисперсию, умноженную на корень из n,
— отличаются не только сдвигом и масштабом, поэтому достигаемый уровень
значимости у таких критериев с этими двумя вариантами статистик тоже будут разные.
Поэтому при выборе статистики для перестановочного критерия важно думать
о том, какие из свойств исходной случайной величины для вас наиболее важны.
Если вам неинтересно нормировать на выборочную дисперсию,
не нужно этого делать.
Перестановочные критерии придумал Рональд Фишер еще в начале XX века,
однако активно их использовать начали только с появлением и широким
распространением компьютеров, потому что для вычисления нулевых
распределений этих критериев можно использовать только перестановки.
В отличие от ранговых критериев, никаких нормальных аппроксимаций для нулевого
распределения в случае больших выборок не существует, поэтому единственный способ
оценить нулевое распределение статистики — это перебрать много перестановок.
Поэтому точно посчитать достигаемый уровень значимости перестановочного
критерия на больших выборках достаточно сложно.
Хорошая новость заключается в том, что мы можем его посчитать приближенно.
Для этого нужно взять просто какое-то случайное подмножество всех возможных
перестановок.
При этом достигаемый уровень значимости будет оценен с точностью примерно
√p * (1 − p), деленное на количество перестановок, которое вы берете.
На практике, как правило, достаточно просто взять несколько тысяч перестановок,
и вы уже получите достаточно точную аппроксимацию
достигаемого уровня значимости.
Итак, в этом видео мы узнали, как работают перестановочные критерии.
Они действуют в абсолютно тех же самых предположениях, что и ранговые,
но учитывают больше информации за счет того, что никакое понижающее
количество информации в данных преобразованиях не используется.
В следующем видео мы поговорим про связь между перестановочными критериями и
бутстрепом.
Evgeniy Riabenko
Evgeny Sokolov
Victor Kantor
Emeli Dral
