Теория вероятностей
Нормальное распределение
Основные определения
Нормальным называют распределение вероятностей непрерывной случайной величины, которое описывается плотностью:
Оно определяется двумя параметрами: и . Вероятностный смысл этих параметров:
- — математическое ожидание;
- — среднее квадратическое отклонение (дисперсия при этом равна ).
Случайная величина, имеющая нормальное распределение, называется нормальной, или гауссовской, случайной величиной. График плотности нормального распределения называется нормальной кривой (или кривой Гаусса).
Общим называют нормальное распределение с произвольными параметрами и .
Стандартным (или нормированным) называют нормальное распределение с параметрами и .
Если — нормальная величина с параметрами и , то — стандартная нормальная величина, для которой , . Плотность стандартного нормального распределения:
Если — стандартная нормальная величина, то величина будет иметь нормальное распределение с параметрами и .
Функция распределения нормального распределения выражается через уже знакомую нам функцию ошибок :
Нормальное распределение в Engee
Функция Normal(a, sigma) из библиотеки Distributions.jl позволяет задать случайную величину, распределенную по нормальному закону с математическим ожиданием и средним квадратическим отклонением .
Пример. Сгенерируем вектор из 10 реализаций нормально распределенной случайной величины с математическим ожиданием и средним квадратическим отклонением :
using Distributions
X = Normal(0, 1)
Y = rand(X, 10)
С помощью функции pdf найдем плотность распределения случайной величины и построим ее график:
x = -5:0.01:5
f = pdf(X, x)
plot(x, f)
График плотности нормального распределения (нормальная кривая) имеет один максимум при , его высота равна . График симметричен относительно прямой .
С помощью функции cdf найдем функцию распределения случайной величины и построим ее график:
F = cdf(X, x)
plot(x, F)
Убедимся в том, что математическое ожидание случайной величины равно , а дисперсия и среднее квадратическое отклонение равны :
println(mean(X))
println(var(X))
println(std(X))
✏️Задание 1
С помощью функций библиотеки Distributions.jl задайте случайную величину , распределенную по нормальному закону с параметрами и . Постройте графики плотности распределения и функции распределения cлучайной величины на отрезке . Вычислите ее математическое ожидание, дисперсию и среднее квадратическое отклонение.
Решение
using Distributions
X = Normal(5, 3)
x = -5:0.01:15
f = pdf(X, x)
plot(x, f)
F = cdf(X, x)
plot(x, F)
println(mean(X))
println(var(X))
println(std(X))
Вероятность попадания нормальной случайной величины в заданный интервал
Вероятность того, что нормальная случайная величина в результате испытания примет значение, принадлежащее интервалу , равна:
Пример. Случайная величина распределена нормально с математическим ожиданием и средним квадратическим отклонением . Найти вероятность того, что в результате испытания примет значение, принадлежащее интервалу .
Решение. По условию , , , . Следовательно:
Найдем искомую вероятность в Engee. Напомним, что функция выражается через функцию ошибок следующим образом:
using SpecialFunctions
Phi(x) = erf(x/sqrt(2))/2
P = 2* Phi(2)
✏️Задание 2
Случайная величина распределена нормально с математическим ожиданием и средним квадратическим отклонением . Найти вероятность того, что в результате испытания примет значение, принадлежащее интервалу .
Решение
По условию , , , . Следовательно:
или
using SpecialFunctions
Phi(x) = erf(x/sqrt(2))/2
P = Phi(2) + Phi(1)
Вероятность заданного отклонения
Вероятность того, что в результате испытания отклонение нормально распределенной случайной величины от математического ожидания по абсолютной величине будет меньше заданного положительного числа , равна:
Пример. Случайная величина распределена нормально с параметрами и . Найти вероятность того, что в результате испытания отклонение случайной величины от математического ожидания по абсолютной величине будет меньше .
Решение. По условию , , . Искомая вероятность равна
или
using SpecialFunctions
Phi(x) = erf(x/sqrt(2))/2
P = 2 * Phi(3/10)
✏️Задание 3
Случайная величина распределена нормально. Среднее квадратическое отклонение этой величины равно . Найти вероятность того, что в результате испытания отклонение случайной величины от ее математического ожидания по абсолютной величине будет меньше .
Решение
По условию , . Искомая вероятность равна
или
using SpecialFunctions
Phi(x) = erf(x/sqrt(2))/2
P = 2 * Phi(0.3/0.4)
Правило трех сигм
Если в формуле для вероятности заданного отклонения положить , то получим
Т.е. вероятность того, что отклонение по абсолютной величине не превысит утроенного среднего квадратического отклонения, равна . Это практически достоверное событие.
Правило трех сигм. Если случайная величина распределена нормально, то абсолютная величина ее отклонения от математического ожидания не превосходит утроенного среднего квадратического отклонения.
Центральная предельная теорема
Нормальное распределение часто встречается в природе. Это объясняется с помощью центральной предельной теоремы.
Теорема. Если случайная величина представляет собой сумму очень большого числа взаимно независимых случайных величин, влияние каждой из которых на всю сумму ничтожно мало, то имеет распределение, близкое к нормальному.
Следующие случайные величины хорошо моделируются нормальным распределением:
- отклонение при стрельбе;
- погрешности измерений;
- погрешности размеров изготавливаемых изделий;
- аддитивный белый гауссовский шум в теории связи;
- некоторые характеристики живых организмов (размеры тела, масса и др.).
К нормальному распределению в пределе (при ) приближаются некоторые другие распределения, например биномиальное и пуассоновское. Этим распределением моделируются многие случайные физические процессы.
Асимметрия и эксцесс
При изучении распределений, отличных от нормального, возникает необходимость количественно оценить это различие. С этой целью используют специальные числовые характеристики — асимметрию и эксцесс. Для нормального распределения они равны нулю. Чем больше отклонение этих величин от нуля для изучаемого распределения, тем сильнее эти распределения отличаются от нормального.
Рассмотрим сначала понятие центрального момента.
Центральным моментом порядка случайной величины называют математическое ожидание величины :
Асимметрией распределения называют отношение центрального момента третьего порядка к кубу среднего квадратического отклонения:
Асимметрия положительна, если длинная часть графика плотности распределения расположена справа от математического ожидания, и отрицательна, если — слева.
Эксцессом распределения называют характеристику, которая определяется равенством:
Если эксцесс положительный, то график плотности распределения имеет более высокую и острую вершину, чем нормальная кривая; если эксцесс отрицательный, то сравниваемая кривая имеет более низкую и плоскую вершину, чем нормальна кривая.
В Engee асимметрия распределения вычисляется с помощью функции skewness(X), а эксцесс — с помощью функции kurtosis(X). Обе эти функции находятся в библиотеке Distributions.jl.
Пример 1. Убедимся в том, что асимметрия и эксцесс для нормального распределения равны нулю:
using Distributions
X = Normal(10, 5)
println(skewness(X))
println(kurtosis(X))
Пример 2. Найдем асимметрию и эксцесс для показательного распределения с параметром, равным :
using Distributions
X = Exponential(1)
println(skewness(X))
println(kurtosis(X))
Распределение хи-квадрат
Если — нормальные независимые случайные величины с и , то сумма квадратов этих величин
распределена по закону хи-квадрат с степенями свободы.
Плотность этого распределения равна:
где — гамма-функция.
Распределение хи-квадрат определяется одним параметром — числом степеней свободы . С увеличением числа степеней свободы распределение медленно приближается к нормальному.
В Engee распределение хи-квадрат можно задать с помощью функции Chisq(k), где k — число степеней свободы.
Пример. Найдем плотность распределения случайной величины X, имеющей распределение хи-квадрат с степенями свободы, и построим ее график:
using Distributions
X = Chisq(5)
x = -5:0.01:15
f = pdf(X, x)
plot(x, f)
✏️Задание 4
Найдите асимметрию и эксцесс для распределения хи-квадрат с степенями свободы.
Решение
using Distributions
X = Chisq(5)
println(skewness(X))
println(kurtosis(X))