Как определяется энтропия дискретных случайных величин
Перейти к содержимому

Как определяется энтропия дискретных случайных величин

  • автор:

Как определяется энтропия дискретных случайных величин

Скачай курс
в приложении

Перейти в приложение
Открыть мобильную версию сайта

© 2013 — 2024. Stepik

Наши условия использования и конфиденциальности

Get it on Google Play

Public user contributions licensed under cc-wiki license with attribution required

Дискретные случайные величины

Случайной величиной называется величин а- которая в результате опыта может принять то или иное значение, неизвестно заранее – какое именно.

Случайная величина называется дискретной, если она принимает лишь отдельные, изолированные значения с определенными вероятностями. Число возможных значений может быть как конечным, так и бесконечным.

Математическое ожидание ( M ( x )).

Математическим ожиданием дискретной случайной величины называют сумму произведений всех ее возможных значений на их вероятности

Свойства математического ожидания

· , где C- постоянное число

·

·

· , для независимых случайных величин Х и Y

Математическое ожидание числа появлений события в независимых испытаниях

, где n — число испытаний, p — вероятность появления интересующего нас события в одном испытании.

Дисперсией дискретной случайной величины называют математическое ожидание квадрата отклонения случайной величины от ее математического ожидания.

На практике чаще пользуются другой формулой

, где

· , где C- постоянное число

·

·

Дисперсия числа появлений события в независимых испытаниях

, где n — число испытаний, p — вероятность появления интересующего нас события в одном испытании.

Среднее квадратическое отклонение

4.2. Закон распределения вероятностей дискретной случайной величины.

Законом распределения дискретной случайной величины называют соответствие между возможными значениями и их вероятностями.

Сумма вероятностей всех событий должна равняться 1.

Некоторые законы распределения:

Биномиальное распределение

Биномиальным называют распределение вероятностей, определяемое формулой Бернулли

Среднее квадратическое отклонение

Распределение Пуассона

Вероятность каждого значения находится по формуле Пуассона

, где

Пусть производится n независимых испытаний, в каждом из которых вероятность появления события А равна р. Причем, число испытаний велико, а вероятность появления события А в каждом испытании мала ( ). В этом случае и прибегают в формуле Пуассона. Формула Пуассона, как и теоремы Лапласа дают приближенный результат, точной является только формула Бернулли.

Геометрическое распределение.

Случайная дискретная величина Х – число испытаний, которые нужно провести до первого появления события А. Случайная величина Х может принимать значения: 11.2.3….

Вероятность того, что для этого придется провести к испытаний

, где p –вероятность появления события А в одном испытании,

Ряд распределения имеет вид

Понятное объяснение видов случайных величин: дискретные и непрерывные

Статья рассматривает различные типы случайных величин – дискретные, непрерывные, смешанные и дискретно-непрерывные, а также основные свойства, которые определяют их поведение и применение в теории вероятностей и статистике.

Понятное объяснение видов случайных величин: дискретные и непрерывные обновлено: 19 сентября, 2023 автором: Научные Статьи.Ру

Помощь в написании работы

Введение

В математике случайная величина – это функция, которая сопоставляет каждому элементу пространства элементарных исходов некоторое числовое значение. Случайные величины могут быть разделены на несколько типов в зависимости от их характеристик и свойств. В данном плане мы рассмотрим четыре основных типа случайных величин: дискретные, непрерывные, смешанные и дискретно-непрерывные. Каждый тип имеет свои особенности и применяется в различных областях математики и статистики. Мы также рассмотрим основные свойства случайных величин, которые помогут нам лучше понять их поведение и использование в практических задачах.

Нужна помощь в написании работы?

Мы — биржа профессиональных авторов (преподавателей и доцентов вузов). Наша система гарантирует сдачу работы к сроку без плагиата. Правки вносим бесплатно.

Дискретные случайные величины

Дискретная случайная величина – это случайная величина, которая может принимать только конечное или счетное количество значений. Она описывает результаты случайного эксперимента, где каждому исходу соответствует определенное значение.

Дискретные случайные величины могут быть дискретными равномерными, биномиальными, пуассоновскими и другими.

Дискретная равномерная случайная величина

Дискретная равномерная случайная величина – это случайная величина, которая может принимать конечное количество значений с равной вероятностью. Например, бросок правильной монеты может быть моделирован дискретной равномерной случайной величиной, где орел и решка имеют вероятность 0.5 каждый.

Биномиальная случайная величина

Биномиальная случайная величина – это случайная величина, которая описывает количество успехов в серии независимых испытаний с фиксированной вероятностью успеха. Например, количество голов при бросании монеты несколько раз может быть моделировано биномиальной случайной величиной.

Пуассоновская случайная величина

Пуассоновская случайная величина – это случайная величина, которая описывает количество событий, происходящих в фиксированном интервале времени или пространства, при условии, что события происходят с некоторой средней интенсивностью и независимо друг от друга. Например, количество звонков в службу поддержки за определенный период времени может быть моделировано пуассоновской случайной величиной.

Непрерывные случайные величины

Непрерывная случайная величина – это случайная величина, которая может принимать любое значение в определенном интервале. Например, время, необходимое для выполнения определенной задачи, может быть моделировано непрерывной случайной величиной.

Основные свойства непрерывных случайных величин:

Функция плотности вероятности

Для непрерывной случайной величины существует функция плотности вероятности (probability density function, PDF), которая описывает вероятность того, что случайная величина примет определенное значение. Функция плотности вероятности обычно обозначается как f(x).

Вероятность и площадь под графиком

Вероятность того, что непрерывная случайная величина примет определенное значение, равна нулю. Вместо этого, для определения вероятности событий, мы рассматриваем площадь под графиком функции плотности вероятности в определенном интервале. Например, вероятность того, что непрерывная случайная величина будет находиться в интервале от a до b, равна площади под графиком функции плотности вероятности в этом интервале.

Интеграл функции плотности вероятности

Интеграл функции плотности вероятности по всему диапазону значений случайной величины равен единице. Это означает, что вероятность того, что случайная величина примет любое значение в диапазоне, равна 1.

Математическое ожидание и дисперсия

Математическое ожидание (expected value) непрерывной случайной величины – это среднее значение случайной величины, которое можно вычислить, умножив значение случайной величины на ее функцию плотности вероятности и проинтегрировав по всему диапазону значений.

Дисперсия (variance) непрерывной случайной величины – это мера разброса значений случайной величины относительно ее математического ожидания. Она вычисляется как математическое ожидание квадрата отклонения случайной величины от ее математического ожидания.

Смешанные случайные величины

Смешанные случайные величины – это случайные величины, которые могут принимать значения как из дискретного, так и из непрерывного множества.

Для смешанных случайных величин существует два типа функций: функция вероятности для дискретной части и функция плотности вероятности для непрерывной части.

Функция вероятности для дискретной части смешанной случайной величины показывает вероятность того, что случайная величина примет определенное дискретное значение.

Функция плотности вероятности для непрерывной части смешанной случайной величины показывает вероятность того, что случайная величина примет значение в определенном интервале.

Для вычисления вероятностей и математического ожидания смешанной случайной величины необходимо учитывать как дискретную, так и непрерывную части. Вероятности для дискретной части суммируются, а для непрерывной части интегрируются.

Смешанные случайные величины могут возникать в различных задачах, например, при моделировании физических процессов, экономических данных или при анализе данных в медицине.

Дискретно-непрерывные случайные величины

Дискретно-непрерывные случайные величины – это случайные величины, которые могут принимать значения как из дискретного, так и из непрерывного множества.

Дискретная часть случайной величины представляет собой конечное или счетное множество значений, которые случайная величина может принимать с определенными вероятностями. Например, количество выпавших орлов при подбрасывании монеты может быть дискретной случайной величиной, так как она может принимать значения 0, 1 или 2 с определенными вероятностями.

Непрерывная часть случайной величины представляет собой интервал значений, которые случайная величина может принимать с определенной плотностью вероятности. Например, время, затраченное на выполнение задания, может быть непрерывной случайной величиной, так как оно может принимать любое положительное значение в заданном интервале с определенной плотностью вероятности.

Для дискретно-непрерывных случайных величин вероятность принятия конкретного значения равна нулю, так как вероятность для непрерывной части определяется через плотность вероятности. Однако, вероятность попадания случайной величины в определенный интервал может быть вычислена путем интегрирования плотности вероятности в этом интервале.

Дискретно-непрерывные случайные величины могут возникать в различных задачах, например, при моделировании времени ожидания в очереди или при анализе данных в финансовой сфере.

Свойства случайных величин

Случайные величины имеют ряд свойств, которые помогают нам анализировать их поведение и делать выводы о вероятностных характеристиках.

Математическое ожидание

Математическое ожидание случайной величины – это среднее значение, которое мы ожидаем получить при многократном повторении эксперимента. Обозначается как E(X) или μ.

Для дискретной случайной величины X с функцией вероятности P(X=x) математическое ожидание вычисляется по формуле:

Для непрерывной случайной величины X с плотностью вероятности f(x) математическое ожидание вычисляется по формуле:

Дисперсия

Дисперсия случайной величины – это мера разброса значений случайной величины относительно ее математического ожидания. Обозначается как Var(X) или σ^2.

Для дискретной случайной величины X с функцией вероятности P(X=x) дисперсия вычисляется по формуле:

Var(X) = Σ((x – E(X))^2 * P(X=x))

Для непрерывной случайной величины X с плотностью вероятности f(x) дисперсия вычисляется по формуле:

Var(X) = ∫((x – E(X))^2 * f(x)) dx

Стандартное отклонение

Стандартное отклонение случайной величины – это квадратный корень из дисперсии. Обозначается как SD(X) или σ.

Стандартное отклонение показывает, насколько значения случайной величины отклоняются от ее математического ожидания.

Мода

Мода случайной величины – это значение, которое имеет наибольшую вероятность. Для дискретной случайной величины это значение, при котором функция вероятности достигает максимума. Для непрерывной случайной величины мода может быть определена как точка, в которой плотность вероятности достигает максимума.

Медиана

Медиана случайной величины – это значение, которое делит распределение на две равные части. Для дискретной случайной величины это значение, при котором функция распределения достигает 0,5. Для непрерывной случайной величины медиана может быть определена как значение, при котором площадь под кривой плотности вероятности до этого значения равна 0,5.

Функция распределения

Функция распределения случайной величины – это функция, которая показывает вероятность того, что случайная величина принимает значение меньше или равное определенному значению. Обозначается как F(x).

Для дискретной случайной величины X функция распределения вычисляется по формуле:

F(x) = P(X ≤ x) = ΣP(X=x’)

Для непрерывной случайной величины X функция распределения вычисляется по формуле:

F(x) = P(X ≤ x) = ∫f(t) dt, где t принимает значения от минус бесконечности до x

Это лишь некоторые из основных свойств случайных величин. Изучение этих свойств позволяет нам лучше понять и анализировать случайные процессы и принимать обоснованные решения на основе вероятностных характеристик.

Заключение

В данной лекции мы рассмотрели различные типы случайных величин: дискретные, непрерывные, смешанные и дискретно-непрерывные. Мы изучили их определения и свойства. Дискретные случайные величины принимают конечное или счетное количество значений, непрерывные случайные величины могут принимать любое значение на заданном интервале, смешанные случайные величины сочетают в себе свойства дискретных и непрерывных случайных величин, а дискретно-непрерывные случайные величины имеют как дискретные, так и непрерывные значения. Знание этих типов случайных величин позволяет нам более точно моделировать и анализировать случайные процессы в различных областях, таких как физика, экономика, статистика и другие.

Понятное объяснение видов случайных величин: дискретные и непрерывные обновлено: 19 сентября, 2023 автором: Научные Статьи.Ру

Теория вероятностей и математическая статистика/Дискретные случайные величины

Случайная величина называется дискретной, если множество ее значений конечно или счетно.

Законом распределения дискретной случайной величины X называется соотношение между значениями x i > случайной величины и их вероятностями P ( X = x i ) = p i , i = 1 , 2 , … (X=x_)=p_,i=1,2,\ldots > . Отметим, что ∑ i p i = 1 <\displaystyle \displaystyle \sum _p_=1> .

Многоугольником распределения называют ломаную линию, отрезки которой последовательно соединяют точки с координатами ( x i , p i ) ,p_)> (рис. 1).

Функция распределения дискретной случайной величины (рис. 2) вычисляется по формуле F ( x ) = ∑ x i < x P ( X = x i ) \mathbf (X=x_)> .

Операции над случайными величинами [ править ]

Пусть даны две случайные величины X и Y с законами распределения p i = P ( X = x i ) , i = 1 , … , n =\mathbf (X=x_),i=1,\ldots ,n> и q i = P ( Y = y j ) , j = 1 , … , m <\displaystyle q_=\mathbf (Y=y_),j=1,\ldots ,m> соответственно. Тогда над случайными величинами можно произвести следующие операции:

  1. Случайная величина Z = k X , где k — постоянная, имеет закон распределения P ( Z = k x i ) = p i , i = 1 , … , n (Z=kx_)=p_,i=1,\ldots ,n> .
  2. Случайная величина Z = X ± Y принимает значения вида z k = x i ± y j =x_\pm y_> с вероятностями s k = P ( Z = z k ) = ∑ i , j p i j =\mathbf (Z=z_)=\displaystyle \sum _p_> , где p i j = P ( ( X = x i ) ⋅ ( Y = y j ) ) <\displaystyle p_=\mathbf ((X=x_)\cdot (Y=y_))> . Две случайные величины называются независимыми, если P ( ( X = x i ) ⋅ ( Y = y j ) ) = P ( X = x i ) ⋅ P ( Y = y j ) ((X=x_)\cdot (Y=y_))=\mathbf (X=x_)\cdot \mathbf (Y=y_)> . Для независимых случайных величин X и Y получим: P ( Z = x i + y j ) = P ( ( X = x i ) ⋅ ( Y = y j ) ) = P ( X = x i ) ⋅ P ( Y = y j ) = p i q j (Z=x_+y_)=\mathbf ((X=x_)\cdot (Y=y_))=\mathbf (X=x_)\cdot \mathbf (Y=y_)=p_q_> .
  3. Случайная величина Z = X Y принимает значения вида z k = x i y j =x_y_> с вероятностями s k = P ( Z = z k ) = ∑ i , j p i j =\mathbf (Z=z_)=\displaystyle \sum _p_> , где p i j = P ( ( X = x i ) ⋅ ( Y = y j ) ) <\displaystyle p_=\mathbf ((X=x_)\cdot (Y=y_))> .

Числовые характеристики дискретных случайных величин [ править ]

Математическим ожиданием дискретной случайной величины X называется число, которое вычисляется по формуле M X = ∑ i x i p i X=\displaystyle \sum _x_p_> .

Свойства математического ожидания:

Дисперсией дискретной случайной величины X называется математическое ожидание квадрата отклонения случайной величины от ее математического ожидания: D X = M ( X − M X ) 2 = ∑ i ( x i − M X ) 2 p i X=\mathbf (X-\mathbf X)^=\displaystyle \sum _(x_-\mathbf X)^p_> .

Для вычисления дисперсии используют более удобную формулу D X = M X 2 − ( M X ) 2 X=\mathbf X^-(\mathbf X)^> .

Средним квадратическим отклонением случайной величины называется величина σ X = D X X>>> .

Примеры [ править ]

Пример 1 [ править ]

В урне 5 белых и 25 черных шаров. Из урны извлекли два шара. Случайная величина X — число вынутых белых шаров.

  1. Построить закон распределения;
  2. построить многоугольник распределения;
  3. найти и построить функцию распределения случайной величины X;
  4. найти P ( 0 < X ≤ 2 ) (0 , M X X> , D X X> .

1. Для построения закона распределения необходимо найти все возможные значения случайной величины и соответствующие вероятности. Число вынутых белых шаров может быть 0, 1 или 2, поэтому случайная величина X принимает значения X = x 1 = 0 =0> , X = x 2 = 1 =1> и X = x 3 = 2 =2> . Вероятности равны: p 1 = P ( X = 0 ) = C 5 0 C 25 2 C 30 2 = 60 87 =\mathbf (X=0)=^C_^>^>>=>> ; p 2 = P ( X = 1 ) = C 5 1 C 25 1 C 30 2 = 25 87 <\displaystyle p_=\mathbf (X=1)=^C_^>^>>=<\frac >> ; p 3 = P ( X = 2 ) = C 5 2 C 25 0 C 30 2 = 2 87 =\mathbf (X=2)=^C_^>^>>=<\frac >> .

Составим закон распределения случайной величины X :

X 0 1 2
p i > 60 87 >> 25 87 >> 2 87 >>

Проверим, что для закона распределения выполняется равенство p 1 + p 2 + p 3 = 1 +p_+p_=1> .

2. Для построения многоугольника распределения необходимо последовательно соединить точки с координатами ( x i ; p i ) ;p_)> , i = 1 , 2 , 3 (рис. 3).

3. Функция распределения случайной величины X имеет следующий вид:

График функции изображен на рис. 4.

M X = ∑ i = 1 3 x i p i = 0 ⋅ 60 87 + 1 ⋅ 25 87 + 2 ⋅ 2 87 = 1 3 X=\displaystyle \sum _^x_p_=0\cdot >+1\cdot >+2\cdot >=>> ;

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *