기초통계학[2].확률 기초

안녕하세요. 오늘은 지난 시간에 간단하게 살펴봤던 기초통계학[1].경우의 수와 집합(https://everyday-image-processing.tistory.com/6) 다음으로 확률 기초에 대해서 알아보겠습니다.

 

1. 확률 관련 용어 정리

먼저, 이전 시간부터 계속 써왔던 확률 관련 용어부터 정리하겠습니다.

 

- 실험(Experiment) : 잘 정의된(well-defined) 확률적 결과를 가지는 반복 절차

- 표본 공간(Sample space) : 실험을 통해 얻을 수 있는 모든 가능한 결과($\Omega$)

- 사건(Event) : 표본 공간의 부분 집합(E)

- 확률 함수(Probability function) : 각각의 결과에 대한 확률을 함수로 표현한 것

 

Ex1. 공평한 동전을 1개 던진다. 이때, 실험, 표본공간, 확률 함수는?

Answer

실험 = 공평한 동전을 던진다. 던진 동전의 결과가 앞면인지 뒷면인지 기록한다.

표본 공간 = 앞면 또는 뒷면. $\Omega = \{H, T\}$

확률 함수 = $P(H) = 0.5$ $P(T) = 0.5$

Ex2. 공평한 동전 1개를 3번 던진다. 이때, 실험, 표본공간, 확률 함수는?

Answer

실험 = 공평한 동전 1개를 3번 던진다. 던질 때마다 동전의 결과가 앞면인지 뒷면인지 기록한다.

표본 공간 = $\Omega = \{HHH, HHT, HTH, THH, HTT, THT, TTH, , TTT\}$

확률 함수 = 각 결과는 $\frac{1}{8}$의 확률을 가진다. 이를 표로 표현하면 아래와 같다.

결과	$HHH$	$HHT$	$HTH$	$THH$	$HTT$	$THT$	$TTH$	$TTT$
확률	$\frac{1}{8}$	$\frac{1}{8}$	$\frac{1}{8}$	$\frac{1}{8}$	$\frac{1}{8}$	$\frac{1}{8}$	$\frac{1}{8}$	$\frac{1}{8}$

Ex3. 공평한 주사위 2개를 1번 굴리고 주사위 2개의 눈의 합을 기록한다. 이때, 확률 함수는?

Answer

주사위를 1개 굴릴 때, 확률 함수부터 생각해보겠습니다.

결과	1	2	3	4	5	6
확률	$\frac{1}{6}$	$\frac{1}{6}$	$\frac{1}{6}$	$\frac{1}{6}$	$\frac{1}{6}$	$\frac{1}{6}$

이제는 아까보다 조금 더 복잡하게 주사위를 2개 굴리고 두 주사위의 덧셈을 기록한다고 가정하겠습니다. 이전의 2개의 예시와는 다르게 이번에는 각각의 사건이 나올 확률이 다르다는 거을 직관적으로 알 수 있습니다. 2 = 1 + 1만 가능 하지만, 5 = 1 + 4 = 2 + 3으로 2개의 주사위 눈의 쌍이 가능하기 때문이죠. 각 주사위 눈의 쌍을 표로 표현하면 이와 같습니다.

	주사위2
주사위2		1	2	3	4	5	6
	1	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$
	2	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$
	3	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$
	4	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$
	5	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$
	6	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$	$\frac{1}{36}$

두 주사위 눈의 합이 같은 경우 칸은 같은 색으로 표시하였습니다. 이를 다시 합을 표현하는 확률 함수표로 나타내면 아래의 표와 같습니다.

결과	2	3	4	5	6	7	8	9	10	11	12
확률	$\frac{1}{36}$	$\frac{2}{36}$	$\frac{3}{36}$	$\frac{4}{36}$	$\frac{5}{36}$	$\frac{6}{36}$	$\frac{5}{36}$	$\frac{4}{36}$	$\frac{3}{36}$	$\frac{2}{36}$	$\frac{1}{36}$

 

이번에는 사건을 예시를 통해 알아보겠습니다. 위에서 설명 드렸다싶이 사건은 '표본 공간의 부분 집합'이라고 하였습니다. 

 

Ex4. Ex2의 실험에서 사건 E = '정확하게 2개의 앞면이 나온다.'이라고 하겠습니다. 이때, P(E)를 구하시오.

Answer

사건 E를 집합으로 표현하면 $E = \{HHT, HTH, THH\}$가 됩니다. Ex2와 비교해보면 $E \subset \Omega$임을 볼 수 있습니다. 

이때, 각 사건의 원소가 나올 확률이 $\frac{1}{8}$이므로 $P(E) = \frac{3}{8}$가 되는 것을 알 수 있습니다.

지금까지 보았던 예시들의 표본공간의 원소들이 '이산'적인 것을 볼 수 있습니다. 즉, 실수와 같이 끊임없이 이어져있는 것이 아니라, 정확히 앞면 아니면 뒷면, 1, 2, 3, 4, 5, 6, 7, 8 처럼 흡사 정수형태를 가지는 것이죠. 이러한 표본 공간을 이산 표본 공간이라고 합니다.

 

- 이산 표본 공간(discrete sample space) : 순서대로 나열 할 수 있는 표본 공간으로 집합의 크기는 유한할 수도 있지만 무한하더라도 상관없습니다.

 

예를 들어, $x \ge 0$은 x를 순서대로 나열하는 것이 불가능 합니다. 1과 1.1을 나열하면 1 보다는 크고, 1.1보다는 작은 실수가 무한히 있기 때문이지요. 또한, 다시 1과 1.01을 나열하면 다시 1 보다는 크고 1.01 보다는 작은 실수가 존재하기 때문에 이러한 경우는 연속 표본 공간(continuous sample space)가 됩니다.  

 

방금 예시들에서 확률 함수표를 보았는데 전부 이산 표본 공간으로부터 유도된 것이므로 이 역시 이산 확률 함수(discrete probability function)라고 부릅니다.

 

- 이산 확률 함수(discrete probability function) : 이산 표본 공간 Ω에 대해서 이산 확률 함수 $P$는 이산 표본 공간 원소 $\omega$에 대해서 $P(\omega)$가 아래의 조건을 만족하는 해야합니다.

1. 모든 ω에 대해서 0≤P(ω)≤1

2. 표본 공간의 모든 원소에 대응되는 확률의 합은 1. 즉, Ω={ω1,ω2,...,ωn}일 때, $\sum_{j=1}^{n} P(\omega_j) = 1$ 

 

실제로 위의 모든 예제에서 이 2가지 조건이 전부 성립하는 것을 볼 수 있습니다.

 

2. 몇 가지 확률 규칙

이산 표본 공간 Ω에 A, L, R 사건이 있다고 가정하겠습니다. 각 사건은 아래의 3가지 규칙을 항상 만족시킵니다.

- Rule1 : $P(A^{c}) = 1 - P(A)$

- Rule2 : 만약 $L$과 $R$이 서로 disjoint라면 $P(L \cup R)$ = P(L)+P(R)

- Rule3 : 만약 $L$과 $R$이 서로 disjoint가 아니라면 이전 포스팅의 inclusion-exclusion principle을 만족하게 됩니다. 즉, P(L∪R)=P(L)+P(R)−P(L∩R)

 

기초통계학[3].조건부 확률, 독립, 베이지안  법칙(https://everyday-image-processing.tistory.com/8)