안녕하세요. 오늘은 지난 시간의 기초통계학[19].베이즈 추론 2 - 확률론적 예측(https://everyday-image-processing.tistory.com/35)에 이어서 다소 생소한 개념인 오즈(Odds)에 대해서 알아보겠습니다. 1. 오즈(Odds) 오즈는 사실 어려운 개념은 아닙니다. 간단하게 이야기하면 두 사건이 발생할 확률의 비율을 표현한 것입니다. 이를 좀 더 정확하게 이야기하면 사건 $E$에 대한 다른 사건 $E^{'}$의 오즈는 두 사건이 발생할 확률의 비율인 $\frac{P(E)}{P(E^{'})}$을 의미합니다. 만약 $E^{'}$가 특정되지 않는 경우 사건 $E$의 여집합, 즉 $E^{c}$로 가정하기도 합니다. 따라서 사건 $E$의 오즈 $O(E) = \frac{P(E)}..
안녕하세요. 오늘은 지난 시간의 기초통계학[17].베이즈 추론 1(https://everyday-image-processing.tistory.com/33)에 이어서 '확률론적 예측'에 관해서 알아보겠습니다. 지난 시간에 베이즈 추론을 알아보았는 데 이를 위해서 데이터를 바탕으로 가설의 확률을 갱신하는 과정을 진행하였습니다. 이를 활용해서 이후에 가능한 결과를 확률로서 표현할 수 있습니다. 먼저, 일상에 확률을 내재하는 문장에 대해서 생각해보겠습니다. 크게 3가지로 나눌 수 잇습니다. 여기서 추정 확률 단어(words of estimative probability; WEP)라는 개념이 나오는 데 어려워 보이지만 '거의'와 같이 미래의 사건이 발생할 가능성을 전달할 수 있는 단어를 포함하는 문장입니다. 예측..
안녕하세요. 오늘은 지난 시간의 기초통계학[16].최대우도추정법(https://everyday-image-processing.tistory.com/30)에 이어서 본격적으로 베이즈 이론을 활용하는 베이즈 추론에 대해서 알아보도록 하겠습니다. 특히 오늘은 이산 사전 확률이 주어져 있을 경우에 대해서 알아보겠습니다. 1. 베이지안 법칙 제가 이전에 포스팅했던 기초통계학[3].조건부 확률, 독립, 베이지안 법칙(https://everyday-image-processing.tistory.com/8)에서 가장 마지막 부분을 보시면 베이지안 법칙을 언급하고 있습니다. 베이지안 법칙 자체는 조건부 확률의 모양을 뒤집은 것처럼 생겼습니다. 한번 더 보겠습니다. $H$와 $D$가 사건이라고 했을 때, 베이지안 법칙은 은..
안녕하세요. 오늘은 지난 시간의 기초통계학[15].통계 소개(https://everyday-image-processing.tistory.com/28)에 이어서 본격적으로 통계를 배워보도록 하겠습니다. 그 첫걸음으로 최대 우도 추정법(Maximum Likelihood Estimates; MLE)에 대해서 알아보겠습니다. 본격적으로 시작하기 전에 최대 우도 추정이란 것이 필요한 이유에 대해서 알아보도록 하겠습니다. 기본적으로 통계는 데이터를 다루는 학문이라고 했기 때문에 저희에게 $n$개의 데이터 $x_{1}, x_{2}, ..., x_{n}$가 있다고 가정하겠습니다. 그리고 이 데이터들이 지수분포(exponential distribution)을 따르는 실험을 한 것을 알고 있다고 가정하겠습니다. 와~ 그럼..
안녕하세요. 오늘은 드디어 지난 시간의 마지막 확률 포스팅이였던 기초통계학[14].공분산과 상관계수(https://everyday-image-processing.tistory.com/25)를 끝내고 본격적으로 통계를 시작하기 전에 간단한 소개를 하고 넘어가도록 하겠습니다. 통계학은 기본적으로 데이터를 주로 다룹니다. 좀 더 자세하게 이야기하면 얻은 데이터를 바탕으로 의미있는 '추론'을 하는 것이 목표입니다. 이 과정은 크게 3가지로 나눌 수 있습니다.(1). 데이터 수집, 2). 데이터 설명, 3). 데이터 분석) 즉, 어떤 것이 진짜 인지에 대한 '가설(hypothesis)'를 세우고 실험을 통한 데이터 수집, 수집된 데이터 설명, 마지막으로 데이터를 분석한 뒤 이전에 세운 가설에 대한 믿음의 정도를 ..
안녕하세요. 오늘은 지난 시간의 기초통계학[13].결합확률분포와 독립성(https://everyday-image-processing.tistory.com/23)에 이어서 공분산과 상관계수에 대해서 알아보겠습니다. 1. 공분산(Covariance) 공분산은 이전 시간의 결합확률분포에서 두 확률변수간의 관련성을 수치한 것입니다. 지난 시간에 예를 들었던 기린의 키와 무게 사이의 양의 공분산이 나온다면 서로 함께 증가하는 경향을 보인다는 것입니다. 중요한 점은 두 확률 변수간의 인과관계가 아니라 경향성만 알 수 있다는 점입니다. 두 확률변수 $X$와 $Y$가 각각 평균 $\mu_{X}$, $\mu_{Y}$를 가진다고 했을 때 $X$와 $Y$의 공분산은 $Cov(X, Y)=E((E-\mu_{X})(Y-\mu_{..
안녕하세요. 오늘은 지난 기초통계학[12].밀도 히스토그램, Chebyshev 부등식(https://everyday-image-processing.tistory.com/19)에 이어서 결합확률분포와 독립성에 대해서 알아보겠습니다. 1. 결합확률분포(Joint Distributions) 실제에서 저희는 단일 대상에 대해서 여러가지 변수를 동시에 얻는 것에 관심있는 경우가 더 많습니다. 간단하게 생각해볼까요? 저희는 기린이라는 대상을 연구하고 있다고 가정하겠습니다. 기린이라는 대상의 특성이 목의 길이만 중요한 것은 아닙니다. 다리 길이, 꼬리의 길이, 머리 크기, 눈의 크기, 얼룩의 분포와 같이 사소한 특징부터 중요한 특징까지 알고 싶습니다. 그렇다면 이러한 특성들끼리 어떤 특징을 가지고 있지는 않을 까요?..
안녕하세요. 오늘은 지난 시간의 기초통계학[11].중심극한정리와 큰 수의 법칙(https://everyday-image-processing.tistory.com/18)에 이어서 밀도 히스토그램과 Chebyshev 부등식에 대해서 알아보겠습니다. 참고로 이번 포스팅은 다음 내용을 이해하는 데에 있어 큰 상관이 있지는 않습니다. 다만, 확률과 수학이 얼마나 밀접한 관련이 있는 지를 설명하는 포스팅이므로 생략하셔도 문제 없습니다. 1. 밀도 히스토그램 이전 시간의 큰 수의 법칙을 통해 알게 된 사실은 샘플의 수가 증가함에 따라서 해당 샘플들의 밀도 히스토그램이 점차 기존의 pdf나 pmf에 수렴한다는 것입니다. 하지만 증명은 하지않았습니다. 이번 절에서는 실제로 pdf, pmf에 수렴하는 지 증명하는 단계입니..
