베이지안 추론(Bayesian updating)

베이지안 추론

베이지안 추론은 통계적 추론의 한 방법으로

추론 대상의 사전 확률과 실험을 통하여 얻은 추가적인 정보를 토대로

사후 확률을 추론하는 방법입니다.

 베이즈 정리를 기반으로 추론하며

 추론하는 대상을 확률변수로 보아 

그 모수의 확률분포를 추정합니다.

베이지안 추론은 새로운 증거를 관찰한 바탕으로

사전 믿음을 갱신하는 것입니다.

이러한 갱신하는 과정은 또한 베이지안 갱신이라고 합니다.

베이지안 추론을 설명하기 위해 베이즈 정리에서

언급된 두 사건을 특정 사건에 대한 가설H와

이 가설을 지지하는 증거 E로 대체하여 설명해 보겠습니다.

사후확률P(H/E)는 베이즈 정리를 통해 다음과 같은 수식으로 계산할 수 있습니다.

 

이 수식은 다음과 같은 말로 설명할 수 있습니다.

데이터를 관찰하기 전에 우리는 사전 지식을 바탕으로

가설에 대한 믿음을 갖고 있습니다.

그런데 이 믿음은 고정된 것이 아니고

사건과 관련된 증거E가 증가함에 따라 새로 갱신될 수 있습니다.

베이지안 추론은 곧 사전확률 분포와

우도함수로부터 사후확률 분포를 추론하는 방법입니다.

 

베이지안 추론은 인공지능 전문가 시스템 등 분야에 널리 활용됩니다.

그 장점은 사전확률이 적절히 주어진다면

데이터 수가 적어도 추론할 수 있고

데이터 수가 많아질수록 추론이 정확해진다는 것입니다.

또한 일부 데이터를 바탕으로 얻은 사후확률은 

새로운 사전확률로 이용될 수 있기 때문에

데이버의 반복 시행과 추론의 자동화가 가능합니다.