본문 바로가기

전체 글292

확률변수의 극한, 대수의 법칙, 중심극한정리 확률변수의 수렴은 확률변수나 그 분포가 어떤 대상에 가까워지는지를 나타내는 개념이다. 대표적인 세 가지 수렴과 표본평균에 관한 두 정리를 정리한다.1. 확률변수의 수렴거의 확실한 수렴: \(X_n\)이 \(X\)로 수렴하는 사건의 확률이 1이다.\[ P\left(\lim_{n\to\infty}X_n=X\right)=1 \]확률수렴: 임의의 \(\varepsilon>0\)에 대해, \(X_n\)과 \(X\)의 차이가 \(\varepsilon\)보다 클 확률이 0으로 간다.\[ P\left(|X_n-X|>\varepsilon\right)\to 0 \]분포수렴: \(X_n\)의 누적분포함수 \(F_n\)이 \(X\)의 누적분포함수 \(F\)에 가까워진다. 이 조건은 \(F\)가 연속인 모든 점 \(x\)에서 .. 2025. 6. 2.
순서통계량 순서통계량(Order Statistic)은 표본으로 추출한 관측값들을 크기순으로 정렬했을 때 얻어지는 통계량이다.순서통계량을 이용하면 표본의 최솟값과 최댓값뿐 아니라 \(k\)번째로 작은 값의 확률분포를 구할 수 있다. 또한 서로 다른 두 순서통계량의 결합확률밀도함수를 이용하면 두 관측값의 위치와 관계를 분석할 수 있다.1. 순서통계량(Order Statistic)의 정의확률변수 \(X_1,X_2,\ldots,X_n\)이 서로 독립이고 동일한 연속확률분포를 따른다고 하자.\[\boxed{X_1,X_2,\ldots,X_n\overset{iid}{\sim}F}\]여기서 \(F(x)\)는 모집단의 누적분포함수(CDF), \(f(x)\)는 확률밀도함수(PDF)이다.표본을 작은 값부터 큰 값까지 정렬하면 다음과 .. 2025. 6. 2.
정규랜덤샘플 정규랜덤샘플(Normal Random Sample)은 정규모집단에서 서로 독립이고 동일한 분포를 따르도록 추출한 표본을 의미한다.정규표본에서는 표본평균과 표본분산의 분포를 정확하게 구할 수 있으며, 특히 표본평균과 표본분산이 서로 독립이라는 중요한 성질을 가진다.이 글에서는 정규랜덤샘플의 네 가지 핵심 성질을 살펴보고, 표본분산의 카이제곱분포와 표본평균의 t-분포를 유도한다.1. 정규랜덤샘플의 정의와 표본평균의 분포확률변수 \(X_1,X_2,\ldots,X_n\)이 서로 독립이고 동일한 정규분포를 따른다고 하자.\[\boxed{X_i\overset{iid}{\sim}N(\mu,\sigma^2),\qquad i=1,2,\ldots,n}\]여기서 \(\mu\)는 모집단의 평균, \(\sigma^2\)는 모집.. 2025. 6. 2.
표본평균과 표본분산, 카이제곱분포, t-분포, F-분포 표본평균(Sample Mean)과 표본분산(Sample Variance)은 표본을 이용하여 모집단의 평균과 분산을 추정하는 대표적인 통계량이다.특히 모집단이 정규분포를 따르는 경우 표본평균과 표본분산은 카이제곱분포(Chi-Square Distribution), t-분포(Student's t-Distribution), F-분포(F-Distribution)와 밀접하게 연결된다.이 글에서는 표본평균과 표본분산의 기본 성질을 유도하고, 카이제곱분포·t-분포·F-분포의 정의와 관계를 정리한다.1. 표본평균(Sample Mean)의 기댓값과 분산평균이 \(\mu\), 분산이 \(\sigma^2\)인 모집단에서 서로 독립이고 동일한 분포를 따르는 표본 \(X_1,X_2,\ldots,X_n\)을 추출했다고 하자.\[\.. 2025. 6. 2.
mgf 적률생성함수(Moment Generating Function, MGF)는 확률변수의 기댓값과 분산을 비롯한 여러 적률(Moment)을 계산하는 데 사용하는 함수이다.MGF는 확률변수 \(X\)에 대해 \(e^{tX}\)의 기댓값으로 정의하며, 이를 미분하면 확률변수의 적률을 구할 수 있다. 또한 선형변환과 독립확률변수의 합에 대한 MGF의 성질을 이용하면 확률분포를 분석하는 과정이 간단해진다.1. 적률생성함수(MGF)의 정의와 적률 계산확률변수 \(X\)의 적률생성함수는 다음과 같이 정의한다.\[\boxed{M_X(t)=E(e^{tX})}\]여기서 \(t\)는 실수이며, MGF는 해당 기댓값이 유한한 범위에서 정의된다.특히 MGF가 \(t=0\)을 포함하는 열린 구간에서 유한하게 존재하면, 미분을 이용하.. 2025. 6. 2.
조건부 기댓값 조건부 기댓값(Conditional Expectation)은 다른 확률변수의 값이 주어졌을 때, 관심 있는 확률변수의 평균을 계산하는 개념이다.조건부 기댓값은 주변분포와 조건부분포를 이용하여 계산하며, 반복기댓값의 법칙(Law of Total Expectation)과 전분산법칙(Law of Total Variance)을 통해 전체 기댓값과 분산을 구할 수 있다.이 글에서는 조건부 기댓값과 조건부 분산의 정의, 두 법칙의 유도, 랜덤합(Random Sum)의 기댓값과 분산을 정리한다.1. 주변분포와 조건부분포두 연속확률변수 \(X,Y\)의 결합확률밀도함수(Joint PDF)를 \(f_{X,Y}(x,y)\)라고 하자.결합분포는 두 확률변수가 동시에 가지는 확률적 특성을 나타내며, 한 변수를 적분하여 제거하면.. 2025. 6. 2.
분산 분산(Variance)은 확률변수가 기댓값을 중심으로 얼마나 퍼져 있는지를 나타내는 지표이다. 분산이 클수록 확률변수의 값이 평균에서 멀리 떨어지는 경향이 있으며, 분산이 작을수록 평균 주변에 집중되는 경향이 있다.이 글에서는 분산의 정의와 기본 성질을 살펴보고, 이항분포·포아송분포·감마분포의 분산을 직접 유도한다. 또한 체비쇼프 부등식과 델타 방법을 통해 분산이 확률적 추론에 어떻게 활용되는지 정리한다.1. 분산(Variance)의 정의와 기본 성질확률변수 \(X\)의 기댓값을 \(\mu=E(X)\)라고 하자.분산은 확률변수와 기댓값의 차이를 제곱한 값의 기댓값으로 정의한다.\[\boxed{V(X)=\operatorname{Var}(X)=E[(X-\mu)^2]}\]여기서 분산이 유한하게 존재한다고 가정.. 2025. 4. 9.
기댓값 기댓값(Expected Value)은 확률변수가 가지는 값들을 해당 값이 나타날 확률에 따라 가중평균한 값이다. 확률변수의 평균적인 위치를 나타내며, 이산확률변수에서는 합을, 연속확률변수에서는 적분을 이용하여 계산한다.이 글에서는 기댓값의 정의와 기본 성질을 살펴보고, 이항분포·기하분포·포아송분포·감마분포의 기댓값을 확률질량함수(PMF) 또는 확률밀도함수(PDF)에서 직접 유도한다.1. 기댓값(Expected Value)의 정의와 성질기댓값은 확률변수 \(X\)의 분포를 이용하여 평균적인 값을 계산하는 개념이다.① 이산확률변수의 기댓값이산확률변수 \(X\)가 \(x_1,x_2,\ldots\)의 값을 가지며 확률질량함수가 \(f_X(x)\)라고 하자.기댓값은 각 값에 해당 확률을 곱한 후 모두 더하여 계산.. 2025. 4. 9.
결합분포 결합분포(Joint Distribution)는 두 개 이상의 확률변수가 함께 가지는 확률적 특성을 나타낸다.결합분포를 이용하면 두 확률변수의 합, 곱, 비율과 같은 새로운 확률변수의 분포를 구할 수 있다. 특히 독립인 확률변수의 합은 합성곱(Convolution)을 이용하고, 곱과 비율은 변수변환과 야코비안(Jacobian)을 이용하여 확률밀도함수를 계산한다.1. 이산확률변수의 합의 분포두 이산확률변수 \(X,Y\)의 결합확률질량함수(Joint PMF)를 \(f_{X,Y}(x,y)\)라고 하자.새로운 확률변수 \(Z\)를 다음과 같이 정의한다.\[\boxed{Z=X+Y}\]\(Z=z\)가 되려면 \(X=x\), \(Y=z-x\)가 되어야 한다.\[\begin{aligned}P(Z=z)&=P(X+Y=z)\.. 2025. 4. 8.
변수변환 변수변환(Transformation of Random Variables)은 기존 확률변수 \(X\)에 특정 함수 \(g\)를 적용하여 새로운 확률변수 \(Y=g(X)\)의 확률분포를 구하는 방법이다.변수변환에서는 기존 확률변수의 누적분포함수(CDF)나 확률밀도함수(PDF)를 이용하여 변환된 확률변수의 분포를 유도한다. 특히 선형변환, 단조함수에 의한 변환, 확률적분변환이 대표적이다.1. 선형변환 \(Y=aX+b\)연속확률변수 \(X\)의 확률밀도함수를 \(f_X(x)\), 누적분포함수를 \(F_X(x)\)라고 하자.새로운 확률변수 \(Y\)를 다음과 같이 정의한다.\[\boxed{Y=aX+b,\qquad a\neq0}\]\(Y\)의 확률밀도함수는 다음과 같다.\[\boxed{f_Y(y)=\frac1{|a.. 2025. 4. 8.

티스토리툴바