Conditional expectation

Original article: w:Conditional expectation

확률 이론(probability theory)에서, 확률 변수(random variable)의 조건부 기대(conditional expectation), 조건부 기댓값(conditional expected value) 또는 조건부 평균(conditional mean)은 "조건"의 특정 집합이 발생하는 것으로 알려져 있다고 주어지는 그것의 기댓값(expected value) – 임의적인 큰 숫자(arbitrarily large number)의 발생에 걸쳐 "평균적으로" 취하는 값입니다. 만약 확률 변수가 유한한 수의 값만 취할 수 있으면, "조건"은 변수가 해당 값의 부분집합만 취할 수 있다는 것입니다. 보다 형식적으로, 확률 변수가 이산 확률 공간(probability space)에 걸쳐 정의되는 경우에서, "조건"은 이 확률 공간의 분할(partition)입니다.

문맥에 따라, 조건부 기대는 확률 변수 또는 함수일 수 있습니다. 확률 변수는 조건부 확률(conditional probability)과 유사하게 $E(X\mid Y)$로 표시됩니다. 함수 형식은 $E(X\mid Y=y)$ 또는 $f(y)$가 $E(X\mid Y)=f(Y)$를 의미하는 것으로 도입될 때와 같이 분리 함수 기호로 표시됩니다.

Examples

Example 1: Dice rolling

공정한 주사위의 굴림을 생각해 보십시오. 만약 숫자가 짝수 (즉, 2, 4, 또는 6)이면 A = 1이고 그렇지 않으면 A = 0이라고 놓습니다. 게다가, 숫자가 소수 (즉, 2, 3, 또는 5)이면 B = 1이고 그렇지 않으면 B = 0이라고 놓습니다.

	1	2	3	4	5	6
A	0	1	0	1	0	1
B	0	1	1	0	1	0

A의 무조건부 기대는 $E[A]=(0+1+0+1+0+1)/6=1/2$이지만, B = 1에 대한 조건부 (즉, 주사위를 굴려서 2, 3, 또는 5가 나왔다는 조건부)에 대한 A의 기대는 $E[A\mid B=1]=(1+0+0)/3=1/3$이고, B = 0에 대한 조건부 (즉, 주사위를 굴려서 1, 4, 또는 6이 나왔다는 조건부) A의 기대는 $E[A\mid B=0]=(0+1+1)/3=2/3$입니다 마찬가지로, A = 1에 대한 조건부 B의 기대는 $E[B\mid A=1]=(1+0+0)/3=1/3$이고, A = 0에 대한 조건부 B의 기대는 $E[B\mid A=0]=(0+1+1)/3=2/3$입니다.

Example 2: Rainfall data

1990년 1월 1일부터 1999년 12월 31일까지 10년 (3652일) 기간의 매일 기상 관측소에서 수집된 일일 강우 데이터 (매일 강우량 mm)가 있다고 가정합니다. 지정되지 않은 날에 대해 무조건부 기대는 해당 3652일 동안의 총 강우량의 평균입니다. 3월 (조건부)로 알려진 달리 지정되지 않은 날에 대한 조건부 강우량의 기대는 3월에 해당하는 10년 기간의 전체 310일 동안의 일일 강우량의 평균입니다. 그리고 3월 2일 날짜에 대한 조건부 강우량의 조건부 기대는 해당 날짜의 10일 동안 발생했던 강우량의 평균입니다.

History

조건부 확률(conditional probability)의 관련 개념은 최소한 조건부 분포를 계산했던 적어도 라플라스(Laplace)로 거슬러 올라갑니다. 1933년에 라돈–니코딤 정리(Radon–Nikodym theorem)를 사용하여 그것을 공식화한 사람은 안드레이 콜모고로프(Andrey Kolmogorov)였습니다. 1953년에서 폴 핼모스(Paul Halmos)와 조셉 L. 두브(Joseph L. Doob)의 연구에서, 조건부 기대는 부분-σ-대수(sub-σ-algebras)를 사용하여 현대적인 정의로 일반화되었습니다.

Definitions

Conditioning on an event

만약 $A$가 비-영 확률을 갖는 ${\mathcal {F}}$에서 사건이고, $X$가 이산 확률 변수(discrete random variable)이면, 주어진 $A$에 대한 $X$의 조건부 기대는 다음과 같습니다:

${\begin{aligned}\operatorname {E} (X\mid A)&=\sum _{x}xP(X=x\mid A)\\&=\sum _{x}x{\frac {P(\{X=x\}\cap A)}{P(A)}}\end{aligned}}$

여기서 합은 $X$의 모든 가능한 결과에 걸쳐 취합니다.

$P(A)=0$이면, 조건부 기대는 영에 의한 나눗셈으로 기인하여 정의되지 않음에 주목하십시오.

Discrete random variables

$X$와 $Y$가 이산 확률 변수(discrete random variables)이면, 주어진 $Y$에 대한 $X$의 조건부 기대는 다음과 같습니다:

${\begin{aligned}\operatorname {E} (X\mid Y=y)&=\sum _{x}xP(X=x\mid Y=y)\\&=\sum _{x}x{\frac {P(X=x,Y=y)}{P(Y=y)}}\end{aligned}}$

여기서 $P(X=x,Y=y)$는 $X$와 $Y$의 결합 확률 질량 함수(joint probability mass function)입니다. 그 합은 $X$의 모든 가능한 결과에 걸쳐 취합니다.

이산 확률 변수에 대한 조건화는 해당하는 사건에 대한 조건화와 같음에 주목하십시오:

$\operatorname {E} (X\mid Y=y)=\operatorname {E} (X\mid A)$

여기서 $X$는 집합 $\{Y=y\}$입니다.

Continuous random variables

$X$와 $Y$를 결합 밀도 $f_{X,Y}(x,y)$, $Y$의 밀도 $f_{Y}(y),$ 및 주어진 사건 $Y=y$에 대한 $X$의 조건부 밀도 $\textstyle f_{X|Y}(x|y)={\frac {f_{X,Y}(x,y)}{f_{Y}(y)}}$를 갖는 연속 확률 변수(continuous random variables)로 놓습니다. 주어진 $Y=y$에 대한 $X$의 조건부 기대는 다음과 같습니다:

${\begin{aligned}\operatorname {E} (X\mid Y=y)&=\int _{-\infty }^{\infty }xf_{X|Y}(x|y)\mathrm {d} x\\&={\frac {1}{f_{Y}(y)}}\int _{-\infty }^{\infty }xf_{X,Y}(x,y)\mathrm {d} x.\end{aligned}}$

분모가 영일 때, 기대는 정의되지 않습니다.

연속 확률 변수에 대한 조건화는 이산 경우에서와 같이 사건 $\{Y=y\}$에 대한 조건화와 같지 않음에 주목하십시오. 자세한 논의에 대해, 확률 영의 사건에 대한 조건화(Conditioning on an event of probability zero)를 참조하십시오. 이 구분을 존중하지 않는 것은 보렐–콜모고로프 역설(Borel-Kolmogorov paradox)에 의해 설명된 바와 같이 모순된 결론을 초래할 수 있습니다.

L² random variables

이 섹션에서 모든 확률 변수는 $L^{2}$, 즉, 제곱 적분-가능(square integrable)에 있다고 가정합니다. 전체 일반성에서, 조건부 기대는 이 가정 없이 전개됩니다. 아래의 부분-$\sigma$-대수에 관한 조건부 기대를 참조하십시오. $L^{2}$이론은, 어쨌든, 더 직관적으로 여겨지고 중요한 일반화를 인정합니다. $L^{2}$ 확률 변수의 문맥에서, 조건부 기대는 역시 회귀(regression)라고도 불립니다.

다음에서 $(\Omega ,{\mathcal {F}},P)$를 확률 공간, $X:\Omega \to \mathbb {R}$를 $L^{2}$에서 평균 $\mu _{X}$와 분산(variance) $\sigma _{X}^{2}$를 갖는다고 놓습니다. 기대 $\mu _{X}$는 평균 제곱 오차(mean squared error)를 최소화합니다:

$\min _{x\in \mathbb {R} }\operatorname {E} \left((X-x)^{2}\right)=\operatorname {E} \left((X-\mu _{X})^{2}\right)=\sigma _{X}^{2}$.

$X$의 조건부 기대는 단일 숫자 $\mu _{X}$ 대신에, 그 결과가 함수 $e_{X}(y)$일 것이라는 점을 제외하고 유사하게 정의됩니다. $Y:\Omega \to \mathbb {R} ^{n}$를 확률 벡터(random vector)로 놓습니다. 조건부 기대 $e_{X}:\mathbb {R} ^{n}\to \mathbb {R}$는 다음을 만족하는 측정-가능 함수입니다:

$\min _{g{\text{ measurable }}}\operatorname {E} \left((X-g(Y))^{2}\right)=\operatorname {E} \left((X-e_{X}(Y))^{2}\right)$.

$\mu _{X}$와 달리, 조건부 기대 $e_{X}$는 일반적으로 고유하지 않음에 주목하십시오: 평균 제곱 오차의 최소화기가 여러 개 있을 수 있습니다.

Uniqueness

Example 1: $Y$가 항상 1인 상수 확률 변수인 경우를 생각해 보십시오. 그런-다음 평균 제곱 오차는 다음 형식의 임의의 함수에 의해 최소화됩니다:

$e_{X}(y)={\begin{cases}\mu _{X}&{\text{ if }}y=1\\{\text{any number}}&{\text{ otherwise}}\end{cases}}$

Example 2: $Y$가 2-차원 확률 벡터 $(X,2X)$인 경우를 생각해 보십시오. 그런-다음 분명하게 다음이지만,

$\operatorname {E} (X\mid Y)=X$

함수의 관점에서 그것은 $e_{X}(y_{1},y_{2})=3y_{1}-y_{2}$ 또는 $e'_{X}(y_{1},y_{2})=y_{2}-y_{1}$ 또는 무한하게 많은 다른 방법에서 표현될 수 있습니다. 선형 회귀(linear regression)의 문맥에서, 이러한 고유성의 결여를 다중-공선성(multicollinearity)이라고 불립니다.

조건부 기대는 $\mathbb {R} ^{n}$에서 측정 영의 집합까지(up to) 고유합니다. 사용된 측정은 $Y$에 의해 유도된 밂 측정(pushforward measure)입니다.

첫 번째 예제에서, 밂 측정은 1에서 디랙 분포(Dirac distribution)입니다. 두 번째에서, 그것은 교차하지 않은 측정 0을 가지는 임의의 집합이 되도록 "대각선" $\{y:y_{2}=2y_{1}\}$에 집중되어 있습니다.

Existence

$\min _{g}\operatorname {E} \left((X-g(Y))^{2}\right)$에 대해 최소화기의 존재는 비-자명입니다. 그것은 다음이

$M:=\{g(Y):g{\text{ is measurable and }}\operatorname {E} (g(Y)^{2})<\infty \}=L^{2}(\Omega ,\sigma (Y))$

힐베르트 공간 $L^{2}(\Omega )$의 닫힌 부분-공간임을 쉽게 보일 수 있습니다. 힐베르트 투영 정리(Hilbert projection theorem)에 의해, $e_{X}$에 대해 최소화기가 되는 필요-충분 조건은 $M$에서 모든 $f(Y)$에 대해 우리가 다음을 가진다는 것입니다:

$\langle X-e_{X}(Y),f(Y)\rangle =0$.

말로 하자면, 이 방정식은 잔여(residual) $X-e_{X}(Y)$가 $Y$의 모든 함수의 공간 $M$에 수직이라고 말합니다. 지시 함수(indicator functions) $f(Y)=1_{Y\in H}$에 적용되는 이 수직성 조건은 아래에서 $X$와 $Y$가 반드시 $L^{2}$에 있지는 않은 경우에 조건부 기대를 확장하기 위해 사용됩니다.

Connections to regression

조건부 기대는 해석적으로 계산하고, 보간에 대해 어렵기 때문에 응용 수학(applied mathematics)과 통계(statistics)에서 종종 근사화됩니다.

위에 정의된 다음 힐베르트 공간은

$M=\{g(Y):\operatorname {E} (g(Y)^{2})<\infty \}$

임의의 측정-가능 함수를 허용하는 것이 아니라 $g$의 함수 형식을 제한함으로써 그것으로부터 부분-집합으로 대체됩니다. 이것의 예는 $g$가 단순 함수(simple function)라고 요구될 때 결정 트리 회귀(decision tree regression), $g$가 아핀(affine)으로 요구될 때 선형 회귀(linear regression), 등입니다.

조건부 기대의 이들 일반화는 더 이상 유지하지 않는 그것의 많은 속성을 희생합니다. 예를 들어, $M$을 $Y$의 모든 선형 함수의 공간이라고 놓고, ${\mathcal {E}}_{M}$을 이 일반화된 조건부 기대/$L^{2}$ 투영을 나타낸다고 놓습니다. 만약 $M$이 상수 함수(constant functions)를 포함하지 않으면, 탑 속성(tower property) $\operatorname {E} ({\mathcal {E}}_{M}(X))=\operatorname {E} (X)$은 유지되지 않을 것입니다.

중요한 특별한 경우는 $X$와 $Y$가 결합적으로 정규 분포될 때의 경우입니다. 이 경우에서, 조건부 기대가 선형 회귀와 동등함을 보일 수 있습니다:

$e_{X}(Y)=\alpha _{0}+\sum _{i}\alpha _{i}Y_{i}$

계수 $\{\alpha _{i}\}_{i=0..n}$에 대해 Multivariate normal distribution#Conditional distributions에서 설명됩니다.

Conditional expectation with respect to a sub-σ-algebra

Conditional expectation with respect to a σ-algebra: in this example the probability space $(\Omega ,{\mathcal {F}},P)$ is the [0,1] interval with the Lebesgue measure. We define the following σ-algebras: ${\mathcal {A}}={\mathcal {F}}$; ${\mathcal {B}}$ is the σ-algebra generated by the intervals with end-points 0, ¼, ½, ¾, 1; and ${\mathcal {C}}$ is the σ-algebra generated by the intervals with end-points 0, ½, 1. Here the conditional expectation is effectively the average over the minimal sets of the σ-algebra.

다음을 생각해 보십시오:

• $(\Omega ,{\mathcal {F}},P)$는 확률 공간(probability space)입니다.
• $X\colon \Omega \to \mathbb {R} ^{n}$는 유한 기대를 갖는 해당 확률에 대한 확률 변수(random variable)입니다.
• ${\mathcal {H}}\subseteq {\mathcal {F}}$는 ${\mathcal {F}}$의 부분-σ-대수(σ-algebra)입니다.

${\mathcal {H}}$는 ${\mathcal {F}}$의 부분 $\sigma$-대수이기 때문에, 함수 $X\colon \Omega \to \mathbb {R} ^{n}$는 보통 ${\mathcal {H}}$-측정가능이 아니고, 따라서 형식 ${\textstyle \int _{H}X\,dP|_{\mathcal {H}}}$의 적분의 존재는, 여기서 $H\in {\mathcal {H}}$와 $P|_{\mathcal {H}}$는 ${\mathcal {H}}$에 대한 $P$의 제한이며, 일반적으로 말할 수 없습니다. 지역 평균 ${\textstyle \int _{H}X\,dP}$는 조건부 기대의 도움과 함께 $(\Omega ,{\mathcal {H}},P|_{\mathcal {H}})$에서 회복될 수 있습니다.

주어진 ${\mathcal {H}}$에 대한 $X$의 조건부 기대(conditional expectation)는, $\operatorname {E} (X\mid {\mathcal {H}})$으로 나타내며, 각 $H\in {\mathcal {H}}$에 대해 다음을 만족시키는 임의의 ${\mathcal {H}}$-측정가능 함수(measurable function) $\Omega \to \mathbb {R} ^{n}$입니다:

$\int _{H}\operatorname {E} (X\mid {\mathcal {H}})\,\mathrm {d} P=\int _{H}X\,\mathrm {d} P\;.$

$L^{2}$ 토론에서 언급된 것처럼, 이것은 잔여(residual) $X-\operatorname {E} (X\mid {\mathcal {H}})$가 지시 함수 $1_{H}$와 수직이라고 말하는 것과 동등한 조건입니다:

$\langle X-\operatorname {E} (X\mid {\mathcal {H}}),1_{H}\rangle =0$

Existence

$\operatorname {E} (X\mid {\mathcal {H}})$의 존재는 $F\in {\mathcal {F}}$에 대해 ${\textstyle \mu ^{X}\colon F\mapsto \int _{F}X\,\mathrm {d} P}$가 $P$에 관해 절대적으로 연속(absolutely continuous)인 $(\Omega ,{\mathcal {F}})$ 위에 유한 측정임을 언급함으로써 수립될 수 있습니다. 만약 $h$가 ${\mathcal {H}}$에서 ${\mathcal {F}}$로의 자연스러운 단사(natural injection)이면, $\mu ^{X}\circ h=\mu ^{X}|_{\mathcal {H}}$는 ${\mathcal {H}}$로의 $\mu ^{X}$의 제한이고 $P\circ h=P|_{\mathcal {H}}$는 ${\mathcal {H}}$로의 $P$의 제한입니다. 게다가, $\mu ^{X}\circ h$는 $P\circ h$에 관한 절대적으로 연속인데, 왜냐하면 다음 조건은

$P\circ h(H)=0\iff P(h(H))=0$

다음임을 의미하기 때문입니다:

$\mu ^{X}(h(H))=0\iff \mu ^{X}\circ h(H)=0.$

따라서, 우리는 다음을 가집니다:

$\operatorname {E} (X\mid {\mathcal {H}})={\frac {\mathrm {d} \mu ^{X}|_{\mathcal {H}}}{\mathrm {d} P|_{\mathcal {H}}}}={\frac {\mathrm {d} (\mu ^{X}\circ h)}{\mathrm {d} (P\circ h)}},$

여기서 도함수는 측정의 라돈–니코딤 도함수(Radon–Nikodym derivatives)입니다.

Conditional expectation with respect to a random variable

위의 것 외에도, 다음을 생각해 보십시오:

• 측정가능 공간(measurable space) $(U,\Sigma )$, 그리고
• 확률 변수 $Y\colon \Omega \to U$.

주어진 $Y$에 대한 $X$의 조건부 기대는 $Y$에 의해 생성된 σ-대수에 대한 위의 구성을 적용함으로써 정의됩니다:

$\operatorname {E} [X|Y]:=\operatorname {E} [X|\sigma (Y)]$.

두브-딘킨 보조정리(Doob-Dynkin lemma)에 의해, 다음을 만족하는 함수 $e_{X}\colon U\to \mathbb {R} ^{n}$가 존재합니다:

$\operatorname {E} [X|Y]=e_{X}(Y)$.

Discussion

• 이것은 구성적 정의가 아닙니다; 우리는 조건부 기대가 만족시켜야 하는 필수 속성만 제공됩니다.
  • $\operatorname {E} (X\mid {\mathcal {H}})$의 정의는 사건 $H$에 대해 $\operatorname {E} (X\mid H)$의 정의와 닮아 있지만 이것들은 매우 다른 대상입니다. 전자는 ${\mathcal {H}}$-측정가능 함수 $\Omega \to \mathbb {R} ^{n}$이지만, 후자는 $\mathbb {R} ^{n}$의 원소이고 $H\in {\mathcal {H}}$에 대해 $\operatorname {E} (X\mid H)\ P(H)=\int _{H}X\,\mathrm {d} P=\int _{H}\operatorname {E} (X\mid {\mathcal {H}})\,\mathrm {d} P\;$입니다.
  • 고유성은 거의 확실하게(almost sure) 표시될 수 있습니다: 즉, 같은 조건부 기대의 버전은 확률 영의 집합(set of probability zero)에서만 다릅니다.
• σ-대수 ${\mathcal {H}}$는 조건화의 "세분성(granularity)"을 제어합니다. 더 미세한 (더 큰) σ-대수 ${\mathcal {H}}$에 걸쳐 조건부 기대 $E(X\mid {\mathcal {H}})$는 사건의 더 큰 클래스의 확률에 대한 정보를 보유합니다. 더 거친 (더 작은) σ-대수에 걸쳐 조건부 기대는 더 많은 사건에 걸쳐 평균입니다.

Conditional probability

Main article: Regular conditional probability

${\mathcal {B}}(\mathbb {R} ^{n})$에서 보렐 부분집합 $B$에 대해, 우리는 다음 확률 변수의 모음을 생각해 보십시오:

$\kappa _{\mathcal {H}}(\omega ,B):=\operatorname {E} (1_{X\in B}|{\mathcal {H}})(\omega )$.

그것들은 마르코프 커널(Markov kernel), 즉, 거의 모든 $\omega$에 대해, $\kappa _{\mathcal {H}}(\omega ,-)$가 확률 측정이라는 것을 알 수 있습니다.

무의식 통계학자의 법칙(Law of the unconscious statistician)은 그런-다음 다음과 같습니다:

$\operatorname {E} [f(X)|{\mathcal {H}}]=\int f(x)\kappa _{\mathcal {H}}(-,\mathrm {d} x)$.

이것은 조건부 기대가, 그것들의 무조건부 짝처럼, 조건부 측정에 대항한 적분임을 보여줍니다.

Basic properties

모든 다음 공식은 거의 확실한 의미로 이해되어야 합니다. σ-대수 ${\mathcal {H}}$는 확률 변수 $Z$로 대체될 수 있습니다. 즉, ${\mathcal {H}}=\sigma (Z)$로 대체될 수 있습니다.

• 독립 인수를 빼 냅니다:
  • 만약 $X$가 ${\mathcal {H}}$와 독립(independent)이면, $E(X\mid {\mathcal {H}})=E(X)$입니다.

증명

$B\in {\mathcal {H}}$라고 놓습니다. 그런-다음 $X$는 $1_{B}$과 독립이므로, 우리는 다음임을 얻습니다:

$\int _{B}X\,dP=E(X1_{B})=E(X)E(1_{B})=E(X)P(B)=\int _{B}E(X)\,dP.$

따라서 조건부 기대의 정의는 원했던 대로 상수 확률 변수 $E(X)$에 의해 만족시킵니다.

• • 만약 $X$가 $\sigma (Y,{\mathcal {H}})$와 독립이면, $E(XY\mid {\mathcal {H}})=E(X)\,E(Y\mid {\mathcal {H}})$입니다. 이것은 만약 $X$가 오직 ${\mathcal {H}}$와 독립이고 $Y$와 독립이면 반드시 그 경우는 아님을 주목하십시오.
  • 만약 $X,Y$가 , ${\mathcal {G}},{\mathcal {H}}$와 독립이고, $X$가 ${\mathcal {H}}$와 독립이고 $Y$가 ${\mathcal {G}}$와 독립이면, $E(E(XY\mid {\mathcal {G}})\mid {\mathcal {H}})=E(X)E(Y)=E(E(XY\mid {\mathcal {H}})\mid {\mathcal {G}})$입니다.
• 안정(Stability):
  • 만약 $X$가 ${\mathcal {H}}$-측정가능이면, $E(X\mid {\mathcal {H}})=X$입니다.
  • 특히, 부분-σ-대수 ${\mathcal {H}}_{1}\subset {\mathcal {H}}_{2}\subset {\mathcal {F}}$에 대해 우리는 $E(E(X\mid {\mathcal {H}}_{1})\mid {\mathcal {H}}_{2})=E(X\mid {\mathcal {H}}_{1})$임을 가집니다.
  • 만약 $Z$가 확률 변수이면, $\operatorname {E} (f(Z)\mid Z)=f(Z)$입니다. 그것의 가장 단순한 형식에서, 이것은 $\operatorname {E} (Z\mid Z)=Z$임을 말합니다.
• 알려진 인수를 빼 냅니다:
  • 만약 $X$가 ${\mathcal {H}}$-측정가능이면, $E(XY\mid {\mathcal {H}})=X\,E(Y\mid {\mathcal {H}})$입니다.
  • 만약 $Z$가 확률 변수이면, $\operatorname {E} (f(Z)Y\mid Z)=f(Z)\operatorname {E} (Y\mid Z)$입니다.
• 전체 기대의 법칙(Law of total expectation): $E(E(X\mid {\mathcal {H}}))=E(X)$.
• 탑 속성(Tower property):
  • 부분-σ-대수 ${\mathcal {H}}_{1}\subset {\mathcal {H}}_{2}\subset {\mathcal {F}}$에 대해 우리는 $E(E(X\mid {\mathcal {H}}_{2})\mid {\mathcal {H}}_{1})=E(X\mid {\mathcal {H}}_{1})$임을 가집니다.
    • 특별한 경우 ${\mathcal {H}}_{1}=\{\emptyset ,\Omega \}$는 전체 기대의 법칙을 회복합니다: $E(E(X\mid {\mathcal {H}}_{1}))=E(X)$.
    • 특별한 경우는 $Z$가 ${\mathcal {H}}$-측정가능 확률 변수일 때입니다. 그런-다음 $\sigma (Z)\subset {\mathcal {H}}$이고 따라서 $E(E(X\mid {\mathcal {H}})\mid Z)=E(X\mid Z)$입니다.
    • 두브 마틴게일(Doob martingale) 속성: $Z=E(X\mid {\mathcal {H}})$ (${\mathcal {H}}$-측정가능임)을 갖는 위의 것과 역시 $\operatorname {E} (Z\mid Z)=Z$를 사용하여, $E(X\mid E(X\mid {\mathcal {H}}))=E(X\mid {\mathcal {H}})$를 제공합니다.
  • 확률 변수 $X,Y$에 대해 우리는 $E(E(X\mid Y)\mid f(Y))=E(X\mid f(Y))$임을 가집니다.
  • 확률 변수 $X,Y,Z$에 대해 우리는 $E(E(X\mid Y,Z)\mid Y)=E(X\mid Y)$임을 가집니다.
• 선형성(Linearity): 우리는 $a\in \mathbb {R}$에 대해 $E(X_{1}+X_{2}\mid {\mathcal {H}})=E(X_{1}\mid {\mathcal {H}})+E(X_{2}\mid {\mathcal {H}})$과 $E(aX\mid {\mathcal {H}})=a\,E(X\mid {\mathcal {H}})$를 가집니다.
• 양수성(Positivity): 만약 $X\geq 0$이면 $E(X\mid {\mathcal {H}})\geq 0$입니다.
• 단조성(Monotonicity): 만약 $X_{1}\leq X_{2}$이면 $E(X_{1}\mid {\mathcal {H}})\leq E(X_{2}\mid {\mathcal {H}})$입니다.
• 단조 수렴(Monotone convergence): 만약 $0\leq X_{n}\uparrow X$이면 $E(X_{n}\mid {\mathcal {H}})\uparrow E(X\mid {\mathcal {H}})$입니다.
• 지배 수렴(Dominated convergence): 만약 $Y\in L^{1}$과 함께 $X_{n}\to X$과 $|X_{n}|\leq Y$이면, $E(X_{n}\mid {\mathcal {H}})\to E(X\mid {\mathcal {H}})$입니다.
• 파투의 보조정리(Fatou's lemma): 만약 $\textstyle E(\inf _{n}X_{n}\mid {\mathcal {H}})>-\infty$이면, $\textstyle E(\liminf _{n\to \infty }X_{n}\mid {\mathcal {H}})\leq \liminf _{n\to \infty }E(X_{n}\mid {\mathcal {H}})$입니다.
• 옌센 부등식(Jensen's inequality): 만약 $f\colon \mathbb {R} \rightarrow \mathbb {R}$이 볼록 함수(convex function)이면, $f(E(X\mid {\mathcal {H}}))\leq E(f(X)\mid {\mathcal {H}})$입니다.
• 조건부 분산(Conditional variance): 조건부 기대를 사용하여, 우리는, 평균에서 평균 제곱 편차로 분산의 정의와 유사하게, 조건부 분산을 정의할 수 있습니다:
  • 정의: $\operatorname {Var} (X\mid {\mathcal {H}})=\operatorname {E} {\bigl (}(X-\operatorname {E} (X\mid {\mathcal {H}}))^{2}\mid {\mathcal {H}}{\bigr )}$
  • 분산에 대해 대수적 공식: $\operatorname {Var} (X\mid {\mathcal {H}})=\operatorname {E} (X^{2}\mid {\mathcal {H}})-{\bigl (}\operatorname {E} (X\mid {\mathcal {H}}){\bigr )}^{2}$
  • 전체 분산의 법칙(Law of total variance): $\operatorname {Var} (X)=\operatorname {E} (\operatorname {Var} (X\mid {\mathcal {H}}))+\operatorname {Var} (\operatorname {E} (X\mid {\mathcal {H}}))$.
• 마틴게일 수렴(Martingale convergence): 확률 변수 $X$에 대해, 그것이 유한 기대를 가지며, 만약 ${\mathcal {H}}_{1}\subset {\mathcal {H}}_{2}\subset \dotsb$가 부분-σ-대수의 증가하는 급수이고 $\textstyle {\mathcal {H}}=\sigma (\bigcup _{n=1}^{\infty }{\mathcal {H}}_{n})$이거나 만약 ${\mathcal {H}}_{1}\supset {\mathcal {H}}_{2}\supset \dotsb$가 부분-σ-대수의 감소하는 급수이고 $\textstyle {\mathcal {H}}=\bigcap _{n=1}^{\infty }{\mathcal {H}}_{n}$이면 $E(X\mid {\mathcal {H}}_{n})\to E(X\mid {\mathcal {H}})$임을 가집니다.
• $L^{2}$-투영으로 조건부 기대: 만약 $X,Y$가 제곱-적분가능(square-integrable) 실수 확률 변수 (유한 이차 모멘트를 갖는 실수 확률 변수)의 힐베르트 공간(Hilbert space)에 있으면,
  • ${\mathcal {H}}$-측정가능 $Y$에 대해, $E(Y(X-E(X\mid {\mathcal {H}})))=0$임을 가지며, 즉 조건부 기대 $E(X\mid {\mathcal {H}})$는 $L^{2}(P)$ 스칼라 곱의 의미에서 $X$에서 ${\mathcal {H}}$-측정가능 함수의 선형 부분공간(linear subspace)으로의 직교 투영(orthogonal projection)입니다. (이것은 힐베르트 투영 이론(Hilbert projection theorem)에 기초한 조건부 기대의 존재를 정의하고 입증하는 것을 허용합니다.)
  • 매핑 $X\mapsto \operatorname {E} (X\mid {\mathcal {H}})$은 자체-인접(self-adjoint)입니다: $\operatorname {E} (X\operatorname {E} (Y\mid {\mathcal {H}}))=\operatorname {E} \left(\operatorname {E} (X\mid {\mathcal {H}})\operatorname {E} (Y\mid {\mathcal {H}})\right)=\operatorname {E} (\operatorname {E} (X\mid {\mathcal {H}})Y)$
• 조건화는 $L^{p}$ 공간 $L^{p}(\Omega ,{\mathcal {F}},P)\rightarrow L^{p}(\Omega ,{\mathcal {H}},P)$의 축약(contractive) 투영이며, 즉, 임의의 $p\geq 1$에 대해 $\operatorname {E} {\big (}|\operatorname {E} (X\mid {\mathcal {H}})|^{p}{\big )}\leq \operatorname {E} {\big (}|X|^{p}{\big )}$입니다.
• 두브의 조건부 독립 속성: 만약 $X,Y$가 주어진 $Z$와 조건부 독립(conditionally independent)이면, $P(X\in B\mid Y,Z)=P(X\in B\mid Z)$ (동등하게, $E(1_{\{X\in B\}}\mid Y,Z)=E(1_{\{X\in B\}}\mid Z)$)입니다.

See also

• Conditioning (probability)
• Disintegration theorem
• Doob–Dynkin lemma
• Factorization lemma
• Joint probability distribution
• Non-commutative conditional expectation

Probability laws

• Law of total cumulance (generalizes the other three)
• Law of total expectation
• Law of total probability
• Law of total variance

External links

• Ushakov, N.G. (2001) [1994], "Conditional mathematical expectation", Encyclopedia of Mathematics, EMS Press