본문 바로가기

딥러닝/머신러닝(ML)

시그마 - Algegra 란 무엇인가


시그마 - Algegra 란 무엇인가

 

특정 집합 $X$가 주어졌을 때, 이 집합의 원소들로 이루어진 부분 집합(subset) 을 고려할 수 있습니다. 예를 들어서 $X= \{ 1,2,3\}$이라면, $\{ 1\}$ 이나 $\{1,2\}$ 가 예시가 될 수 있겠습니다. 그리고 이러한 부분집합들을 모아놓은 Collection 을 생각할 수 있는데, 예를 들어서 $\{\{ 1,2\}, \{1\} \}$ 이나 $\{\{ 1,2\}, \{1,2,3\} \}$ 을 생각할 수 있습니다. 아무렇게나 subset들을 모아놓을 수 있지만, 특정 조건을 만족하게 된다면 해당 Collection을 $\sigma$-algebra라고 합니다. 굳이 algebra라고 이름을 붙이는 이유는 해당 집합의 원소들에 대해서 연산이 가능하기 떄문입니다. 따라서 $X$의 부분 집합들에 대한 연산인 겁니다.

 

(Tip) $\sigma , \Sigma$ 는 소문자 시그마, 대문자 시그마를 입니다.

 

$\sigma$ -algebra

Wikipedia에 의한 Formal한 정의는 다음과 같습니다.

a $\sigma$ -algebra on a set $X$ is a collection $\Sigma$ of subsets of $X$ satisfying the following conditions

  1. it includes $X$ itself.
  2. it is closed under complement
  3. It is closed under countable unions
  4. it is closed countable intersections

$X$ 의 부분집합을 모아놓은 Collection 중에서 해당 4가지 조건을 모두 만족할 경우, 그 집합은 $\sigma$ -algebra 라는 멋진 이름이 붙습니다. 이에 대해서 자세히 살펴보겠습니다.



 Conditions 1~4 

 

Condition 1: it includes $X$ itself

$\Sigma$ 를 $X$의 부분집합들을 모아놓은 $\sigma$-algebra라고 하면 먼저, $X$ 를 포함하고 있어야 합니다.

$$X = \{ 1,2,3\} , \Sigma = \{ \{1,2,3\} \}$$

 

Condition 2: it is closed under complement

$\Sigma$ 의 원소 $S \in \sum$ 가 있다면, $X\setminus S \in \Sigma$ 가 성립합니다.

If $S =\{1,2\}$, and $\Sigma = \{ \{1,2,3\} , S\}$ → $\Sigma = \{ \{1,2,3\} , S, X\setminus S\}$

$$X = \{ 1,2,3\} , \Sigma = \{ \{1,2,3\}, \{1,2\}, \{1\} \}$$

 

Condition 3: it is closed under countable unions

세 번째 조건은 원소들의 union을 포함하고 있어야 한다는 것 입니다. 이는 덧셈에 대해서 더한 값들이 집합에 포함되는 것과 유사합니다.

$$\{ \{1,2,3\} ,\{1\}, \{2\} \} \rightarrow \{1\} \cup \{2\} \in \Sigma$$

 

Condition 4: it is closed under countable intersections

마지막 조건은 원소들의 intersection 을 포함하고 있어야 한다는 것 입니다.

$$\{ \{1,2,3\} ,\{1,2\}, \{2,3\} \} \rightarrow \{1,2\} \cap \{2,3\} \in \Sigma$$

 

⚠️ 위의 조건들을 모두 만족해야 $\Sigma$ 가 $\sigma$ -algebra 라고 할 수 있습니다.

하나라도 만족하지 않으면 $\sigma$ -algebra 가 아닙니다.

 

Examples

  • $(X, \mathcal{P}(X))$
  • $X = \{1, 2\} \rightarrow \Sigma = \{\emptyset,  \{ 1\}, \{ 2\} ,\{ 1,2\} \}$