진릿값 편집하기 (부분)

== 진릿값과 정보 이론 ==

=== 정보량과 진릿값 ===
'''클로드 섀넌'''의 정보 이론에서 사건의 정보량은 다음과 같이 정의된다:

<math>I(x) = -\log_2 P(x)</math>

진릿값과 관련하여:
* 확실한 참 (P = 1): 정보량 = 0
* 확실한 거짓 (P = 0): 정보량 = ∞
* 불확실 (P = 0.5): 정보량 = 1 bit

=== 최대 엔트로피 원리 ===
주어진 제약 조건 하에서 엔트로피를 최대화하는 확률 분포를 선택하는 원리:

<math>H(X) = -\sum_{i} p_i \log p_i</math>

이는 불완전한 정보 상황에서 진릿값에 확률을 할당하는 합리적 방법을 제공한다.