4-1/정보이론

정보이론-4W

Donghun Kang 2025. 4. 12. 17:30

Review

 

 


  • Conjugate Prior
- Exponential Family의 구조를 따르는 경우 적절한 켤레 사전 분포(Conjugate prior)가 존재한다.
Exponetial family

 

  • Entropy

  • Decomposability(분해 성질)

 

  • Gibb's Inequality (KL Divergence)

=> p,q 다르면 KL Divergence 양수, 같으면 0

 

  • Convex Function

  • Jensen's Inequality

 

  • Mutual Information

 

'4-1 > 정보이론' 카테고리의 다른 글

정보이론-5(2)W  (0) 2025.04.19
정보이론-5(1)W  (2) 2025.04.19
정보이론-3W  (1) 2025.04.12
정보이론-2W  (0) 2025.04.12
정보이론-1W  (0) 2025.04.12