정보이론2
[정보이론] 허프만 코드의 optimal 판단 / Huffman code optimal
들어가기 앞서 https://programming119.tistory.com/75 [알고리즘] 허프만 코드와 그리디 알고리즘 / Huffman code and greedy algorithm 문자열의 코드화 우리가 인터넷 상에서 쓰는 한글, abcd 알파벳. 컴퓨터는 우리처럼 글자 자체로 보지 않고, 결국 2진수 0과 1의 모음으로 이해를 한다! a는 01 로 약속, b는 10 으로 약속하면 ab라는 � programming119.tistory.com 허프만 코드에 대해 모르신다면, 참고해주세요! 허프만 코드의 Optimal 세 조건 코드화된 distribution이 있을 때, 다음과 같은 세 조건을 모두 만족시키면 Optimal 입니다. 1. 코드길이는 확률값과 반비례 한다. (코드 길이가 길수록, 확률..
[정보이론] Kraft inequality(크래프트 부등식) 과 데이터 비트 표현
들어가기 앞서 컴퓨터는 특정 데이터를 비트로 압축시켜 표현합니다. 이 예시로는 허프만 코드가 있는데 아래 포스팅을 참고해 주시면 좋을 것 같습니다. https://programming119.tistory.com/75 [알고리즘] 허프만 코드와 그리디 알고리즘 / Huffman code and greedy algorithm 문자열의 코드화 우리가 인터넷 상에서 쓰는 한글, abcd 알파벳. 컴퓨터는 우리처럼 글자 자체로 보지 않고, 결국 2진수 0과 1의 모음으로 이해를 한다! a는 01 로 약속, b는 10 으로 약속하면 ab라는 문자는 컴퓨.. programming119.tistory.com Prefix code Prefix code 란 특정 비트표현이 다른 비트표현과 겹쳐지지 않는 코드 입니다. 예를..