혼합 암호 설계 전략 (Mixing Cipher Design Strategy)

혼합 암호 설계 전략(mixing cipher design strategy)은 키에 따른 치환(혼돈) 계층과 블록 전체를 고르게 섞는 혼합(확산) 계층을 정해진 수만큼 번갈아 쌓아 블록 암호를 만드는 설계 방식입니다. 섀넌이 제안한 '곱 암호(product cipher)' 개념을 계층 구조로 구현한 것이라고 할 수 있습니다.

자세히 알아보기

클로드 섀넌은 1949년 논문에서 안전한 암호의 두 원리로 혼돈(confusion)과 확산(diffusion)을 제시했습니다. 혼돈은 키와 암호문의 관계를 복잡하게 만드는 것이고, 확산은 평문 한 비트의 영향을 암호문 전체로 퍼뜨리는 것입니다. 단순한 연산 여러 개를 겹쳐(곱해) 쓰면 개별 연산보다 훨씬 강한 암호를 얻을 수 있다는 것이 곱 암호의 아이디어입니다.

혼합 암호는 이를 다음과 같이 구성합니다. 먼저 블록을 작은 단위(예: 바이트)로 나누어 키로 생성한 치환표(S-박스)를 통과시킵니다. 다음으로 혼합 계층이 모든 단위를 서로 섞어, 한 단위의 변화가 블록 전체에 영향을 주게 합니다. 암호학자 테리 리터(Terry Ritter)는 이 혼합 계층에 '균형 블록 믹서(balanced block mixer)'라는 가역적 혼합 연산을 쓰는 설계를 제안했고, 이런 구조를 '혼합 암호'라고 불렀습니다. 계층 수가 고정되어 있어 구조를 분석하기 쉽고, 블록 크기를 키워도 같은 원리로 확장할 수 있다는 점이 장점으로 꼽혔습니다.

현대 표준 암호 AES도 넓은 의미에서 같은 철학을 따릅니다. SubBytes(치환), ShiftRows·MixColumns(확산), AddRoundKey(키 혼합)를 라운드마다 반복하는 SPN(치환-순열 네트워크) 구조이기 때문입니다. 다만 실무에서는 새로운 설계를 직접 만들기보다, 공개 분석을 오래 견딘 AES나 ChaCha20 같은 표준을 쓰는 것이 원칙입니다.

혼합 계층을 설계할 때는 가역성이 필수입니다. 복호화하려면 모든 계층을 거꾸로 되돌릴 수 있어야 하기 때문입니다. 리터의 균형 블록 믹서는 두 입력을 받아 두 출력을 내는 가역 연산으로, 이를 나비 모양으로 여러 번 연결해 블록 전체를 섞습니다.

실무 관점에서 혼합 암호 설계 전략은 새로운 표준을 만들기 위한 연구 주제에 가깝습니다. 블록체인이나 지갑 개발에서 직접 쓰일 일은 거의 없으며, 개발자는 AES-GCM이나 ChaCha20-Poly1305처럼 검증된 표준 구성을 선택해야 합니다.

쉽게 말하면

반죽을 자르고(치환) 섞고(확산), 다시 자르고 섞는 과정을 정해진 횟수만큼 반복해 원래 재료를 알아볼 수 없게 만드는 조리법입니다.