비밀 시스템의 대수 (Algebra of Secrecy Systems)

비밀 시스템의 대수는 클로드 섀넌이 1949년 논문 「비밀 시스템의 통신 이론」에서 제안한 개념으로, 암호 체계(비밀 시스템)를 하나의 대수적 대상으로 보고 '곱(product)'과 '가중합(weighted sum)'이라는 두 연산으로 결합하는 방법을 정의합니다. 이를 통해 다중 암호화와 '키로 암호 방식 자체를 고르는 것'을 같은 언어로 설명할 수 있습니다.

자세히 알아보기

섀넌의 모델에서 비밀 시스템 T는 키마다 하나씩 정해지는 암호화 변환 T_i들의 집합이고, 각 키가 선택될 확률이 함께 주어집니다.

곱(product) ST는 먼저 T로 암호화하고 그 결과를 다시 S로 암호화하는 것입니다. 두 키는 독립적으로 선택됩니다. 오늘날의 다중 암호화와 라운드를 반복하는 곱 암호(product cipher)의 이론적 출발점입니다.

가중합(weighted sum) S = pT + qR (p + q = 1)은 확률 p로 T를, 확률 q로 R을 먼저 고른 뒤 고른 방식을 원래대로 사용하는 것입니다. 어느 방식을 골랐는지도 키의 일부가 됩니다. 여기서 가중치 p, q는 '강도'나 '중요도'가 아니라 선택 확률입니다. 섀넌은 모든 시스템이 고정된 변환들의 가중합 T = p₁T₁ + … + p_mT_m으로 쓸 수 있다고 지적했습니다.

이 대수에서 곱은 결합법칙을 만족하지만 일반적으로 교환법칙은 성립하지 않으며, 가중합에 대해 좌우 분배법칙 T(pR + qS) = pTR + qTS, (pR + qS)T = pRT + qST를 만족합니다. 섀넌은 또 자기 자신과 곱해도 같은 시스템이 되는 경우, 즉 TT = T인 시스템을 '멱등(idempotent)'이라 불렀습니다. 단순 치환, 주기 p의 전치, 주기 p의 비즈네르(모든 키가 같은 확률일 때)가 그 예이며, 이런 방식은 두 번 적용해도 안전성이 늘지 않습니다. 이와 별개로 섀넌은 모든 키가 본질적으로 동등한 '순수(pure)' 암호라는 개념도 정의했습니다.

블록체인·암호화폐에서는

이 이론 자체가 블록체인 프로토콜에 직접 나오지는 않지만, 그 생각은 현대 암호 곳곳에 남아 있습니다. AES나 ChaCha20 같은 현대 대칭 암호는 단순한 라운드 함수를 여러 번 곱한 '곱 암호'입니다. 반면 '두 번 암호화하면 두 배로 안전하다'는 직관은 틀릴 수 있습니다. 중간 일치 공격 때문에 2중 DES는 거의 안전성을 늘리지 못했고, 3중 DES(3DES)도 현재 NIST 기준으로 새 암호화에는 사용이 허용되지 않습니다. 지갑·거래소 시스템에서는 검증된 단일 AEAD(AES-GCM, ChaCha20-Poly1305)를 올바르게 쓰는 것이 임의의 암호를 겹쳐 쓰는 것보다 낫다는 것이 현재의 모범 사례입니다.

쉽게 말하면

곱은 '자물쇠 두 개를 차례로 거는 것', 가중합은 '주사위를 던져 어떤 자물쇠를 쓸지 정하고 그 선택을 비밀로 하는 것'입니다.

예시

카이사르 암호 C와 전치 암호 P가 있을 때 PC는 '먼저 글자를 밀고 그다음 자리를 섞는' 새 암호입니다. 0.5C + 0.5P는 동전을 던져 둘 중 하나만 쓰는 암호이며, 동전 결과 1비트가 키에 추가됩니다.