독립항등분포 (Independent and Identically Distributed, i.i.d.)

독립항등분포(independent and identically distributed, i.i.d.)는 확률 변수 X₁, X₂, …, X_n이 서로 독립이고(어느 하나의 값이 다른 값에 대해 아무 정보도 주지 않음) 모두 같은 분포를 따르는 상황을 말합니다. 공정한 동전을 반복해 던진 결과가 대표적인 예입니다. 큰 수의 법칙, 중심 극한 정리 등 통계학의 많은 결과가 이 가정을 바탕으로 합니다.

자세히 알아보기

두 조건은 별개입니다. 독립이지만 분포가 다른 경우(서로 다른 동전들), 분포는 같지만 독립이 아닌 경우(같은 날의 기온 측정을 여러 번 한 값)가 모두 i.i.d.가 아닙니다. 시계열 데이터처럼 이전 값이 다음 값에 영향을 주는 데이터는 대개 i.i.d.가 아니며, 이를 무시하고 i.i.d. 공식을 적용하면 신뢰 구간이 지나치게 좁게 나오는 등 잘못된 결론이 나옵니다.

i.i.d.라는 가정은 검정할 수 있습니다. 순서를 무작위로 섞어도 통계적 성질이 변하지 않는지 보는 순열 검정, 자기상관 검정, 런 검정 등이 쓰입니다. 다만 '검정을 통과했다'는 것은 '위반의 증거가 없다'는 뜻일 뿐 i.i.d.의 증명은 아닙니다.

블록체인·암호화폐에서는

• 난수 잡음원 평가: NIST SP 800-90B는 하드웨어 난수원의 엔트로피를 평가할 때 먼저 출력이 i.i.d.인지 순열 검정 등으로 확인합니다. i.i.d.로 판정되면 가장 흔한 값의 빈도만으로 최소 엔트로피를 추정할 수 있고, 아니면 더 보수적인 여러 추정법 중 최솟값을 씁니다. 지갑·HSM의 키 생성 품질이 이 평가에 달려 있습니다.
• 채굴 모델: 작업 증명에서 각 해시 시도는 매우 작은 확률로 성공하는 i.i.d. 베르누이 시행으로 모델링되며, 그래서 블록 발견은 기억 없는 푸아송 과정이 됩니다. '오래 못 찾았으니 곧 찾겠지'라는 생각이 틀린 이유입니다.
• 암호 증명: 랜덤 오라클 모델과 일회용 패드의 완전 비밀성은 키·출력 비트가 i.i.d. 균등 분포라는 가정 위에 서 있습니다. 실제 시스템이 이 가정에서 벗어나면(부팅 직후 엔트로피 부족 등) 증명은 더 이상 보장을 주지 못합니다.

쉽게 말하면

i.i.d.는 '똑같은 주사위를 매번 처음 던지듯' 던진 결과들입니다. 앞의 결과가 뒤의 결과를 전혀 알려 주지 않습니다.

예시

공정한 주사위를 10번 던진 결과는 i.i.d.입니다. 반면 주머니에서 공을 꺼내고 다시 넣지 않는 추출은 앞의 결과가 뒤의 확률을 바꾸므로 독립이 아닙니다.