차세대 정보보호의 필수 전략: 양자내성암호(PQC) 기술 동향 및 한국의 경쟁력

2025.12.30

1. 현대 암호의 기반과 양자 위협의 등장

현대 디지털 통신의 근간을 이루는 암호 시스템은 공개키 암호체계입니다. 이 체계는 암호화 키와 복호화 키가 다른 구조로, 기밀 유지, 키 분배, 사용자 인증 등 디지털 환경의 핵심 보안 요소로 기능합니다. 공개키 암호의 안전성은 대규모 정수의 ‘소인수분해 문제(RSA)’나 ‘타원곡선 상의 이산로그 문제(ECC)’와 같은 수학적 난제를 해결하는 것의 난해함에 기반합니다.

그러나 ‘양자 컴퓨터(Quantum Computer)’의 등장은 이 전통적인 안전성 기반을 뒤흔들고 있습니다.

  • 쇼어 알고리즘(Shor's Algorithm): 양자 컴퓨터를 이용해 소인수분해와 이산로그 문제를 매우 빠르게 해결할 수 있음을 증명했습니다. 이는 현재 사용되는 RSA 및 ECC 암호 체계를 무력화할 잠재력을 가집니다.
  • HNDL (Harvest Now, Decrypt Later) 공격: 공격자가 지금 암호화된 기밀 데이터를 탈취하여 저장해 두었다가, 미래에 양자 컴퓨터가 상용화되면 복호화하려는 전략입니다. 이는 장기적인 기밀 유지가 필요한 모든 정보에 대한 실질적인 위협입니다.

이러한 위협에 대응하기 위해, 양자 컴퓨터의 공격에도 안전성을 유지하는 '양자내성암호(PQC, Post-Quantum Cryptography)'로의 전환은 모든 산업 분야에서 시급하게 요구되는 필수 전략이 되었습니다.

 

2. PQC: 양자에도 안전한 새로운 난제들

PQC는 양자 컴퓨터로도 풀기 어려운 새로운 수학적 난제들에 기반하여 설계됩니다.  PQC  를 구성하는 주요 암호 계열들은 다음과 같습니다.

 

PQC 암호 계열기반 난제난이도대표 알고리즘 (NIST 선정 포함)
격자 기반 (Lattice) SVP/CVP  ,  LWE/LWR   (오류를 포함한 학습 문제) NP-hard  CRYSTALS-Kyber, CRYSTALS-Dilithium, SMAUG-T, HAETAE
부호 기반 (Code) SDP   (Syndrome Decoding Problem) NP-hard  Classic McEliece
해시 기반 (Hash) Pre-image   및  Collision resistance  Grover 공격에도 효율적 방법 없음SPHINCS+ (전자서명)

 

이들 중 격자 기반 암호는 키 크기, 속도, 안전성 증명의 견고함 등 여러 면에서 가장 높은 실용성을 인정받으며 글로벌 표준화의 주류로 자리 잡았습니다. 격자 암호의  LWE   난제는 ' SVP   (Shortest Vector Problem)'로 환원될 수 있다는 강력한 안전성 증거를 가집니다.

 

3. 글로벌 표준화 동향과 한국의 대응

3.1. NIST 주도 표준화와 격자 기반의 확립

미국 국립표준기술연구원(NIST)은 2016년부터  PQC   표준화 공모를 주도하여, 전 세계의 수많은 후보 알고리즘을 평가했습니다. 이 경쟁을 통해 최종 표준 알고리즘이 선정되었으며, 대부분이 격자 기반으로 확정되었습니다.

  • 키 캡슐화 메커니즘 (KEM) 표준: CRYSTALS-Kyber ( Module-Lattice   기반)
  • 전자서명 (Digital Signature) 표준: CRYSTALS-Dilithium, FALCON ( Lattice   기반)

이러한  NIST  의 최종 표준 확정은 전 세계  PQC   전환의 핵심 이정표가 되었으며, 국제 표준과의 호환성 확보가 핵심 과제가 되었습니다.

3.2. 한국의 대응: KpqC 공모 및 SMAUG-T/HAETAE

한국은 국가보안기술연구소( NSRI  ) 주관의 KpqC 공모전을 통해 독자적인  PQC   기술 확보에 집중했습니다. 2025년 최종 선정된 격자 기반 알고리즘은 다음과 같습니다.

 

2025 KpqC 최종 선정 알고리즘분야기반 난제
SMAUG-T PKE/KEM   (공개키 암호/키 캡슐화) Lattice (Module-LWE/LWR)  
HAETAE Signatures   (전자서명) Lattice (Fiat-Shamir with Aborts)  

 

SMAUG-T 와  HAETAE 는 현재 ' KS  (한국산업표준) 제정'을 목표로 기술적 완성도를 높이고 있으며,  NIST  표준과 함께 한국의  PQC  경쟁력을 대표하는 핵심 기술입니다.

 

4. 표준화를 위한 기술적 완성도 검증

 PQC  알고리즘이 표준화되기 위해서는 단순히 이론적인 안전성만으로는 부족하며, 실제 환경에서의 위협과 기능적 요구사항을 충족해야 합니다.

4.1. 실질적 안전성 평가

 SMAUG-T 와  HAETAE 의 안전성 평가는 BKZ (Block Korkine-Zolotarev) 알고리즘 기반의 최적 공격 비용 추정을 통해 이루어집니다. 특히 정제된 게이트 수 추정(Refined Security Estimation) 방법을 사용하여, 알고리즘을 공격하는 데 필요한 총 논리 연산량인 '게이트 수(Gate Count)'를 측정합니다.

이 분석을 통해 두 알고리즘 모두  NIST 가 요구하는 '보안 레벨( Level 1} \sim \text{5 )' 기준을 충분히 상회하는 안전 마진을 확보했음이 입증되었습니다.

4.2. 기능적 안전성 강화

  1. 다중 목표(Multi-Target) 공격 방어: 공격자가 다수의 사용자 키를 동시에 노려 보안 강도를 약화시키는 것을 방지하기 위해,  SMAUG-T 와  HAETAE 는 키 생성 시마다 서로 다른 격자 행렬을 선택하도록 설계되었습니다. 이는 공격자가 정보를 통합하는 것을 막고 개별 공격을 강제합니다.
  2. 전자서명의 BUFF 안전성:  HAETAE  전자서명은 일반 위조 불가능성을 넘어선 BUFF (Beyond Unforgeability and Functionality) 안전성을 충족합니다. 이는 배타적 소유권, 메시지 결속성, 재서명 불가능성을 보장하여, 실제 금융 및 인증 시스템 적용 시 필수적인 기능적 안정성을 제공합니다.

     

5. 결론: PQC 전환 시대의 미래 전략

 PQC 로의 전환은 현재와 미래의 정보를 보호하기 위한 핵심 전략입니다. 국제적으로는  NIST  표준을 중심으로  PQC  전환이 진행되고 있으며, 기술 적용 초기에는 기존  RSA/ECC 와  PQC 를 결합하는 하이브리드  KEM  방식이 주로 사용될 것입니다.

한국의  SMAUG-T 와  HAETAE 는 이러한 글로벌 표준화 흐름에 발맞춘 기술적 완성도를 확보했습니다. 이들 알고리즘의 성공적인 표준화와 산업 적용은 대한민국의 사이버 보안 환경을 양자 위협으로부터 보호하고, 차세대 암호 기술 시장에서의 경쟁 우위를 확보하는 데 결정적인 역할을 할 것입니다.