퀀텀/하이브리드 양자

5.3. 양자 컴퓨터가 데이터를 압축하고 복원하는 방법 - 양자 오토인코더(QAE)

친절샘 정이 2026. 5. 12. 16:07

양자 컴퓨터가 데이터를 압축하고 복원하는 방법

양자 오토인코더(QAE) 이야기


시작하기 전에 — 이런 장면을 상상해보자

여행을 간다.

옷장에 옷이 100벌 있다. 그런데 여행 가방은 작다. 100벌을 다 넣을 수 없다.

어떻게 하는가.

방법 1 (나쁜 방법): 무작위로 10벌을 고른다. 여행지에서 필요한 옷이 없을 수 있다.

방법 2 (좋은 방법): 핵심만 담는다. 청바지 하나로 여러 상황에 쓸 수 있다. 흰 티셔츠는 격식 있는 자리에도 쓸 수 있다. 10벌로 100벌의 역할을 한다.

그리고 여행에서 돌아와서 가방을 열면 원래 옷들이 다시 나온다.

QAE가 하는 일이 이것이다.

큰 데이터를 핵심만 남겨 작게 압축하고, 나중에 다시 원래대로 펼쳐낸다.


0부 — 오토인코더가 뭔가

오토(Auto) = 스스로 인코더(Encoder) = 압축하는 것

합치면: 스스로 압축하는 AI.

오토인코더의 구조는 세 부분이다.

인코더 → 병목(Bottleneck) → 디코더
(압축)      (핵심만)          (복원)
 
 

모래시계 비유로 설명하자.

모래시계를 본 적 있는가. 위쪽에 모래가 많다. 중간에 아주 좁은 통로가 있다. 아래쪽에 다시 모래가 쌓인다.

위쪽 (원래 데이터): 모래 많음 (크고 복잡한 데이터)
        ↓
중간 좁은 통로 (병목): 모래가 조금씩 통과 (핵심만 남음)
        ↓
아래쪽 (복원된 데이터): 다시 모래 쌓임 (원래와 비슷하게 복원)
 
 

위 모래 = 원래 데이터 좁은 통로 = 압축된 핵심 (잠재 공간) 아래 모래 = 복원된 데이터

오토인코더가 이 모래시계다.


QAE가 다른 점

고전 오토인코더에 양자를 더하면 QAE가 된다.

사진 압축 비유로 설명하자.

사진 한 장이 있다. 1000만 픽셀이다.

고전 오토인코더: 사진의 색깔과 밝기 패턴을 학습한다. "이 부분은 하늘이라 파랗다. 저 부분은 나무라 초록이다." 핵심 패턴만 저장한다. 100개 숫자로 압축한다.

나중에 100개 숫자로 다시 원래 사진을 재구성한다. 완벽하진 않지만 비슷하다.

QAE (양자 오토인코더): 양자 회로가 압축을 한다. 큐비트의 중첩과 얽힘으로 사진의 더 복잡하고 미묘한 패턴을 파악한다.

 
고전: 색깔, 밝기 같은 표면적 패턴 압축
양자: 픽셀들 사이의 복잡한 관계, 숨겨진 구조까지 압축
 

양자가 더 깊이 있는 핵심을 찾아낸다. 더 적은 정보로 더 많은 것을 담는다.


인코더와 디코더가 어떻게 작동하는가

외국어 번역 비유로 설명하자.

한국어 소설이 있다. 1000페이지다.

인코더 (압축): 이 소설을 10줄 요약으로 만든다. 핵심 줄거리, 주요 등장인물, 핵심 갈등. 이것이 잠재 공간(Latent Space) 이다.

잠재 공간: 10줄 요약. 원래 1000페이지의 핵심이 담긴 작은 공간.

디코더 (복원): 10줄 요약을 보고 다시 1000페이지 소설로 펼쳐낸다.

원본 1000페이지
        ↓ [인코더]
핵심 10줄 (잠재 공간)
        ↓ [디코더]
복원된 1000페이지
(원본과 거의 같다)
 
 

QAE에서 이 과정이 양자 회로로 일어난다.
큰 데이터
        ↓ [양자 인코더]
양자 잠재 공간 (몇 개 큐비트)
        ↓ [양자 디코더]
복원된 큰 데이터

 

왜 잠재 공간이 중요한가

잠재 공간이 왜 그렇게 중요한가.

학교 사물함 비유로 설명하자.

학교에 사물함이 있다. 교과서, 노트, 점심 도시락, 체육복, 우산이 들어있다.

매일 아침 이 모든 것을 다 들고 다닌다면 너무 무겁다. 대신 오늘 필요한 것만 꺼낸다. 수학 시간이면 수학 교과서와 노트만. 체육 시간이면 체육복만.

사물함이 잠재 공간이다. 모든 것이 정리되어 있다. 필요할 때 꺼낸다.

양자 AI에서 잠재 공간의 역할이 이것이다.

문제: MRI 사진 한 장 = 수백만 픽셀 = 양자 컴퓨터가 처리하기 너무 큼

해결: QAE로 핵심만 남겨서 잠재 공간으로 압축
      수백만 픽셀 → 수십 개 숫자

이제 다른 AI들이 수십 개 숫자만 처리하면 된다
훨씬 가볍고 빠르다
 
 

 다른 AI들을 도와주는 역할

QAE의 가장 중요한 역할이 여기 있다.

요리사 보조 비유로 설명하자.

유명 레스토랑에 주방이 있다.

메인 요리사(QCNN, QGAN 등)가 있다. 훌륭한 요리를 만든다. 그런데 재료 손질하는 시간이 너무 오래 걸린다. 요리에 집중할 시간이 없다.

보조 요리사(QAE)가 등장한다.

재료를 미리 손질해둔다. 씻고, 자르고, 기본 간을 한다. 메인 요리사에게 준비된 재료만 전달한다.

메인 요리사는 요리에만 집중한다. 훨씬 빠르고 좋은 요리가 나온다.

실제로 연구에서 확인됐다.

방법 비교 (고차원 이미지를 양자 AI에 넣을 때):

방법 1 PCA (전통적인 압축): 그냥 크기만 줄임
방법 2 오토인코더 기반 압축: 핵심 특징을 유지하면서 줄임

결과:
오토인코더가 훨씬 좋은 압축을 만들어냄
→ 뒤에 오는 양자 AI의 성능이 크게 올라감
 

하이브리드 구조들

QAE도 여러 형태가 있다.

집 리모델링 비유로 설명하자.

집을 리모델링한다.

형태 1 — 핵심만 바꾸기: 집 전체를 바꾸지 않는다. 가장 중요한 부분, 거실 한 곳만 최신식으로 바꾼다. 나머지는 그대로.

고전 인코더 → [양자 병목] → 고전 디코더
 
 

오토인코더의 가장 좁은 중간 부분(병목)만 양자로 바꾼다. 여기가 가장 중요한 압축이 일어나는 곳이기 때문이다.

형태 2 — 반대로 바꾸기:

양자 인코더 → [고전 병목] → 양자 디코더
 
 

인코더와 디코더는 양자로, 중간은 고전으로.

형태 3 — 생성 능력 추가 (변분 오토인코더): 일반 오토인코더는 있는 데이터를 압축하고 복원한다. 변분 오토인코더는 한 발 더 나아간다.

압축한다 → 잠재 공간에서 조금 변형한다 → 복원한다
               (새로운 변형 데이터 생성!)
 
 

원본을 압축했다가 잠재 공간에서 조금 바꿔서 복원하면, 원본과 비슷하지만 새로운 데이터가 나온다.


QGAN과 QAE가 함께 일하면

지난 시간에 배운 QGAN이 QAE와 팀을 이루면 무슨 일이 일어나는가.

건설 현장 비유로 설명하자.

건물을 지어야 한다.

QAE (설계 도구): 원래 건물 도면을 간단한 스케치로 압축한다. 1000페이지 도면 → 10줄 핵심 스케치.

QGAN (건설팀): 10줄 스케치를 바탕으로 새 건물을 짓는다. 원래 건물과 비슷하지만 새로운 건물.

디코더 (마무리팀): 지어진 건물을 원래 규모로 완성한다.

실제 활용 사례를 보자.

위성 사진 복원:

문제:
위성이 지구를 찍었다.
구름이 일부를 가렸다. 그 부분 정보가 없다.

해결 과정:
1단계: QAE 인코더가 위성 사진 전체를 잠재 공간으로 압축
       (손상된 부분 포함)

2단계: QGAN이 잠재 공간에서
       "이 부분은 아마 이런 모습일 것이다"를 채운다

3단계: QAE 디코더가 채워진 잠재 공간을 다시 펼친다
       완성된 위성 사진 나옴

결과: 구름에 가려진 부분이 복원됐다
 
 

PCA vs 오토인코더 차이

조금 어려운 비교지만 중요하다.

지도 만들기 비유로 설명하자.

서울 지도를 축소해야 한다. A4 종이에 담아야 한다.

방법 1 — PCA (사진 축소처럼 단순히 줄이기): 그냥 전체를 같은 비율로 줄인다. 빠르다. 그런데 중요한 곳과 안 중요한 곳을 구분하지 않는다. 골목길과 고속도로가 같은 비율로 줄어든다.

방법 2 — 오토인코더 (핵심을 골라서 담기): 중요한 것을 판단한다. "고속도로는 중요하니 크게. 골목길은 줄여서." 한강, 남산, 주요 역사는 확실하게 담는다. 필요 없는 작은 골목은 과감하게 생략한다.

결과는 이렇다.

PCA로 압축한 지도:
모든 것이 균등하게 줄어듦
→ 중요한 것도 작아짐

오토인코더로 압축한 지도:
중요한 것은 살아있음
→ 목적지 찾기 훨씬 쉬움
 
 

양자 AI에 데이터를 넣을 때 오토인코더로 압축한 것을 쓰면, AI가 핵심에 더 집중할 수 있다.


전체를 한 번에 보자

QAE의 역할을 세 가지로 정리하면 이렇다.

 
역할 1 — 압축기 (혼자):
큰 데이터 → 핵심만 남긴 작은 데이터 → 다시 복원
(MRI 사진, 위성 이미지, 분자 구조 압축)

역할 2 — 전처리 도우미 (다른 AI를 위해):
큰 데이터를 받는다
        ↓ QAE가 압축
잠재 공간의 작은 데이터
        ↓
QCNN, QViT 등이 효율적으로 처리
(메인 요리사에게 준비된 재료를 전달하는 보조 요리사)

역할 3 — 팀플레이 (QGAN, QDM과 함께):
QAE가 압축 → QGAN이 잠재 공간에서 새 데이터 생성 → QAE가 복원
(건설 현장에서 도면 설계팀과 건설팀이 협력하듯)
 

최종 정리

QAE를 네 문장으로 압축하면 이렇다.

첫째, 모래시계처럼 큰 데이터를 좁은 핵심으로 압축하고, 다시 원래대로 펼쳐낸다. 1000페이지 소설을 10줄 요약으로 만들었다가 다시 1000페이지로 복원하는 것처럼.

둘째, 다른 양자 AI들(QCNN, QGAN 등)이 큰 데이터를 처리할 수 있도록 미리 압축해주는 보조 요리사 역할을 한다.

셋째, QGAN과 팀을 이루면 손상된 데이터를 복원하는 강력한 시스템이 된다. 구름에 가려진 위성 사진도 복원할 수 있다.

넷째, 단순히 크기만 줄이는 것이 아니라 핵심 특징을 유지하며 압축한다. 중요한 고속도로는 살리고 불필요한 골목은 생략하는 영리한 지도처럼.