AI 와 양자 컴퓨팅의 대비 - 특정한 수학적 구조를 정확히 찾아낸 경우에만 강력해지는 계산 방식

양자 컴퓨터는 문제를 던져주면 스스로 해결 규칙을 학습하는 시스템이 아니다. 사용자가 먼저 다음을 거의 전부 설계해야 한다.

문제를 양자 상태로 어떻게 표현할 것인가
어떤 상태들을 중첩시킬 것인가
정답 상태의 진폭을 어떻게 키울 것인가
오답 상태끼리는 어떻게 상쇄시킬 것인가
마지막에 무엇을 측정할 것인가
측정 결과를 어떻게 해석할 것인가

즉, 양자 프로그래밍에서는 문제를 푸는 논리와 양자역학적 효과를 이용하는 방식이 알고리즘 안에 명시적으로 들어 있어야 한다.

---

AI와 양자 컴퓨팅의 대비

현재의 딥러닝은 대체로 다음과 같은 구조를 가진다.

입력과 정답을 제시
→ 손실 함수를 정의
→ 최적화를 통해 내부 해결 규칙을 학습

사람은 문제 해결 절차를 완전히 알지 못해도 된다.

예를 들어 이미지 분류에서는 사람이 다음 규칙을 직접 작성하지 않는다.

귀의 모양을 확인한다
수염의 위치를 확인한다
눈과 코의 상대적 배치를 계산한다
고양이 여부를 판정한다

대신 모델이 데이터에서 내부 표현을 학습한다.

반면 양자 알고리즘은 대체로 다음에 가깝다.

문제의 수학적 구조 분석
→ 양자적으로 이용할 수 있는 대칭성이나 주기성 발견
→ 상태 공간 구성
→ 간섭이 원하는 답을 강조하도록 회로 설계
→ 측정

양자 컴퓨터는 이 구조를 스스로 찾아주지 않는다.

---

양자 컴퓨터의 핵심은 “모든 경우를 동시에 계산”이 아니다

흔히 양자 컴퓨터를 다음처럼 설명한다.

모든 가능성을 동시에 계산한다

하지만 이것만으로는 아무런 이득이 없다.

중첩 상태에 모든 가능성이 포함되어 있어도, 측정하면 그중 하나만 얻는다.

핵심은 중첩 자체가 아니라 간섭을 설계하는 것이다.

정답으로 이어지는 경로
→ 서로 강화

오답으로 이어지는 경로
→ 서로 상쇄

이 간섭 구조를 정확히 설계하려면 문제의 구조를 이미 상당히 깊이 이해해야 한다.

따라서 양자 알고리즘은 다음과 같은 질문에서 시작한다.

이 문제에 주기성이 있는가
검색 공간에 대칭성이 있는가
특정 상태를 구별하는 oracle을 만들 수 있는가
진폭을 증폭할 수 있는가
문제를 고유값 문제로 바꿀 수 있는가

---

Shor 알고리즘의 경우

정수 인수분해 문제를 그대로 양자 컴퓨터에 넣는 것은 아니다.

Shor 알고리즘은 인수분해를 다음과 같은 문제로 변환한다.

인수분해
→ 모듈러 함수의 주기 찾기
→ 양자 푸리에 변환으로 주기 추출
→ 고전적 계산으로 인수 복원

여기서 양자 컴퓨터가 효율적으로 처리하는 것은 직접적인 인수분해라기보다 주기 찾기다.

즉, 인간이 먼저 다음 관계를 알아야 한다.

인수분해 문제는
특정 모듈러 함수의 주기를 알면
효율적으로 해결할 수 있다

양자 컴퓨터의 성능은 이 문제 변환이 정확하기 때문에 나온다.

---

Grover 알고리즘도 마찬가지다

Grover 탐색에서는 정답을 판별하는 함수가 필요하다.

f(x) = 1  : x가 정답
f(x) = 0  : x가 오답

양자 컴퓨터는 이 판별 함수를 자동으로 발견하지 않는다.

사용자가 oracle 형태로 만들어야 한다.

그 후 알고리즘은 다음 과정을 반복한다.

정답 상태의 위상 변경
→ 전체 평균에 대한 반사
→ 정답 진폭 증가

즉, Grover 알고리즘은 정답을 만드는 방법을 모르는 상황에서도 검색을 가속할 수 있지만, 최소한 정답을 확인하는 방법은 알고 있어야 한다.

---

양자 프로그래밍은 알고리즘적 사고를 더 강하게 요구한다

고전 프로그래밍에서는 코드를 작성하면 컴파일러와 프로세서가 실행 세부 사항을 상당 부분 처리한다.

딥러닝에서는 해결 규칙의 일부를 학습에 맡길 수도 있다.

하지만 양자 프로그래밍에서는 다음이 모두 중요하다.

상태 표현
가역성
위상
간섭
측정
얽힘
회로 깊이
오류율
큐비트 연결 구조

작은 설계 차이도 결과를 완전히 바꿀 수 있다.

특히 양자 연산은 기본적으로 가역적이므로, 일반적인 고전 프로그램처럼 중간 정보를 마음대로 버릴 수 없다.

고전 계산:
정보를 덮어쓰거나 삭제 가능

양자 계산:
정보 손실 없이 가역적으로 구성해야 함

필요 없는 중간 계산도 uncomputation을 통해 되돌려야 하는 경우가 많다.

따라서 양자 프로그램은 단순한 명령 나열이 아니라, 상태 공간 전체의 변화를 설계하는 작업에 가깝다.

---

이 관점에서 AI와 양자 컴퓨팅은 거의 반대 방향이다

AI는 문제 해결 절차를 명시하지 않아도 된다.

무엇이 좋은 답인지 알려준다
→ 모델이 내부 규칙을 학습한다

양자 컴퓨팅은 문제 해결 구조를 상당 부분 명시해야 한다.

어떤 구조를 이용해 답을 강조할지 설계한다
→ 양자 장치가 그 변환을 실행한다

이를 비교하면 다음과 같다.

해결 규칙	학습으로 획득	알고리즘에 명시
계산 구조	범용 레이어 조합	문제별 회로 설계
핵심 자원	데이터와 최적화	중첩, 간섭, 얽힘
결과	근사적일 수 있음	확률적 측정 결과
사용자 역할	목적 함수와 데이터 정의	상태 변환과 측정 구조 정의
일반화	학습된 분포에 의존	설계된 수학적 구조에 의존

---

흥미로운 역전

현재 AI는 다음과 같은 방향으로 발전했다.

알고리즘을 명시적으로 작성하지 않아도
데이터로부터 해결 방식을 얻는다

반면 양자 컴퓨팅은 오히려 다음을 요구한다.

문제의 구조를 더 깊이 이해하고
그 구조가 양자 상태에서 어떻게 표현되는지
정확히 설계해야 한다

그래서 양자 컴퓨팅은 계산 능력이 강력해질수록 프로그래머의 고민이 줄어드는 분야라기보다, 더 추상적이고 수학적인 알고리즘 설계를 요구하는 분야에 가깝다.

---

다만 양자 컴퓨팅도 추상화될 가능성은 있다

현재는 회로, 게이트, 큐비트 수준의 사고가 많이 필요하지만, 장기적으로는 양자 컴파일러와 고수준 언어가 이를 감출 수 있다.

최적화 문제 정의
→ 고수준 양자 IR
→ 회로 합성
→ 큐비트 배치
→ 오류 보정
→ 물리적 펄스

하지만 고수준 도구가 발전하더라도 근본적인 문제는 남는다.

이 문제의 어떤 구조가 양자적 가속을 가능하게 하는가?

이를 모르면 양자 컴퓨터를 사용해도 고전 컴퓨터보다 빠르지 않거나, 오히려 더 느릴 수 있다.

---

결국 네가 떠올린 점은 이렇게 정리할 수 있어.

딥러닝은 문제 해결 규칙을 학습 과정에 맡기면서 인간이 명시적으로 알고리즘을 설계해야 하는 부담을 줄였다. 반면 양자 컴퓨팅은 문제의 수학적 구조와 상태 변환 과정을 사용자가 더욱 명확하게 이해하고 설계해야만 계산상의 이점을 얻을 수 있다.

그리고 이것은 앞서 이야기한 주제와도 연결된다.

AI는 연구 사고를 레이어와 행렬 연산이라는 공통 표현으로 수렴시키는 반면, 양자 컴퓨팅은 문제마다 고유한 구조를 다시 발견하도록 강제한다.

양자 컴퓨팅은 현재로서는 범용적인 문제 해결 기계라기보다, 특정한 수학적 구조를 정확히 찾아낸 경우에만 강력해지는 계산 방식이라고 보는 편이 맞다.