UNIST(울산과학기술원)와 고려대학교 공동연구팀이 양자 알고리즘을 활용해 인공지능(AI)의 강화학습 비용을 기존 대비 최대 5분의 1 수준으로 줄이는 기법을 개발했다. 이 연구는 세계 3대 AI 학회로 꼽히는 국제머신러닝학회(ICML) 2026에 채택돼 6일부터 서울 코엑스에서 열리는 학회에서 공개된다. 올해 ICML에 오른 양자 분야 논문 가운데 국내 기관이 주도한 사례는 이번이 유일하다.
계산량을 어떻게 줄였나
연구팀은 윤성환 UNIST 인공지능대학원 교수와 김중헌 고려대 전기전자공학부 교수가 이끌었고, 이현규 연구원이 제1저자로 참여했다. 이들이 내놓은 기법 'QRIM(Quantum Robust Inner Minimization)'은 강인한 강화학습에서 가장 큰 병목으로 꼽히는 '최악의 상황 탐색' 단계를 양자 알고리즘으로 대체한 것이 핵심이다. 여러 경우의 수를 동시에 표현할 수 있는 양자컴퓨팅의 특성을 활용해, 모델이 마주칠 수 있는 최악의 시나리오를 기존 방식보다 빠르게 찾아낸다. 연구팀에 따르면 실제 실험에서 기존 방식의 20~30% 수준 계산량만으로 동등하거나 더 나은 강인성을 확보했다.
왜 지금 주목해야 하나
자율주행차나 산업용 로봇처럼 예측 불가능한 환경에서 작동해야 하는 AI일수록 강인한 강화학습이 필수적이지만, 최악의 상황을 미리 계산해두는 과정에 막대한 연산 자원이 들어간다는 점이 상용화의 걸림돌로 지적돼왔다. 이번 성과는 이 병목을 양자 알고리즘으로 우회할 수 있다는 실증 사례라는 점에서, 양자컴퓨팅과 AI를 접목하려는 국내외 연구 흐름에 참고 사례가 될 것으로 보인다. 다만 연구팀의 검증은 특정 실험 환경에서 이뤄진 결과로, 상용 시스템에 곧바로 적용되는 단계는 아니다.
QRIM은 실제 양자컴퓨터에서 구동되나?
연구팀은 양자 알고리즘의 구조를 활용한 계산 기법을 제시한 것으로, 상용 양자컴퓨터 하드웨어에 직접 올려 실행하는 단계까지 검증됐는지는 이번 발표 내용만으로 단정하기 어렵다. 관련 세부 사항은 ICML 2026 발표 자료를 통해 확인할 필요가 있다.
이번 연구는 어떤 분야에 우선 적용될 수 있나?
연구팀은 예측 불가능한 환경에서 안정적으로 작동해야 하는 강화학습 기반 시스템을 주요 적용 대상으로 언급했다. 자율주행이나 로봇 제어처럼 변수 대응이 중요한 분야에서 활용 가능성이 거론된다.
자료