IT 일반
모레, 미 컴퓨팅 학술대회서 자기 개선형 추론 프레임워크 ‘타이드’ 공개
- 실제 추론 과정 데이터 재활용해 보조 모델 지속 학습·속도 개선
기존 추론 대비 처리량 최대 1.66배↑·학습 시간 최대 3.02배 단축
[이코노미스트 정길준 기자] 인공지능(AI) 인프라 솔루션 기업 모레가 실제 추론 데이터를 재활용해 대규모 언어모델(LLM)의 연산 속도와 자원 효율을 끌어올리는 차세대 추론 기술을 선보였다.
모레는 15일부터 20일까지 미국 시카고에서 열리는 고성능 컴퓨팅 학술대회 ‘슈퍼컴퓨팅 2026’(SC26)에서 자기 개선형 추론 프레임워크 ‘타이드’(TIDE)를 처음 공개했다고 20일 밝혔다.
타이드에는 작은 보조 모델이 여러 개의 정보 단위(토큰)를 먼저 예측하면 대형 모델이 이를 한꺼번에 검증해 답변 생성 속도를 높이는 ‘추측 디코딩’ 기술이 적용됐다. 기존에는 사용자 요청 유형이 바뀔 때마다 고정된 보조 모델의 예측 정확도가 떨어지는 한계가 있었다.
모레는 대형 모델이 실제 추론을 수행하며 생성하는 내부 정보인 ‘중간 은닉 상태’를 재활용해 보조 모델을 점진적으로 학습시키는 방식으로 이 문제를 해결했다. 별도로 대형 모델을 다시 실행해 학습 데이터를 만들 필요가 없어 추가 연산 부담 없이 실제 서비스 환경에 맞춰 예측 정확도를 높일 수 있다. 성능 개선 효과와 정확도를 실시간 점검해 작업 부하가 변할 때만 선택적으로 재학습을 수행하도록 설계해 불필요한 연산도 줄였다.
연구 결과에 따르면 타이드는 추측 디코딩을 쓰지 않은 기존 방식보다 AI 추론 처리량을 최대 1.66배 높였다. 내부 정보 재활용으로 기존 온라인 학습 방식보다 보조 모델 학습 시간도 최대 3.02배 단축했다.
서로 다른 제조사의 그래픽처리장치(GPU)를 조합한 환경에서도 효율을 입증했다. 엔비디아 ‘H100’ GPU를 대형 모델 추론에, AMD ‘인스팅트 MI250’ GPU를 보조 모델 학습에 각각 배치한 결과, 동일 GPU 자원을 모두 추론에만 투입할 때보다 시스템 전체 처리량이 최대 1.22배 향상됐다. 이번 연구는 모레의 AI 추론 플랫폼 ‘모아이 추론 프레임워크’ 개발 경험을 바탕으로 진행됐다.
조강원 모레 대표는 “AI 인프라 경쟁력은 단순히 고성능 GPU를 얼마나 많이 확보하느냐를 넘어, 주어진 컴퓨팅 자원을 얼마나 효율적으로 활용해 더 많은 AI 연산을 처리할 수 있느냐에 달려 있다”며 “앞으로도 다양한 GPU 환경에서 AI 추론 성능과 자원 활용 효율을 극대화할 수 있는 소프트웨어 기술을 지속적으로 개발해 나갈 것”이라고 말했다.
ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지






![[단독] 20초 영상이 조회수 400만... 인스타 장악한 AI 드라마 ‘몽땅거침없이순풍감자별’ 비결은? (인터뷰)](https://isp.edailystatic.com/data/isp/image/2026/10/06/isp20261006000180.400.0.jpg)
![“피부과 대신 이걸 산다고?”…190만원짜리 ‘홈뷰티’ 뜨는 이유 [얼마예요]](https://ecn.edailystatic.com/data/ecn/image/2026/09/22/ecn20260922000018.400.0.png)
당신이 좋아할 만한 기사
브랜드 미디어
브랜드 미디어
장나라x김혜윤의 김앤장 ‘굿파트너2’…“상처 돌보고 성장하게 하는 워맨스” [종합]
대한민국 스포츠·연예의 살아있는 역사 일간스포츠일간스포츠
일간스포츠
팜이데일리
장나라x김혜윤의 김앤장 ‘굿파트너2’…“상처 돌보고 성장하게 하는 워맨스” [종합]
대한민국 스포츠·연예의 살아있는 역사 일간스포츠일간스포츠
일간스포츠
일간스포츠
[속보]코스피 4%대 급락에 매도 사이드카 발동
세상을 올바르게,세상을 따뜻하게이데일리
이데일리
이데일리
배당 키운 상장 VC, 3분기 5곳 적자…연말 환원 여력 시험대[마켓인]
성공 투자의 동반자마켓인
마켓인
마켓인
MSD 녹내장 옵션 포기하자 다른 빅파마가…인제니아 승부수는
바이오 성공 투자, 1%를 위한 길라잡이팜이데일리
팜이데일리
팜이데일리