본문으로 바로가기

Speculative Decoding

토큰·벡터·행렬·레이어·검색/에이전트 파이프라인을 입력 변화 또는 프레임 단계에 맞춰 강조·이동·누적한다.

1 / 5언어 모델은 한 번에 한 토큰씩 씁니다 — 매번 '다음에 올 말'의 확률을 계산하고 하나를 고릅니다.
배고픈…?
단계 목록 · 키보드 ←/→ 이동, Space 재생
구현 계약펼쳐서 명세 보기 · 참고 자료
분류
Text Generation · frame-simulation
구현 핵심
토큰·벡터·행렬·레이어·검색/에이전트 파이프라인을 입력 변화 또는 프레임 단계에 맞춰 강조·이동·누적한다.
내부 제목/모드
uppercase tracking-wider
단계·시나리오
서술 레코드 약 5개; 단계/상태 값 없음/정적; 기록 ID 없음/정적
시각 구조
svg, rect, path; 엔티티 없음/정적; 반응형 필수
조작
done, Pause, Replay, Run, Resume, Back, Step, Speed:, play; 버튼 렌더 단서 2개
타이밍
300 ms (CSS utility)
도메인 용어
Target passes, Tokens out, Tokens per pass
Speculative Decoding | KIE