Tag: token-optimization
"token-optimization" 태그가 포함된 모든 글입니다.
-
출력 토큰이 5배 비싸서 직접 압축 어댑터를 만들었다
LLM 출력 토큰은 입력보다 약 5배 비싸다. 이 가격 비대칭을 줄이기 위해 직접 만든 Rocky-Skills의 설계와 8개 프롬프트 평균 54.3% 토큰 절감 결과를 정리한다.
"token-optimization" 태그가 포함된 모든 글입니다.
LLM 출력 토큰은 입력보다 약 5배 비싸다. 이 가격 비대칭을 줄이기 위해 직접 만든 Rocky-Skills의 설계와 8개 프롬프트 평균 54.3% 토큰 절감 결과를 정리한다.