Command Palette

Search for a command to run...

#lm-head

시리즈9이 태그 1
LLM 공부 시리즈

LLM 공부 01 | LLM은 검색기가 아니라 다음 토큰 생성기다

LLM을 내부 검색기로 오해하지 않도록, 문장이 token으로 바뀌고 embedding, Transformer block, LM head, prefill/decode, KV cache를 거쳐 다음 token이 생성되는 흐름을 입문자 관점에서 정리한다.

최근 업데이트 2026-05-24·첫 글부터 읽기
capability-overhangattention-businessfrontiertastelm-headpersonal-strategyessaycodex
프론티어를 따라가며 내 취향을 학습시키는 일

프론티어 모델을 따라가는 감각이 흔들릴 때 남는 두 갈래 도망길을 정리하고, 그 비교 끝에 attention business 시대에는 취향과 선택의 누적이 결국 나의 LM head가 되어 나의 출력이 된다는 자기 해석을 남긴 에세이.

2026-04-24·9 min read