Command Palette

Search for a command to run...

#lm-head

시리즈총 9편이 태그 1편
LLM 공부 시리즈

LLM 공부 01. LLM은 검색기가 아니라 다음 토큰 생성기다

LLM을 내부 검색기나 외부 도서관으로 오해하지 않도록, 문장이 token으로 바뀌고 embedding, Transformer block, LM head, prefill/decode, KV cache를 거쳐 다음 token이 생성되는 흐름을 입문자 관점에서 정리합니다.

최근 업데이트 2026-05-24·첫 글부터 읽기
capability-overhangattention-businessfrontiertastelm-headpersonal-strategyessaycodex
프론티어를 따라가며 내 취향을 학습시키는 일

프론티어 모델을 따라가는 감각이 흔들릴 때 남는 두 갈래 도망길을 정리하고, 그 비교 끝에 attention business 시대에는 취향과 선택의 누적이 결국 나의 LM head가 되어 나의 출력이 된다는 자기 해석을 남긴 에세이.

2026-04-24·9 min read