token (1) 썸네일형 리스트형 [LLM 기초] Token·Embedding·Context Window — Java 개발자가 이해하는 LLM의 입력 처리 들어가며지난 글에서는 FAQ를 검색해 LLM에 전달하는 RAG의 답변 생성 과정을 살펴봤습니다. 이번에는 그 안에서 반복해서 등장하는 Token, Embedding, Context Window를 정리합니다. Java 백엔드 개발자의 관점에서 문자열 처리와 자료구조에 연결해 설명하되, 비유와 실제 모델 동작은 구분합니다.이 글은 개념 학습을 위한 글입니다. 모델 설치, 추론 실행, 성능 측정은 수행하지 않았습니다. 코드와 수치는 설명용이며 실제 LLM의 토큰 ID나 임베딩 측정 결과가 아닙니다.목차Token: 모델이 처리하는 텍스트 단위Embedding: 숫자 벡터로 표현하는 방법Context Window: 한 번에 참고할 수 있는 범위세 개념이 RAG에서 만나는 과정설명용 코드와 예상 결과흔한 오해와 해.. 이전 1 다음