카테고리
QLoRA
-
긴 지시문이 안 먹히는 3가지 순간, 작은 전용 모델이 답이다
“프롬프트를 더 잘 써라”는 조언에는 함정이 있다. 규칙이 정말 복잡한 업무에선 지시문을 아무리 정교하게 늘려도 벽에 부딪힌다. 항목이 빠지고, 없던 내용이 붙고, 분기 규칙이 어긋난다. 그런데 여기서 대부분은 “더 큰 모델을 쓰자”로 간다 — 실은 방향이 틀…
카테고리
“프롬프트를 더 잘 써라”는 조언에는 함정이 있다. 규칙이 정말 복잡한 업무에선 지시문을 아무리 정교하게 늘려도 벽에 부딪힌다. 항목이 빠지고, 없던 내용이 붙고, 분기 규칙이 어긋난다. 그런데 여기서 대부분은 “더 큰 모델을 쓰자”로 간다 — 실은 방향이 틀…