카테고리
LoRA
-
긴 지시문이 안 먹히는 3가지 순간, 작은 전용 모델이 답이다
“프롬프트를 더 잘 써라”는 조언에는 함정이 있다. 규칙이 정말 복잡한 업무에선 지시문을 아무리 정교하게 늘려도 벽에 부딪힌다. 항목이 빠지고, 없던 내용이 붙고, 분기 규칙이 어긋난다. 그런데 여기서 대부분은 “더 큰 모델을 쓰자”로 간다 — 실은 방향이 틀…
-
고객지원 AI의 정확도, 모델이 아니라 자료가 결정한다
고객지원 챗봇이 틀린 답을 내면, 대부분 “모델이 작아서” 또는 “학습을 더 시켜야 해서”라고 생각한다. 그런데 한 실무 사례가 정반대의 그림을 보여준다. 회사 말투에 맞춰 모델을 fine-tuning했더니 말투는 약 90%까지 자연스러워졌는데, 정작 사실 정…