카테고리
모델 선택
-

AI 서비스 설계, 모델은 7단계 중 5번째다
AI 기능 하나를 붙이는 코드는 반나절이면 짠다. 문제는 그게 서비스가 되는 순간이다. 응답이 느려지고, 비용이 새고, 그럴듯한 오답이 나가고, 남의 개인정보가 답변에 섞인다. 그런데 대부분은 이 문제를 “더 좋은 모델로 바꾸면 되지 않나”로 해결하려 한다. …
카테고리

AI 기능 하나를 붙이는 코드는 반나절이면 짠다. 문제는 그게 서비스가 되는 순간이다. 응답이 느려지고, 비용이 새고, 그럴듯한 오답이 나가고, 남의 개인정보가 답변에 섞인다. 그런데 대부분은 이 문제를 “더 좋은 모델로 바꾸면 되지 않나”로 해결하려 한다. …