출력 스키마 고정 — 파싱이 간헐적으로 깨질 때
열 번 중 아홉 번 맞는 JSON은 실패한 JSON이다. 프롬프트로 형식을 부탁하는 대신 스키마로 강제한 기록.
열 번 중 아홉 번 맞는 JSON은 실패한 JSON이다. 프롬프트로 형식을 부탁하는 대신 스키마로 강제한 기록.
예시를 넣으면 좋아진다는 건 안다. 문제는 어떤 예시를 몇 개 넣느냐였다. 경계 사례로 예시를 고른 기록.
한 번에 다 시키면 앞의 지시가 날아간다. 하나의 호출을 여러 단계로 쪼개면서 생긴 비용과 얻은 것.
프롬프트 수정은 전역 변경이다. 평가셋 없이 고치는 건 개선이 아니라 교체였다. 측정 체계를 만든 기록.
지시를 늘릴수록 모델이 더 안 듣는 문제. 문장을 다듬는 대신 역할과 제약을 분리해 구조를 바꿨다.
실서비스에서 사용하는 프롬프트 엔지니어링 기법을 정리한다. 기법 소개가 아니라, 내 서비스에서 무엇이 문제였고, 어떤 기법으로 막았는지를 기록하고자 한다.
velog, tistory 대신 yunsub.dev를 본진으로 만든 판단과, 그 구조를 실제로 세팅한 기록.