응급 판단을 모델 앞으로 옮긴 과정
안전 장치 설계
- 문제
의료 자문은 틀린 답의 대가가 큽니다. 그럴듯하게 들리는 답만으로는 믿을 수 없었고, 응급 증상을 말한 사람에게 긴 설명을 내보내면 안 됐습니다.
- 판단
응급 여부를 모델에게 맡기지 않고, 모델 앞에 둔 규칙으로 먼저 가렸습니다. 아주 위험한 문구는 곧바로 119 안내로 끝내고, 덜 급한 단어는 경고를 붙여 답을 이어 가도록 두 단계로 나눴습니다.
- 검증
시연 영상 4편으로 응급 질문, 한 번 묻고 끝나는 질문, 여러 번 묻고 요약까지 가는 질문을 돌려 봤습니다. 답변 품질은 팀이 세 가지 구성을 같은 평가 문제로 비교했습니다.
- 결과
응급 문구는 모델과 문서 검색을 모두 건너뛰고 119·응급실 안내만 돌려줍니다. 답변 점수는 추가 학습과 문서 검색을 함께 쓴 구성이 가장 높았고, 기본 모델과 차이는 0.02~0.03이었습니다.

