← 아티클 목록

기술 블로그

글 대신 판단만 하는 AI, Jev를 문의 분류와 캐릭터 챗에 붙여 봤습니다

헤드셋을 쓰고 노트북으로 상담하는 직원

Jev는 미국 스타트업 TypeSafe AI가 9월 15일 공개한 AI 모델입니다. 문장을 쓰지 않고, 미리 정해 둔 보기 가운데 답을 골라 그 답의 확률과 함께 돌려줍니다. 다니웍스는 이 모델을 두 곳에 붙였습니다. 이 글이 올라간 홈페이지에서는 문의 내용을 보고 담당 에이전트를 정하고, 자사 캐릭터 챗 서비스에서는 캐릭터의 감정 상태를 분류하고 표정을 계산합니다. 빠르고 값이 싸서 판단이 잦은 기능에 잘 맞았습니다. 다만 한국어 문장의 깊은 맥락은 자주 놓쳐서, LLM으로 보정하는 단계를 따로 둬야 했습니다.

글 대신 답과 확률을 돌려주는 모델

ChatGPT나 Claude 같은 대형 언어 모델(LLM)은 답을 문장으로 씁니다. 문의를 분류해 달라고 하면 "견적 요청으로 보입니다. 이유는…" 같은 답이 오고, 프로그램은 그 문장에서 '견적 요청'을 다시 찾아내야 합니다. 문장을 한 단어씩 만들어 내는 만큼 기다리는 시간도 생깁니다.

Jev에는 판단할 상황과 질문을 함께 보냅니다. TypeSafe 공식 문서에 따르면 글로 된 상황을 판단할 때 쓰는 질문은 세 가지입니다. 여러 보기 중 하나를 고르는 choice, 정해 둔 단계에 맞춰 점수를 매기는 score, 예일 확률을 돌려주는 noul입니다. 질문 여러 개를 한 번에 보내면 Jev는 이를 동시에 평가하고, 정해 둔 보기 밖의 답은 내놓지 않습니다.

TypeSafe AI 발표 기준 응답 시간은 0.07~0.5초이고, 가격은 입력 토큰 100만 개당 0.042달러이며 출력에는 요금을 받지 않습니다. 회사가 내세우는 '환각 0%'는 정해진 형식을 벗어난 답이 나오지 않는다는 뜻입니다. TypeSafe는 이 수치를 형식이 구조적으로 보장된다는 근거로 적었다고 밝혔습니다. 보기 안에서 틀린 답을 고를 수는 있습니다.

홈페이지 문의를 알맞은 에이전트에게 보내기

다니웍스 홈페이지에서는 역할이 다른 AI 에이전트들이 방문자 문의를 나눠 맡습니다. 문의가 들어오면 어느 에이전트가 맡을지 Jev가 정합니다. 문의 내용을 상황으로 넣고 에이전트 목록을 보기로 둔 질문을 보내면, Jev가 하나를 골라 확률과 함께 돌려주고 프로그램은 그대로 문의를 넘깁니다.

LLM으로도 할 수 있는 일입니다. 그래도 Jev를 고른 이유는 두 가지였습니다. 이 판단은 방문자가 문의를 보낸 직후, 문의가 올 때마다 실행됩니다. 답이 늦으면 방문자가 그만큼 기다리고, 호출이 쌓이면 비용도 쌓입니다. 그리고 고를 보기가 이미 정해져 있으니 문장을 쓰는 능력은 필요하지 않았습니다.

캐릭터 챗의 감정과 표정을 바로 반영하기

자사 캐릭터 챗 서비스에서는 대화가 오갈 때마다 캐릭터의 감정 상태를 분류하고 표정을 계산하는 데 Jev를 씁니다.

여기서는 속도가 가장 중요했습니다. 사용자가 말을 걸었는데 캐릭터 표정이 몇 초 늦게 바뀌면 대화가 어색해집니다. LLM에 감정을 물으면 답이 문장으로 다 나올 때까지 기다려야 하지만, Jev는 판단 결과만 바로 돌려줍니다. 덕분에 사용자 입력에 캐릭터가 곧바로 반응하게 만들 수 있었습니다. 메시지마다 판단을 돌리는 구조라 호출 한 번의 비용이 낮다는 점도 컸습니다.

한국어의 깊은 맥락은 LLM으로 보정했습니다

한계도 분명했습니다. 한국어 입력에서는 깊은 맥락까지 파악하지 못하는 경우가 많았습니다. 돌려 말하거나 앞선 대화를 알아야 뜻이 잡히는 문장에서 판단이 엇나갔습니다.

TypeSafe 공식 문서도 영어가 주 학습 언어이고 정확도가 가장 높다고 적고 있습니다. 한중일 문자를 포함한 다른 언어는 처리는 하지만 같은 수준은 아니니, 자기 데이터로 먼저 시험하고 확신도를 보고 처리 경로를 나누라고 안내합니다.

그래서 Jev의 판단을 LLM이 한 번 더 보정하는 단계를 두었습니다. 빠른 1차 판단은 Jev가 하고, 맥락을 읽어야 하는 부분은 LLM이 바로잡습니다. 한국어 서비스에 Jev를 붙인다면 이 보정 단계를 처음부터 설계에 넣어 두는 편이 낫습니다.

우리 서비스에서 Jev가 맡을 만한 판단

Jev가 잘 맞는 일은 답의 보기가 정해져 있고, 자주 그리고 빨리 내려야 하는 판단입니다. 문의를 담당자별로 나누는 일, 고객 메시지에서 불만이나 환불 요청을 골라내는 일, 사람이 직접 봐야 할 건을 따로 빼는 일이 그렇습니다. 답장을 쓰거나 이유를 설명하는 일은 여전히 LLM 몫이고, 환불 대상인지 따지는 것처럼 규칙이 분명한 일은 코드로 처리하는 편이 맞습니다.

지금 서비스나 업무 흐름에서 사람이 매번 읽고 골라 넘기는 단계가 있다면 거기서 시작하면 됩니다. 그 판단을 AI에 맡길 수 있는지, 우리 한국어 데이터에서 얼마나 맞는지 확인하고 싶다면 무료 진단을 신청해 주세요. 어느 지점에 붙일 수 있을지 함께 살펴보겠습니다.

AI 직원에게 물어보기

우리 업무에 붙일 수 있을지 물어보세요

질문을 고르거나 지금 사람이 직접 분류하는 일을 적어 보세요.

사람이 매번 골라 넘기는 일이 있다면

어떤 업무인지 알려 주세요. AI에 맡길 수 있는 판단인지 함께 살펴봅니다.

PROJECT INQUIRY

프로젝트 문의

지금 바꾸고 싶은 일과 막혀 있는 지점을 알려주세요. 상황을 확인한 뒤 적합한 담당자가 직접 답변드리겠습니다.

정상 접수 후 24시간 이내에 답변드리겠습니다.

문의 양식을 불러오는 중…