OpenAI 가 내놓은 결정 모델 Decisions API, Jev 와 나란히 보기

9월 29일(현지 시각) DevDay 기조연설에서 OpenAI 가 Decisions API 를 공개했습니다. 사용자가 정해 둔 질문과 보기를 주면 그중 하나를 골라 돌려주는 API 입니다. 코드가 바로 쓸 수 있는 답을 빠르게 내는 데 초점을 맞췄습니다.

어제 이 블로그에서 소개한 TypeSafe 의 Jev 와 같은 종류의 도구입니다. Jev 가 나온 지 약 2주 만에 OpenAI 도 결정 모델을 내놓은 셈이라 개발자들의 관심이 컸습니다. Every 는 이번 DevDay 에서 꼽은 핵심 발표 다섯 가지 가운데 이것이 가장 큰 발표가 될 수도 있다고 평가했습니다.

다만 공개된 정보는 아직 적습니다. 공식 설명은 DevDay 요약 글의 한 문단이 전부이고, 가격도 나오지 않았습니다. 이 글에서는 지금까지 확인된 내용과 첫 비교 테스트, Jev 와의 차이, 정식 공개 때 확인할 점을 정리했습니다.

한눈에 보기

항목	내용
하는 일	사용자가 정한 질문과 보기 가운데 답을 고름
기반 모델	Luna. OpenAI 라인업에서 가장 작고 저렴한 모델
입력	텍스트 또는 이미지로 맥락을 줌
응답 시간	약 150ms (OpenAI 설명, The New Stack 보도)
상태	제한 프리뷰. 정식 공개는 “며칠 안에” 예정
가격	발표되지 않음

OpenAI 가 밝힌 것

OpenAI 의 DevDay 요약 글에 실린 설명을 우리말로 옮기면 이렇습니다.

Decisions API 는 Luna 의 지능을 사용자가 정의한 특정 질문과, 미리 정해 둔 유한한 답에 집중시켜 실시간 판단을 가능하게 합니다. 개발자는 텍스트나 이미지로 맥락을 주고, 콘텐츠 분류나 요청 라우팅, 에이전트의 다음 행동 선택에 쓸 수 있는 답을 받습니다.

기조연설을 현장에서 기록한 Simon Willison 에 따르면, OpenAI 는 무대에서 이 API 가 Luna 모델에 “미리 정해 둔 보기”를 주고 “1초도 안 되는 시간에” 답하게 하는 방식이라고 소개했습니다. The New Stack 은 OpenAI 설명을 인용해 응답 시간을 150ms 로 전했습니다. 같은 판단을 일반 GPT-6 Luna 호출로 하면 1.6초가 걸린다는 비교도 함께 나왔습니다.

공개되지 않은 것도 많습니다. 9월 30일 오전(한국 시간) 기준으로 OpenAI 의 개발자 문서와 API 변경 로그, 가격표에는 Decisions API 항목이 없습니다. OpenAI 대변인은 자세한 내용을 정식 공개 때 알리겠다고 The New Stack 에 밝혔습니다. 그래서 이 글에는 요청 형식 예시를 싣지 않았습니다.

이름이 같은 OpenRouter 의 Decisions API(알파)는 Jev 를 부르는 별개 엔드포인트입니다. 검색할 때 헷갈리지 않도록 알아 두세요.

어디에 쓰나

OpenAI 가 든 쓰임은 세 가지입니다.

콘텐츠 분류: 들어온 글이 스팸인지, 어떤 주제인지 고릅니다.
요청 라우팅: 문의를 어느 팀이나 어느 모델로 보낼지 정합니다. 지난 글에서 다룬 LLM 앞의 라우터와 같은 자리입니다.
에이전트의 다음 행동: 화면의 여러 버튼 가운데 무엇을 누를지 고릅니다. Every 가 든 예처럼 이메일에 답장이 필요한지 판단하는 일도 여기에 들어갑니다.

이미지를 받는다는 점이 Jev 와 가장 눈에 띄는 차이입니다. Jev 는 텍스트만 받기 때문에 화면이나 사진을 쓰려면 다른 모델로 먼저 글로 바꿔야 했습니다. Decisions API 라면 화면 캡처를 그대로 맥락으로 주고 다음에 누를 버튼을 고르게 하는 구성을 생각해 볼 수 있습니다. 실제로 얼마나 잘 되는지는 정식 공개 뒤에 확인해야 합니다.

첫 비교 테스트

Every 는 프리뷰 버전을 Jev 와 나란히 시험한 결과를 공개했습니다.

테스트	Decisions API	Jev
컴퓨터 작업 재현(텍스트만), 78단계 중 맞힌 수	76	73
같은 테스트의 보통 응답 시간	230ms	500ms
대화 스레드 분류 정확도	사실상 같음	사실상 같음
같은 테스트의 응답 시간 중간값	309ms	161ms

앞의 두 줄은 Every 의 Jack Cheng, 뒤의 두 줄은 Cora 의 Kieran Klaassen 이 잰 값입니다. 테스트마다 앞선 쪽이 달랐습니다. Every 는 몇몇 초기 테스트에서는 Decisions API 가 더 빠르고 정확했지만 더 넓은 평가에서는 뒤처졌다고 정리했습니다.

표본이 작고 조건도 자세히 공개되지 않았습니다. 어느 쪽이 낫다고 결론 내리기보다, 내 작업으로 직접 재 볼 이유로 읽는 편이 좋습니다.

Jev 와 나란히 보면

둘 다 미리 정한 답 가운데 하나를 돌려주는 결정 전용 서비스입니다. 지금 공개된 정보로 비교하면 이렇습니다.

항목	OpenAI Decisions API	TypeSafe Jev	출처
상태	제한 프리뷰, 곧 정식 공개	조기 접근(대기자 명단)	OpenAI 요약 글, TypeSafe
입력	텍스트, 이미지	텍스트만	OpenAI 요약 글, TypeSafe 문서
돌려주는 값	고른 답과 확신도 점수	고른 답, 보기별 확률, 확신도	The New Stack, TypeSafe 문서
가격	발표되지 않음	입력 100만 토큰당 $0.042, 출력 무료	The New Stack, TypeSafe 문서
응답 시간	약 150ms (OpenAI 설명)	0.07~0.5초 (TypeSafe 발표)	The New Stack, TypeSafe
보기 수 한도	발표되지 않음	Choice 질문 하나에 255개	The New Stack, TypeSafe 문서
서버 위치	발표되지 않음	미국 서부	TypeSafe

가장 큰 차이는 이미지 입력과 가격 공개 여부입니다. 이미 OpenAI API 를 쓰는 팀이라면 공급사를 하나 더 늘리지 않아도 된다는 점에 끌릴 수 있습니다. 반대로 가격과 한도가 나오기 전까지는 비용을 계산할 수 없다는 점이 걸립니다.

알아둘 점

가격이 핵심입니다. 결정 모델은 요청 하나하나가 작고 호출 수가 많아서, 가격에 따라 쓸 만한 곳이 크게 달라집니다. Every 도 수천 번의 작은 결정에 쓸 만큼 싸다면 이번 DevDay 에서 가장 큰 발표가 될 수 있다고 봤습니다.
보기 수 한도와 튜닝 여부가 아직 없습니다. The New Stack 은 요청 하나가 다룰 수 있는 후보 수, 자체 데이터로 조정할 수 있는지가 불분명하다고 짚었습니다.
확신도의 근거도 아직 없습니다. 결정 모델의 장점은 믿을 만한 확률인데, OpenAI 는 이 API 의 보정(calibration) 평가를 공개하지 않았습니다. 임계값을 정하기 전에 정답을 아는 기록으로 먼저 채점해 보세요.
속도는 조건마다 다릅니다. OpenAI 설명은 150ms, Every 의 두 테스트에서는 230ms 와 309ms 였습니다. 서버 위치도 공개되지 않았으니 국내에서 쓴다면 직접 재 보는 것이 가장 확실합니다. Jev 의 경우 국내에서는 네트워크 왕복만 0.14~0.17초가 더해졌습니다.
정식 공개 시점 표현이 엇갈립니다. OpenAI 요약 글은 “며칠 안에”, Every 는 “몇 주 안에”라고 적었습니다.
문맥 조작에 얼마나 견디는지는 모릅니다. Jev 에서는 그럴듯한 문장 몇 줄로 결정이 뒤집히는 사례가 연구로 확인됐습니다. Decisions API 가 이런 문맥 조작에 얼마나 견디는지는 아직 알려지지 않았습니다.

endue 에서는

지난 글에서 소개한 원칙, 곧 싸고 빠른 판단을 먼저 하고 큰 모델은 필요할 때만 쓰는 구성은 어떤 결정 모델을 쓰든 그대로 적용됩니다. endue 에서는 가벼운 모델을 에이전트 기본값으로 두고 어려운 메시지에서만 강한 모델로 바꾸는 식으로 같은 원칙을 적용할 수 있습니다. 설정 방법은 모델 고르기 문서에 있습니다.