AI에 양 많은 일을 시킬 때 다들 한 번쯤 이런 계산을 해요. 리뷰 3천 건을 좋고 나쁨으로 나눠보고 싶은데, 돌렸다가 결과가 별로면 돈만 나가니까 지시문을 최대한 다듬어서 딱 한 번만 돌리자는 계산이요.
그런데 오픈AI가 7월 30일부터 GPT-5.6 루나 값을 80% 내리면서 이 계산이 좀 어긋나게 됐어요. 100만 토큰을 넣는 값이 1달러에서 0.20달러가 됐거든요. 한 번에 잘 뽑으려고 지시문을 붙들고 있는 것보다, 그냥 다섯 판 돌려놓고 제일 나은 걸 고르는 쪽이 싸고 빠른 상황에 가까워졌어요.
값이 내려가면 시도 횟수가 늘어난다는 건 이미 다른 자리에서 보인 흐름이기도 해요. 마케팅 매체 고구마팜은 올해 초 아티클에서 이미지 만드는 값이 크게 낮아져 더 많은 캠페인에 자유롭게 시도해 볼 수 있게 됐다고 짚었거든요. 이번엔 글을 다루는 쪽에서 같은 일이 벌어지는 셈이에요.
GPT-5.6 루나 값 80% 인하, 최상위 모델의 25분의 1
오픈AI는 7월 30일 공지에서 GPT-5.6 세 모델 가운데 두 개의 값을 내렸어요. 가장 싸고 빠른 루나는 100만 토큰당 넣는 값이 1달러에서 0.20달러로, 받는 값이 6달러에서 1.20달러로 80% 내려갔고요. 중간급인 테라는 2.50달러에서 2달러, 15달러에서 12달러로 20% 내려갔어요.
토큰은 AI가 글을 잘게 잘라 세는 단위예요. 넣는 글과 받는 글을 각각 세서 값을 매기니까, 긴 문서를 많이 넣는 작업일수록 이번 인하 폭을 크게 느끼게 되죠.
최상위 모델인 솔은 5달러와 30달러 그대로예요. 루나만 값이 내려가면서 두 모델 사이가 25배로 벌어졌어요. 같은 회사 모델인데 하나는 다른 하나의 25분의 1 값이 된 셈이죠.
값을 따로 내는 곳만 해당되는 얘기도 아니에요. 오픈AI는 코딩용 도구인 코덱스와 업무용 챗GPT에서 사용량을 계산할 때도 이 값을 반영한다고 밝혔어요. 구독료와 배정된 한도는 그대로인데 루나와 테라가 한도를 덜 먹는 구조라, 같은 요금제로 더 오래 쓰게 되는 편이에요.
한 번 뽑고 끝내던 일을 다섯 판 돌리는 GPT 활용
루나 값이 5분의 1이 됐다는 건 같은 예산으로 다섯 번 돌린다는 뜻이에요. 리뷰 3천 건을 분류하는 작업이라면, 예전엔 한 번 돌리고 나온 결과를 그냥 받아들였겠죠. 이제는 분류 기준을 바꿔가며 다섯 판을 돌려보고 제일 정확하게 나뉜 걸 고를 수 있어요.
바뀐 건 비용이라기보다 판단에 가까워요. 지금까지 양 많은 작업 앞에서 제일 먼저 하던 계산이 이건 아까우니까 안 돌린다였거든요. 그 계산이 빠지면 한 번에 잘 뽑으려고 애쓰는 것보다 여러 판 돌려놓고 고르는 쪽이 빠른 편이에요.
여러 판을 돌릴 때 손대는 건 대개 지시문이에요. 기준을 몇 개로 나눌지, 애매한 항목을 어느 쪽으로 보낼지, 예시를 몇 개나 붙여줄지를 판마다 다르게 걸어보는 거죠. 판마다 결과를 전부 읽을 필요도 없어요. 각 판에서 같은 자리의 몇 건만 뽑아 눈으로 비교해도 어느 쪽 기준이 나은지 금방 드러나는 편이에요.
양이 많아서 미뤄두던 일들이 여기 해당해요. 광고 카피 200개 변형이나 경쟁사 랜딩페이지 100개 요약, 들어온 문의를 유형별로 나누는 작업처럼요.
값이 내려간 만큼 성능도 깎였을까 싶은데, 오픈AI가 내놓은 설명은 반대예요. 루나가 1년 전 최상위급 모델과 비슷한 성능을 작업당 6% 값에, 9배 가까운 속도로 낸다고 했어요. 브라우저에서 코드를 짜고 바로 띄우는 도구를 만드는 리플릿도 같은 발표에 등장하는데요. 이 회사 AI 총괄 미셸 카타스타는 이만큼 싼 모델이 이만큼 강한 건 처음 봤다고 말했어요.
자사 발표와 고객사 발언이라 그대로 받기보다 감안하고 보는 게 나아요. 다만 값이 5분의 1이 되는 동안 성능이 그만큼 깎이지는 않았다는 방향은 읽혀요. 값을 그대로 두고 성능만 올린 클로드 오퍼스 5 사례까지 같이 놓고 보면, 요즘 모델 경쟁의 승부처가 성능에서 값으로 옮겨간 흐름도 보이고요.
GPT를 두 층으로 나눠 쓰는 법
GPT를 대량으로 돌리는 아래층
넓게 읽고 분류하고 초안을 뽑는 일은 값싼 모델에 맡겨요. 오픈AI가 이번에 직접 꼽은 용도도 문서 대량 분석과 고객 문의 분류, 정해진 대로 반복하는 작업이에요.
마케팅 쪽으로 옮겨보면 리뷰와 문의 분류, 경쟁사 페이지 요약, 카피 변형 대량 생성이 여기 들어가요. 판단이 크게 필요 없고 양이 많다는 공통점이 있죠.
GPT 값이 비싼 위층에 남기는 일
나갈 문장을 고르고 브랜드 톤을 맞추고 사실을 확인하는 자리에는 비싼 모델을 써요. 아래층에서 카피 200개를 뽑아놨다면 위층이 실제로 보는 건 추려낸 몇 개뿐이라, 위층 값이 비싸도 전체 비용은 크게 안 올라가는 편이에요.
오픈AI도 같은 순서를 예로 들었어요. 솔로 불확실한 부분을 정리하고 계획을 확정한 다음, 루나로 실제 작업을 하고 결과를 확인하는 식이죠. 콘텐츠 작업도 구조가 같아서, 방향과 기준은 위층에서 확정하고 그 기준대로 대량 실행하는 건 아래층이 맡으면 돼요.
두 층을 나누지 않고 처음부터 끝까지 비싼 모델로 돌리면, 값은 값대로 나가면서 정작 여러 판 돌려볼 여유는 없어져요.
다만 아래층에 넘기는 일이 늘어날수록 사람이 안 들여다보는 구간도 같이 늘어나요. AI에 맡긴 작업에서 실제로 난 사고 188건을 보면 제일 흔한 유형이 지우면 안 되는 걸 지운 경우였어요. 아래층에 권한을 어디까지 줄지는 값과 별개로 정해두는 편이 나아요.
GPT 값을 더 깎는 자리와 더 내야 하는 자리
GPT 값을 절반 아래로 내리는 배치와 캐싱
당장 결과가 필요 없는 작업은 배치로 보내면 표준 값의 절반이에요. 배치는 요청을 하나씩 보내지 않고 한꺼번에 묶어 맡긴 뒤 나중에 결과를 받아오는 방식인데, 오픈AI 가격표에 50% 할인이 그대로 적혀 있어요. 밤에 걸어두고 아침에 받아보는 일이라면 굳이 안 쓸 이유는 없어 보여요.
앞부분이 매번 똑같이 들어가는 작업에는 캐싱이 붙어요. 한 번 보낸 앞부분을 저장해뒀다가 다음 요청에서 다시 쓰는 건데, 이렇게 재사용되는 부분은 90% 할인이라 루나 기준 100만 토큰당 0.02달러까지 내려가요.
브랜드 가이드나 분류 기준처럼 매 요청에 그대로 실리는 덩어리가 여기 해당해요. 배치와 캐싱을 같이 쓰면 이번에 발표된 인하폭보다 값이 더 내려가는 셈이에요.
GPT 패스트 모드를 켜는 자리
같이 나온 패스트 모드는 반대로 값을 올리는 선택지예요. 솔 기준 최대 2.5배 빠른 대신 값이 2배이고, 오픈AI는 똑똑함 자체는 달라지지 않는다고 밝혔어요. 먼저 처리해주던 기존 옵션을 이 이름으로 갈아 끼운 거라, priority로 표시해둔 요청은 손대지 않아도 자동으로 넘어가고요.
밤새 도는 배치 작업에 패스트를 켜는 건 값만 두 배로 내는 셈에 가까워요. 속도가 값어치를 하는 건 화면 앞에서 사람이 결과를 기다리는 순간이거든요. 상담 답변이나 실시간 추천처럼 기다리는 사람이 있는 자리에만 켜는 쪽이 나아요.
GPT 가격 인하로 바뀐 건 값이 아니라 판단 기준
정리하면 이번에 싸진 건 실행이에요. 넓게 훑고 분류하고 초안 뽑는 층이 5분의 1 값이 됐고, 배치와 캐싱을 얹으면 더 내려가요. 최종 판단을 맡는 층은 값이 그대로지만 거기 올라가는 양은 원래 많지 않고요.
그래서 작업을 앞에 두고 던지는 질문이 바뀌어요. 이걸 돌릴까 말까 대신, 몇 판 돌려서 뭘 고를까를 묻게 되는 거죠.
지금 손으로 하고 있는 반복 작업 하나를 골라 아래층으로 내려보내는 것부터 해보세요. 분류든 요약이든 초안이든, 양이 많아서 미뤄뒀던 일이면 지금이 꺼낼 자리예요. 값이 내려간 자리에서 결과를 만드는 건 예산 규모보다 시도 횟수일 수 있으니까요.
댓글을 남겨주세요