딥시크 효과, 기업은 저가 AI로 간다

[미국 특징주] "비싼 AI 모델 안 쓴다"…기업들, 저가·오픈소스로 선회 - 뉴스핌

 

⚡ 한 줄 요약: 기업들이 비싼 프런티어 모델 대신 딥시크 같은 저가·오픈소스 모델로 갈아타기 시작했다. 너도 "이 작업, 굳이 최상위 모델이어야 하나"를 비용 기준으로 재검토할 때다.

 

 

무슨 일인지

미국 증시 특징주 분석에서 같은 신호가 반복해서 잡힌다.
기업들이 "비싼 AI 모델은 안 쓴다"며 저가·오픈소스 모델로 무게중심을 옮기고 있다는 것이다.
방아쇠를 당긴 대표 주자가 중국의 딥시크(DeepSeek)다.
최상위 폐쇄형 모델 대비 훨씬 낮은 추론 비용으로 비슷한 수준의 결과를 내면서, "성능 1등 모델을 모든 호출에 쓰는 게 과연 합리적인가"라는 질문이 비용 부서에서부터 터져 나왔다.

핵심은 모델 성능 경쟁이 아니라 단가 경쟁으로 무대가 바뀌었다는 점이다.
한 줄 결론: 이제 화두는 "가장 똑똑한 모델"이 아니라 "충분히 똑똑하면서 가장 싼 모델"이다.

 

 

배경·맥락 — 왜 지금 '저가 선회'인가

LLM 비용은 보통 입력·출력 토큰당 단가로 매겨진다.
챗봇 한 번 호출은 푼돈이지만, 문서 요약·코드 리뷰·고객 응대를 하루 수십만 건 돌리는 서비스에선 토큰 단가가 그대로 손익계산서가 된다.
프런티어 모델과 오픈소스 모델의 단가 차이가 수 배에서 십수 배까지 벌어지면, 트래픽이 큰 기업일수록 차액이 인건비급으로 불어난다.

여기에 오픈소스(또는 오픈웨이트) 모델이라는 선택지가 더해졌다.
가중치를 받아 자체 인프라나 저가 클라우드에서 직접 서빙하면, API 종량제에서 벗어나 데이터도 외부로 안 내보낸다.
딥시크의 등장이 의미 있는 건 단일 제품이라서가 아니라, "저비용 모델도 실무에 쓸 만하다"는 심리적 허들을 낮춘 레퍼런스가 됐기 때문이다.

 

 

개발자에게 주는 의미·영향

이 흐름은 곧 우리 일에 떨어진다.

• 모델은 고정값이 아니라 변수다. 아키텍처를 특정 모델 API에 못박지 말고, 모델을 갈아끼울 수 있게 추상화하는 설계가 표준이 된다.
• '작업별 라우팅'이 역량이 된다. 분류·추출 같은 단순 작업은 저가/오픈소스로, 복잡한 추론만 상위 모델로 보내는 라우팅이 비용을 절반 이하로 줄일 수 있다.
• 평가(eval) 능력이 진짜 무기다. 싼 모델로 내려도 품질이 유지되는지 판단하려면, 내 작업에 맞는 자동 평가셋이 있어야 한다. "감으로 좋아 보인다"는 더 이상 근거가 못 된다.

한 줄 결론: 모델을 고르는 일이 곧 비용 엔지니어링이 됐다.

 

 

실무 적용 — 작업 난이도로 모델을 라우팅하기

핵심은 모든 호출에 최상위 모델을 쓰지 않는 것이다.
작업 난이도를 먼저 판정하고, 쉬운 건 저가 모델로 내려보내는 패턴을 의사코드로 보면 이렇다.

# 입력 정의: task_type=작업 종류, est_tokens=예상 출력 토큰
# 단가/모델명은 예시 — 실제 값은 각 공급사 공식 가격표 확인 권장
def route_model(task_type, est_tokens):
    cheap = "open-source-served-locally"   # 분류/추출/요약 등 단순 작업
    premium = "frontier-model-api"         # 다단계 추론/코드 설계 등

    simple_tasks = {"classify", "extract", "tag", "short_summary"}
    if task_type in simple_tasks and est_tokens < 1000:
        return cheap
    return premium

# 운영 팁: 라우팅 후 '저가로 내린 작업'의 품질 점수를 따로 로깅해
# 평가셋 기준치(예: 정확도 95%) 미달 시 자동으로 premium으로 승격

위 단가·모델명은 어디까지나 골격 예시다.
실제 토큰 단가와 컨텍스트 한도, 라이선스 조건은 각 공급사 공식 문서/가격표를 반드시 확인하고, 오픈소스라도 상용 사용 조건(라이선스)을 따져야 한다.

 

 

체크포인트 — 그래서 뭘 해보면 되나

• ☑️ 내 서비스 호출을 작업 종류별로 분류하고, 각 종류가 정말 최상위 모델이 필요한지 한 줄로 적어보라. 절반은 강등 후보일 가능성이 높다.
• ☑️ 작은 평가셋(50~100건) 부터 만들어, 저가/오픈소스 모델로 바꿨을 때 정확도 하락폭을 수치로 측정하라. 근거 없는 강등은 금물.
• ☑️ 모델 추상화 레이어를 도입해, 한 줄 설정으로 모델을 교체·롤백할 수 있는지 점검하라. 이게 안 되면 비용 최적화의 출발선에 못 선 것이다.

다음 편 예고: "딥시크·오픈소스 모델 자체 서빙, 진짜 더 쌀까 — 인프라 비용까지 더한 손익 계산법".

 

 

참고(출처)

• 뉴스핌 — [미국 특징주] "비싼 AI 모델 안 쓴다"…기업들, 저가·오픈소스로 선회
• 네이트 뉴스 — [미국 특징주] "비싼 AI 모델 안 쓴다"…기업들, 저가·오픈소스로 선회