웍스AI 쓰기 전 알아둘 AI 용어 10개

웍스AI 쓰기 전 알아둘 AI 용어

 

⚡ 한 줄 요약: 업무용 AI를 고를 때 마케팅 문구가 아니라 '환각·RAG·컨텍스트 윈도우' 같은 용어 뜻을 알아야 헛돈을 안 쓴다.

 

 

📑 목차

• 무슨 일인지
• 배경 — 왜 지금 '용어'인가
• 개발자에게 주는 의미
• 실무 적용 — 개념을 코드로
• 체크포인트

 

 

무슨 일인지

TechCrunch가 올해 판 'AI 용어 사전'을 공개했다.
생성형 AI가 쏟아낸 신조어·약어가 워낙 많아, 기사·제품 소개서·계약서마다 등장하는 단어를 한 곳에 정리한 레퍼런스다.
AGI, 환각(hallucination), 추론(inference), 트랜스포머, 파인튜닝 같은 핵심어의 정의를 담았다.

문제는 이 용어들이 학술 용어에 그치지 않는다는 점이다.
사내에 웍스AI나 협업 메신저 기반 업무 비서를 도입할 때, 벤더가 내미는 소개서가 정확히 이 단어들로 쓰여 있다.
뜻을 모르면 "우리 제품은 환각이 적습니다" 같은 문구를 검증 없이 믿게 된다.

 

 

배경 — 왜 지금 '용어'인가

2023년 이후 업무 도구에 AI가 기본 탑재되면서, IT 담당자가 아닌 사람도 모델의 작동 원리를 최소한 알아야 하는 상황이 됐다.
특히 사내 문서를 다루는 웍스AI류 업무 어시스턴트는 RAG(검색 증강 생성) 구조가 핵심이라, 이 개념 하나만 알아도 제품 비교가 쉬워진다.

개발자·도입 담당자가 실제로 마주치는 용어를 실무 영향 중심으로 추렸다.

 

용어	한 줄 정의	업무 AI에서 왜 중요한가
환각(Hallucination)	사실이 아닌 걸 그럴듯하게 지어냄	사내 규정을 잘못 요약하면 사고. '없으면 모른다고 답하게' 설정했는지 확인
LLM	대규모 언어 모델	웍스AI의 답변 엔진. 어떤 모델을 쓰는지 물어라
RAG	사내 문서를 먼저 검색해 근거로 답함	최신·비공개 데이터 반영의 핵심. '학습'과 다름
컨텍스트 윈도우	한 번에 넣을 수 있는 글자 수	긴 회의록·계약서 요약 품질을 좌우
파인튜닝	모델을 우리 데이터로 추가 학습	비용·시간 큼. RAG로 충분한 경우가 많음
토큰	모델이 처리하는 텍스트 최소 단위	요금·속도의 과금 기준
추론(Inference)	학습된 모델이 실제로 답을 내는 과정	응답 지연·서버 비용의 정체
에이전트	스스로 도구를 호출해 일을 처리	단순 챗봇과 자동화의 경계선
멀티모달	텍스트+이미지+음성 동시 처리	첨부 캡처·PDF 이해 여부
프롬프트 엔지니어링	지시문을 설계해 품질을 끌어올림	같은 모델도 지시에 따라 결과가 갈림

 

 

 

개발자에게 주는 의미

핵심은 '학습'과 'RAG'를 구분하는 감각이다.
많은 도입 담당자가 "우리 회사 문서로 AI를 학습시켜 달라"고 요청하지만, 대부분의 웍스AI류 제품은 파인튜닝이 아니라 RAG로 동작한다.
문서를 벡터로 인덱싱해 두고, 질문이 오면 관련 조각을 찾아 모델에 근거로 함께 넣는 방식이다.

이 차이를 알면 두 가지가 명확해진다.
첫째, 문서가 바뀌어도 재학습이 아니라 인덱스만 갱신하면 된다.
둘째, 답변이 이상하면 모델 탓이 아니라 '검색이 엉뚱한 조각을 물어왔을' 가능성부터 의심해야 한다.

트레이드오프도 있다.
RAG는 최신성·저비용이 강점이지만, 검색 품질이 나쁘면 근거 자체가 틀려 환각을 오히려 '근거 있는 척'으로 포장한다.
파인튜닝은 말투·형식 고정에 유리하지만 비용과 유지보수 부담이 크다.

 

 

실무 적용 — 개념을 코드로

RAG의 뼈대는 의외로 단순하다.
아래는 '검색 → 근거 주입 → 생성' 흐름을 개념적으로 보여주는 의사코드다(실제 API·파라미터는 각 벤더 공식 문서 확인 권장).

# 1) 질문과 가장 가까운 사내 문서 조각을 검색
chunks = vector_db.search(query, top_k=4)

# 2) 검색된 근거를 프롬프트에 명시적으로 주입
prompt = f"""아래 '근거'만 사용해 답하라.
근거에 없으면 반드시 '자료에 없음'이라고 답하라.

[근거]
{chr(10).join(chunks)}

[질문] {query}"""

# 3) 생성 (환각 억제: 근거 밖 답변 금지 지시가 핵심)
answer = llm.generate(prompt, temperature=0.2)

포인트는 2번의 "근거에 없으면 '자료에 없음'"이라는 한 줄이다.
이 제약이 환각을 줄이는 가장 값싼 방법이고, 웍스AI류 제품을 평가할 때도 "근거 밖 질문에 뭐라고 답하나"를 직접 넣어보면 품질이 드러난다.

 

 

체크포인트

• 오늘 당장: 쓰고 있는 업무 AI에 "사내에 없는 규정"을 일부러 물어보라. '모른다'고 하면 합격, 지어내면 환각 위험.
• 도입 검토 중이라면: 벤더에게 "파인튜닝인가 RAG인가, 문서 갱신 주기는?"을 물어라. 답이 흐릿하면 재확인.
• 팀 적용 시: 컨텍스트 윈도우·토큰 과금 구조를 먼저 계산해 긴 문서 요약이 잦은 업무의 월 비용을 추산하라.

 

 

참고(출처)

• TechCrunch — The only AI glossary you'll need this year

🔗 함께 보면 좋은 글

• 국비지원AI교육 후 진짜 쓰는 LLM 코딩법
• AI는 개발자를 죽이지 않는다, 자비스처럼 '아이언맨'으로 만든다
• AI가 천재라는 말, 절반은 거짓말입니다

 

 

📊 오늘의 개발 트렌드 (자동 집계)

GitHub·Hacker News·Hugging Face·App Store·Cloudflare Radar에서 매일 자동으로 모은 개발 트렌드입니다. (2026-07-04 19:11 기준)

🐙 GitHub 급상승

• usestrix/strix (+2,803★/일) — Open-source AI penetration testing tool to find and fix your app’s vul
• openai/codex-plugin-cc (+634★/일) — Use Codex from Claude Code to review code or delegate tasks.
• JuliusBrussee/caveman (+2,863★/일) — 🪨 why use many token when few token do trick — Claude Code skill that

📰 Hacker News 화제

• Costco is the anti-Amazon (411p·380💬)
• Jamesob's guide to running SOTA LLMs locally (347p·152💬)
• Performance per dollar is getting faster and cheaper (248p·87💬)

🤗 Hugging Face 트렌딩 모델

• empero-ai/Qwythos-9B-Claude-Mythos-5-1M-GGUF (1,464,047 DL·1401♥)
• zai-org/GLM-5.2 (208,920 DL·3360♥)

💰 App Store 매출 TOP (한국)

• YouTube — Google
• ChatGPT — OpenAI OpCo, LLC
• 리니지M — NC Corp.

🌐 가장 많이 방문되는 웹 (Cloudflare Radar)

• google.com (#1) · Search Engines
• googleapis.com (#2) · Information Technology
• cloudflare.com (#3) · Technology