본문 바로가기

LLM(11)

grep 넘은 AI 코딩 하니스, 컨텍스트가 승부 ⚡ 한 줄 요약:AI 코딩 도구의 실력은 모델 크기가 아니라 하니스(harness) — 즉 모델에 무엇을 어떻게 물려주느냐로 갈린다.단순 grep 키워드 검색을 넘어 의존성·심볼·의미 기반 컨텍스트를 조립해 넣는 쪽이 정확도에서 앞선다.온라인코딩파티처럼 손으로 짜던 시대에서,이제는 "컨텍스트 엔지니어링"이 개발 생산성의 새 축이다. 📑 목차🧩 무슨 일인지🔍 배경 — grep의 한계와 "컨텍스트 엔지니어링"💡 개발자에게 주는 의미🛠️ 실무 적용 — grep + 의미검색 하이브리드✅ 체크포인트 🧩 무슨 일인지Ars Technica가 AI 코딩 스타트업 Augment Code의 엔지니어링 리더 Vinay Perneti를 인터뷰했다.핵심 주장은 한 문장으로 요약된다."좋은 코딩 AI는 좋은 모델이..
구글노트북LM 이름 바뀐다 기능은 유지 ⚡ 한 줄 요약:구글노트북LM(NotebookLM)이 'Gemini Notebook'으로 이름만 바뀝니다.독립 앱·기존 노트북·업로드한 소스는 그대로 유지되고, 데이터 이전이나 재가입은 필요 없습니다. 📑 목차📌 무슨 일인지🧩 배경 — 왜 지금 '개명'인가💡 개발자에게 주는 의미🛠 실무 — 최소 RAG 골격✅ 체크포인트 📌 무슨 일인지구글이 AI 노트 도구 NotebookLM(구글노트북LM) 을 Gemini Notebook 으로 리브랜딩한다고 발표했습니다.핵심만 추리면 이렇습니다.이름만 변경: 서비스 본체·URL 진입점·기능은 그대로. 브랜드를 'Gemini' 계열로 통일하는 작업입니다.독립 앱 유지: Gemini 앱에 흡수·폐지되는 게 아니라 별도 앱으로 계속 운영됩니다. 다만 Gemin..
페르소나AI 출력 흔들림 잡는 언어 Baml ⚡ 한 줄 요약:페르소나AI를 만들 때 "역할이 자꾸 깨지고 JSON이 망가지는" 문제는,프롬프트를 타입이 있는 함수로 선언하는 오픈소스 언어 Baml(BoundaryML)로 상당 부분 잡을 수 있다.프롬프트를 문자열이 아니라 코드로 관리하는 접근이다. 📑 목차📰 무슨 일인지🧩 배경 — 프롬프트가 '문자열'이라서 생기는 문제🛠 개발자에게 주는 의미💻 실무 적용 — 페르소나 함수 한 개 짜보기✅ 체크포인트 — 그래서 뭘 해보면 되나 📰 무슨 일인지HackerNews에 BoundaryML의 Baml이 다시 올라왔다.소개 문구는 "The Programming Language for Agents" — 에이전트를 위한 프로그래밍 언어다.핵심은 이렇다.LLM에게 무언가를 시키는 코드는 지금 대부분 거..
디지털치매 부르는 AI 사고 위임 ⚡ 한 줄 요약:'디지털치매'는 검색·내비·AI에 기억과 판단을 넘겨 뇌의 인출 근육이 약해지는 현상으로,AI 코딩 시대엔 "AI에 맡길 일 / 내가 직접 풀 일"을 미리 나누는 규칙만 있으면 예방 가능하다.무조건 안 쓰기가 아니라 '선택적 위임'이 답이다. 📑 목차🧠 무슨 일인지🔌 배경 — 인지 오프로딩이 뭔가👨‍💻 개발자에게 주는 의미🛠 실무 적용 — 위임 판단 함수✅ 그래서 뭘 해보면 되나 🧠 무슨 일인지최근 아트피시(artfish.ai)의 에세이 "Are we offloading too much of our thinking to AI?"가 해커뉴스에서 294포인트·댓글 287개를 모으며 논쟁이 됐다.요지는 단순하다.우리는 기억을 검색엔진에, 길찾기를 내비에, 이제 사고 자체를 LL..
올라마 6500만 달러 투자, 사용자 900만 ⚡ 한 줄 요약: 로컬 LLM 실행 도구 올라마(Ollama)가 6,500만 달러(시리즈 A 추정)를 유치하고 사용자 약 900만, GitHub 스타 176,000개를 넘겼다 — "내 PC에서 오픈소스 모델을 API처럼 돌리는" 방식이 실무 표준으로 굳어지고 있다는 신호다. 📑 목차무슨 일인가배경 — 올라마가 정확히 뭘 해주나개발자에게 주는 의미실무 적용 — 로컬 LLM을 API처럼 쓰기체크포인트 — 그래서 뭘 해보면 되나 무슨 일인가오픈소스 AI 개발 도구 올라마(Ollama)가 벤치마크 캐피털(Benchmark) 주도로 6,500만 달러를 유치했다고 테크크런치가 보도했다.지표만 보면 사용자 약 900만 명, GitHub 스타 176,000개, 포크 약 17,000개다.숫자 자체는 크지만, 개발자..
미스트랄AI란? 개발자용 오픈웨이트 LLM 정리 ⚡ 한 줄 요약: 미스트랄AI는 가중치를 내려받아 자체 호스팅·미세조정할 수 있는 '오픈웨이트' LLM을 내놓는 유럽 AI 기업이고, API가 OpenAI 호환 형식이라 base_url 한 줄 교체만으로 기존 코드에서 바로 병행 테스트할 수 있다. 📑 목차무슨 일인지 — TechCrunch가 갱신한 미스트랄AI 개요배경 — 오픈웨이트 LLM, MoE, 그리고 라이선스 함정개발자에게 주는 의미 — 미스트랄 API vs 자체 호스팅실무 적용 — LLM 라우팅 + 장애 폴백 코드체크포인트 무슨 일인지 — TechCrunch가 갱신한 미스트랄AI 개요TechCrunch가 7월 4일 "미스트랄AI란 무엇인가" 정리 기사를 갱신했다.2023년 파리에서 딥마인드·메타 출신 연구자들이 창업했고, "프런티어 AI를..
미스트랄AI, 개발자가 주목할 오픈소스 강자 ⚡ 한 줄 요약: 미스트랄AI는 '가중치를 열어주는' 유럽발 오픈AI 대항마다. 개발자에겐 자체 호스팅·미세조정이 가능한 API 선택지가 하나 더 생겼다는 뜻이다. 📑 목차무슨 일인지배경 — 미스트랄은 어떤 회사인가개발자에게 주는 의미실무 적용 포인트체크포인트 — 그래서 뭘 해보면 되나 무슨 일인지테크크런치가 미스트랄AI(Mistral AI)를 "오픈AI의 경쟁자"로 정리한 소개 기사를 냈다.핵심은 세 가지다.2023년 창업, 상당한 규모의 투자 유치, 그리고 "프런티어 AI를 모두의 손에(put frontier AI in the hands of everyone)"라는 지향이다.여기서 개발자가 붙잡아야 할 단어는 마케팅 문구가 아니라 오픈소스(정확히는 오픈 웨이트) 다.미스트랄은 자사 모델 중 일부..
웍스AI 쓰기 전 알아둘 AI 용어 10개 ⚡ 한 줄 요약: 업무용 AI를 고를 때 마케팅 문구가 아니라 '환각·RAG·컨텍스트 윈도우' 같은 용어 뜻을 알아야 헛돈을 안 쓴다. 📑 목차무슨 일인지배경 — 왜 지금 '용어'인가개발자에게 주는 의미실무 적용 — 개념을 코드로체크포인트 무슨 일인지TechCrunch가 올해 판 'AI 용어 사전'을 공개했다.생성형 AI가 쏟아낸 신조어·약어가 워낙 많아, 기사·제품 소개서·계약서마다 등장하는 단어를 한 곳에 정리한 레퍼런스다.AGI, 환각(hallucination), 추론(inference), 트랜스포머, 파인튜닝 같은 핵심어의 정의를 담았다.문제는 이 용어들이 학술 용어에 그치지 않는다는 점이다.사내에 웍스AI나 협업 메신저 기반 업무 비서를 도입할 때, 벤더가 내미는 소개서가 정확히 이 단어들..
AI 용어 정리 개발자가 헷갈리는 5쌍 ⚡ 한 줄 요약: AI 용어는 외우는 게 아니라 '헷갈리는 쌍'으로 구분해야 실무에서 안 틀린다. 📑 목차무슨 일인지배경 — 왜 '쌍'으로 봐야 하나개발자에게 주는 의미실무 적용 — 용어를 코드로 매핑체크포인트 무슨 일인지TechCrunch가 올해도 'AI 용어 사전(AI glossary)'을 갱신해 내놨다.생성형 AI가 퍼지면서 hallucination, inference, distillation 같은 단어가 회의·PR·제품 스펙에 뒤섞여 등장하는데, 정작 정의가 제각각이라 대화가 어긋나는 일이 잦다.그래서 "가장 자주 마주치는 핵심 용어를 한자리에 모았다"는 취지의 글이다.그런데 개발자에게 필요한 건 단어 나열이 아니다.정의를 각각 읽으면 다 아는 것 같은데, 막상 비슷해 보이는 두 용어를 구분..
국비지원AI교육 후 진짜 쓰는 LLM 코딩법 ⚡ 한 줄 요약: 요즘 개발자들은 LLM에게 "코드 짜줘"라고 던지는 대신, 계획·검증·반복 루프를 스스로 설계해 쓴다 — 이 '사용법'이 국비지원AI교육이 잘 안 가르치는 진짜 실무 역량이다. 📑 목차무슨 일인지배경 — '코드 생성'에서 '작업 루프'로개발자에게 주는 의미실무 적용 포인트체크포인트 무슨 일인지해커뉴스에 올라온 질문 하나가 개발자들 사이에서 조용히 회자되고 있다."LLM을 코딩에 쓰는 다른 방식들을 실험해 본 사람 있나?"라는 물음이다.주목할 점은 질문의 방향이다."어떤 모델이 제일 똑똑하냐"가 아니라 "같은 모델을 어떻게 다르게 굴리느냐"를 묻는다.모델 성능 경쟁이 어느 정도 평준화되면서, 이제 승부처가 '도구'에서 '사용 방법론'으로 옮겨가고 있다는 신호다.이건 국비지원AI교육을..

티스토리툴바