AI 개발글
토스·라인·앤트로픽·오픈AI 같은 회사와 개발자의 기술 블로그에서 AI 개발 글만 골라 짧게 요약합니다. 누르면 원문으로 갑니다.
마지막 탐색 10월 19일 오후 7:44
Zero's Blog10월 19일 수집
RAG는 도대체 뭘까
쇼핑몰 상담 챗봇을 예로 질문마다 필요한 문서 조각만 찾아 LLM에 넣는 RAG를 랭체인 코드 흐름과 함께 설명한다. 앤트로픽 '문맥 검색' 사례를 인용해 청크에 문맥을 붙이면 검색 실패가 35%, 키워드 검색을 더하면 49%, 재순위까지 하면 67% 줄었다고 소개한다. 문서가 20만 토큰보다 작으면 통째로 넣는 쪽을 먼저 검토하라는 조언도 담았다.
에이전트모델·평가
클로드는 정말 당신의 이름을 기억하고 있을까? - LLM과 컨텍스트
API 호출은 하나하나 독립적이라 모델은 이전 호출을 기억하지 못하고, 채팅 앱이 지난 대화를 매번 다시 보내기 때문에 기억하는 것처럼 보인다는 설명이다. "내 이름은 영수야"를 함께 보내면 이름을 부르고, 빼고 보내면 모른다고 답하는 예로 보여 준다. 클로드 코드의 CLAUDE.md나 메모리 파일도 세션 시작 때 컨텍스트에 넣어야 쓰인다는 점까지 짚는다.
모델·평가에이전트
랭체인과 랭그래프가 도대체 뭘까
랭체인은 모델 연결·프롬프트·도구·RAG 같은 부품을 주는 도구이고, 랭그래프는 상태와 노드·엣지로 실행 흐름을 제어하는 엔진이라고 정리한다. 둘은 서로 대체하는 관계가 아니라 층이 다르다는 설명이다. 한 번 호출이면 모델 API를 직접, 도구를 쓰는 에이전트는 랭체인, 사람 승인·분기·중단 후 재개가 필요하면 랭그래프를 쓰라고 권한다.
에이전트
Hugging Face10월 19일 수집
리플렉션 'Beam' 공개…5010억 매개변수 오픈 모델, 아파치 2.0
리플렉션이 토큰마다 230억 개만 쓰는 5010억 매개변수 MoE 모델 Beam을 아파치 2.0으로 공개했다. 문맥은 100만 토큰이고 SWE-bench Verified 81.6%, Terminal Bench 80.1%를 냈다고 밝혔다. transformers·vLLM·SGLang에서 바로 돌릴 수 있다.
모델·평가
LY Corporation10월 19일 수집
AI로 E2E 회귀 테스트 자동화하기: '딸깍'을 파이프라인으로 바꾸기까지
AI가 만든 E2E 테스트가 돌기는 해도 엉뚱한 걸 검증하는 문제를, 명세 추적·빈칸 질문·실행 전 검사·일부러 틀린 기댓값으로 위양성 확인·사람용 리뷰 묶음으로 푼 기록이다. 수동 회귀 테스트 98개를 모두 Playwright로 옮기고 196개로 늘렸다.
코딩 도구도입 사례
뱅크샐러드10월 19일 수집
AI 코딩 시대, DDD가 더 필요해진 이유
AI가 코드 대부분을 쓸수록 그 코드를 감당할 구조가 중요해진다는 글이다. 뱅크샐러드는 Go 신용 서비스를 비즈니스 단위 바운디드 컨텍스트와 4계층으로 나눴고, 코딩 에이전트가 읽어야 하는 코드가 수 배 줄고 리뷰 범위도 좁아졌다고 전한다.
코딩 도구도입 사례
LangChain10월 19일 수집
에이전트 평가, 어디서부터 시작하나…자주 묻는 질문 정리
에이전트 평가를 처음 붙이는 팀이 자주 묻는 것들을 모았다. 오프라인·온라인 평가의 차이, 평가자 종류와 LLM 심판, 여러 턴 대화 평가, 비용을 줄이는 법까지 다룬다.
에이전트모델·평가
Anthropic Engineering10월 19일 수집
앤트로픽, 에이전트 때문에 git을 버렸다…자체 버전 관리 'Scion'
하루 머지가 5월 약 2천500건에서 9월 3만 건 넘게 늘자 앤트로픽이 모노레포의 git을 자체 버전 관리 시스템 Scion으로 바꿨다. 커밋·머지·기록 조회를 서버에서 처리하고 필요한 파일만 내려받게 해, 옛 git 미러보다 CPU·메모리를 약 200배 덜 쓰고 체크아웃은 몇 분에서 몇 초로 줄었다. 범용 git 대체품은 아니라고 선을 그었다.
인프라·서빙에이전트
토스 테크10월 19일 수집
서비스 개발에 집중할 수 있는 AI 플랫폼 만들기
토스 AI 플랫폼 팀이 서비스 팀마다 따로 만들던 모델 연동·권한·사용량 집계·장애 대응을 한곳에 모은 이야기다. 사용 신청 포털, 모델 호출 게이트웨이, 사내 도구용 MCP 게이트웨이, 입력 가드레일, Langfuse 추적, CLI로 구성했고 데이터 등급(L1~L4)과 SLA 등급에 따라 다르게 적용한다.
인프라·서빙도입 사례
사내 코딩 에이전트를 직접 만드는 오픈소스 'Open SWE'
랭체인이 Deep Agents와 LangGraph 위에 만든 오픈소스 프레임워크로, 회사 안에서 쓰는 코딩 에이전트의 뼈대를 제공한다. 사내 저장소·도구에 맞춘 코딩 에이전트를 처음부터 짜지 않고 시작하려는 팀이 읽을 만하다.
코딩 도구에이전트
GitHub Blog10월 19일 수집
깃허브, 비밀 키 탐지에 문맥 읽는 모델…더 많이 찾고 오탐은 줄였다
깃허브가 코드에 섞인 API 키 같은 비밀 값을 찾는 분류 모델을 소개한다. 주변 문맥을 읽어 판단하게 바꾸자 가중 채택률이 11.5% 올랐고, 검사 시간 중앙값은 86% 줄었다고 밝혔다.
보안모델·평가
내 컴퓨터에서 빠르게 도는 에이전트용 모델, 리퀴드 AI 'LFM2.5-24B-A2B'
리퀴드 AI가 공개한 240억 매개변수 추론 모델로, 토큰마다 20억 개만 써서 개인 기기에서도 빠르다. 애플 M5 맥스에서 초당 184토큰, 라이젠 AI 맥스+ 395에서 114토큰을 낸다. 오픈 웨이트로 허깅페이스에 올라왔다.
모델·평가에이전트
Latent Space10월 19일 수집
앤트로픽 '다이내믹 워크플로'가 클로드 에이전트 여럿을 굴리는 법
AI 엔지니어 뉴욕 행사에서 앤트로픽이 발표한 내용을 정리한 글이다. 유닉스·리눅스에서 얻은 교훈을 빌려, 에이전트가 큰 프로젝트를 나눠 맡으면서도 개발자가 감당할 수 있게 조율하는 방식을 설명한다. 발표 영상도 함께 실렸다.
에이전트
CPU 뼛속까지 써먹고, Milvus 사이징 기준을 만들기까지
토스증권 데이터 인프라 팀이 벡터 검색용 Milvus를 최적화한 기록이다. HNSW_SQ8 인덱스로 recall@10 0.954에서 316 QPS를 내면서 replica당 메모리를 약 335GB에서 114GB로 줄였고, CPU와 메모리를 같은 NUMA 노드에 묶어 QPS를 41% 더 올렸다. 측정값으로 서버 대수를 계산하는 사이징 기준까지 정리했다.
인프라·서빙도입 사례
LLM이 만든 SQL을 믿고 실행하기까지: A2A 기반의 대화형 BI 애플리케이션 개발기
자연어 질문을 SQL 생성·실행·시각화까지 잇는 대화형 BI 앱을 A2A로 역할을 나눈 에이전트들로 만든 기록이다. LLM이 쓴 SQL을 믿기 위해 지표 정의를 주는 온톨로지 기반 RAG, 실행 전 행·열 권한을 따로 검사하는 쿼리 가드레일, 위반 사유를 돌려주는 피드백 구조를 붙였다.
에이전트보안
카카오 테크10월 19일 수집
데이터 분석 에이전트를 만들며 배운 컨텍스트 설계
질문에 맞는 데이터를 찾아 SQL을 짜고 실행해 설명하는 데이터 분석 에이전트를 만들며 정리한 컨텍스트 설계법이다. 시스템 프롬프트·도구 명세서·메시지 배열로 나눠, 모델이 좋아지면서 작업 순서 지시를 시스템 프롬프트에서 빼고 도구별 사용 조건을 명세서로 옮긴 과정을 예시 프롬프트와 함께 보여 준다.
에이전트도입 사례- 네이버 D2
네이버 D210월 19일 수집
에이전트, 개념부터 같이 정리해봐요 - 워크플로우·하네스·Context/Memory·MCP/A2A
네이버 사내 테크 밋업에서 인기였던 발표 영상이다. 팀마다 다른 뜻으로 쓰는 워크플로·하네스·컨텍스트와 메모리·MCP와 A2A를 앤트로픽·오픈AI 원문과 스펙을 다시 읽으며 정리했다. 에이전트 논의가 자꾸 겉도는 팀이 같이 보기 좋다.
에이전트 
Cursor10월 19일 수집
커서 'Rollouts'와 'Security Reviewer'…배포 뒤 회귀 감시와 PR 보안 검토
커서가 PR부터 운영까지 변경을 따라가는 Rollouts와, 모든 PR을 코드베이스 전체에 비춰 취약점과 수정안을 내는 Security Reviewer를 내놨다. Rollouts는 머지 전에 감시 계획을 쓰고 배포 뒤 지표를 기준선과 비교한다. Security Reviewer는 평균 검토 시간을 4.8분에서 3.8분으로 줄이고 제안 채택률을 60~70%로 올렸다고 밝혔다.
코딩 도구보안
커서, 에이전트 토큰 비용 7% 줄였다…시스템 프롬프트 66% 덜어내기
커서가 에이전트 하네스를 손봐 품질은 그대로 두고 토큰 비용을 7% 줄였다. 시스템 프롬프트를 약 66% 줄이고, 잘 안 쓰는 기본 도구는 필요할 때만 불러 고정 문맥 토큰을 60% 줄였으며, 프롬프트 캐시 경계를 명시해 콜드 캐시 미스를 20% 줄였다.
코딩 도구
연 300시간을 아낀 AI 상담 서비스
토스뱅크 전세대출 팀이 사용자가 자기 말로 물으면 상황에 맞게 답하는 AI 상담을 만든 이야기다. 상담 전화가 월 550건 줄어 연 300시간을 아꼈고, AI에서 답을 얻은 사용자는 상담 전화로 이어지는 비율이 약 10%p 낮았다. 단계별 자주 묻는 질문을 진입점에 보여 주자 AI 사용률이 최대 약 5배 올랐다.
도입 사례
우아한형제들10월 19일 수집
배달의민족 전자계약서 화면 개편기: AI에게 맡긴 것과 사람이 챙긴 것
전자계약서 작성 화면을 개편하며 코드 대부분을 클로드 코드로 만든 기록이다. 뷰 컴포넌트와 명세·테스트 초안은 AI에 맡기고, 경계 설계·린트 규칙·명세 승인은 사람이 챙겼다. 구현 속도는 이전 개편보다 약 2배 빨랐고 코드 1줄당 테스트는 약 8.5배 늘었지만, 배포 후 2주 동안 버그가 4건 나왔다는 점도 솔직하게 적었다.
코딩 도구도입 사례
LLM에게 어디까지 맡길 것인가: AI 에이전트 기반 광고 분석 리포트 자동화
LINE 광고 데이터 분석 팀이 광고 매출 변화를 분석하는 일일 리포트를 에이전트로 자동화해 슬랙·이메일로 보낸 사례다. 계산·후보 선정·정합성 검증은 코드가 맡고, LLM은 검증된 사실을 해석해 문장으로 쓰며, 원인 탐색은 허용된 분석 범위 안에서만 도구 호출 에이전트가 한다.
에이전트도입 사례
리더보드 1등 LLM, 토스에서도 1등일까? - Toss Benchmark 구축기
공개 리더보드 점수가 실제 업무 성능을 보장하지 않는다고 보고, 토스가 한국어 범용 성능과 토스 도메인 성능을 함께 재는 벤치마크를 만들었다. 운영 태스크·정책 준수(Toss IFBench)·커머스 지식(Toss Knowledge)으로 구성했다. 영어 수학에서 1위였던 gemma-4-26B는 한국어 번역본에서 81.74점에서 72.43점으로 떨어져 2위가 됐다.
모델·평가도입 사례