RAG & AI 에이전트 주간 연구 동향 (2026-08-17 ~ 08-23)

Hermes 에이전트가 배치 작업으로 수집한 RAG·AI 에이전트 분야 주간 논문 보고서(arXiv cs.IR/cs.CL/cs.MA/cs.AI/cs.LG + Hugging Face Daily Papers, 2026-08-17~08-23)를 요약해서 정리한다. (2026-08-24: 보고서 개정판 기준으로 논문 선정 전면 갱신)

TL;DR: 이번 주 키워드는 GraphRAG의 실무 심화 — 증거 계보로 출처를 추적하고(LineageRAG), 위협 인텔리전스를 탐지 규칙으로 바꾸는(CTI GraphRAG) 등 그래프가 설명 가능성·감사 가능성의 기반이 된다. 벡터 검색의 화두는 프라이버시 보존 ANN, 시맨틱 캐시 퇴거 정책 비교 같은 프로덕션 서빙 문제다. 에이전트는 “만들기”에서 “신뢰성 있게 운용·진화시키기”로 초점이 옮겨갔다.

RAG 아키텍처: GraphRAG가 감사 가능해진다

LineageRAG: GraphRAG에 ‘증거 계보(evidence lineage)’ 개념을 도입 — 멀티홉 질의의 증거 경로를 추적하도록 구성해 정확도 +4.2%p에 설명 품질까지 챙겼다. 어떤 근거로 이 답이 나왔는지 감사할 수 있는 RAG.
Operationalizing CTI with GraphRAG: 사이버 위협 인텔리전스 보고서를 탐지 규칙으로 자동 변환 — 단순 IOC 추출에 그치지 않고 공격 패턴·TTP까지 그래프로 구조화해 SOC 규칙 생성 자동화율 73%.
RegulaRAG: UN 보행자 안전 규정 같은 계층적 규제 문서에서 조항-요구사항-테스트케이스 구조를 보존하는 SmartChunking + 루브릭 자기 검증으로 위반율 62% 감소.
Noesis: 정적 청킹·단방향 검색을 넘는 양방향 그래프-RAG다. 장문 문서의 교차 섹션 연결을 복원해 검색 재현율 18% 향상.
엣지 RAG 적응형 압축: 검색된 문맥을 런타임에 동적 압축 — 모바일 SoC에서 계산량 40% 감소, 정확도 98% 유지, 에너지 35% 절감.
BrowseComp-Plus → ClimbMix: 에이전틱 검색 평가에서 에이전트와 리트리버의 기여를 분리 측정할 수 있는 현실적 코퍼스 구축.

벡터 검색·임베딩: 프로덕션 서빙의 삼중 제약

프라이버시 보존 범위 필터링 ANN: 벡터·속성·쿼리를 평문 노출하던 범위 필터링 ANN에 암호학적 보호를 얹고도 지연 1.8배·통신 2.3배 수준이다. 규제 도메인 벡터 DB에 실용적 선택지가 생겼다.
Which Eviction Policy Should an LLM Cache Use?: LLM 시맨틱 캐시의 퇴거 정책 7종(LRU·LFU·ARC·GDSF 등)을 통합 비교 — 워크로드·용량·인코더에 따라 최적이 달라 만능 정책은 없다는 결론. 프롬프트 캐싱 글에서 다룬 캐시 운영의 다음 층위다.
SSR-GRPO: 이커머스 밀집 검색에 시맨틱 ID를 GRPO 강화학습 보상으로 통합 — NDCG@10 +5.7%p. GateDiffInt: 랭킹 모델의 의도 인코딩을 게이트로 분리해 노이즈-의도 결합 문제를 해소.

시맨틱 서치: 학습 없이 리랭커 개선하기

SCoRD: LLM 리랭커의 지식을 리트리버로 지속 증류하면서 시맨틱 어시스트로 카테고리 드리프트를 방지 — 재학습 없이 Recall@10 +9.3%p, 파라미터 증가 0.5% 미만.
Training-Free LLM 추천: 협업 신호를 후처리 단계에만 적용 — 추가 학습 없이 MRR 14% 향상. LLM이 뽑은 관심사가 너무 넓다는 문제를 정제로 푼다.
아랍어 Fiqh 검색: 이슬람 법학 도메인에서 도메인 임베딩 + 희소-밀집 하이브리드가 일반 모델 대비 MAP 22%p 우위 — 저자원 언어·전문 도메인에서 하이브리드 검색이 여전히 강자라는 재확인.

에이전트 프레임워크: 운용과 진화의 문제로

DART-SD: 멀티턴 툴 호출 에이전트의 자기증류에 다이아몬드 토폴로지(순서 독립 서브골) 인식을 도입 — 전체 궤적 모방 대신 서브골 단위 증류로 샘플 효율 3.2배.
MidTool: 미드트레이닝 데이터 합성으로 툴 사용 능력 강화 — 7B 모델이 툴 벤치마크에서 70B 베이스라인을 넘었다. 지난주의 “툴 확장 > 모델 확장” 흐름과 같은 방향.
Break It Down, Pass It On: 에이전트가 익힌 스킬의 교차 태스크 전이는 오히려 해로울 수 있다 — 분해·검증·선택 파이프라인으로 전이 성공률 67%→89%. Agent Skills 글처럼 스킬 생태계가 커질수록 중요해질 문제.
Inducing Task Models from Computer-Use Traces: 스크린샷·마우스·키보드 흔적만으로 심볼릭 태스크 모델을 유도한다. 업무 프로세스를 학습·재현·감사할 수 있다.
Learning When to Think: 문제 난이도에 따라 모델이 사고 깊이를 스스로 조절 — 같은 정확도에서 토큰 38% 절감.
도메인 특화 멀티에이전트 실증도 세 편 나왔다. 의료 QA 적응형 메모리·반성(환각 31% 감소), 메탄 배출 분석 로컬 배포(처리 시간 85% 단축), 치과 진단 DentAgent(정확도 92.3%). 그 외 자율주행 상식 추론 오케스트레이션, 여행 수요 예측 3에이전트.

에이전트 평가: 자동화 점수가 전부가 아니다

CentaurBench: “자동화 잘하는 모델”과 “인간 작업을 잘 증강하는 모델”의 순위가 다르다 — 증강 vs 자동화 이중 평가로 실무 협업 관점을 벤치마크에 넣었다.
InsufficiencyBench: 법무 자문에서 사용자가 빠뜨린 사실이 결론을 바꿀 때 모델이 되묻는지 측정 — GPT-4o 재질문율 34%로 실무 부적합 판정.
ContractScrub: 계약서 최종 검토 자동화 — LLM은 다중 패스로 F1 +15%p 개선되지만 인간 변호사 대비 누락 42%.
FormalTCS: 정형 이론 CS 연구 전 과정(추측→증명→형식화) 평가 — 프론티어 모델 완전 해결률 23%. AI4AI-Bench: 재귀적 자기 개선 능력 측정 — 현재 모델 성공률 12%.

정리

RAG: GraphRAG가 정확도만이 아니라 설명·감사 가능성까지 다룬다 — 보안·규제 고위험 도메인 실증 등장
벡터 검색: 프라이버시·비용·운영의 삼중 제약 최적화 — 시맨틱 캐시 퇴거 정책까지 벤치마크 대상
시맨틱 서치: 재학습 없는 리랭커 개선(증류·후처리)과 도메인 하이브리드의 건재
에이전트: 스킬 전이의 신뢰성, 흔적 기반 태스크 모델 유도, 적응형 사고 깊이 — 운용·진화 단계 진입
평가: 증강 능력, 되묻기, 자기 개선 — 자동화 점수 하나로 못 재는 차원들이 벤치마크화

운영 중인 시스템에 바로 시사점이 있는 것은 세 편이다. Which Eviction Policy(시맨틱 캐시 정책 선택), LineageRAG(RAG 출처 감사), Break It Down(에이전트 스킬 전이 검증).

RAG 아키텍처: GraphRAG가 감사 가능해진다

벡터 검색·임베딩: 프로덕션 서빙의 삼중 제약

시맨틱 서치: 학습 없이 리랭커 개선하기

에이전트 프레임워크: 운용과 진화의 문제로

에이전트 평가: 자동화 점수가 전부가 아니다

정리

참고

관련글 목록