RAG & AI 에이전트 주간 연구 동향 (2026-07-27 ~ 08-02)

Perplexity 배치 작업으로 수집한 RAG·AI 에이전트 분야 주간 논문 보고서(arXiv cs.IR/cs.CL/cs.MA/cs.AI/cs.LG + Hugging Face Daily Papers, 2026-07-27~08-02)를 요약해서 정리한다.

TL;DR: 이번 주 RAG 연구는 그래프-LLM 심층 융합이 뚜렷했다 — GLM 기반 리트리버가 OOD 일반화에서 우위를 보였고, 에이전틱 RAG는 검색 행동을 RL·상태 머신으로 학습 제어하는 흐름이 이어진다. 벡터 검색은 인스토리지 가속(NAND 내 검색)까지 내려갔고, 에이전트 평가는 “능력 점수”에서 “프로덕션 레디니스·채점 신뢰성”으로 패러다임이 이동 중이다.

RAG 아키텍처: 그래프-LLM 융합과 학습된 증거 제어

GLM-RAG: Graph Language Model 기반 리트리버로 GNN·벡터 검색 대비 OOD 일반화 우위 입증, 멀티홉 벤치마크 2종 SOTA. GNN은 그래프 커버리지·학습 효율, 벡터 검색은 싱글홉이 강점이라는 역할 구분도 정리.
Aethel: 이분 Personalized PageRank + 코리퍼런스 인식 텔레포테이션으로 금융 실사 멀티홉 검색. 2WikiMultiHopQA HR@5 100%. 흥미로운 정직함 — 오픈 코퍼스에서는 강한 BM25 기준선에 미달함을 함께 보고.
GRASP / DynaKRAG: 검색 도구·그래뉼러리티·증거 오퍼레이션(검색·비평·충분성 판단)을 RL·상태 조건부 제어로 학습. DynaKRAG은 충분성 피드백 제거 시 4~6p 하락을 보여 “추가 검색이 균일한 이득이 아님”을 실증.
도메인 특화 GraphRAG도 계속: 컴팩트 도메인 LLM을 얹은 RAGU, FAIR 원칙 기반 FAIR GraphRAG.

벡터 검색·임베딩: 효율이 하드웨어까지 내려간다

ReToken: 학습 가능한 토큰 하나로 KV 캐시에서 쿼리 관련 시각 토큰을 희소 선택 — Visual Haystacks에서 Qwen3VL-8B +13.4p, 롱 비디오 제로샷 +8.0p를 단일 H100으로.
D-NOVA: 3D NAND 어레이 안에서 IVF 계층 검색을 수행하는 인스토리지 가속기 — CPU 대비 41.7배 속도, 71배 에너지 효율. 벡터 검색 최적화가 소프트웨어를 넘어 저장장치 하드웨어 공동 설계로 확장되는 신호.
임베딩 모델 선정 프레임워크: 태스크·도메인·리소스 제약별 모델 비교·선정 가이드라인 — 실무에서 바로 참고할 만한 서베이.

시맨틱 서치: 클레임 단위 검색과 도메인 특화

AskChem: 화학 문헌 14.7만 편을 “출처 보유 클레임” 240만 개로 분해·인덱싱 — 논문 단위가 아니라 주장 단위로 검색한다. DOI 해결률 100%, 최고 인용 밀도. 시맨틱 하이라이트 글에서 본 “문장 단위 관련성” 흐름의 극단적 발전형.
크로스엔코더 지식 증류: LLaMA 3 8B LoRA+양자화로 RAG 리랭킹 경량화. 법령 도메인 L2R: 이기종 LLM 앙상블 + 피처 기반 리랭킹.

에이전트 프레임워크: 협업 계층의 재발견

AgentRadio: 코딩 에이전트 간 비동기 메시지 패싱(스레드·멘션)으로 중도 발견을 공유 — 단일 Claude Code 32.3% → 4-에이전트 62.1%(+29.8p). 상위 모델 단일 실행도 능가해, “더 큰 모델”보다 “중도 수정 가능한 협업”이 유효함을 시사. 오케스트레이션 개념 글의 메시지 버스 계층이 성능 축에서 검증된 셈.
AGAO: 트랜스포머 어텐션 개념을 워크플로 레벨로 확장 — 목표·토폴로지·리소스 3중 어텐션으로 중요 경로에 계산 집중.
Stop Shipping AI Agents on Faith: 벤치마크 능력 점수 ≠ 프로덕션 레디니스. 신뢰성·거버넌스·비용·안전 4차원 PAI 지수 제안.
그 외: 멀티에이전트 확장성 분석(2607.27942), ToM 기반 사회적 학습 선택(2607.28601), 협력-의무 커플링 감사(2607.27429).

에이전트 평가: 채점 자체를 의심하기 시작했다

How Benchmarks Mis-Score Computer-Use Agents: 실패 판정 궤적 150개를 감사하니 15.3%가 채점 오류(평가자 false negative 10.7% + 깨진 태스크 4.7%). 벤치마크 수치를 믿기 전에 채점 파이프라인부터 봐야 한다는 경고.
LayerRAG-Bench: 에이전틱 RAG를 9개 결함 레이어(리트리벌~오케스트레이션)별로 신뢰성 측정 — 단일 지표의 한계 극복 시도.
E-Bench: 실제 제품(게임·음악·회의) 시나리오 323개 상태 변경 태스크 — 최신 LLM도 Pass@3 60% 미만. SecRespond: 침해사고 대응 최초 벤치마크, 23개 프론티어 모델 전부 종합 치료 계획 미완료.
Protocol Validity: 태스크 구성→궤적 관찰→채점→보고 단계별 타당성 프레임워크.

정리

RAG: 그래프-LLM 융합 리트리버의 OOD 우위, 증거 획득의 학습 제어 — “언제 더 검색할지”까지 모델이 배운다
벡터 검색: KV 캐시 희소화, 인스토리지(NAND) 검색 — 효율 최적화가 하드웨어 계층까지 하강
시맨틱 서치: 문서 → 클레임 단위 인덱싱, 도메인 특화 리랭킹
에이전트: 비동기 협업 계층이 모델 업그레이드보다 큰 이득을 내는 사례 등장
평가: 채점 오류율·레이어별 신뢰성·프로덕션 레디니스 — “몇 점인가”에서 “그 점수를 믿을 수 있나”로

운영 중인 시스템에 바로 시사점이 있는 것은 AgentRadio(멀티에이전트 메시지 계층), LayerRAG-Bench(RAG 장애 진단 축), 그리고 벤치마크 채점 감사 논문 세 편이다.

RAG 아키텍처: 그래프-LLM 융합과 학습된 증거 제어

벡터 검색·임베딩: 효율이 하드웨어까지 내려간다

시맨틱 서치: 클레임 단위 검색과 도메인 특화

에이전트 프레임워크: 협업 계층의 재발견

에이전트 평가: 채점 자체를 의심하기 시작했다

정리

참고

관련글 목록