main_agentic_rag.png

Agentic Retrieval Augmented Generation(Agentic RAG)은 검색 시스템의 장점과 에이전트의 현명한 의사 결정을 결합하므로 AI에서 빠르게 인기 있는 접근 방식이 되고 있습니다.

섹션 1: RAG 및 에이전트 이해

RAG(검색 증강 생성)는 실시간 데이터에 대한 액세스를 제공하여 LLM을 개선하는 데 사용되는 방법입니다.

반면에 에이전트는 스스로 결정을 내리고 행동할 수 있는 시스템입니다.

에이전트 RAG에 참여하세요!

섹션 2: Agentic RAG란 무엇입니까?

RAG와 에이전트가 결합되면 에이전트가 전체 프로세스를 담당하여 데이터를 검색할 방법과 시기, 이를 사용하여 가능한 최상의 응답을 생성하는 방법을 결정합니다.

아래 표에는 에이전트, RAG 및 에이전트 RAG의 주요 특징과 기능이 어떻게 다른지에 대한 명확한 개요가 나와 있습니다.

differences.png

Agentic RAG의 작동 방식 ??단계별 예

Agentic RAG가 실시간으로 어떻게 작동하는지 이해하기 위해 예를 살펴보겠습니다.

'저녁에 인터넷이 느린 이유는 무엇인가요?'

단계별 분석:

  1. 사용자 쿼리
    • 시스템은 쿼리를 수신하고 지능형 에이전트를 활성화하여 다음 단계를 결정합니다.
  2. 에이전트가 쿼리를 분석합니다
    • 이를 기반으로 에이전트는 서비스 기록, 네트워크 보고서, 실시간 교통 데이터 등 관련 데이터 소스를 식별합니다.
  3. 에이전트가 검색 전략을 결정합니다
    • 인터넷 서비스 제공업체(ISP)로부터 네트워크 트래픽 보고서를 검색하여 해당 지역의 최대 사용 시간을 분석하세요.
    • 저녁 속도 저하의 일반적인 원인에 대한 정보를 수집하려면 공개 지식 베이스를 쿼리하세요.
  4. 데이터 검색
    • 오후 6시부터 오후 10시 사이에 인근 지역의 혼잡도가 높다는 것을 나타내는 네트워크 트래픽 보고서입니다.
    • 피크 타임 사용 및 혼잡으로 인해 속도가 느려지는 방법을 설명하는 지식 기반 기사입니다.
  5. LLM이 응답을 생성합니다
    • LLM은 이러한 통찰력을 통합한 응답을 생성합니다."피크 시간대에 해당 지역의 트래픽이 많아 저녁에 인터넷 속도가 느려지는 것 같습니다. 혼잡을 피하기 위해 요금제를 업그레이드하거나 사용량이 적은 시간에 인터넷을 사용하는 것이 좋습니다."
  6. 응답 전달
  7. 후속 조치

Agentic RAG의 핵심 사항:

이는 Agentic RAG 작동 방식에 대한 기본적인 예이지만 기존 에이전트와 유사한 방식으로 지식 기반뿐만 아니라 다른 도구 및 서비스와도 상호 작용할 수 있습니다.

섹션 3: 에이전트 RAG 기능

Agentic RAG는 동적 실시간 데이터 검색 및 의사 결정이 필요한 시스템에 매력적인 옵션이 되는 다양하고 강력한 기능을 제공합니다.

  1. 동적 데이터 검색

  2. 자율적인 결정

  3. 컨텍스트 인식 응답

  4. 확장성

  5. 환각의 위험성

  6. 맞춤형 캐주얼 작업

  7. 다동작 가능

섹션 4: 작용성 RAG의 유형

Agentic RAG 시스템은 에이전트 작동 방식과 검색 및 생성 구성 요소와의 상호 작용의 복잡성을 기준으로 분류될 수 있습니다.

  1. 단일 에이전트 RAG
    • 이 유형은 의사 결정에 많은 복잡성이 필요한 단순한 작업이나 시스템에 이상적입니다.
  2. 다중 에이전트 RAG
    • 다중 에이전트 시스템은 다양한 소스에서 다양한 유형의 데이터를 가져와야 하거나 작업을 더 작고 특수한 부분으로 나누어야 하는 더 복잡한 시나리오에 적합합니다.
  3. 계층적 에이전트 RAG
    • 이 유형은 여러 수준에서 전략적 의사 결정이 필요한 매우 복잡한 작업에 유용합니다.

섹션 5: 에이전트 RAG 구현

Agentic RAG 구현을 시작하는 데 사용할 수 있는 몇 가지 리소스는 다음과 같습니다.

  1. https://medium.com/the-ai-forum/implementing-agentic-rag-using-langchain-b22af7f6a3b5
  2. https://github.com/benitomartin/agentic-rag-langchain-pinecone
  3. https://www.llamaindex.ai/blog/agentic-rag-with-llamaindex-2721b8a49ff6
  4. https://docs.llamaindex.ai/en/stable/examples/agent/agentic_rag_using_vertex_ai/
  5. https://www.analyticsvidhya.com/blog/2024/07/building-agentic-rag-systems-with-langgraph/

섹션 6: 에이전트 RAG 과제 및 향후 방향

에이전트 검색 증강 생성(RAG)이 계속 발전함에 따라 잠재력을 최대한 발휘하려면 해결해야 할 몇 가지 과제에 직면해 있습니다.

과제:

  1. 조정 복잡성
    • 에이전트가 검색 작업을 적절하게 동기화하지 않으면 비효율적인 조정으로 인해 응답 시간이 느려지거나 답변이 불완전해질 수 있습니다.
  2. 확장성 문제
    • 대기 시간이 긴 응답과 과도한 검색 파이프라인으로 인해 실시간 동적 데이터 통합의 이점이 줄어들 수 있습니다.
  3. 데이터 품질 및 신뢰성
    • 열악한 데이터 품질은 시스템에 대한 신뢰를 약화시키고 특히 의료나 금융과 같은 중요한 분야에서 잘못된 결정으로 이어질 수 있습니다.
  4. 상담원 의사결정 투명성
    • 투명성이 부족하면 사용자와 개발자가 특정 결정이 내려진 이유를 해석하는 데 어려움을 겪는 "박스 부족" 효과가 발생하여 디버깅과 최적화가 더욱 어려워질 수 있습니다.

향후 방향:

  1. 향상된 상담원 협업 및 조정
    • 이를 통해 보다 원활한 운영이 가능하고 병목 현상이 줄어들며 복잡한 쿼리에 대해 보다 빠르고 정확한 응답이 보장됩니다.
  2. 하이브리드 인간 에이전트 시스템
    • 이는 특히 법적 또는 의학적 결정과 같이 오류의 결과가 높은 영역에서 에이전트의 효율성과 인간의 직관 및 전문 지식을 결합합니다.
  3. 학습 에이전트
    • 학습 에이전트를 사용하면 시스템이 발전할 수 있으며 더 많은 경험이 축적됨에 따라 새롭고 복잡한 쿼리를 더 잘 처리하여 더 스마트하고 개인화된 상호 작용이 가능해집니다.
  4. 윤리적 의사결정 주체
    • 윤리적 의사 결정 대리인은 대응의 편견을 줄이고, 자동화된 프로세스의 공정성을 보장하며, 특히 법 집행 기관이나 사회 서비스와 같은 부문에서 AI 시스템에 대한 신뢰를 구축하는 데 도움이 됩니다.