[Cloud] - AWS Gen & Agentic AI (with. AWS Cloud 특강)

오늘의 강의는 AWS에서의 Gen AI & Agentic AI의 개념 이해와 실습 적용을 해보았다.

Part1 : 이론, AWS에서의 Generative AI & Agentic AI

1-1. 생성형 AI의 발전 흐름

• 생성형 AI 어시스턴트
  • 질문 → 응답
  • 단일 요청 처리
• 생성형 AI 에이전트
  • 도구 호출
  • 단일 목표 달성
• Agentic AI 시스템
  • 목표 기반 계획
  • 다단계 추론
  • 다중 에이전트 협업
  • 워크플로우 자동화

답변하는 AI → 업무를 수행하는 AI 로 진화하고 있다.

 

1-2. Amazon Bedrock이란?

정의 : Bedrock은 완전 관리형(full managed) 생성형 AI 플랫폼이다. 

특징 : Bedrock의 가장 큰 특징은 인프라를 직접 관리하지 않고, 다양한 파운데이션 모델을 API로 사용할 수 있다는 점이다, 쉽게 AI를 바로 서비스에 연결해서 사용할 수 있다.

 

Bedrock의 등장 배경

기업의 보안/권한/감사로그 등의 환경에 맞는 AI 플랫폼이 필요했음.

또한 다양한 LLM을 하나의 플랫폼에서 관리되는 플랫폼에 대한 제공이 목표였음

 

Bedrock의 핵심 구성요소

• Foundation Model (FM) : 여러 파운데이션 모델을 단일 API로 제공한다. 
  모델을 직접 호스팅하지 않아도 되며 필요에 따라 모델 선택이 가능하다
• Bedrock Playground : 코드 없이 모델을 실험할 수 있는 공간으로 프롬프팅 / 파라미터 조정 등을 해볼 수 있다.
• Bedrock Knowledge Base(RAG) : Knowledge Base기반의 Rag 제공 

 

1-3. Rag (Retrieval Augmented Generation)란?

정의 : LLM이 답변을 줄 때 모델 내부 지식만 사용하는 것이 아니라 외부 데이터 소스를 검새해 답변을 생성하는 방식을 말한다.

RAG = “검색 + 생성”을 결합한 AI 응답 방식

 

Rag의 등장 배경

기존의 LLM은 학습 시점 이후의 정보는 모르며 기업 내부 데이터 접근이 불가능하다는 등의 단점이 있었음

 

Rag 이전의 해결책

1. 모델 재학습                          -> 비용 증가 / 시간 증가 / 유연성 감소

2. 프롬프트에 정보 직접 삽입    -> 컨텍스트 길이 제한

3. 별도 검색 시스템                  -> 응답 품질 통합 어려움

 

Rag의 전략

1. 데이터를 외부에서 가져온다

2. 최신 데이터 반영 가능

3. 내부 문서 기반 응답 가능

 

Rag의 동작 흐름

1. 사용자 질문
2. 질문을 벡터로 변환
3. 외부 데이터에서 관련 정보 검색
4. 검색 결과를 컨텍스트로 구성
5. LLM이 답변 생성

 

 

1-4. MCP(Model Context Protocol)란?

정의 : MCP란 오픈소스 프로토콜로, AI 에이전트가 외부 데이터와 도구에 접근하는 방식을 표준화하기 위해 제안된 개념이다.

MCP = AI 에이전트를 위한 USB-C 같은 표준 인터페이스

 

 

MCP의 등장 배경

• MCP 이전의 문제 : MCP 이전에는, AI와 도구를 연결하는 방식이 도구마다 다 다른 SDK를 사용했음
  그렇기 때문에 AI 앱/에이전트 마다 각각 연동해야하는 코드를 구현해야했음.
• MCP이후 :  AI와 도구 사이의 연결을 위한 통일된 규격이 제공되어서, 한 번 MCP 서버를 만들면 
  AI 도구 / 앱 / 에이전트 등 모두 동일한 방식으로 사용이 가능해졌다.

 

MCP의 핵심 아키텍처 

//TODO 

 

MCP의 핵심 구성 요소

• MCP Host : MCP를 사용하는 주체(AI 에이전트 / AI 앱 등)
• MCP Client : MCP Host 내부에서 인스턴스 형태로 존재하는 중계자 (MCP 서버와 1대1 유지)
• MCP Server : 표준화된 프로토콜을 구현한 경량 서버
• Data Sources : MCP Server가 접근 가능한 자원 (S3, 외부 API, 파일 시스템, DB 등 )

 

MCP 서버의 주요 기능

• Resoucres : 데이터 / 컨텐츠
• Prompts : 프롬프트 표준화 & 재사용
• Tools : 실행가능한 함수 / API

//TODO : MCP client

 

//TODO : Stands 개념 정리 추가

 

---

 

Part2 : 실습, AWS GenAI Immersion Day

이번 실습은 Amazon의 Agentic AI 시스템의 전체 흐름을 이해하고 직접 구성해 보는 과정이었다.

이번에 다룬 실습의 전체 흐름은 아래와 같다.

1. Bedrock Playground에서 모델 실험
2. Knowledge Base 생성 및 RAG 구성
3. Bedrock Agent 생성 및 설정
4. Agent 기반 질의 테스트
5. (개념 실습) Strands-Agents & AgentCore 이해

1. Amazon Bedrock의 Playgroun ( Chat / Text Playground 사용 )

 

• 모델마다 응답 스타일이 다르다는 것을 느꼈음
• 같은 질문이라도 요약 방식, 말투, 세부 설명 차이가 큼
• 제품에 맞는 모델 선택이 서비스 품질에 큰 영향을 준다는 점을 느낌.

2. Knowledge Base 생성 및 RAG 실습

 

• 과정
  • S3 버킷 생성
  • 실습용 문서 업로드
  • Knowledge Base에서 해당 S3 버킷 연결
  • Knowledge Base 구성
• 결과 
  • 질문 시, 업로드한 문서를 기반으로 답변 생성
  • 모델이 “추측”이 아닌 근거 기반 응답을 제공
  • RAG의 핵심 가치(내 데이터 기반 응답)를 확인할 수 있었음

3. Bedrock Agent 생성 실습

• Knowledge Base 실습 이후, 이를 활용하는 Bedrock Agent를 생성했다.
• 설정 항목
  • Agent 이름 및 역할 정의
  • 기본 시스템 프롬프트 설정
  • Knowledge Base 연결
• Agent 동작 방식 확인
  1. 질문을 이해
  2. Knowledge Base에서 관련 정보 검색
  3. 검색 결과를 바탕으로 추론
  4. 최종 응답 생성
  5. 검색 → 판단 → 응답의 흐름을 가진 에이전트