사내 AI 에이전트 솔류션인 MISO AI를 활용해 AI Agent를 개발했던 경험을 적어보려고한다.
MISO AI는 노코드 기반의 사용자 친화적인 UI를 가진 AI Agent 개발 플랫폼이다.
[해커톤]
해커톤은 자유주제로 AI Agent를 개발해내는 것이었다.
총 작업은 아이디어부터 발표준비까지 10:00~17:00 총 7시간이 주어졌다.
랜덤으로 조가 편성되고 2인 1조로 하여 진행되었다.
나는 팀원과 함께 3단계로 해커톤을 진행했다.
1. 아이디어 선정
2. 1차 워크 플로우구축
3. 워크 플로우 고도화
1) 아이디어 선정
우리팀은 여러 아이디어가 나왔었지만 그중 가장 재밌게 Agent를 만드는 것을 목표로 아이디어를 선정했다.
아이디어는 "신입을 위한 회식장소 추천 에이전트"였다.
2) 1차 워크플로우 구축
우선은 웹 크롤링을 통해 회식 장소를 추천하려고 했었다.
흐름: [요청] -> [웹크롤링] -> [답변]
2-1) 1차문제
유명 사이트들의 웹 크롤링에서 퀄리티 문제가 있었다.
크롤링이 가능한 사이트를 퀄리티가 낮았고, 퀄리티가 높은 사이트는 크롤링이 어려웠다.
(아예 크롤링이 안되거나 너무 양이 많아서 timeout나는 문제 등)
그래서 웹 크롤링을 없애고, 아예 우리가 파일화 하여 RAG로 만든다음 답변하자라고 얘기가 나왔다.
흐름: [요청] -> [RAG] -> [답변]
2-2) 2차문제
그런데 RAG를 이용하다보니 최신 정보가 반영 안될수도 있다는 문제가 있었고,
그래서 병렬처리로 RAG와 함께, 최신정보를 받아오는 LLM를 하나 추가하였다.
흐름: [요청] -> [RAG]
[LLM] -> [답변]
3) 워크플로우 고도화
이제는 충분히 답변을 잘 해내는 에이전트가 되었지만, 아쉬운 점들이 있었다.
실제 사용한다고 가정했을 때, 지난번에 갔던 회식장소나, 실제 사용자들이 별로라고 평가했거나, 좋다고 평가했던 정보가
반영되지 않는다는 문제가 있었다.
그래서 우리는 RAG에 하나의 추가적인 지식베이스를 더했다.
바로 이전 회식장소에 대한 정보를 추가하는 것이었다.
이를 통해 너무 겹치지 않는 회식장소를 제외할수도 있고, 마음에 드는 회식장소를 더 추천할수도 있는
실사용에 가까운 에이전트로 고도화하였다.
흐름: [요청] -> [RAG] + [RAG]
[LLM]
-> [답변]
또한 추가적으로 실제로 선택했을 때 네이터 예약까지도 하려고했지만, 해당 api를 네이버에서 제공을 하지 않아서 해당 기능은 제외한 대신, 페르소나를 입혀서 처음 주제였던 신입사원을 위해 상사에게 선정한 회식장소 탑3개와 함께 보고용 문구를 제안해서,
dooray메신저로 보내주는 기능을 추가해 완성하였다.
흐름: [요청] -> [RAG] + [RAG]
[LLM]
-> [답변] + [메신저]
[회고]
AI Agent를 처음 만들어 보았다.
AI Agent라는 단어 자체가 어렵게 느껴졌고, 어떻게 하루만에 아이디어부터 설계, 개발까지 가능할까 의심이 들었다.
하지만 가능했고, 심지어는 더 자유롭게 더 많은 것들을 짧은 시간 안에 해낼 수 있었다.
MISO AI와 같은 서비스는 회사 입장에서 도입하면 좋을 것 같다는 생각이 들었다.
AI Agent를 클로드 코드나 다른 AI가 충분히 잘 하는거 같다고 생각할 수도 있다.
하지만 직접 해보면 다름을 느낄 수 있다.
클로드 코드라 하더라도 매번 새로운 Agent를 만들 때마다 학습을 시켜야하고, 배포하는 것부터 일관되지 않는 문제 등을 마주칠 수 있다.
MISO AI는 생각한 걸 클릭 몇번으로 바로바로 구현해내 내 눈으로 볼 수 있다.
또한 다른 팀원들과 공유도 즉각적이다. (개인별 커스텀도 충분히 가능하다)
MISO AI는 단순 Agent를 만드는 것만이 아니라, 어려울 것만 같고, 귀찮게만 느껴지는 AI Agent 개발의 부담을 줄여주고,
더 자유로워지고, 더 생산성 있는 AI Culture, AI문화(AC)를 만들어 낼 수 있는 플랫폼이라고 생각이 들었다.
사내에 AI와 멀었던 직원들이 어느순간 AI Agent를 직접 만들고 활용하고 있는 모습을 상상해볼 수 있다.
처음 GHAT GPT를 직원들이 쓰면서 점차 시대에 맞춰갈 수 있는 사람이 되었던 모습을 떠올리면,
MISO AI는 AI Agent시대의 발받침대가 될 수 있을 것이다.