일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | ||
6 | 7 | 8 | 9 | 10 | 11 | 12 |
13 | 14 | 15 | 16 | 17 | 18 | 19 |
20 | 21 | 22 | 23 | 24 | 25 | 26 |
27 | 28 | 29 | 30 | 31 |
- type
- err
- vscode
- Download
- frontend
- JavaScript
- NeXT
- 상태관리
- FRONT
- error
- react
- Chart
- Package
- CSS
- useState
- antd
- number
- npm
- vue-cli-service
- 이미지
- TradingVIew
- form
- VUE
- axios
- 리액트기초
- 프론트엔드
- 시멘틱태그
- 리액트
- develop
- components
- Today
- Total
개발쬬
2025 AWS SUMMIT 생성형 AI # 당근페이 브로쿼리 아키텍처 본문
최근들어, 아니 이미 오래전부터 AI의 관심도는 급 부상중이였다.
심지어 제작년 AWS SUMMIT 에 방문했을때는 아주 작은 부스들만이 AI에 대해 설명을 하고 있었는데 이번 부스들은 50% 아니 80% 는 AI 관련 서비스와 기술들을 소개하는 자리를 가졌다. 방문한 시간대는 오후 2시 경이였고 정말 많은 관계자들이 1층과 3층을 누비며 새로운 기술을 경험하고 접하고 있었다.
Track 3 생성형 AI
전에는 몰랐는데 각 세션마다 헤드셋을 끼고 강연을 들을 수 있었다.
뭔가 낯선 느낌인데 하도 게임을 열심히 해서 그런지 삐까번쩍한 헤드셋이 너무 마음에 들어서 가져오고 싶었다..ㅎ
답답하지 않을까 걱정했지만, 집중도가 매우 올라가서 좋은 방식이라는 생각이 많이 들었다.
Amazon Bedrock 기반 Text-to-SQL로 완성하는 데이터 혁신
박진현 : 솔루션즈 아키텍트 (AWS)
김탄 : 소프트웨어 엔지니어 (당근페이)
Agenda
생성형 AI 등장
배경소개
당근페이 "브로쿼리"
상세 아키텍처
성능 개선을 위한 고민
개발자를 귀찮게 하면 된다고 했던가
프론트 입장에서 봤을 때, 백엔드위치에 있다면 가장 번거롭고 귀찮은 작업이 바로 데이터 출력(?) 작업이라고 할 수도 있을 것 같다. 기술적으로 개선을 하는 작업도 아니고 성취감을 느끼는 작업도 아니기 때문에 매번 데이터를 뽑아주는 작업을 반복하다보니 어느새 AI를 활용해 사내 AI어드민 을 구축하고 싶어하셨던 것 같다. 사실 써밋 방문하기전까지도 팀장님은 "갈까, 말까"를 매우 고민하셨는데 막상 와서 듣고보니 "오길 잘했다" 라는 평을 하셨다. 현재 구축 준비중인 AI어드민(?) 비서를 설계할때 꽤 많은 도움이 된 것 같았다.
이미 어느정도의 설계를 다 잡아놨기 때문에 "확신" 만 필요한 상태이셨던 것 같은데, 세션을 듣고 매우 신나하는 모습이 인상깊었다.
AI에 관심이 없진 않지만 삶에 치여 이거저거 맛보다 보니 어느세 시야가 좁아져 버렸다. 프론트엔드를 주로 하고 있지만, 앞으로의 개발직군들은 AI를 모르면 도태되거나 이 업계에서 내 존재가 사라질지도 모른다는 생각을 했다. AI를 사랑하는 대부분의 개발자들은 익숙한 (Fine-Tuning) 은 찾아보니 사전 훈련된 모델을 정교하게 다듬는 방식이라고 한다.
당근페이는 이 파인튜닝 방식 적용해 귀여운 어드민 비서 (브로쿼리) 를 만들었고, 굉장히 (아주) 유용하게 사용중이라고 했다.
* 파인튜닝 : 사전 훈련된 모델을 정교하게 다듬는 방식
자, 이제 슬랙을 통해 질문해줄래?
개발자들을 향했던 데이터 기반 요구사항들은 이제 슬랙을 통해 AI 비서 브로쿼리를 통해 해결된다고 한다.
물론 비개발 직군 뿐만 아니라, 개발자들의 요구사항 (뭐 쿼리를 찾는다던지,, 수정한다던지 등) 또한 이 브로쿼리에게 질문을 던진다고 한다. 브로쿼리는 코드와 데이터를 분석해 개발자들이 쿼리를 효율적으로 찾거나 수정할 수 있게 돕고, 비개발자들이 개발자들에게 머뭇거리며 질문하던 질문들을 대신 받아 쳐 준다. 차트도 그려준다.. 그냥 다 해준다..
그럼 어떻게 설계되고 만들어졌을까?
요구사항 -> 에이전트(질문-정보도출-판단) -> 의도파악 -> SQL 생성
Agent 는 LangChain / AmazonBedrock / LangGraph 를 베이스로 MCP Server 와 통신하여 기존에 있던 데이터를 기반으로 결과를 도출해 낸다. 이 과정에서 수많은 검증의 과정과 필터링을 거친다. 최대한 검증된 데이터들을 사용하여 의도 분석에 따라 처리 경로를 다르게 구성해 아키텍처를 설계했다고 한다. 여기서 검색의 질을 좌우하는 것은 바로 "메타데이터" 라고 한다. 메타 데이터는 현재 비즈니스/기술/운영 유형으로 관리되어진다. 또한 데이터의 일관성과 최신성을 유지하고 관리하기 위해 데이터 연동 자동화 도구는 사내에서 구축해서 사용하고 있다고 한다. 이 자동화 도구는 테이블 동기화 과정에서 해당 소스 메타데이터를 수집하여 최신화하며, dbt를 활용해 기술 최신화 및 검토가 용이하다고 전했다.
샘플 쿼리
도메인 전문가가 인터페이스를 통해 샘플쿼리를 등록함으로써 브로쿼리의 퀄리티를 높일 수 있다. 모든 정보를 샘플쿼리에 두는 것이 불가능하기 때문에, 비즈니스 맥락과 조건을 용어사전으로 만들어 사용한다고 한다.
이제 어쩔 수 없는 AI 시대
부스 대부분이 AI 서비스 인 걸 안 순간부터 느꼈지만, 이미 상상을 현실로 사용하고 있는 당근페이 브로쿼리를 보면서 살짝은 무서워졌다.
재밌는 상상을 기획하는 순간 바로 표현할 수 있게 되어지고, 이제는 개발자보다 데이터 엔지니어가 더 필요한 시대가 될 것 같다는 생각또한 깊이 들었다. 얼마나 더 효율적으로 AI를 배우고 활용하는지도 중요하지만 개인적으로는 사람답고 사람에게 이로운 AI를 개발하는 회사가 많아졌으면 하는 바램이다.
나중에 GPT 가 질문 하나에 5달러씩 내라고 하면 어쩌지? 라는 쓸데 없는 생각도 하는중..
가장 중요한 건 AI가 편리하다고 막 쓰지 말고, AI의 답변에 이유를 찾고 검증의 과정을 스스로 할 수 있을 정도의 지식수준은 꼭 갖추고 사용하길!
'쬬는 개발중' 카테고리의 다른 글
cmd + d 단축키 추가하기 드래그 된 영역 아래로 복사 기능 (0) | 2025.07.09 |
---|---|
실무자가 추천하는 프론트엔드 VScode 플러그인 & 익스텐션 AI (1) | 2025.04.16 |
[ERROR] EACCES: permission denied, unlink '/usr/local/bin/code' 해결하기 (터미널에서 vscode 키는 방법) (0) | 2024.09.01 |
Zendesk 쉽게보는 가이드 정리 (0) | 2023.10.10 |
[Err] Error message "error:0308010C:digital envelope routines::unsupported" 해결하기 (0) | 2023.08.03 |