안녕하세요, 프론트엔드팀 개발자 김정수입니다.
8월 22일(목) 베스핀 글로벌에서 주최하는 AI Networking Party가 열린다고 알게 되었습니다.
평소 AI를 조금이나마 사용하고 관심을 가지고 있었는데,
비즈니스적으로 어떻게 사용되고 적용할 수 있는지 궁금했던 터라
바로 신청을 했고 운 좋게도 방문할 수 있는 기회를 얻었습니다.
Data Delights, AI insights를 주제로
Gen AI를 실제 비즈니스에 활용할 수 있는 다양한 방법에 대해 소개하는 자리였고
구글 클라우드에서 데이터를 잘 활용하는 방법, Gen AI를 적용하는 방법에 대해서 공유하고
이야기하는 자리를 가졌습니다.
구스 아일랜드 브루하우스
왜인지는 모르겠는데 2배 이벤트에 당첨되었습니다.
음식
네트워킹 파티라는 이름에 걸맞게 음식들과 음료 및 맥주를 자유롭게 먹고 마시면서 발표 세션을 들었습니다.
1. Google cloud에서 구현하는 Gen Ai Grounding Service와 Agent
첫 번째 세션 파트너 엔지니어이신 구글러 손범수님이 지식 공유해주셨습니다.
제미나이를 구글 클라우드에서 사용하고 있고 어떻게 활용될 수 있는지 이야기를 나누었습니다
Vertex AI를 서비스 하고 있고
Vertex AI란?
Vertex AI 플랫폼에서 크게 3가지 레이어를 지원한다고 말씀해 주셨습니다.
1. AI Agent Builder
2. AI Model Builder
3. AI Model Garden
•
외부 검색을 참조하여 정확한 응답을 생성하도록 하는 것.
Vertex AI의 기능으로 구글 서치엔진을 이용해서 그라운딩 서비스를 사용할 수 있습니다.
대규모 언어 모델(LLM)의 출력을 개선하기 위해 외부 지식 소스를 참조하는 AI 프레임워크입니다.
질문이 들어오면 내부 데이터에서 생각하고, 내부 데이터만으로 처리가 어렵다면
외부 데이터를 가져와서 정확성을 개선하는 방식으로 동작합니다.
예시로 사람이 호텔 검색을 원하는 경우
open AI타입으로 스키마 정의만 해주면 알아서 찾아주는 것을 보았고,
대답이 마음에 안 들었을 때 example을 넣으면 최대한 참고해서 응답을 생성하도록 되어 있습니다.
호텔 검색 시 구글 지도와 연동해서 지도 서비스를 그대로 받을 수 있는 것도 좋은 장점이라고 생각했습니다.
동영상 시연상황에서는
호텔 예약하려고 하는 상황에
영어와 한국어로 상담원과 대화하는 상황으로 실시간 번역해 주는 기능을 보았는데,
한글로 메시지를 보내자마자 바로 번역이 되어 영어로 상담원에게 채팅이 가고
상담원 역시 영어로 보내자마자 한글로 번역이 되어 서로 빠르게 대화할 수 있는 기능을 같이 보고 설명해 주시면서
중요한 건 이러한 기능이 코드 없이 설정으로만 전부 가능하다고 말씀해 주셨고
세션이 마무리되었습니다!
2. Gemini를 이용한 상품 정보 추출, 리뷰 요약 및 Q&A 적용 방안 소개
베스핀 글로벌의 오현섭 엔지니어님께서 지식 공유해 주셨습니다!
실제 사용 사례에 대해서 많은 정보를 공유해 주셨습니다.
•
상품 리뷰
실제 아마존에서 리뷰 요약 서비스를 AI를 통해 사용하고 있음.
•
상품 가격비교
자사 및 타사 데이터가 필요하기 때문에
Vertex AI (WorkBench + GenAI)를 통해
데이터를 적재한 다음에 결과를 보여주는 프로세스라고 소개를 해주셨습니다.
•
문서 이미지 텍스트 추출
비용 중복에 대한 문제
파일 업로드 해시값을 확인하여
이 파일이 이전에 처리된 파일인지 판단할 수 있는 기능이 있어 비용 중복에 대해
걱정을 최대한 줄였다고 소개해 주셨습니다.
•
이미지 추출
옷의 정보를 추출하고 해당 옷에 대한 정보로 코디 추천을 해주는 기능이 사용되고 있습니다.
SQL GENie의 기능들에 대해서 소개해 주셨습니다.
•
Chatbot기반 데이터 분석
•
SQL 작동 생성
•
Data 추출
•
시각화
•
Data 설명 및 인사이트
•
Looker 연계
•
Data 심층 분석 가이드
3. Gemini를 활용한 여행 컨시어지 에이전트 구축 사례
베스핀 글로벌의 박창현 매니저님께서 지식 공유해 주셨습니다!
산업별 LLM을 어떻게 사용하고 있는지, 도입 현황에 대해 말씀하시면서
금융
전자상거래
제조 패션 물류
공공
통신사 컨택센터
교육, 건설, 농업
등등 다양한 분야에 잘 활용하고 있고
생성형 A.I 구축 요소들에 대한 설명을 해주셨습니다.
•
Data 수집 & Fabric
•
RAG (Text, Multimodal)
•
Google Gemini, 최적화 프롬프트
•
Evaluation
LLM 기반의 생성형 AI 서비스를 통해 서울 방문 관광객의 편의 증진
기존 비짓서울 앱 챗봇 서비스를 AI로 변경해서 재구축했던 내용까지 공유를 해주셨습니다!
기존보다 똑똑해진 챗봇을 통해 사람들의 니즈에 따라 각각 다양한 장소를 추천해 주는 것을
보고 도움이 많이 될 것 같다는 생각이 들었습니다!
Lucky Draw
이것으로 발표 세션은 끝나고 뽑기 시간이 돌아왔습니다.
3등 스타벅스 5만 원권
2등 로지텍 마우스
1등 에어팟 프로
무작위의 번호를 뽑는데
저는 0~10번대에 속해 있었으나
부재자 포함 한 8 번 정도를 뽑았으나 10번대 이후 번호만 나와서 신기한 경험이었습니다!
Networking Party
이제 자유롭게 먹고 마시면서 대화를 나눌 수 있는 시간이 되었습니다!
마무리 및 후기
컨퍼런스는 몇 번 가본 경험이 있으나, 이렇게 파티 형식으로 자유롭게 진행되는 방식은 처음이었습니다.
준비되어 있던 다양한 음식들과 직접 만들고 뽑아주시는 생맥주가 정말 맛있었고,
짧은 시간이었지만 구글 클라우드에서 AI가 어떻게 사용되며 어떤 사례가 있는지 생소했으나
지식들을 공유 받으면서 잘 알지 못했던 부분에 대해서 시야를 넓히는 기회가 되어 좋았습니다!
개인적으로는 딱딱한 분위기에서 벗어나서 발표를 들을 수 있는 자리였습니다.
이런 자리를 마련해 주신 베스핀 글로벌에게도 감사드립니다!
이상 AI Networking Party에 참여했던 후기를 마칩니다! 읽어주셔서 감사합니다!