<잇(IT)터뷰 전체 영상 보기>
잇(IT)터뷰 전체 내용은 ▼아래 영상▼에서 확인해 주세요!
◼ 게스트 : 김경민 팀장, 김현민 팀원, 최우빈 팀원 / 안랩클라우드메이트
◼ 진행자 : 고우성 PD / 토크아이티 (wsko@talkit.tv, https://talkit.tv/)
이번 잇(IT)터뷰는 공공기관에서 RAG(검색 증강 생성) 시스템을 빠르고 안전하며 경제적으로 구현하는 방법을 제시합니다. 안랩클라우드메이트의 AI 어시스턴트 ‘에크미아이’를 통해 초기 투자 비용을 줄이고, 상용 클라우드 LLM을 활용하여 기술 장벽과 비용 문제를 해결합니다. 또한, 개인 정보 유출 방지를 위한 솔루션과 지속적인 규정 업데이트를 지원하여 공공기관의 특수성에 맞춘 서비스를 제공합니다. 레고 블록 형태의 컴포넌트 방식으로 개발되어 향후 지속적인 확장성을 확보할 수 있다는 점도 강조합니다. 이 영상은 공공기관이 AI를 효과적으로 도입하고 활용하는 데 필요한 실질적인 정보와 솔루션을 제공합니다.
영상 목차
◼ 아래 각 목차를 클릭하시면 해당 내용을 영상으로 바로 보실 수 있습니다.
✔ 애자일한 RAG 구현
✔ 민감, 기밀 데이터 보안
✔ 규정집 어시스턴트
✔ 연구지원 어시스턴트
✔ AI어시스턴트를 위한 콤포넌트
<잇(IT)터뷰 – 핵심 내용 파악하기>
‘잇(IT)터뷰 – 핵심 내용 파악하기’는 영상의 핵심 내용을 정리한 글입니다.
|
1. 문제 해결을 위한 RAG 구현 전략
– RAG(검색 증강 생성) 시스템은 생성 AI와 내부 문서를 연동하여 정확한 최신 정보를 제공하지만, 기업들은 높은 비용과 운영 어려움을 겪고 있다.
– 특별히 전문 인력이 부족한 공공기관은 RAG 구현에 어려움을 느끼고 있으며, 이를 해결하기 위해 안랩클라우드메이트의 AI 어시스턴트 ‘에크미아이’가 역할을 한다.
– 비용 절감을 위해 상용 클라우드 LM을 활용하여 초기 투자 비용을 최소화하고 애자일하게 RAG를 구현한다.
– 고객들이 겪는 주된 어려움은 기술 장벽과 비용 문제로, 이러한 문제를 해결하기 위해 프로젝트 접근 방법을 수정했다.
2. 민감 정보 보호를 위한 대응 방안
– 공공기관에서는 개인 정보와 민간 정보 보안이 특히 중요하며, 클라우드 LLM 사용 시 민감 정보 유출대응이 필수적이다.
– 기관에서도 LLM에 정보가 올라가 학습될 경우 발생할 수 있는 문제에 대해 우려가 존재한다.
– 에크미아이설계 시 시큐어브릿지(Secure Bridge)라는 상품을 함께 개발해 프롬프트가 문제 있는지를 판단하는 서비스를 제공한다.
– 이 서비스는 프롬프트에서 민간 정보가 포함되었는지를 판단하여 마스킹하거나 차단하는 기능을 통해 보완성을 높인다.
3. 공공기관 규정 관리 AI 어시스턴트의 기능
– 공공기관은 변경 빈도가 높은 규정을 근거로 업부를 수행하며, 외부 규정집에 대한 지속적인 검토가 필요하다.
– 안랩클라우드메이트의 AI 어시스턴트는 기관별 규정 및 지침을 빠르게 조회할 수 있는 기능을 제공하며, 예를 들어 경비나 취업 규정에 대한 질문에 대한 답변을 제공한다.
– 업데이트된 규정과 신규 기관 정보는 신속히 데이터베이스에 적용되어 하루 이틀 내에 최신화된다.
– 이 AI 서비스는 공공기관의 비공개 데이터를 활용하며, 경제, 사회 연구와 관련된 규정도 포함된다.
– 사용자들이 익숙한 경험으로 AI를 맞춤형으로 활용할 수 있도록, 내부에 다양한 비즈니스 템플릿을 지속적으로 개발하고 있다.
4. 연구 지원 시스템의 자동화 및 데이터 처리
– 대화형 인터페이스를 활용하여 연구 보고서 및 계획서 작성 과정을 지원하는 시스템이다.
– 연구 계획서를 만들기 위해 필요한 타이틀과 키워드를 자동으로 추출할 수 있으며, 과제 제안 시 즉시 업로드 가능하다.
– 사용자들이 데이터 파일을 업로드하면, 해당 내용의 주요 내용을 주제별로 요약하고 자동화하여 처리하는 기능이 있다.
– 인공지능을 활용해 기간 내의 보도 자료 생성 및 관련 기사를 요약하는 작업도 지원하고 있으며, 키워드에 맞는 기사 검색이 가능하다.
– 시스템은 확장성을 고려하여 다양한 작은 모듈 형식의 컴포넌트로 구성되어, 필요에 따라 기능을 조합할 수 있도록 설계되어 있다.
◼ 전체 잇(IT)터뷰 내용은 ▶영상으로 바로 가기(클릭)◀에서 확인하실 수 있습니다.
|
◼ 콘텐츠 & 웨비나 문의 : marketing@talkit.tv, 02-565-0012
Copyright ⓒ 토크아이티 All rights reserved. 무단 전재 및 재배포 금지.