1. 잇(IT)터뷰 전체 영상 보기
잇(IT)터뷰 전체 내용은 ▼아래 영상▼에서 확인해 주세요!
◼ 게스트 : 우재하 상무 / 데이터이쿠
◼ 진행자 : 고우성 PD / 토크아이티 (wsko@talkit.tv, https://talkit.tv/)
영상 목차
◼ 아래 각 목차를 클릭하시면 해당 내용을 영상으로 바로 보실 수 있습니다.
✔ 생성형 AI 애플리케이션 유형
✔ 프롬프트 엔지니어링 지원
✔ 노코드기반 RAG 지원
2. 잇(IT)터뷰 내용 맛보기
‘잇(IT)터뷰 내용 맛보기’는 영상 내용 일부를 스크립트로 표현합니다.
|
● 고우성 : 생성형 AI 애플리케이션의 유형을 살펴보겠습니다.
● 우재하 : Structure(구조화) 경우에는, 이제 비정형 데이터를 대상으로 한다면 대부분 텍스트겠죠.
텍스트 데이터를 구조화해서 비정형 데이터를 정형 데이터로 만들어서 텍스트에서 어떤 정보를 뽑아 올 수 있습니다. 예를 들어, 어떤 의료 보고서에서 어떤 약물에 뭐가 들어 있고 여기에 부작용이 어떤 게 있는 등 이런 것들을 뽑아 와서 정형화시켜서 그것을 나중에 분석하는 데 사용하는 거죠.
그래서 그런 작업을 왼쪽 밑에 있는 것처럼 각각의 다른 모델들을 사용해서 작업에 맞는 모델을 활용해야 했었는데 이제는 LLM이라고 하는 모델 하나가 이런 모든 것들을 다 해줄 수 있게 되었습니다.
‘작업을 설계하고 구현하는 게 훨씬 더 이제 간편해졌다’라고 하는 게 이제 Structure, 구조화에 대한 패턴이 되겠습니다.
두 번째는 Generate(생성) 인데요. 반대로 Generate는 정형화되어 있는 어떤 분석 결과 같은 것들을 맞춤형 콘텐츠 특히 이제 텍스트 혹은 이미지 같은 것도 가능하겠죠. 그런 것으로 만들어 주는 겁니다.
그래서 ML과 LLM을 결합하는 거죠. 보통 저희가 ML 모델을 사용하게 되면 그 결과가 어떤 수치나 분류 값 등으로 떨어지는데 그런 것들을 예를 들어서 사람들에게 메일로 보내기 위한 문장으로 자동으로 AI가 생성을 해준다든지 하는 것입니다.
● 고우성 : 약간 좀 더 직관적으로?
● 우재하 : 네. 정형 데이터를 사람들이 이해할 수 있는 형태로 만드는 것이 이제 Generate(생성)라고 하는 방향입니다.
● 고우성 : 생성이 것이 일반 현업 부서에 있는 일반인들이 쉽게 이해할 수 있도록 만드는 걸 생성해주는 거네요. 사실 그동안 우리가 ‘자료 줘’ 하면 IT 부서에서 현업에 던져주면 거의 그냥 난수표 같은 거잖아요. 그죠?
● 우재하 : 그거를 다시 사람이 뭔가 저것을 생성해 준 일을 했는데 이제는 그런 사실, 단순 작업에 해당하는 부분들이 많기 때문에 그런 것들은 이제 LLM을 통해서 생성형 AI가 해줄 수 있는 생성 작업이 되겠죠.
● 고우성 : 어떻게 보면 DX의 바틀넥을 해소할 수도 있는 거네요.
● 우재하 : 네, 맞습니다. 그리고 세 번째는 Answer(답변)입니다. Answer는 쉽게 말하자면 ‘자연어를 통해서 우리가 원하는 결과를 쉽게 찾아서 활용한다’라는 거죠.
그래서 기존에 BI도 그렇고 분석이라고 하는 것들이 뭔가 마우스로 조작하든지 코드를 쓰든 간에 결과를 얻어 냈는데 이제는 생성형 AI 하는 것이 그거를 충분히 가능하게 만들다 보니 자연어만 가지고도 우리가 신뢰할 수 있는 소스로부터 어떤 정보들을 얻어내고 그거를 우리가 소비할 수 있는 형태로 받아볼 수 있게 합니다. 이것이 세 번째 패턴입니다.
● 고우성 : 사실 지금까지는 저런 답변을 일반 임직원이 얻으려면 자료를 뽑아 사를 요청해야 하지 않습니까?
● 우재하 : 요청하거나 혹은 검색했는데 예전에 검색은 보통 키워드 검색을 하다 보니까 원하는 결과를 정확하게 찾기가 쉽지 않은 경우들도 많고 너무 많은 게 나온다든지 이런 경우들도 많이 있었던 것 같습니다.
그래서 그런 부분들이 좀 특히, 최근에 RAG(Retrieval Augmented Generation)라고 하는 기법을 통해서 이런 게 많이 현실화되고 있는 것 같습니다.
3. 잇(IT)터뷰 내용
이번 잇(IT)터뷰는 기업들이 생성형 AI 애플리케이션을 개발하는데 필요한 도구와 방법을 설명하는 세미나입니다.
①생성형 AI 애플리케이션 유형
– 구조화: 비정형 데이터를 정형 데이터로 변환하는 작업으로, 텍스트 데이터를 분석하여 특정 정보를 추출하고 정형화합니다. 예를 들어, 의료 보고서에서 약물과 부작용 정보를 추출하는 작업입니다.
– 생성: 정형화된 데이터를 바탕으로 텍스트나 이미지를 생성하는 작업입니다. 예를 들어, 분석 결과를 사람들에게 이해하기 쉬운 문장으로 생성하는 것입니다.
– 응답: 자연어를 통해 사용자가 원하는 결과를 쉽게 찾을 수 있도록 하는 작업입니다. 예전에는 키워드 검색으로 원하는 결과를 찾기 어려웠지만, 생성형 AI는 자연어를 통해 더 정확한 결과를 제공합니다.
② 프롬프트 엔지니어링 도구
데이터이쿠(Dataiku)의 프롬프트 스튜디오를 통해 최적화된 LM(언어 모델) 프롬프트를 설계, 평가, 운영할 수 있습니다.
모델 성능과 비용을 기준으로 가장 적합한 모델을 선택할 수 있도록 도와줍니다.
③ 데모 시연
로이터 뉴스 기사를 분류하는 예시를 통해 프롬프트 스튜디오를 사용하는 방법을 보여줍니다. 여러 프롬프트를 실행하고 비교하여 최적의 결과를 도출합니다.
프롬프트를 재활용하고 공유할 수 있는 기능도 제공됩니다.
④ 노코드 애플리케이션 개발
데이터이쿠는 노코드(no-code)로 애플리케이션을 개발할 수 있도록 지원합니다. 예를 들어, 텍스트 데이터를 임베딩하여 벡터 스토어에 저장하고 이를 활용한 애플리케이션을 쉽게 개발할 수 있습니다.
웹 애플리케이션 형태로 쉽게 사용할 수 있으며, 코드 없이도 프롬프트와 모델을 활용한 다양한 기능을 구현할 수 있습니다.
⑤ 미래 전망
데이터이쿠는 앞으로 더 많은 기능을 제공할 예정입니다. 예를 들어, 코드 없이 모델을 파인 튜닝하는 기능을 개발 중이며, AI 라이프사이클 전반에 걸친 다양한 작업을 지원할 계획입니다.
비주얼 컴포넌트뿐만 아니라, 코드를 잘 활용하는 사용자도 쉽게 생산성 있는 작업을 할 수 있도록 지원합니다.
이번 잇(IT)터뷰를 통해 생성형 AI 애플리케이션의 유형과 이를 개발하기 위한 도구, 프롬프트 엔지니어링의 중요성, 노코드 애플리케이션 개발 방법 등에 대해 자세히 배울 수 있습니다.
◼ 전체 잇(IT)터뷰 내용은 ▶영상으로 바로 가기(클릭)◀에서 확인하실 수 있습니다.
|
◼ 콘텐츠 & 웨비나 문의 : marketing@talkit.tv, 02-565-0012
Copyright ⓒ 토크아이티 All rights reserved. 무단 전재 및 재배포 금지.