<잇(IT)터뷰 전체 영상 보기>
잇(IT)터뷰 전체 내용은 ▼아래 영상▼에서 확인해 주세요!
◼ 게스트 : 권수용 실장 / 아이크래프트
◼ 진행자 : 고우성 PD / 토크아이티 (wsko@talkit.tv, https://talkit.tv/)
영상 목차
◼ 아래 각 목차를 클릭하시면 해당 내용을 영상으로 바로 보실 수 있습니다.
✔ AI 프로젝트의 흔한 실수
✔ AI가 미완성 기술인 이유
✔ 템플릿 솔루션의 위험성
✔ 유연한 아키텍처의 중요성
✔ MSA 관점의 AI 시스템 설계
<잇(IT)터뷰 – 핵심 내용 파악하기>
‘잇(IT)터뷰 – 핵심 내용 파악하기’는 영상의 핵심 내용을 정리한 글입니다.
|
이번 잇(IT)터뷰는 기업 AI 프로젝트의 높은 실패율과 그 근본 원인을 다룹니다. 많은 기업이 AI 프로젝트를 기존 IT 프로젝트와 동일한 방식으로 접근하면서 발생하는 문제점들을 분석하고, R&D 관점에서의 새로운 접근 방법론을 제시합니다.
AI가 아직 미완성 기술이라는 전제 하에, 지속적인 변화와 진화에 대응할 수 있는 유연한 시스템 설계의 필요성을 강조합니다. 템플릿 기반의 경직된 솔루션이 아닌, 마이크로서비스 아키텍처(MSA) 기반의 모듈형 접근법을 통해 Agentic AI 등 새로운 트렌드에 신속하게 대응할 수 있는 전략을 소개합니다.
1. AI 프로젝트의 흔한 실수
대부분의 기업이 AI 프로젝트에서 범하는 가장 큰 실수는 “빠른 구현에 집중…! 최단 기간, 최소 비용!!”이라는 전통적 IT 프로젝트 접근법을 그대로 적용하는 것이다.
전통적인 IT 프로젝트는 명확한 요구사항과 고정된 스펙을 바탕으로 한 번에 완성된 시스템을 구축하는 것이 목표다. 하지만 AI 프로젝트는 본질적으로 다른 특성을 가지고 있다.
*전통 IT vs AI 프로젝트 비교
– 전통 IT: 고정된 요구사항 → 설계 → 구현 → 완료
– AI 프로젝트: 가설 → 실험 → 검증 → 개선 → 반복
기업들이 “최단 기간, 최소 비용”에만 집중하다 보면, 초기에는 빠른 결과를 얻을 수 있을지 모르지만 장기적으로는 경직된 시스템으로 인해 더 큰 비용과 시간을 소모하게 된다.
특히 경영진의 빠른 성과 요구와 IT 부서의 전통적 프로젝트 관리 방식이 결합되면서, AI 프로젝트의 고유한 특성을 무시한 채 진행되는 경우가 많다.
2. AI가 미완성 기술인 이유
“AI는 미완성 기술!!”이라는 핵심 메시지는 AI 프로젝트 접근법의 근본적 변화 필요성을 설명한다.
*기술 변화의 속도
이미지 생성 모델을 예로 들면, 얼마 전까지 챗GPT의 지브리스타일이 인기였지만 지금은 Nano Banana AI 같은 더 사실적인 모델이 주목받고 있다. 이처럼 AI 기술은 몇 달 만에도 완전히 다른 방향으로 진화한다.
이러한 변화는 단순히 소프트웨어 업데이트 수준이 아니라, 시스템 아키텍처 전반에 영향을 미치는 근본적 변화다. 따라서 오늘 구축한 AI 시스템이 6개월 후에는 완전히 다른 방식으로 동작해야 할 수도 있다.
3. 템플릿 솔루션의 위험성
많은 기업이 빠른 구현을 위해 템플릿 기반의 AI 개발 플랫폼을 선택하지만, 이는 장기적으로 큰 위험을 수반한다.
*템플릿 솔루션의 한계
초기에는 빠른 프로토타이핑과 낮은 개발 비용으로 매력적으로 보인다. 하지만 시간이 지나면서 다음과 같은 문제들이 드러난다:
– 확장성 제약: 미리 정의된 구조에서 벗어나기 어려움
– 기술 종속성: 특정 벤더나 플랫폼에 락인(Lock-in)
– 커스터마이징 한계: 비즈니스 고유 요구사항 반영 제약
– 신기술 적용 지연: 새로운 AI 기법 도입 시 전체 시스템 재구축 필요
특히 데이터 파이프라인 관점에서 보면, “전처리 → 데이터 웨어하우스 → 후처리 → 데이터 마트 → 시각화/ML/AI” 전체 과정이 유기적으로 연결되어 있어, 한 부분의 변경이 전체 시스템에 영향을 미친다.
*실제 사례
금융 서비스 데이터 워크플로우에서 Hadoop으로 데이터 웨어하우스를 구축하고, Hive로 쿼리하여 MySQL로 이동 후 벡터화하여 RAG에 활용하는 복잡한 과정을 가정해보자. 새로운 LLM 모델로 변경하면 벡터화 방식부터 전체 파이프라인까지 수정이 필요할 수 있다.
4. 유연한 아키텍처의 중요성
“AI 프로젝트의 핵심은 유연성”이라는 메시지는 성공적인 AI 시스템 구축의 가장 중요한 원칙이다.
1) 유연성이 필요한 영역들
– 데이터 파이프라인: 새로운 데이터 소스 추가, 전처리 방식 변경, 데이터 포맷 변화에 대응
– 모델 아키텍처: 새로운 AI 모델 교체, 앙상블 기법 적용, 하이브리드 접근법 구현
– 비즈니스 워크플로우: 조직 변화, 업무 프로세스 개선, 새로운 요구사항 반영
– 기술 스택: 오픈소스 도구 활용, 벤더 독립성 유지, 클라우드 중립성 확보
2) 유연한 설계 원칙
– 모듈화: 각 구성 요소를 독립적으로 교체 가능하도록 설계
– 표준화: 오픈 API와 표준 프로토콜 활용
– 추상화: 구현 세부사항을 숨기고 인터페이스 중심 설계
– 확장성: 수평적/수직적 확장 모두 고려
이러한 유연성은 초기 구축 비용은 높일 수 있지만, 장기적으로는 훨씬 낮은 TCO(Total Cost of Ownership)를 실현한다.
5. MSA 관점의 AI 시스템 설계
“AI도 MSA 관점 접근이 중요!!”라는 통찰은 현재 주목받고 있는 Agentic AI 트렌드와 직접적으로 연결된다.
Agentic AI는 여러 개의 전문화된 에이전트가 협력하여 복잡한 작업을 수행하는 방식이다. 이는 본질적으로 마이크로서비스 아키텍처와 같은 철학을 가지고 있다.
– 각 에이전트 = 마이크로서비스: 독립적 개발, 배포, 확장
– 에이전트 간 협력 = 서비스 간 통신: API 기반 인터페이스
– 오케스트레이션 = 서비스 메시: 전체 워크플로우 관리
6. R&D 프로젝트로서의 AI 접근법
“AI 프로젝트는 R&D 프로젝트라고 생각하라”는 패러다임 전환의 핵심이다.
1) R&D 접근법의 특징
– 가설 중심: 명확한 답이 없는 상황에서 가설을 세우고 검증
– 반복적 개선: Fail Fast, Learn Fast 철학으로 빠른 반복
– 실험 문화: 실패를 학습 기회로 인식하는 조직 문화
– 장기적 관점: 단기 성과보다 장기적 역량 구축에 집중
2) 실무 적용 방안
– 프로토타이핑 우선: 완벽한 시스템보다 빠른 검증 가능한 MVP 구축
– A/B 테스팅: 다양한 접근법을 동시에 실험하여 최적해 도출
– 지속적 모니터링: 실시간 성능 측정과 피드백 루프 구축
– 문서화: 실험 과정과 결과를 체계적으로 기록하여 지식 축적
3) 결론: AI 시대의 새로운 프로젝트 관리 패러다임
AI 프로젝트의 성공은 기술적 역량만으로는 달성할 수 없다. 프로젝트 관리 철학부터 근본적으로 바꿔야 한다.
4) 핵심 성공 요소
– 마인드셋 전환: IT 프로젝트가 아닌 R&D 프로젝트로 인식
– 유연한 아키텍처: MSA 기반의 모듈형 설계로 변화 대응력 극대화
– 지속적 진화: 완성이 아닌 지속적 개선에 집중하는 문화
AI는 미완성 기술이지만, 바로 그 때문에 무한한 가능성을 가지고 있다. 이 가능성을 현실로 만들기 위해서는 전통적 사고의 틀을 벗어나 새로운 접근법을 받아들여야 한다.
기업들이 AI 프로젝트에서 진정한 가치를 창출하려면, 단기적 성과에 급급하지 말고 장기적 관점에서 유연하고 확장 가능한 시스템을 구축하는 데 투자해야 한다. 이것이야말로 AI 시대 진정한 경쟁력의 원천이다.
◼ 전체 잇(IT)터뷰 내용은 ▶영상으로 바로 가기(클릭)◀에서 확인하실 수 있습니다.
|
◼ 콘텐츠 & 웨비나 문의 : marketing@talkit.tv, 02-565-0012
Copyright ⓒ 토크아이티 All rights reserved. 무단 전재 및 재배포 금지.