Visual LLM을 위한 인텔 AI 가속기 가우디 (나승주 상무/인텔 코리아)

✔ 잇(IT)터뷰 한 줄 소개

스테이블 디퓨전이 이미지 생성 AI 리더로서 엔비디아 GPU 대신 인텔의 AI 가속기 가우디를 선택한 이유와 비주얼 LLM 환경에서의 가우디의 성능 우위를 전문가의 분석을 통해 설명합니다.

 
 

✔ 잇(IT)터뷰 전체 영상 보기

잇(IT)터뷰 전체 내용은 ▼아래 영상▼에서 확인해 주세요!
 

진행자 : 고우성 PD/토크아이티 (wsko@talkit.tv, https://talkit.tv/)
게스트 : 나승주 상무/인텔 코리아

 

1) 잇(IT)터뷰 내용

 

이번 잇(IT)터뷰는 스테이블 디퓨전이 이미지 생성 AI 리더로서 엔비디아의 GPU 대신 인텔의 AI 가속기 가우디를 대규모로 도입한 결정과 그 배경에 대해 다룹니다.
인텔 코리아나승주 상무가 게스트로 참여하여, AI 가속기 가우디의 성능, 스테이블 디퓨전의 선택 이유, 그리고 비주얼 LLM 환경에서의 가우디와 엔비디아 H100의 성능 비교를 포함한 다양한 주제를 논의합니다.

 

① 스테이블 디퓨전의 선택
스테이블 디퓨전은 비주얼 LLM 환경에서 뛰어난 성능과 가격 대비 효율성, 에너지 효율성을 고려하여 인텔의 AI 가속기 가우디를 선택했습니다.

 

② 가우디의 성능
가우디는 엔비디아의 최신 AI 전용 GPU인 H100과 비교하여 비주얼 LLM 환경에서 더 뛰어난 성능을 제공한다는 테스트 결과가 있습니다. 가우디는 이미지 및 동영상 처리에 필요한 디코딩 작업을 효율적으로 처리할 수 있는 미디어 엔진을 내장하고 있어, 데이터 처리의 효율성을 높입니다.

 

③ 비주얼 LLM의 중요성
텍스트 기반 LLM에서 비주얼 LLM으로의 전환은 사용자 경험을 향상하고, 더 풍부한 인터랙션을 가능하게 합니다. 이는 엔터테인먼트, 미디어, 스마트 팩토리 등 다양한 분야에서의 적용 가능성을 열어줍니다.

 

④ AI 가속기의 미래
AI 가속기 가우디의 도입은 AI 기술의 발전과 함께 AI 워크로드를 처리하는 데 있어서 새로운 방향을 제시합니다. 이는 AI 기술의 상용화와 산업 전반에 걸친 적용을 가속화 할 것으로 예상됩니다.

 

이번 잇(IT)터뷰는 AI 기술과 관련된 하드웨어 선택의 중요성, 특히 비주얼 LLM과 같은 최신 AI 기술의 발전 방향에 대한 통찰력을 제공합니다. AI 기술의 발전에 관심 있는 개발자, 연구자, 기술 관리자들에게 유용한 정보를 제공하며, AI 하드웨어의 미래 동향에 대한 이해를 돕습니다.

 

2) 잇(IT)터뷰 영상 목차

 

스테이블 디퓨전은 왜 인텔 AI가속기 가우디를 선정했는가?
아래 ✔ 잇(IT)터뷰 내용 맛보기로 내용을 확인해 보세요!
– Visual LLM환경에서 인텔 가우디 vs 엔비디아 H100
– LLM에서 Visual LLM으로!
– AI가속기 가우디 로드맵

 


 

✔ 잇(IT)터뷰 내용 맛보기

‘잇(IT)터뷰 내용 맛보기’는 영상 내용 일부를 스크립트로 표현합니다.
더 많은 내용이 궁금하시다면 페이지 상단의 영상이나 하단 영상 링크를 클릭하여 확인해 주세요!

 

이미지 생성형 AI의 리더인 스테이블 디퓨전이 최근 엔비디아 GPU 대신 인텔의 AI 가속기 가우디 4,000개를 도입하여, AI 서비스에 이용할 것이라고 발표하였습니다.
이번 잇(IT)터뷰에서는 AI가속기 가우디를 왜 스테이블 디퓨전이 선택했으며, AI가속기 가우디는 어떤 성능을 나타내고 있는지를 알아보겠습니다.

스테이블 디퓨전은 왜 인텔 AI가속기 가우디를 선정했는가?
– Visual LLM환경에서 인텔 가우디 vs 엔비디아 H100
– LLM에서 Visual LLM으로!
– AI가속기 가우디 로드맵

 

나승주 : 이제 인텔이 ‘stability ai’ ‘스테이블 디퓨전’ 쪽에 솔루션을 제공하는 거죠. ‘제온’ CPU뿐만 아니라, AI 가속기 가우디도 들어가는데, GPU처럼 AI만을 위한 전용 실리콘이라고 보시면 되는데요.
고우성 : AI 가속기?
나승주 : 그렇죠. AI 전용 가속기라고 보시면 됩니다. 4,000개의 가우디를 사용하겠다고 스테이블 디퓨전이 공식적으로 발표했습니다.

 
제온의 AI 활용 고객 사례
 

재미난 게 이제 ‘stability ai’가 인텔의 AI 가속기 가우디를 선점한 이유가 바로 저희가 생각해 봐야 할 부분입니다.
요즘 GPU를 구하고 싶어도 쉽지 않은 그런 상황이잖아요? 그런 것도 ‘stability ai’ 쪽에서 갖고 있는 문제점이었고요. 또 다른 하나로 가격, 성능 두 가지 부분을 들 수 있습니다. 그리고 에너지 효율성도 상당히 중요한 부분입니다.
공급망, 가성비, 에너지 효율의 세가지 관점을 봤을 때 ‘가우디 2가 더 훨씬 더 나은 제안이다’라고 결정을 한 그런 사례가 있습니다.

 


◼ 전체 잇(IT)터뷰 내용은 ▶영상으로 바로 가기(클릭)◀에서 확인하실 수 있습니다.
– 스테이블 디퓨전은 왜 인텔 AI가속기 가우디를 선정했는가?
Visual LLM환경에서 인텔 가우디 vs 엔비디아 H100
LLM에서 Visual LLM으로!
AI가속기 가우디 로드맵

 


 

◼ 콘텐츠 & 웨비나 문의 : marketing@talkit.tv, 02-565-0012
Copyright ⓒ 토크아이티 All rights reserved. 무단 전재 및 재배포 금지.