CXL 메모리 for AI (나승주 상무 / 인텔코리아 DCAI)

✔ 잇(IT)터뷰 한 줄 소개

CXL(Compute Express Link) 메모리 기술이 AI 학습 및 운영에서 GPU 메모리 용량 제한을 해결하고, 다양한 서버의 메모리를 단일 풀로 통합하여 사용할 수 있게 하여 AI 기술 발전에 있어 중요한 역할을 한다는 점을 설명합니다.

 

✔ 잇(IT)터뷰 전체 영상 보기

잇(IT)터뷰 전체 내용은 ▼아래 영상▼에서 확인해 주세요!
 

진행자 : 고우성 PD/토크아이티 (wsko@talkit.tv, https://talkit.tv/)
게스트 : 나승주 상무 / 인텔코리아 DCAI

 

1) 잇(IT)터뷰 내용

 

이번 잇(IT)터뷰에서는 인텔나승주 상무가 현재 AI 기술 발전에 있어 CXL(Compute Express Link) 메모리 기술의 중요성에 대해 설명합니다. AI의 학습과 운영 과정에서 중요한 역할을 하는 CXL 메모리의 특징과 장점을 전문적으로 다룹니다.

 

① GPU 메모리 용량 문제 해결
AI 작업에서 GPU 메모리 용량의 제한이 주요 병목 현상 중 하나로 지목되며, CXL 기술이 이 문제를 해결할 수 있는 방안을 제공합니다.

 

② 메모리 풀 통합
CXL 기술을 통해 다양한 서버의 메모리를 하나의 단일 풀로 통합하여 사용할 수 있게 되며, 이는 메모리 용량에 대한 제약을 줄이는 데 기여합니다.

 

③ 기술 발전과 확산
CXL 기술의 지속적인 발전과 확산은 메모리 용량 제약 없이 AI를 확장하는 데 중요한 역할을 할 것으로 예상됩니다.

 

④ 플랫폼 간 연결성 향상
CXL은 기존 PCI Express를 통한 연결 방식을 개선하여, CPU와 다양한 디바이스 간의 더 효율적인 연결을 가능하게 합니다.

 

⑤ 한국 반도체 산업에의 중요성
한국에서는 반도체가 주요 산업 중 하나이며, CXL 기술은 메모리 판매 증대에 기여할 수 있는 중요한 기술로 주목받고 있습니다.

 

이번 잇(IT)터뷰에는 AI 시대에 CXL 메모리 기술이 왜 중요한지, 그리고 이 기술이 어떻게 AI 학습 및 운영의 효율성을 높일 수 있는지에 대한 전문적인 분석을 제공합니다.

 

2) 잇(IT)터뷰 영상 목차

 

메모리 풀을 만드는 CXL 아래 ✔ 잇(IT)터뷰 내용 맛보기로 내용을 확인해 보세요!
– AI시대, 더 중요해지는 CXL

 


 

✔ 잇(IT)터뷰 내용 맛보기

‘잇(IT)터뷰 내용 맛보기’는 영상 내용 일부를 스크립트로 표현합니다.
더 많은 내용이 궁금하시다면 페이지 상단의 영상이나 하단 영상 링크를 클릭하여 확인해 주세요!

 

요즘 주식시장에서 왜 ‘Compute Express Link’인 ‘CXL 메모리’가 핫하게 주목을 받고 있을까요?
AI 학습과 운영에 큰 장애물 중 하나가 GPU 메모리 용량의 제약인데, 만약 서버 내뿐만 아니라 다른 서버의 메모리까지 하나의 단일 풀로 통합해서 사용할 수 있다면, 현재의 GPU 메모리 용량 이슈를 해소할 수 있지 않을까요?
더구나 지금처럼 AI가 계속 확산된다면, 메모리 용량의 제약을 해소하는 CXL의 기술도 점점 더 발전, 확산될 것 같습니다.

 


메모리 풀을 만드는 CXL
– AI시대, 더 중요해지는 CXL

 

나승주 : CXL부터 먼저 말씀을 드리면 Compute Express Link라고 합니다.
기존에는 어떤 CPU 플랫폼과 Device 간 연결을 PCI Express를 통해서 했잖아요. PCI Express 또는 PCI가 되면서, 플랫폼과 플랫폼이 떨어져 있는 것을 하나의 어떤 서버 안으로 들어오게 할 수 있는 획기적인 인터페이스 기술이었습니다.
그렇지만 실제 메모리 측면에서 보면 일관성 측면에서 별도로 관리됩니다. 즉 메모리 맵, 아이오맵 이런 식으로 각각 다르게 운영됩니다.
한편, CXL(Compute Express Link)을 통해서 하게 된다면 동일한 관점에서 메모리를 액세스할 수 있게 되고 이것이 가장 큰 차이가 됩니다.
그래서 시스템이 CXL 디바이스에 연결된 메모리를 바로 액세스할 수 있는 겁니다.
고우성 : 아, 그러니까 외부 메모리까지요?
나승주 : 네,
고우성 : 그러니까 단일된 메모리 풀을 만드는 거네요?
나승주 : 단일 메모리 풀로 활용할 수 있게 되고요.
예전에 CXL이 지원이 안 된다고 하면, GPU의 메모리를 호스트에서 직접 접근하지 못했습니다.
즉, IO 커널을 통해서 IO 인터페이스를 통해서 메모리에 접근하게 되었던 것을, CXL로 인해 메모리에서 바로 메모리로 액세스할 수 있습니다.
고우성 : Memory to Memory로 가니까요? 중간이 CPU가 안 끼고요.
나승주 : 동일한 애플리케이션에서 하나의 뷰로 해서 볼 수가 있게 됩니다. 그래서 이제 메모리 일관성을 유지할 수가 있게 되고요. 일관성 면에서 상당히 장점이 있게 됩니다.

 


◼ 전체 잇(IT)터뷰 내용은 ▶영상으로 바로 가기(클릭)◀에서 확인하실 수 있습니다.
◼ 아래 목차 중 활성화된 목차를 클릭하시면 해당 내용을 영상으로 바로 보실 수 있습니다.

 

– 메모리 풀을 만드는 CXL
AI시대, 더 중요해지는 CXL

 


 

◼ 콘텐츠 & 웨비나 문의 : marketing@talkit.tv, 02-565-0012
Copyright ⓒ 토크아이티 All rights reserved. 무단 전재 및 재배포 금지.