AI 데이터센터 병목의 해법, CPO(Co-Packaged Optics)가 주목받는 이유 (신동섭 프로 / Ansys Korea)

<잇(IT)터뷰 전체 영상 보기>

잇(IT)터뷰 전체 내용은 ▼아래 영상▼에서 확인해 주세요!
 

게스트 : 신동섭 프로 / Ansys Korea (info_korea@ansys.com)
진행자 : 고우성 PD / 토크아이티 (talkit@talkit.tv, https://talkit.tv/)

 


<잇(IT)터뷰 – 핵심 내용 파악하기>

‘잇(IT)터뷰 – 핵심 내용 파악하기’는 영상의 핵심 내용을 정리한 글입니다.
영상 내용을 정리된 글로 확인해 보세요!
더 많은 내용이 궁금하시다면 페이지 상단의 영상이나 하단 영상 링크를 클릭하여 확인해 주세요!

 

이번 잇(IT)터뷰는 AI 데이터센터에서 GPU 성능 자체보다 GPU 시스템 내부와 외부를 어떻게 연결하느냐가 더 큰 병목이 되고 있다는 점을 짚는다.
핵심 해법으로 제시된 CPO는 구리 기반 인터커넥트를 광 기반으로 바꿔 대역폭, 전력 효율, 발열 문제를 동시에 풀려는 구조다.

 
 

1. AI 데이터센터의 병목은 연산 칩이 아니라 연결 구조에서 먼저 터진다

 

AI 데이터센터는 GPU 성능이 빠르게 올라가고 있지만, 데이터를 실제로 주고받는 인터커넥트가 그 속도를 따라가지 못하면 전체 시스템 효율이 떨어진다. 특히 구리 케이블 기반 연결은 데이터 전송량이 커질수록 저항, 발열, 전력 소모, 대역폭 한계가 함께 커진다. 계산 능력이 높아질수록 오히려 연결부가 전체 성능을 막는 구조가 되는 것이다.
이 문제는 대형 AI 학습과 추론 환경에서 더 크게 드러난다. GPU가 더 많은 데이터를 더 빠르게 처리하면, 그만큼 GPU 간 통신과 시스템 내부 데이터 이동량도 폭증한다. 결국 AI 인프라 경쟁력은 칩 단품 성능보다 “연결을 얼마나 효율적으로 설계했는가”에 좌우되기 시작한다. CPO가 주목받는 이유도 여기에 있다. 기존 전기 신호 중심 구조를 광 신호 중심으로 바꿔, 병목이 되는 연결 경로 자체를 다시 설계하려는 시도다.

 
 

2. CPO의 본질은 광통신을 칩 패키지 가까이 끌어와 구리 기반 한계를 줄이는 것이다

 

CPO는 Co-Packaged Optics의 약자로, 반도체 패키지 레벨에 광학 요소를 함께 넣는 구조다. 쉽게 말하면 기존처럼 광 케이블이 멀리서 들어와 전기 신호로 바뀐 뒤 다시 칩으로 전달되는 방식이 아니라, 광 신호를 훨씬 더 칩 가까이 가져와 처리하는 개념이다. 구리 케이블이 담당하던 구간을 줄이고, 광 신호의 장점을 더 직접적으로 활용하는 구조라고 보면 된다.
이 방식의 핵심 효과는 분명하다. 전기 기반 전달에서 커지던 발열과 전력 손실을 줄일 수 있고, 더 높은 데이터 전송량도 감당할 수 있다. 특히 AI 데이터센터처럼 대규모 병렬 연산이 일어나는 환경에서는 이 차이가 매우 크다.
CPO라는 아이디어 자체는 최근 갑자기 등장한 기술이 아니라 오래전부터 존재했지만, 과거에는 지금만큼 데이터 폭증 환경이 아니었기 때문에 절실하지 않았다. 생성형 AI와 자율주행처럼 엄청난 데이터 이동을 전제로 하는 시대가 오면서, 이제야 본격적으로 실전 기술로 주목받기 시작한 것이다.

 
 

3. 엔비디아와 TSMC의 움직임은 CPO가 개념 검토 단계를 넘어 실제 도입 국면에 들어갔다는 신호다

 

이 기술이 단순한 연구 아이디어가 아니라는 점은 엔비디아와 TSMC 사례에서 분명해진다. 엔비디아는 Spectrum-X와 Quantum-X 계열 제품에 CPO 기술을 포함하는 방향을 공개했고, TSMC도 수년 전부터 관련 연구와 논문을 축적해 왔다. 즉 CPO는 이제 “될 수 있을까”를 묻는 단계보다 “어떤 구조로 상용화할까”를 논의하는 단계에 가까워지고 있다.

 

엔비디아와 TSMC, CPO

 

여기서 중요한 변화는 IC 구조 자체가 달라진다는 점이다. 기존에는 전기 기반 IC 중심으로 생각했다면, 이제는 EIC(Electrical IC)와 PIC(Photonic IC)를 함께 봐야 한다. 전기 회로와 광 회로를 패키지 안에서 함께 다루고, 외부 광 입력/출력, 레이저, 포토닉 연산, 전기-광 변환을 하나의 시스템으로 엮어야 한다. 이 구조가 성숙하면 대역폭은 크게 늘리고, 지연은 줄이고, 전력 효율도 개선할 수 있다.
결국 AI 인프라 경쟁은 더 이상 GPU 칩 하나의 성능만으로 설명되지 않고, 광 기반 인터커넥트까지 포함한 패키지 아키텍처 경쟁으로 넘어가고 있다.

 
 

4. CPO의 최대 설계 난제는 열이며, 열 문제는 정렬·성능·신뢰성을 한 번에 흔든다

 

CPO는 성능 잠재력이 큰 대신 설계 난이도도 높다. 그 중심에는 열 문제가 있다. 광학 소자는 열에 민감하고, 칩 패키지 안에서 열이 커지면 광 케이블과 칩 사이의 정렬이 조금만 틀어져도 신호 품질이 크게 떨어질 수 있다. 원하는 광 에너지를 정확히 받지 못하면 전송 효율과 안정성이 흔들리고, 결국 시스템 전체 신뢰성 문제로 이어진다.
그래서 CPO 설계는 단순히 광 부품을 붙이는 작업이 아니다. 전력, 신호 무결성, 광 특성, 기계적 스트레스가 모두 얽혀 있고, 그 모든 문제의 중심에 열이 있다.

 

CPO 설계 전략

 

특히 광 커플러, 레이저, 모듈레이터, 포토디텍터 같은 요소는 각각 역할이 다르고, 서로의 위치와 동작 조건도 정밀하게 맞아야 한다. 작은 열 변형이 정렬 오차를 만들고, 그 정렬 오차가 다시 성능 저하와 신호 손실로 이어질 수 있기 때문에, 열 설계는 사실상 CPO 구현의 핵심 전제라고 봐야 한다.

 
 

5. CPO 시대에는 칩 설계도 전기·광·열을 함께 보는 통합 시뮬레이션 체계가 필수가 된다

 

CPO는 회로 설계만 잘한다고 완성되지 않는다. 광회로 레이아웃, 컴포넌트 특성 계산, 라이브러리화, 전체 회로 검증까지 여러 단계를 반복적으로 검토해야 한다. 특히 전기 설계, 광 설계, 열 해석, 패키지 검증이 따로 놀면 실제 제품 수준에서 문제를 잡기 어렵다. 그래서 CPO 설계는 멀티피직스 기반의 통합 검증 체계가 중요해진다.
이 점에서 설계 툴과 시뮬레이션 플랫폼의 역할이 커진다. 광회로를 그리고 끝나는 것이 아니라, 각 소자의 특성을 시뮬레이션하고, 그것을 다시 회로 설계와 연결하고, 최종적으로 실제 동작 가능성까지 검증해야 하기 때문이다. AI 데이터센터가 계속 커질수록 이런 통합 설계 능력은 더 중요해진다.

 

통합 CPO 설계 전략

 

결국 CPO는 단순한 부품 기술이 아니라, 데이터센터 네트워크 구조, 칩 패키징, 열 제어, 설계 자동화가 모두 결합된 차세대 인프라 기술이라고 정리할 수 있다.

 
 

6. 3줄 요약

 

– AI 데이터센터의 핵심 병목은 GPU 자체보다 구리 기반 인터커넥트의 대역폭, 전력 효율, 발열 한계에서 먼저 나타난다.
– CPO는 광통신을 칩 패키지 가까이 끌어와 이 병목을 줄이고, 더 높은 대역폭과 더 나은 전력 효율을 구현하려는 구조다.
– 엔비디아와 TSMC의 움직임은 CPO가 실제 상용화 단계로 들어가고 있음을 보여주며, 성공의 핵심 변수는 열 중심의 통합 설계 역량이다.

 

◼ 전체 잇(IT)터뷰 내용은 ▶영상으로 바로 가기(클릭)◀에서 확인하실 수 있습니다.

◼ 콘텐츠 & 웨비나 문의 : marketing@talkit.tv, 02-565-0012
Copyright ⓒ 토크아이티 All rights reserved. 무단 전재 및 재배포 금지.