애플 M3 울트라 탑재한 맥 스튜디오, 대규모 AI 모델 로컬 실행 지원

애플의  M3  울트라 칩을 탑재한 맥 스튜디오가  6710 억 개의 매개변수를 가진 딥시크  R1 AI  모델을 로컬환경에서 실행할 수 있는 것으로 확인됐다. (사진 = 애플)

 

애플의 M3 울트라 칩을 탑재한 맥 스튜디오가 6710억 개의 매개변수를 가진 딥시크 R1 AI 모델을 로컬환경에서 실행할 수 있는 것으로 확인됐다.

 

현지시간 지난 17일 유명 IT 유튜버 데이브 리(Dava2D)는 M3 울트라 칩을 장착한 맥 스튜디오가 최대 512GB 램을 구성하면 대규모 AI 모델을 원활하게 구동할 수 있다고 밝혔다.

 

테스트에 따르면 해당 모델은 404GB의 저장 공간과 448GB 비디오 램을 할당해야 실행되며 초당 17~18개의 토큰을 생성할 수 있는 성능을 보였다.

 

애플의 M3 울트라 칩은 통합 메모리 아키텍처를 활용해 AI 연산 효율을 극대화했으며 200W 미만의 전력으로 AI 모델을 구동할 수 있어 기존 PC 대비 전력 효율성이 뛰어난 것으로 평가된다.

 

맥 스튜디오의 로컬 AI 실행 기능은 의료 데이터 분석과 같은 높은 보안이 요구되는 환경에서 개인정보 보호의 장점을 제공한다.

 

그러나 M3 울트라 모델의 가격이 높아 512GB 램을 탑재한 맥 스튜디오는 10000달러(한화 약 1452만 원)이상이며 16TB SSD, 32코어 CPU, 80코어 GPU 등 최고 사양을 선택하면 14099달러(한화 약 2047만 원)까지 증가한다.

 

한편 애플은 M3 울트라가 ‘울트라퓨전’ 기술을 통해 두 개의 M3 Max 칩을 결합한 제품이며 역대 가장 강력한 맥 칩이라고 설명했다.