AI 슈퍼컴퓨터, 뭐가 다를까? John Carmack 이슈 완벽 분석!
최근 AI 모델 학습에 관심이 많아지면서 고성능 컴퓨터에 대한 욕심도 커지고 있어요. 특히 Nvidia DJX Spark 같은 AI 슈퍼컴퓨터는 성능이 얼마나 좋을지, 일반 데스크탑과 얼마나 차이가 날지 궁금하더라고요. 막상 사려고 하니 종류도 너무 많고, John Carmack이 비판했다는 이야기도 있어서 고민이 많았죠.
그러던 차에 Alex Ziskind님의 “John Carmack Was Right. The Internet Was Wrong.” 영상을 보게 됐는데요, DJX Spark를 포함한 다양한 AI 슈퍼컴퓨터를 꼼꼼하게 비교 분석해 주셔서 정말 많은 도움이 됐습니다!
Grace Blackwell 칩셋 AI 컴퓨터 비교
영상을 보니까 Grace Blackwell 칩을 사용하는 AI 슈퍼컴퓨터들이 꽤 다양하더라고요. Dell GB10, Asus GX10 (Ascent GX10), MSI Edge Expert, 그리고 문제의 Nvidia DJX Spark까지! 칩셋은 같은 걸 쓰지만, 냉각 방식이나 디자인, NVMe 드라이브 크기 같은 부분에서 차이가 있다는 점이 신기했어요. 특히 발열 성능이나 전력 소모는 디자인에 따라 달라질 수 있다는 점이 흥미로웠습니다.
운영체제는 모두 DGXOS를 사용하는데, 이건 Ubuntu에 AI 개발에 필요한 도구들을 미리 설치해놓은 거라서 편리해 보였어요. 리눅스 환경에 익숙하지 않은 저같은 사람에게는 딱일듯! 솔직히 윈도우 환경에서 이것저것 설치하고 설정하려면 머리가 너무 아프잖아요.
Chat LLM Teams: AI 활용의 새로운 가능성
이 영상에서 Chat LLM Teams라는 서비스도 소개해주는데요, 이건 진짜 ‘혁신’이라는 단어가 아깝지 않더라고요. GPT, Claude Sonnet, Gemini Pro 같은 여러 LLM 모델을 하나의 대시보드에서 쓸 수 있다는 점이 엄청난 강점 같아요. 저는 여러 AI 챗봇을 번갈아 가면서 쓰는 경우가 많은데, Chat LLM Teams를 사용하면 훨씬 효율적으로 작업할 수 있을 것 같습니다.
특히 마음에 들었던 건 Abacus AI Deep Agent 기능이었어요. 텍스트 프롬프트만으로 풀 스택 앱이나 웹사이트를 만들고 바로 배포할 수 있다니! 코딩 실력이 부족한 저에게는 정말 구세주 같은 존재가 될 것 같아요. 게다가 월 10달러라는 저렴한 가격도 매력적입니다. 당장이라도 구독하고 싶어지네요.
외관 디자인과 편의성 비교
AI 슈퍼컴퓨터들의 외관 디자인을 비교하는 부분도 재미있었어요. 랙에 장착할 수 있는지, 재질은 뭔지, 전원 버튼 위치는 어디인지 등등 꼼꼼하게 비교해주셨죠. Asus 제품은 전면에 전원 버튼이 있어서 랙에 장착한 상태에서도 전원 관리가 편리하다는 점이 인상적이었습니다. 반면, DJX Spark는 후면 패널에 라벨이 없어서 조금 불편할 수도 있겠다는 생각이 들었어요. 이런 디테일한 부분까지 신경 써서 제품을 선택해야 한다는 걸 깨달았습니다.
무게도 의외로 차이가 컸는데요, Asus 제품이 가장 무겁고 DJX Spark와 Dell 제품은 거의 비슷하더라고요. 무게가 중요한 요소는 아니지만, 이동성을 고려한다면 참고할 만한 정보인 것 같습니다.
발열 및 소음 테스트: John Carmack 이슈의 진실
가장 궁금했던 John Carmack의 DJX Spark 관련 이슈! 영상에서 Carmack이 지적했던 전력 소모량과 그에 대한 언론의 왜곡 보도에 대해 자세히 설명해주셨어요. 실제 테스트 결과, DJX Spark의 전력 소모량이 정격의 절반 수준이라는 Carmack의 주장은 어느 정도 사실이었지만, 언론에서 보도한 것처럼 발열 조절에 심각한 문제가 있는 것은 아니라는 것을 알 수 있었습니다.
Llama CPP를 사용해서 340억 파라미터 모델을 45분 동안 실행한 결과, GPU 온도는 80도, GPU 전력 소모는 65W 정도로 안정적인 상태를 유지했다고 해요. 물론, 장시간 구동 시 발열 상태를 확인해야 하지만, 단발성 추론 작업에서는 큰 문제가 없을 것 같습니다.
저는 이 부분을 보면서 ‘역시 섣부른 판단은 금물’이라는 생각을 했어요. 언론 보도만 믿고 DJX Spark에 문제가 있다고 단정지었다면 후회했을 것 같아요.
NVMe 드라이브 속도 비교: Gen 5의 위력
NVMe 드라이브 속도 비교 부분도 흥미로웠습니다. DJX Spark는 Gen 5 드라이브를 사용하고, 다른 제품들은 Gen 4 드라이브를 사용하는데요, 속도 차이가 꽤 크더라고요. Spark는 32GB/s, 다른 제품들은 16GB/s! 파일 복사 속도도 Spark가 훨씬 빨랐습니다.
모델을 디스크에서 처음 로드할 때, 즉 ‘콜드 스타트’ 시나리오에서 Gen 5 드라이브의 장점이 두드러진다고 해요. 에이전트가 여러 모델을 사용하는 경우에는 속도 저하가 발생할 수도 있다고 하니, 모델 학습 속도가 중요하다면 DJX Spark를 선택하는 것이 좋을 것 같습니다.
직접 적용해본다면
만약 제가 AI 슈퍼컴퓨터를 산다면 Asus GX10 1TB 버전을 구매해서 4TB 드라이브로 업그레이드하는 방법을 고려해볼 것 같아요. 전면 전원 버튼 위치도 마음에 들고, 발열 성능도 괜찮아 보이거든요. 물론, DJX Spark의 Gen 5 드라이브 속도도 매력적이지만, 가격을 생각하면 Asus GX10이 합리적인 선택일 것 같습니다. 그리고 Chat LLM Teams는 꼭 구독해서 사용해봐야겠어요! AI 작업 효율을 높이는 데 정말 큰 도움이 될 것 같거든요.
영상을 보면서 AI 슈퍼컴퓨터에 대한 궁금증이 많이 해소되었어요. 이제 어떤 제품을 선택해야 할지, 어떻게 활용해야 할지 감이 잡히네요. Alex Ziskind님, 덕분에 좋은 정보 얻어갑니다!
여러분은 AI 슈퍼컴퓨터에 대해 어떻게 생각하시나요? 혹시 사용해보신 분이 있다면 후기를 공유해주세요!