leangnews

2025년 10월 14일 08:00

AI 데이터센터 병목 해소: 왜 SSD 우선 전략이 답인가

AI 데이터센터 병목 해소: 왜 SSD 우선 전략이 답인가


기사 요약

  • AI 확산으로 콜드 데이터가 워밍 데이터로 전환되며 지연·처리량 요구가 커져 HDD 중심 스토리지가 병목이 되고 있다.
  • 연구와 사례에 따르면 SSD 기반(특히 122TB급 등) 전환은 동등 용량 대비 장비 수와 전력·냉각을 크게 줄여 10년간 에너지 사용을 최대 77% 절감한다.
  • HDD는 아카이브·콜드용으로 남되, 고용량 SSD·액체냉각·효율적 설계가 GPU 스케일을 뒷받침하는 AI 시대의 핵심 인프라로 부상하고 있다.

AI 시대 스토리지 병목과 SSD 우선 전환

Solidigm 제공 스폰서 콘텐츠라는 점을 밝힙니다. AI 도입이 급증하면서 데이터센터의 핵심 병목이 스토리지로 이동했고, 한때 콜드 아카이브에 머물던 데이터가 모델 학습과 추론 고도화를 위해 빈번히 호출되는 ‘워밍 데이터’로 바뀌고 있습니다. 낮은 지연과 높은 처리량, 병렬 연산을 견딜 수 있는 저장계층이 요구되며, IDC의 Jeff Janukowicz는 이 과정에서 HDD의 성능·확장 제약이 커지고 ‘니어라인 SSD’ 논의가 부각되고 있다고 말합니다. Solidigm의 Roger Corell은 전력과 공간이 희소한 환경에서 GPU 활용률 극대화, NAS 운영 효율화, 컴퓨트 스케일 확장이 동시에 필요해 단순 교체를 넘어 인프라 정렬이 요구된다고 강조합니다.

HDD 한계와 고용량 SSD의 가치

HDD는 정밀한 기계 설계를 갖췄지만 플래터와 액추에이터 등 기계 부품 의존으로 IOPS가 구조적으로 제한되고, 탐색 지연이 실시간 추론·학습에 병목을 유발합니다. 데이터 접근이 잦아질수록 전력·냉각 부담도 커져 효율이 급격히 떨어집니다. 반면 VAST Data와 Solidigm이 수행한 엑사바이트급 경제성 분석에 따르면, 10년 기간의 저장 전력 소비 비교에서 30TB HDD 네 개가 122TB 단일 SSD 한 개 용량에 해당하며, SSD 성능을 활용한 데이터 절감까지 적용하면 엑사바이트 구성을 약 3,738개의 Solidigm SSD로 구현할 수 있어 4만 대가 넘는 고용량 HDD 대비 저장 에너지를 77% 절감하고 연간 약 100만 달러의 전력 비용을 줄일 수 있습니다.

전력·공간 최적화: SSD 기반 인프라의 9:1 효과

Solidigm은 122TB 드라이브를 글로벌 유수 OEM과 AI 클라우드에 공급 중이며, 올-122TB SSD 구성은 HDD+TLC SSD 혼합 구성 대비 데이터센터 설치 면적을 9:1 수준으로 축소합니다. 이는 대형 센터는 물론 지역·로컬·엣지 거점처럼 공간이 귀한 곳에서 특히 유효하며, 확보된 전력·공간을 GPU 확장에 재투자하거나 더 작은 풋프린트로 동일 성능을 구현할 수 있습니다. 또한 유지해야 할 스토리지 베이가 최대 90% 줄어 운영비와 유지보수 복잡성이 동반 절감됩니다.

지속가능성과 재료 발자국

기계식 HDD 중심의 대규모 저장은 랙과 건물 규모를 키워 콘크리트·강철 사용량을 증가시킵니다. 두 재료의 생산은 전 세계 온실가스 배출의 15% 이상을 차지하는 만큼, 물리적 풋프린트를 줄이면 내재 배출도 감소합니다. 분석에 따르면 SSD 전환은 HDD 대비 내재 콘크리트·강철 기반 배출을 80% 이상 줄일 수 있으며, 수명 종료 단계에서도 처리해야 할 드라이브 수가 약 90% 감소합니다.

콜드·아카이브 전략 재편과 니어라인 SSD

대형 하이퍼스케일러들은 기존 인프라에서 테라바이트당 IOPS를 끌어내기 위해 HDD를 90% 수준까지 과도 할당하는 등 ‘억지’ 최적화를 시도해 왔으나, 점차 현대적 올 플래시—특히 고용량 SSD—로 전환하고 있습니다. 이러한 교훈은 AI뿐 아니라 빅데이터 분석, HPC 등으로 확산되고 있습니다. 물론 HDD는 아카이브·콜드 저장처럼 GB당 비용이 최우선인 용도에 남겠지만, 토큰 경제의 부상과 데이터 수익화가 진행될수록 워밍 데이터 비중은 계속 늘 것입니다.

솔리다임 QLC와 E1.S: 냉각·밀도 혁신

Solidigm의 4세대 QLC는 누적 122엑사바이트 이상 출하되며, 단순 저장을 넘어 솔루션 수준의 비용·성능 균형을 지향합니다. 최근 공개한 D7-PS1010 E1.S는 업계 최초로 단면 직접-칩 액체 냉각을 적용한 eSSD로, NVIDIA와 협력해 열 관리와 비용 효율을 동시에 해결하면서 고성능 AI 워크로드 요구를 충족합니다. 다이렉트 어태치 측면에서 핵심 IT 부품 전반이 직접-칩 액체 냉각으로 전환되는 추세 속에서, 고용량 SSD 채택은 냉각 전략과 랙 밀도 설계의 핵심 축이 되고 있습니다.

메모리 월을 넘는 스토리지 아키텍처

복잡해지는 추론은 ‘메모리 월’에 부딪히고 있어 스토리지는 더 이상 후순위가 아닌 1급 설계 과제입니다. 액체 냉각과 효율적 랙 설계를 갖춘 고용량 SSD 기반 아키텍처가 AI의 급증하는 요구를 감당할 수 있는 사실상 유일한 경로로 부상했습니다. 이제 필요한 것은 효율 그 자체가 아니라, 데이터 증가에 따라 자연스럽게 확장되는 저장계층이며, 지금 스토리지를 재정렬하는 조직이 내일 AI 스케일을 선점할 것입니다. 본 기사는 스폰서드 콘텐츠로, 자세한 문의는 VentureBeat 영업팀(sales@venturebeat.com)으로 연락하시기 바랍니다.

이 기사 공유하기