새 하드웨어 구매 전에, 폐기 예정 장비에서 회수한 중고 메모리를 네트워크로 공유하는 것이 새 메모리 구매의 1/13 비용으로 AI 인프라를 확장하는 길이 될 수 있다.
HBM 사느라 난리인데 메타는 왜 구형 DDR4를?
엔비디아 GPU에 HBM 메모리를 얹으려고 빅테크들이 줄을 서는 지금, 메타는 정반대 방향으로 움직였습니다. 버려질 예정이던 구형 서버에서 DDR4 메모리를 뜯어내 신형 서버에 다시 꽂는 방식을 선택했습니다. 단순한 절약 아이디어처럼 들리지만, 이 결정 뒤에는 수백만 대 서버에서 발견된 구조적 문제가 있었습니다. 그 문제가 무엇인지 알면 메타가 왜 새 메모리 대신 중고 DDR4를 택했는지 자연스럽게 이해됩니다.
메타 서버 40%가 메모리를 늘릴 수 없는 구조였다
메타가 ISCA 2026 학회에서 공개한 수치는 꽤 충격적입니다. 메타 전체 서버 중 약 40%는 슬롯 구조상 메모리 용량을 물리적으로 더 늘릴 수 없는 상태였습니다. 이 서버들은 AI 추론 같은 메모리 집약적 워크로드를 처리하다가 용량 부족으로 작업 자체가 실패하는 일이 반복됐습니다. 새 서버를 추가 구매하면 해결되지만, 수백만 대 규모에서 그 비용은 단순 계산으로도 감당하기 어려운 수준입니다. 메타가 찾은 답은 이미 데이터센터 안에 있었습니다.
비스타라 칩이 DDR4를 공유 메모리로 바꾸는 방법
메타가 공개한 비스타라는 CXL(Compute Express Link) 기반 ASIC 칩입니다. 폐기 예정 서버에서 회수한 DDR4 모듈을 비스타라 칩에 연결하면, 여러 서버가 이 메모리를 네트워크처럼 공유해서 쓸 수 있습니다. 핵심은 비용 구조입니다. 비스타라를 통한 CXL 계층 메모리의 GB당 비용은 로컬 메모리의 약 0.13배 수준입니다. 같은 돈으로 훨씬 많은 메모리 용량을 확보할 수 있다는 뜻입니다. 이 구조가 실제로 어떤 수치를 만들어냈는지가 진짜 포인트입니다.
AI 추론 서버 25% 감축, 실패율 33% 감소라는 결과
메타가 공개한 성과 수치는 두 가지입니다. 비스타라 도입 후 AI 추론 서버 수를 최대 25% 줄일 수 있었고, 메모리 부족으로 인한 작업 실패율은 33% 감소했습니다. 서버 수를 줄인다는 건 전력·냉각·공간 비용이 함께 내려간다는 의미입니다. 실패율 감소는 AI 추론 서비스 품질과 직결됩니다. 새 메모리를 구매하거나 서버를 추가하지 않고, 이미 폐기 대기 중이던 DDR4를 재활용해서 이 수치를 만들어낸 것이 비스타라의 핵심 가치입니다. 이 방식이 메타에만 유효한 선택인지, 아니면 다른 의미가 있는지 마지막에서 살펴봅니다.
지금 내가 챙겨야 할 한 가지
메타 비스타라 사례는 AI 인프라 비용을 고민하는 엔지니어나 IT 담당자에게 실용적인 참고점이 됩니다. 새 하드웨어 구매 전에 기존 폐기 예정 장비의 메모리 회수 가능성을 먼저 검토하는 것, 그리고 CXL 기반 메모리 공유 아키텍처가 자사 워크로드에 맞는지 따져보는 것이 지금 당장 할 수 있는 행동입니다. 비스타라처럼 자체 ASIC까지 개발하지 않더라도, CXL 지원 상용 솔루션은 이미 시장에 나와 있습니다. 여러분 회사 서버 중 메모리 슬롯이 꽉 찬 채로 방치된 장비가 몇 대나 되는지 지금 바로 확인해볼 수 있을까요?
#메타비스타라 #DDR4재활용 #CXL메모리 #메타AI인프라 #서버메모리 #CXL칩 #메모리재활용 #AI추론서버