BTC $76,825.63 -1.90%
ETH $2,445.71 -1.14%
BNB $711.31 -1.81%
XRP $1.34 -3.62%
SOL $99.24 -2.54%
TRX $0.3403 +0.26%
DOGE $0.0834 -2.97%
ADA $0.2067 -3.00%
BCH $226.55 -10.01%
LINK $11.47 -3.07%
HYPE $78.59 -6.51%
AAVE $121.57 -2.94%
SUI $0.7342 -4.53%
XLM $0.1757 -2.42%
ZEC $1,071.83 -13.77%
BTC $76,825.63 -1.90%
ETH $2,445.71 -1.14%
BNB $711.31 -1.81%
XRP $1.34 -3.62%
SOL $99.24 -2.54%
TRX $0.3403 +0.26%
DOGE $0.0834 -2.97%
ADA $0.2067 -3.00%
BCH $226.55 -10.01%
LINK $11.47 -3.07%
HYPE $78.59 -6.51%
AAVE $121.57 -2.94%
SUI $0.7342 -4.53%
XLM $0.1757 -2.42%
ZEC $1,071.83 -13.77%

서버

전체
뉴스 플래시

first_img 구글, 퇴역 서버 분해하여 DDR4로 메모리 부족 대응

구글 공급망 인프라 고위 이사 Nikhil Cherian은 메모리 병목 현상을 극복하기 위해 구글이 소프트웨어 및 하드웨어 솔루션을 개발하고, 퇴역 서버를 분해하여 DDR4 구성 요소를 회수하여 내부 회수 공급망을 구축하고 있다고 밝혔습니다. 구글은 이전 세대 DDR4를 새로운 세대 인공지능 서버에 연결할 수 있는 특별한 하드웨어 어댑터를 설계했으며, 퇴역 서버를 수입하여 그 DDR4 모듈을 회수하여 재활용하고 있습니다.Cherian은 인공지능 산업이 계산 제한에서 메모리 제한으로 빠르게 전환하고 있으며, 고성능 메모리가 주어진 인공지능 서버 자재 목록 비용의 약 75%를 차지한다고 말했습니다. 골드만삭스 보고서에 따르면, 3분기 메모리 가격은 계속 상승할 것이며, 개인용 컴퓨터 DRAM 가격은 18%에서 23% 상승할 것으로 예상되고, 서버 DRAM 가격은 13%에서 18% 상승할 것으로 보입니다. Trendforce 데이터에 따르면, 8월 현물 시장에서 DDR4 8GB와 DDR5 8GB 가격은 각각 142달러와 133달러로 상승했습니다.구글이 올해 출시한 두 가지 TPU ASIC는 메모리를 최적화 설계하였으며, 메모리 수요를 원래의 6분의 1로 줄일 것으로 기대하고 있습니다. TPU8i 칩은 전용 계층 메모리 설계를 채택하여 고속 DDR5 메모리 아키텍처를 통해 호스트 수준의 작업을 수행하며, 각 칩은 288GB의 HBM3e 고대역폭 메모리를 탑재하고 있습니다.

first_img 구글은 AI 서버 메모리 비용이 75%를 초과했다고 발표하며 소프트웨어와 하드웨어의 이중 전략을 추진하고 있다

SEMICON Taiwan 2026 메모리 고峰 포럼이 1일 개최되었으며, Alphabet 산하 Google Cloud 공급망 인프라 수석 이사 Nikhil Cherian은 다중 모드 및 혼합 전문가 아키텍처의 보급에 따라 AI 연산이 계산 능력 제한에서 메모리 제한으로 전환되었으며, 고성능 메모리가 AI 서버 하드웨어 자재 목록 비용의 75% 이상을 차지한다고 지적했습니다. 용량, 대역폭 및 전력 소비 병목 현상에 직면하여 Google은 추론 및 훈련 하드웨어 분산, 무손실 양자화 소프트웨어 알고리즘 등의 소프트웨어 및 하드웨어 이중 경로 전략을 통해 AI 메모리 병목 현상을 극복하고 있습니다.Google은 하드웨어 아키텍처에서 분산 전략을 채택하여 저지연 추론을 위한 TPU 8i와 초대규모 훈련을 전문으로 하는 TPU 8t를 출시했습니다. TPU 8i는 288 GB 고주파 대역폭 메모리를 장착하고 있으며, 칩의 SRAM 용량을 3배 확대하여 384 MiB로 증가시켰고, 동적 대화 상태 및 키 값 캐시를 칩 내부에 배치하여 제로 칩 외 지연을 실현했습니다. TPU 8t는 9600개의 칩으로 구성된 초대형 연산 클러스터를 통해 HBM 공유 풀링이 2 PB 규모에 도달하여 칩 외 데이터 전송 병목 현상을 제거하고 TPU Direct Storage 기술과 결합했습니다.Google은 훈련이 필요 없는 TurboQuant 무손실 양자화 알고리즘을 개발하여 대모델의 키 값 캐시를 32비트에서 3비트로 압축하고, 정확도 손실 없이 6배 메모리 사용량을 줄이며, 8배 주의 연산 가속을 가져오고, 구세대 DRAM 통합 기술을 도입하여 부품 수명을 연장했습니다.

hot_img 인텔과 AMD는 중국 서버 고객과 장기 CPU 공급 계약을 체결하려고 하며, 일부 제품 가격은 올해 40% 이상 상승할 예정이다

로이터 통신에 따르면, AI 데이터 센터 수요 급증으로 인해 서버 CPU 공급이 긴축되면서, 인텔과 AMD는 중국 서버 고객과 장기 구매 약속에 대해 협상 중이며, 계약은 일반적으로 1년 공급량을 고정하고 일부 논의는 2년 또는 그 이상의 기간을 포함하고 있습니다. AI 연산력 구축에 힘입어 CPU 수요는 AI 가속기에서 주류 프로세서로 확대되었으며, 일부 서버 CPU 제품은 중국 시장에서 연간 누적 가격 상승폭이 **40%**를 초과하고, 월별 상승폭은 최고 **10%**를 초과했습니다.인텔 CEO Lip-Bu Tan은 4월에 Xeon 서버 CPU 수요가 "공급을 지속적으로 초과하고 있다"고 언급했으며, 회사는 1분기에 여러 장기 계약을 체결했으며, 그 중에는 구글과의 다년 계약도 포함되어 있습니다. AMD는 서버 CPU 시장 예측을 2030년 1200억 달러를 초과하도록 상향 조정했습니다. 보도에 따르면, 중국은 세계 최대 서버 시장 중 하나로, 데이터 센터 및 AI 연산력 클러스터의 빠른 구축이 인텔과 AMD 프로세서에 대한 경쟁을 심화시키고 있으며, 중국 구매자들은 동시에 미국의 첨단 AI GPU 수출 제한에 직면해 있습니다. 인텔은 목요일에 분기 실적을 발표할 예정이며, CPU 부족이 시장의 관심 초점이 될 것으로 예상됩니다.
app_icon
ChainCatcher Building the Web3 world with innovations.