tpu

구글 공급망 인프라 고위 이사 Nikhil Cherian은 메모리 병목 현상을 극복하기 위해 구글이 소프트웨어 및 하드웨어 솔루션을 개발하고, 퇴역 서버를 분해하여 DDR4 구성 요소를 회수하여 내부 회수 공급망을 구축하고 있다고 밝혔습니다. 구글은 이전 세대 DDR4를 새로운 세대 인공지능 서버에 연결할 수 있는 특별한 하드웨어 어댑터를 설계했으며, 퇴역 서버를 수입하여 그 DDR4 모듈을 회수하여 재활용하고 있습니다.Cherian은 인공지능 산업이 계산 제한에서 메모리 제한으로 빠르게 전환하고 있으며, 고성능 메모리가 주어진 인공지능 서버 자재 목록 비용의 약 75%를 차지한다고 말했습니다. 골드만삭스 보고서에 따르면, 3분기 메모리 가격은 계속 상승할 것이며, 개인용 컴퓨터 DRAM 가격은 18%에서 23% 상승할 것으로 예상되고, 서버 DRAM 가격은 13%에서 18% 상승할 것으로 보입니다. Trendforce 데이터에 따르면, 8월 현물 시장에서 DDR4 8GB와 DDR5 8GB 가격은 각각 142달러와 133달러로 상승했습니다.구글이 올해 출시한 두 가지 TPU ASIC는 메모리를 최적화 설계하였으며, 메모리 수요를 원래의 6분의 1로 줄일 것으로 기대하고 있습니다. TPU8i 칩은 전용 계층 메모리 설계를 채택하여 고속 DDR5 메모리 아키텍처를 통해 호스트 수준의 작업을 수행하며, 각 칩은 288GB의 HBM3e 고대역폭 메모리를 탑재하고 있습니다.

SEMICON Taiwan 2026 메모리 고峰 포럼이 1일 개최되었으며, Alphabet 산하 Google Cloud 공급망 인프라 수석 이사 Nikhil Cherian은 다중 모드 및 혼합 전문가 아키텍처의 보급에 따라 AI 연산이 계산 능력 제한에서 메모리 제한으로 전환되었으며, 고성능 메모리가 AI 서버 하드웨어 자재 목록 비용의 75% 이상을 차지한다고 지적했습니다. 용량, 대역폭 및 전력 소비 병목 현상에 직면하여 Google은 추론 및 훈련 하드웨어 분산, 무손실 양자화 소프트웨어 알고리즘 등의 소프트웨어 및 하드웨어 이중 경로 전략을 통해 AI 메모리 병목 현상을 극복하고 있습니다.Google은 하드웨어 아키텍처에서 분산 전략을 채택하여 저지연 추론을 위한 TPU 8i와 초대규모 훈련을 전문으로 하는 TPU 8t를 출시했습니다. TPU 8i는 288 GB 고주파 대역폭 메모리를 장착하고 있으며, 칩의 SRAM 용량을 3배 확대하여 384 MiB로 증가시켰고, 동적 대화 상태 및 키 값 캐시를 칩 내부에 배치하여 제로 칩 외 지연을 실현했습니다. TPU 8t는 9600개의 칩으로 구성된 초대형 연산 클러스터를 통해 HBM 공유 풀링이 2 PB 규모에 도달하여 칩 외 데이터 전송 병목 현상을 제거하고 TPU Direct Storage 기술과 결합했습니다.Google은 훈련이 필요 없는 TurboQuant 무손실 양자화 알고리즘을 개발하여 대모델의 키 값 캐시를 32비트에서 3비트로 압축하고, 정확도 손실 없이 6배 메모리 사용량을 줄이며, 8배 주의 연산 가속을 가져오고, 구세대 DRAM 통합 기술을 도입하여 부품 수명을 연장했습니다.

경제일보 보도에 따르면, 일월광투控은 Google TPU의 양이 확대됨에 따라 대규모로 첨단 패키징 주문을 추가하고, 인텔은 EMIB 첨단 패키징 플랫폼을 가속화하며, 동시에 일월광투控에 대한 외주 발주를 확대하고 있다. 이전에 인상된 패키징 견적의 효과가 나타나고 있다. Google은 AI 자본 지출을 지속적으로 증가시켜 데이터 센터를 확장하고 있으며, TPU를 통해 Gemini 대모델, AI 에이전트 및 Google Cloud 서비스를 지원하고 있다. 시장에서는 Google TPU가 2028년에 대규모 생산 단계에 진입할 것으로 예상하며, 출하량은 1200만에서 1500만 개에 이를 것으로 보인다. 일월광투控은 2.5D, 3D 첨단 패키징 및 고급 테스트 기술을 보유하고 있으며, Google은 또한 TSMC의 첨단 공정 및 CoWoS 생산 능력을 확대하고 있다.인텔은 EMIB 첨단 패키징 플랫폼을 위해 전력 질주하고 있으며, Meta, Google 등 클라우드 대기업들이 EMIB, EMIB-T 플랫폼을 잇따라 도입하고 있다. 일월광투控은 순수 패키징 대행으로 포지셔닝하여 유기 내장형 실리콘 브릿지 기판을 직접 구매할 수 있으며, 후단 웨이퍼 수준 조립 및 고급 테스트 업무를 수주하고 있다. 일월광투控 운영장 우전옥은 인텔 EMIB와 TSMC CoWoS는 제로섬 경쟁이 아니라고 생각하고 있다. AI 칩 테스트 시간이 길어짐에 따라 장비, 자재 및 인건비가 상승하고 있으며, 고급 패키징 및 테스트 생산 능력이 점점 더 부족해지고 있다. 주요 패키징 공장은 제품, 생산 능력 및 고객 조건에 따라 가격을 단계적으로 인상하고 있으며, 인상폭은 약 5%에서 10%에 이르고 있다.

DIGITIMES에 따르면, 대만 반도체 공급망은 고급 패키징 기술이 다각화되고 있으며, 인텔의 EMIB가 핵심 옵션이 되고 있다고 전했습니다. Google TPU는 EMIB 패키징을 도입하기로 확정하였으며, 해당 기술을 채택한 첫 번째 TPU의 수율이 기준에 도달하였고, 기술, 비용 및 생산 능력 모두 Google의 원래 기준에 부합합니다. 향후 몇 세대 TPU는 EMIB를 계속 사용할 가능성이 크게 증가했습니다.TSMC의 CoWoS 생산 능력이 지속적으로 긴장된 상황에서, EMIB의 수율과 기술이 기준을 유지하는 한 Google은 계속해서 이를 채택할 것입니다. 미디어텍은 관련 ASIC 협력 파트너로, 미국 팀의 일부 관리자가 인텔 배경을 가지고 있어 양측의 협력이 더욱 원활합니다. 미디어텍은 여전히 TSMC를 절대적인 주력으로 삼고 있지만, 인텔과의 TPU 성공은 Google의 신뢰를 강화하고 더 많은 프로젝트를 확보하며 클라우드 고객에게 다양한 패키징 솔루션을 제공하는 데 도움이 됩니다.TSMC는 이전의 실적 발표에서 더 많은 공급업체가 고급 패키징에 참여하여 압력을 분담할 것을 촉구했으며, 공급망은 자사의 생산 확대가 무한하지 않을 것이라고 일반적으로 인식하고 있습니다. 따라서 인텔과 같은 패키징 경로의 다각화가 필요한 방향이 되었으며, 관련 테스트 장비 및 인터페이스 업체도 혜택을 볼 것으로 기대됩니다.

연구 기관 SemiAnalysis가 발표한 분석에 따르면, Google DeepMind는 더 이상 최전선 AI 실험실의 행렬에 속하지 않게 되었다. 이전 주, DeepMind 공동 창립자 Demis Hassabis가 일상 운영에서 물러났고, Google 수석 과학자 Jeff Dean 및 Gemini 공동 책임자 Oriol Vinyals 등 핵심 멤버들이 퇴사하여 새로운 실험실 Discovery Loop를 설립했다. 분석에 따르면, Google 내부에서 Gemini와 GCP 간의 계산력 배분에 대한 장기적인 게임이 GCP의 승리로 끝났다고 한다.SemiAnalysis는 Gemini 3.5 Pro가 취소되었으며, Gemini 3.6 Flash의 성능이 중국의 주요 오픈 소스 모델 및 Grok 4.5에 미치지 못한다고 밝혔다. 현재 Gemini는 대형 모델 순위에서 8위 또는 9위로 떨어졌다. 동시에, GCP는 Anthropic 등 경쟁자에게 TPU를 대량으로 판매하고 있으며, 지난 9개월 동안 수십만 개의 TPU에 대한 장기 임대 및 판매 계약을 체결했다. Tokenomics 모델에 따르면, Gemini의 ARR은 약 120억 달러이며, GCP는 2027년 말까지 제3자 AI 클라우드 서비스 수익이 730억 달러를 초과할 것으로 예상되며, TPU 시스템 판매는 추가로 1200억 달러를 기여할 것이다. GCP의 최신 분기 성장률은 82%이며, 2027년에는 TPU 시스템 판매로 인해 100% 이상으로 가속화될 것으로 예상되며, Google의 주당 수익에 약 3달러를 기여할 것이다.

천풍 국제 분석가 궈밍추가 글을 통해 구글이 미디어텍과 TPU v9 협력을 심화하고, 코드명 Triggerfish인 업그레이드 칩을 개발하고 있다고 밝혔습니다. 전해진 바에 따르면, 미디어텍은 이 고가 주문을 독점적으로 확보했습니다. 새로운 칩은 더 강력한 추론 능력을 갖춘 v9 변형으로, 주로 AI 에이전트(인공지능 에이전트)와 강화 학습 분야를 겨냥하고 있으며, 계산 과정에서의 CPU와 메모리 병목 문제를 해결하는 것을 목표로 하고 있습니다.기술 사양 면에서 Triggerfish의 SRAM 용량은 기본판(Humufish)보다 2배에서 3배 증가했으며, 강화 학습 및 AI 에이전트 협업을 위한 전용 시뮬레이션 칩이 추가되었고, 메모리는 HBM4에서 HBM4E로 업그레이드되었습니다. 궈밍추는 기본판 칩의 출하 예상량이 400만에서 500만 개를 유지하는 동안, 구글이 Triggerfish에 대해 100만에서 200만 개의 새로운 주문을 추가했다고 예상하고 있습니다. 이 칩은 2027년 말에 생산에 들어가고, 2028년에 대규모 양산 출하될 예정이며, 단가는 기본판보다 약 30% 높아질 것으로 보이며, 미디어텍의 2028년 사업 성장의 새로운 동력이 될 것으로 기대됩니다.

로이터 통신에 따르면, 사모펀드 거물인 아폴로 글로벌 매니지먼트(Apollo Global Management)와 블랙스톤 그룹(Blackstone Group)은 앤트로픽(Anthropic)이 인공지능 인프라를 구축하는 데 도움을 주기 위해 약 360억 달러 규모의 채무 금융 거래에 더 많은 투자자를 유치하고 있습니다.정보에 정통한 소식통에 따르면, 이 채무 금융은 구글 맞춤형 TPU(텐서 처리 장치) 칩 구매에 사용되며, 이후 앤트로픽이 이를 임대하여 사용할 예정입니다. 이 칩 개발을 지원한 브로드컴(Broadcom)은 이 거래의 대부분 금액에 대한 보증을 제공할 것입니다.이번 조치는 역사상 가장 큰 사모 신용 거래 중 하나가 될 것으로 기대되며, 지금까지의 최대 칩 금융 채무 거래가 될 가능성도 있습니다. 이 계획은 브로드컴의 신용 자격을 활용하여 앤트로픽에 계산 능력 지원을 제공하는 것을 목표로 하고 있습니다.

据 The Information 报道，Meta 已签署多年协议租用谷歌 TPU 用于训练新 AI 模型；谷歌还成立合资企业把 TPU 对外出租，并与 Meta 洽谈最早 2027 年为其数据中心采购 TPU。

구글 모회사 알파벳(GOOG.O)은 메타(META.O) 등과 협상 중이며, 자사 개발 텐서 AI 칩의 사용 권한을 개방할 계획이다. 이는 엔비디아(NVDA.O)와의 경쟁 구도를 더욱 확장하기 위한 것이다. 이 소식의 영향으로 구글과 AI 칩 파트너인 브로드컴은 장후 상승했으며, 엔비디아와 AMD의 주가는 하락했다. 구글은 전통적으로 자사 개발 TPU를 자사 데이터 센터에만 배치하고 고객에게 컴퓨팅 파워를 임대해왔다. 그러나 미국 기술 매체 더 인포메이션은 현지 시간으로 월요일 저녁 구글이 이제 고객에게 TPU 칩을 직접 판매하여 자사 데이터 센터에 배치할 계획이라고 보도했다.메타는 2027년부터 수십억 달러 규모의 구글 TPU 칩을 자사 데이터 센터에 구매할 것을 고려하고 있으며, 2026년부터 구글 클라우드에 TPU 컴퓨팅 파워를 임대할 계획이다. 현재 메타의 AI 사업은 주로 엔비디아 GPU에 의존하고 있다. 이는 텐서 칩을 공동 설계하는 구글과 브로드컴에게는 잠재력이 큰 신흥 시장을 의미한다. 동시에 엔비디아와 AMD에 대한 상당한 경쟁 압력을 형성할 수 있으며, 이는 후자의 매출과 가격 결정권에 영향을 미칠 수 있다. (금십)

ChainCatcher 메시지, Cardano 개발 회사 Input Output는 이제 EVM 사이드체인 개념 증명 공공 테스트넷을 출시하여 테스트 환경 간의 토큰 전송, 지갑 연결 및 스마트 계약과 DApp 배포를 테스트할 수 있도록 합니다. 공식 문서에 따르면, 이 EVM 사이드체인 테스트넷 환경은 EVM 사이드체인 테스트넷과 Cardano 테스트넷의 두 네트워크로 구성되어 있습니다.전해진 바에 따르면, Input Output는 1월에 Cardano에서 맞춤형 사이드체인을 개발하기 위한 도구 키트를 출시하여 개발자들이 Cardano의 보안성과 인프라를 활용하여 특정 작업에 맞는 사이드체인을 생성할 수 있도록 했습니다. 이 도구 키트는 사이드체인이 자체 합의 알고리즘과 기능을 가질 수 있도록 합니다. 사이드체인은 체인 간 자산 전송을 허용하는 브리지를 통해 메인 체인에 연결됩니다.（출처 링크）