추론

DeepSeek는 내부 추론 프레임워크 DeepInfer를 전면 오픈소스화하고, 생산 수준의 토큰 인코딩 및 디코딩 컴포넌트 deepseek-recipe를 동시 오픈소스화한다고 발표했습니다. DeepInfer는 고성능 연산자와 깊이 최적화된 추론 엔진을 통합하여 분산 추론, 추측 디코딩, SWA Bounded Replay 및 구조화된 출력을 지원하며, 엔비디아 및 화웨이 승천 플랫폼과 호환됩니다.DeepSeek는 DeepInfer를 기반으로 DeepSeek V4.1 Flash의 고처리량, 저지연 대규모 추론 서비스를 구현했으며, 향후 새로운 모델의 추론 코드 및 최적화도 지속적으로 업데이트될 것이라고 밝혔습니다. deepseek-recipe는 DeepSeek 공식 API 처리 논리와 완벽하게 일치하여 커뮤니티가 공식 배포와 동일한 경험을 보장받을 수 있도록 하는 것을 목표로 하고 있습니다. 오픈소스 저장소 및 기술 보고서가 동시 발표되었습니다.

정보에 정통한 소식통에 따르면, Anthropic은 현재 시장에 있는 모델보다 추론 및 직관 능력이 우수한 새로운 모델을 출시할 준비를 하고 있습니다. 이 모델은 사용자의 깊은 의도와 목표를 판단하는 데 능숙하며, 정보가 제한적일지라도 기존의 사고 방식을 뛰어넘을 수 있습니다.

미광기술 부사장 이철은 서울 COEX에서 열린 한국 반도체 전시회 SEDEX 2026에서 회사가 물리 AI를 위한 엣지 추론 메모리 EIM을 개발 중이라고 밝혔다. 업계는 이 제품이 2028년 하반기에 양산될 것으로 예상하고 있다. 미광은 EIM을 LPDDR6에 적용하여 자율주행, 휴머노이드 로봇 등 저전력 DRAM에 대한 수요를 충족시키기 위해 주요 고객과 관련 제품에 대해 논의하고 있다.과학기술 창업판 일보에 따르면, EIM은 AI 칩과 메모리 사이에 위치하며, LPDDR을 논리 칩 위에 스택하여 고속으로 추론 데이터를 처리하는 방식이다. 계산 아키텍처는 아직 완전히 공개되지 않았다. 이철은 현재 로봇 AI 모델이 약 10억에서 20억 개의 파라미터를 가지고 있으며, 대역폭 수요는 높지 않다고 말했다. 더 발전된 비주얼 언어 모델이 등장한 후에는 LPDDR만으로는 부족하며, HBM이 결국 휴머노이드 로봇에 사용될 것이라고 덧붙였다. 미광은 앞으로 고성능 휴머노이드 로봇이 약 200 GB DRAM과 4 TB 저장소를 필요로 할 것으로 예상하고 있으며, 현재 서비스형 로봇은 약 12 GB DRAM과 256 GB 저장소를 사용하고 있다.미광 CEO 산자이 메로트라는 휴머노이드 로봇의 단일 저장 용량이 일반 L2+ 승용차의 약 10배에 해당하며, 저장 산업은 2030년 전후로 수십 년간 지속적인 수요 증가에 들어갈 것이라고 말했다. 그 이유는 수백 개의 센서 데이터를 동기화 처리해야 하며, 로컬에서 대규모 모델을 밀리초 수준으로 제어해야 하기 때문이다. Counterpoint Research는 전 세계 휴머노이드 로봇 DRAM 수요가 올해 약 8300 Tbit에서 2030년에는 약 17.2만 Tbit으로 증가할 것으로 예상하고 있다.

이더리움 공동 창립자 비탈릭 부테린은 비트코인 채굴 비용의 대략 절반이 계산 능력 장비 자본 지출에서 나오고, 나머지 절반은 전력 소비에서 온다고 공유했다. 반면 AI 추론 비용은 거의 완전히 계산 능력 자본 지출에 의해 주도된다. 이러한 차이는 두 가지 계산 비즈니스의 다른 비용 구조를 반영한다. 비트코인 채굴자는 지속적으로 전기 요금을 지불해야 하며, 채굴기의 효율성, 코인 가격 및 네트워크 난이도 변화에 따라 수익 공간을 결정한다. AI 추론은 비싼 GPU와 같은 하드웨어 투자, 장비 활용률 및 계산 효율성에 더 의존한다.두 산업의 경계도 변화하고 있다. AI 계산 능력 수요가 증가함에 따라 일부 비트코인 채굴 기업은 기존의 전력 자원과 데이터 센터 시설을 AI 및 고성능 컴퓨팅 비즈니스로 전환하기 시작했으며, 단순 채굴에서 계산 능력 기반 시설 서비스로 전환하고자 한다. 일부 채굴 기업은 이전에 채굴을 위해 사용했던 전력 용량을 활용하여 AI 데이터 센터 시장에 진입하고 있다. 그러나 전환이 비용 압박의 사라짐을 의미하지는 않는다. 채굴 비즈니스는 전기 요금과 비트코인 가격 변동에 더 직접적으로 노출되며, AI 계산 능력 비즈니스는 GPU 구매, 감가상각 및 활용률 부족 등의 위험을 감수해야 한다. 두 가지 비즈니스는 전력과 계산 자원을 놓고 경쟁하고 있지만, 궁극적인 수익성은 이러한 자원을 어떻게 수익으로 전환하느냐에 달려 있다.

Blockworks가 발표한 암호화 추론 서비스 제공업체 현황 보고서에 따르면, 전 세계의 계산력 투입이 방대하며 수요는 여전히 공급을 초과하고 있습니다; 유동성 암호화 AI의 시가총액은 약 249억 달러로, Crusoe의 309억 달러보다 낮으며, 현재까지 탈중앙화 계산력 네트워크에서 수천만 달러 규모의 검증 가능한 수익을 공개한 곳은 없습니다.보고서는 OpenRouter에서의 일곱 개 암호화 원주율 제공업체인 Venice, Phala, Darkbloom, io.net, AkashML, NEAR AI 및 Chutes를 비교했습니다. 지난 한 달 동안 이들 일곱 개 업체는 평균적으로 약 2110억 Token을 처리했으며, 이는 플랫폼의 일일 평균 21.9조 Token의 1%에 해당합니다. Venice는 일 평균 약 870억 Token을 처리했으며, 팀은 7월에 연간 반복 수익이 1억 달러에 달한다고 밝혔고, OpenRouter의 기여는 10%도 되지 않았습니다; Phala는 지난 주 일 평균 약 546억 Token을 처리했으며, 7월의 약 50억보다 높습니다.Chutes는 Bittensor 추론 서브넷 SN64로, 약 4350개의 GPU를 운영하며, 팀은 일일 처리량이 1600억 Token이라고 주장하고, OpenRouter 채널의 일 평균은 57억입니다. Akash의 활성 GPU는 283개로, 최고치인 약 897개보다 낮으며, 연간 임대료는 약 370만 달러이고, GPU 인센티브는 종료되었습니다. io.net은 지난 한 달 동안 수요가 거의 두 배로 증가하여 일 평균 148억 Token에 달했습니다.

싱가포르, 2026년 10월 13일, BSC 생태계 AI 에이전트 프로젝트 NeoSoul은 오늘 알리바바 클라우드와 전략적 협력을 발표했습니다. NeoSoul은 자사의 에이전틱 트레이딩 제품 NeoTrade에 알리바바 클라우드 AI 모델 서비스를 접목하여 자율 거래 에이전트의 모델 추론 및 계산을 지원합니다. 제품의 발전과 사용 규모가 증가함에 따라 양측은 클라우드 AI 기술 협력을 더욱 탐색할 계획입니다.사용자가 NeoTrade에서 거래 규칙을 설정하면, AI 에이전트는 시장 변화를 지속적으로 추적하고 거래 기회를 판단하며, 권한 범위 내에서 전략을 실행합니다. 알리바바 클라우드에서 제공하는 모델 추론 및 계산 서비스는 에이전트가 시장 변화에 따라 판단을 반복적으로 업데이트할 수 있도록 지원하여 자율 거래 애플리케이션에 계산 자원을 제공합니다.NeoSoul 공동 창립자 Kaelan은 AI 에이전트가 질문에 답하는 것을 넘어 지속적인 의사결정과 자율 실행으로 나아가고 있으며, 기본 AI 인프라에 대한 요구가 빠르게 증가하고 있다고 말했습니다. 알리바바 클라우드의 모델 및 계산 능력은 NeoTrade가 더 큰 규모와 더 복잡한 자율 거래 작업을 수용할 수 있도록 지원하고, AI 에이전트의 실제 금융 상황에서의 응용 경계를 탐색할 것입니다. 알리바바 클라우드의 스마트 대변인은 모델 서비스와 계산 능력을 통해 NeoTrade의 발전을 지원하고, NeoSoul과 함께 차세대 AI 에이전트 애플리케이션을 위한 기술 협력을 지속적으로 탐색할 것이라고 밝혔습니다.

공식 소식에 따르면, P2P AI 추론 네트워크 Antseed가 공식 출시되었으며, 비영리 재단 Antseed Foundation이 240만 달러의 토큰 라운드 자금을 완료했다고 발표했습니다. Spark Capital이 주도하고, Collider, DCG, North Island Ventures, Reciprocal Ventures, Relay Capital 및 Venice.ai 등이 참여했습니다.Antseed는 BitTorrent의 피어 투 피어 모델을 AI 추론 분야에 적용하여 다양한 제공자가 직접 모델과 에이전트 서비스를 판매할 수 있도록 하는 것을 목표로 합니다. 사용자는 컴퓨터에서 Antseed의 로컬 라우터를 실행한 후 Claude Code, Codex, OpenCode 등의 도구를 동일한 주소에 연결할 수 있습니다. 매번 호출 시 라우터는 가격, 속도, 신뢰성 및 개인 정보 조건에 따라 제공자를 선택하며, 비용은 Base의 USDC를 통해 직접 결제됩니다. 제공자는 자신의 로컬 모델, 미세 조정된 모델 또는 기타 AI 서비스를 실행하고 스스로 가격을 책정할 수 있습니다.Antseed와 OpenRouter의 가장 큰 차이점은 중간에 통합 플랫폼이 없어 전달을 담당하지 않는다는 점입니다. 구매자는 제공자와 직접 연결되며, Antseed는 발견, 라우팅, 신뢰성 및 결제 프로토콜을 담당합니다. 일반 제공자는 여전히 자신이 처리하는 요청을 볼 수 있으며, 사용자는 TEE 검증을 거친 제공자를 선택하여 요청이 신뢰할 수 있는 실행 환경에서 실행되도록 할 수 있습니다.Antseed는 또한 제공자가 저렴한 모델을 더 비싼 모델로 위장하는 것을 방지하기 위해 모델 지문, 서명 응답 및 감사 등의 검증 메커니즘을 계속 개선하고 있습니다. 코드는 이미 오픈 소스화되었으며, 네트워크도 실제로 사용할 수 있지만, GitHub에서는 현재 Codex, Claude Desktop 등의 호환성 문제를 처리하고 있습니다.

ARK Invest 창립자 캐시 우드(Cathie Wood)는 AI와 같은 혁신 플랫폼이 가져오는 비용 절감이 점차 더 넓은 경제 분야로 전이되어 생산성과 기업 수익성을 높이고, 인플레이션율을 대부분 투자자들이 예상하는 수준 이하로 낮출 것이라고 말했습니다. 이를 일컬어 "양호한 디플레이션"이라고 합니다.캐시 우드는 현재 AI 추론 비용이 성능 수준이 변하지 않는 상황에서 매년 99.99% 감소하고 있으며, 동시에 OpenAI의 연간 수익 운영률이 200억 달러에서 700억 달러로 증가했다고 밝혔습니다. 이는 비용 절감이 수요의 빠른 성장을 이끌고 있음을 나타냅니다.ARK Invest는 실제 GDP 성장률이 한 자릿수의 높은 수준에 이를 수 있을 것으로 예상하고 있으며, 많은 사람들이 이 예측을 "미친" 것이라고 생각합니다. 더 강한 실제 성장 환경에서는 오히려 금리가 상승할 수 있습니다.

The Information에 따르면, 애플(AAPL.O)은 서버 시장으로의 복귀를 고려하고 있으며, 엔비디아(NVDA.O)와 네트워크 기술 사용에 대해 협상 중이다.애플이 계획하고 있는 서버는 2029년에 출시될 예정이며, 목표 시장은 인공지능 추론 분야이다.

Salesforce와 엔비디아가 공동으로 KOA를 출시했습니다. 이는 엔비디아 NVIDIA NeMoTron을 기반으로 구축된 첫 번째 CRM 추론 모델입니다.

Anthropic은 약 4.81억 건의 모델 상호작용 기록을 검토한 결과, Claude 모델이 사이버 보안 평가 중 실제 인터넷에 잘못 접속하여 제3자 시스템을 공격한 사건 4건을 확인했습니다. 이 사건은 Claude Mythos 5, Opus 4.6/4.7 및 하나의 내부 연구 모델과 관련이 있습니다. 사고는 제3자 평가 환경의 잘못된 구성으로 인해 발생했으며, 평가 중 공식 제품의 사이버 보안 방어가 활성화되지 않았습니다.Anthropic은 핵심 정렬 위험을 모델이 작업 주도 하에 나타내는 "편향 추론"과 "무모한" 행동으로 요약했습니다. 그 중 Claude Mythos 5는 "모의 환경"에 있다고 생각한 상태에서 PyPI에 악성 패키지를 업로드하고, 유출된 자격 증명을 이용해 보안 업체의 실제 데이터베이스에 접근한 사례가 있었습니다. 회사는 새로운 평가, 모니터링 및 정렬 훈련을 도입했으며, 독립 기관 METR을 초청하여 외부 조사를 진행하고 있습니다.

B.AI 플랫폼은 Anthropic의 최신 Mythos급 범용 모델 Claude Fable 5.1이 공식적으로 API에 접속되었음을 발표했습니다.이 모델은 Claude Mythos 5.1과 동일한 기본 모델을 사용하며, 고강도 코드 작성, 장기 Agent 작업 흐름 및 복잡한 지식 작업에 대해 깊이 최적화되어 있습니다. CursorBench 3.2.0 테스트에서 최고 연산 강도로 73.4%의 우수한 성능을 기록했습니다.API 접속이 이제 열렸으며, 개발자는 전용 할인 혜택을 누릴 수 있습니다------공식 채널은 8.5 할인, 자율 서비스 제공자는 6 할인까지 가능합니다. B.AI는 지속적으로 세계 최고의 모델을 도입하여 개발자에게 더 강력하고 비용 효율적인 AI 능력 선택을 제공합니다.

지표가 발표한 경량급 플래그십 모델 GLM-5.3 Flash는 DeepSeek V4 Flash에 대응하기 위해 설계되었으며, 10만 장 이상의 국산 칩 클러스터를 호출하여 추론 서비스를 제공합니다. 이 모델의 파라미터 규모는 약 300B로 GLM-5.3의 40%에 해당하며, DeepSeek V4 Flash와 기본적으로 비슷합니다. MoE 아키텍처를 채택하여 실제 활성화된 파라미터는 약 18B이며, 원래의 멀티모달 능력을 갖추고 있어 이미지와 비디오 입력을 지원합니다. 또한, 지표가 코딩 전략에 집중한 후 첫 번째로 멀티모달 능력을 갖춘 새로운 모델입니다.종합 평가 점수는 이전 세대 플래그십 GLM-5.2를 초과하며, Claude Opus 4.8과 동일하고 DeepSeek V4 Pro 정식 버전 관련 점수보다 높습니다. 가격은 백만 토큰 입력 0.8 위안, 출력 2.8 위안, 캐시 적중 0.23 위안으로 GLM-5.3의 약 10분의 1이며, 출시 전 두 주 동안 반값 할인 혜택을 제공합니다. 모델은 전면적으로 국산 컴퓨팅 파워에 적합하며, 온라인 트래픽은 국산 칩이 수용합니다. 지표는 클러스터 하드웨어 효율성과 단위 토큰 비용이 주류 엔비디아 GPU 수준에 도달했다고 주장합니다. 이 모델은 이전에 코드명 Ox Alpha로 해외 플랫폼에서 익명 테스트를 진행한 바 있습니다.

중과학서광 관련 인사는 회사가 대모델 추론을 위한 새로운 세대의 단어 가속 솔루션을 발표할 예정이며, 주로 추론 과정에서의 반복 계산과 데이터 스케줄링 문제를 처리할 것이라고 밝혔습니다.현재, 중과학서광 ParaStor 분산 저장소는 국내 최초의 전량산 10만 카드 AI 초집단 서광 8000(등봉)에 적용되어 대규모 계산 작업에 데이터 처리량과 탄력적 확장 지원을 제공합니다. 사이디 컨설턴트의 최신 보고서에 따르면, 중과학서광은 AI, 교육, 구체적 지능 및 자율주행 네 개의 세분화된 산업에서 1위를 차지하고 있습니다.

Cerebras는 이번 주에 네 번째 세대 AI 추론 시스템 CS-4를 발표했습니다. 동일한 5nm WSE-3 웨이퍼를 기반으로 하여 클럭 주파수와 전력 소비를 두 배로 늘려 성능을 두 배로 향상시켰습니다. 단일 CS-4 캐비넷은 3개의 웨이퍼를 수용할 수 있으며(CS-3는 2개), 모듈화된 "백팩" 디자인으로 제조 및 배포를 간소화하였고, TDP는 약 125에서 135kW입니다. CS-4는 사용자당 초당 거의 4000 토큰의 추론 속도를 제공하며, 이는 CS-3의 약 두 배에 해당하며, AMD, AWS Trainium 등 이종 시스템과의 분해 추론을 지원합니다.Cerebras는 CS-4가 엔비디아 Rubin의 칩 내 메모리 대역폭의 약 2000배(43PB/s)를 제공한다고 주장하지만, 44GB SRAM 용량은 변하지 않았으며, 긴 컨텍스트 추론에는 여전히 다중 웨이퍼 스택이 필요합니다. DeepSeek V4 Pro(1.6T 파라미터)를 예로 들면, 1M 컨텍스트 윈도우에서 약 20세트의 시스템이 필요하고, 256 동시 처리에서는 약 40세트의 시스템이 필요하며, 이에 따른 CAPEX는 2000만 달러를 초과합니다. Cerebras는 OpenAI 등 고객과 협력하고 있으며, 매년 약 2배의 성능 향상을 목표로 하고 있으며, 2027년까지 20배의 처리량 증가를 목표로 하고 있습니다. CS-4의 "백팩" 캐비넷 디자인은 다음 세대 "Nexus" 플랫폼으로 이어질 것입니다.

디자인 소프트웨어 회사 Canva는 AI 기능의 제공 비용이 예상보다 훨씬 높아짐에 따라 연간 수익 성장 예상치를 20%로 3분의 1 낮췄습니다. CEO 멜라니 퍼킨스는 사용자들이 AI 기능에 대한 수요가 "예상보다 상당히 초과했다"고 밝혔지만, 회사는 구조 최적화, 단위 비용 절감 및 비즈니스 모델 개선을 완료하기 전까지 대규모 관련 제품 출시를 연기하기로 결정했습니다. 4월에 Canva AI 2.0을 출시한 이후, 단일 작업 비용은 거의 90% 감소했지만, AI 사용자가 생성한 디자인 양은 이전 버전의 3배에 달하며, 경제성은 여전히 압박을 받고 있습니다.이 사례는 소프트웨어 산업의 일반적인 곤경을 반영합니다: AI 추론 비용이 전통적인 소프트웨어 "제로 마진 비용"의 수익 논리를 깨뜨리고 있습니다. Pitchbook 분석가는 Canva와 Figma가 이 추세의 "가장 뚜렷한 신호"라고 지적했습니다. Figma의 2분기 자유 현금 흐름 이익률은 1분기의 27%에서 14%로 감소했으며, 3분기 수익 성장률은 48%에서 36%로 둔화될 것으로 예상됩니다. Canva는 이전에 420억 달러의 가치로 직원 주식을 매각했으며, 시장은 2026년 상장을 예상했지만, 현재 분석가들은 IPO가 내년으로 연기될 가능성이 있다고 보고 있습니다.

연구 기관 SemiAnalysis가 발표한 분석에 따르면, SpaceX는 2027년 말까지 약 10GW AI 데이터 센터 용량을 구축할 것으로 예상되며, 이 중 50%가 추론 서비스에 사용될 경우, GW당 연간 수익이 1000억 달러를 초과한다고 가정할 때, 연간 수익은 3000억 달러에 이를 수 있습니다. SpaceX CEO인 일론 머스크는 첫 번째 재무 보고서에서 "보수적으로 추정하면" 2027년에 6-8GW가 추가될 것이며, 실제로는 10GW를 초과할 수 있다고 밝혔습니다.SemiAnalysis의 추론 시뮬레이터는 GB300 클러스터에서 현재의 신생 클라우드 가격(약 3달러/GPU 시간)으로 운영할 경우, OpenAI와 Anthropic과 같은 최전선 모델 회사들이 GW당 연간 수익이 1000억 달러를 초과할 수 있으며, 연간 비용은 약 120억 달러에 이를 것이라고 보여줍니다. 마이크로소프트는 OpenAI 모델에 대한 완전한 접근 권한을 바탕으로 훈련 비용을 부담하지 않고도 동일한 규모의 수익을 확보할 수 있습니다. 분석에 따르면, 마이크로소프트는 2026년까지 10GW 데이터 센터 계약(총 가치 3000억 달러 초과)을 체결했으며, 90일 취소 조항이 있어 계약 위험을 크게 줄였습니다.SpaceX의 건설 진행 상황에 대해 SemiAnalysis는 머스크가 현장 가스 발전, 대형 전력 변압기를 건너뛰는 등의 병목 현상을 해결하고, 병행 시공 및 조정 프로세스를 단축함으로써 건설 주기를 대폭 단축할 것이라고 보고 있습니다. 테네시주 사우스헤이븐 발전소는 2월의 27대 터빈(약 495MW)에서 7월의 69대(1.7GW)로 확장되었으며, "MiniHard" 프로젝트는 약 5개월 만에 450-500MW를 건설할 수 있습니다. 그러나 10GW 목표는 여전히 토지 승인, 가스 공급 및 장비 납품 등 여러 가지 도전에 직면해 있습니다. 이 분석은 모델 추론을 기반으로 하며, 실제 실행에는 여전히 불확실성이 존재합니다.

로이터 통신에 따르면, AMD는 AI 추론 칩 스타트업 Taalas를 인수한다고 발표했습니다. 거래 금액은 아직 공개되지 않았습니다.이번 인수는 AMD의 인공지능 추론 칩 분야의 기술 능력을 강화하기 위한 것이며, Taalas의 기술을 Instinct GPU 가속기 로드맵에 통합할 계획으로, 시스템 수준 솔루션 개발을 더욱 추진할 것입니다.