BTC $80,137.13 -0.62%
ETH $2,322.48 -1.32%
BNB $744.04 +0.49%
XRP $1.30 -0.19%
SOL $101.00 -0.71%
TRX $0.3303 +0.13%
DOGE $0.0774 +0.34%
ADA $0.2064 +0.34%
BCH $280.07 +0.16%
LINK $11.45 -0.43%
HYPE $79.41 +3.07%
AAVE $135.72 -1.43%
SUI $0.9158 -1.47%
XLM $0.1688 -0.40%
ZEC $1,237.67 +0.79%
AAPL $343.56 -0.97%
AMZN $249.25 -0.10%
GOOGL $318.23 -1.19%
MSFT $532.74 +1.80%
META $634.39 -1.47%
NVDA $216.43 +1.74%
TSLA $394.69 +5.80%
SNDK $1,273.78 +1.18%
INTC $91.74 +5.10%
SPCX $149.08 -0.10%
MU $913.18 +2.06%
AMD $532.29 +1.71%
BTC $80,137.13 -0.62%
ETH $2,322.48 -1.32%
BNB $744.04 +0.49%
XRP $1.30 -0.19%
SOL $101.00 -0.71%
TRX $0.3303 +0.13%
DOGE $0.0774 +0.34%
ADA $0.2064 +0.34%
BCH $280.07 +0.16%
LINK $11.45 -0.43%
HYPE $79.41 +3.07%
AAVE $135.72 -1.43%
SUI $0.9158 -1.47%
XLM $0.1688 -0.40%
ZEC $1,237.67 +0.79%
AAPL $343.56 -0.97%
AMZN $249.25 -0.10%
GOOGL $318.23 -1.19%
MSFT $532.74 +1.80%
META $634.39 -1.47%
NVDA $216.43 +1.74%
TSLA $394.69 +5.80%
SNDK $1,273.78 +1.18%
INTC $91.74 +5.10%
SPCX $149.08 -0.10%
MU $913.18 +2.06%
AMD $532.29 +1.71%

스타

전체
글
뉴스 플래시

first_img 에반 콘래드: 대부분의 AI 스타트업은 컴퓨팅 파워를 구매할 수 없다

Evan Conrad는 10월 22일에 "스타트업의 끝"이라는 제목의 기사를 발표했으며, 부제목은 "다가오는 신용 위기"입니다. Evan Conrad는 향후 6개월 내에 대부분의 AI 스타트업이 컴퓨팅 파워를 구매할 수 없을 것이라고 언급하며, 전 세계의 컴퓨팅 파워가 매진되었고, 생산 능력을 얻기 위해서는 새로운 클러스터와 계약을 체결해야 하며, 투자 등급 주체가 점점 더 온라인 생산 능력을 확보하기 어려워지고 있다고 말했습니다.Evan Conrad는 스타트업이 투자 등급이 아니기 때문에 점점 더 많은 선불금을 지불해야 한다고 주장하며, 그는 계약 금액의 100%를 선불로 지불해야 하는 경우를 보았다고 말했습니다. 그 이유는 대출자와 클라우드 공급자가 추가 신용 위험을 감수하고 싶어하지 않기 때문입니다. 그는 투자 등급 임차인이 드물고, 레버리지를 증가시키고 비투자 등급 토큰 구매자에게 재판매하여 등급이 하락한다고 언급하며 이를 신용 병목 현상이라고 부릅니다. 그는 투자 등급 GPU 구매자가 점점 더 토큰 구매자 자체가 투자 등급이거나 대규모 보증금을 선불로 지불할 것을 요구할 것이라고 예상합니다.문중에서는 예를 들어, 글을 쓸 때 시간당 6달러에 B300을 구매하고, 약 시간당 30달러에 추론을 판매할 수 있다고 언급했습니다. 그는 GPU 가격 상승과 추론 레이어의 마진 감소를 예상하며, 신용이 낮은 고객이 토큰을 얻기 더 어려워질 것이라고 말했습니다. 그는 대출자가 GPU 클러스터를 담보로 간주하도록 제안하며, 컴퓨팅 파워의 실물 인도 선물 시장인 SF Compute가 대출자가 유동성 장부상의 GPU 시간을 담보로 사용할 수 있게 해주며, 단일 서비스 제공자의 클러스터에 의존하지 않도록 할 수 있다고 주장했습니다.

first_img 알리클라우드가 제약성 스타를 지원하여 계산력 공장을 구축하고, 분 단위로 3만 개의 샌드박스를 생성합니다

알리클라우드 공식 계정에서 발표한 바에 따르면, 대모델 회사 계단별 별은 전 세계에 플래그십 오픈 소스 모델 Step 5 Preview를 출시하였으며, 이는 실제 세계의 지능형 에이전트 작업을 위한 주요 작업 모델로 자리 잡고 있습니다. AI 프로그래밍, 소프트웨어 엔지니어링, 전문 지식 작업 및 금융 등 다양한 분야에서 강점을 보입니다. 이 모델은 총 파라미터 600B, 활성화 파라미터 27B를 가지고 있으며, 희소 MoE를 채택하고, 최대 컨텍스트 창은 1M로 텍스트, 이미지 및 비디오를 처리할 수 있습니다. 기사에 따르면 최근 OpenRouter 주 호출량 및 일 호출량 순위에서 모두 세계 2위를 차지했습니다. 출시 당일, 알리클라우드는 DAY0 적응을 완료했다고 발표했으며, 칩, 초 노드 인스턴스 및 모델의 공동 추론 최적화를 기반으로 하여 링준 초 노드가 추론 연산 능력을 제공합니다.계단별 별은 자체 개발한 지능형 에이전트 강화 학습 훈련 플랫폼을 보유하고 있으며, 샌드박스 플랫폼은 알리클라우드가 관리합니다. 이 솔루션은 알리클라우드 지능형 에이전트 샌드박스 Agent Sandbox와 컨테이너 서비스 Kubernetes 버전을 기반으로 하며, 훈련 상태의 탄력적 연산 능력을 목표로 하고 있습니다. 단일 분에 수만 개의 샌드박스를 생성할 수 있으며, 최대 백만 수준의 동시 처리를 지원하고 E2B API와 호환되며 Kubernetes 네이티브 인터페이스를 제공합니다. 다단계 이미지 캐시, 스마트 사전 스케줄링 및 관리 링크 최적화를 통해 밀리초 수준의 신청과 분 단위로 3만 개의 샌드박스를 생성할 수 있으며, 샌드박스 생애 주기는 알리클라우드 백엔드에서 통합 관리됩니다.저장 측면에서 각 Pod는 15GB의 무료 임시 저장소로 시작하며, 사용률이 70%를 초과할 경우 매번 30GB씩 자동으로 증가하여 최대 300GB까지 가능합니다. 보안 측면에서는 기본적으로 MicroVM 수준의 격리를 채택하여 계산, 네트워크, 저장소 및 권한을 포괄하며, 제로 트러스트 방식으로 클라우드 제품 및 대모델 인터페이스에 접근합니다. 기사에서 제시한 결과에는 이미지 시작 시간이 90% 단축되었고, 모델 평가 주기가 주 단위에서 일 단위로 압축되었으며, EBS 저장 비용이 평균 약 40% 절감되었습니다. ACK One Fleet에 의존하여 수십만 규모의 샌드박스가 동시에 안정적으로 운영될 수 있습니다.

first_img 머츠는 기업들이 AI를 수용할 것을 촉구하며, 엔비디아는 네 개의 독일 스타트업에 투자했다

독일 총리 프리드리히 메르츠는 베를린 Invest in Germany Summit에서 독일이 핵심 산업에서 AI 통합의 선두주자가 되기를 희망하며, 제조업, 기계 및 자동차 산업을 언급했습니다. 그는 중소기업들이 기존 데이터를 활용할 것을 촉구하며, "AI의 문을 열어 여러분의 데이터를 활용하게 하십시오."라고 말했습니다. 그는 이것이 독일의 진정한 비밀이자 진정한 강점이라고 언급했습니다.엔비디아는 이번 정상 회담에서 유럽 인공지능 분야에 대한 투자를 확대하고, 독일의 네 개 스타트업인 Agile Robots, Avelios Medical, Mirelo, Reflex Aerospace를 지원할 계획을 발표했습니다. 이는 기업, 대학 및 연구 기관에 대한 약 100억 달러 규모의 유럽 약속의 일환으로, 엔비디아는 이 네 건의 투자에 대한 구체적인 금액을 공개하지 않았습니다. Agile Robots는 제조, 물류 및 의료 분야에 AI 로봇을 개발하고, Avelios Medical은 병원 관리 소프트웨어를, Mirelo는 비디오 생성 오디오 AI 모델을, Reflex Aerospace는 위성을 설계 및 제조합니다.엔비디아 CEO 젠슨 황은 AI가 독일의 제조, 수학 및 과학 능력을 대체하는 것이 아니라 강화할 것이라고 말하며, AI는 기업의 새로운 도구라고 언급했습니다. 엔비디아는 독일 연방 정부 및 Industry 4.0 Platform과의 협력을 확대하고, 양측은 산업 응용 AI 모델을 추진하기 위한 의향 공동 성명을 체결했습니다. 지멘스는 같은 날 에를랑겐 공장에서 엔비디아와 협력하여 새로운 AI 솔루션을 발표하며, 관련 기술이 생산 준비 중의 엔지니어링 작업을 최대 85% 줄일 수 있고, AI 생산 계획이 비용을 최대 20% 절감할 수 있다고 밝혔습니다.
app_icon
ChainCatcher Building the Web3 world with innovations.