컴퓨팅·칩

윈톈리페이는 Prefill, Decode, Decode 단계의 FFN에 맞춘 세 종류의 DeepVerse 추론 칩 계획을 공개했다. 이 구상은 단일 칩 성능보다 이기종 클러스터를 통한 Token 생성 비용 절감에 초점을 둔다.

AI 데이터센터 확대로 고대역폭 메모리 수요가 커지면서 스마트폰용 RAM과 저장장치 비용이 오르고 있다. 가격 민감도가 높은 인도 시장은 이 충격을 가장 먼저 크게 드러내고 있다.

General Compute가 Upper90으로부터 4억 달러 규모의 칩 담보 대출을 받았다. 이번 거래는 AI 인프라 투자가 학습용 GPU 중심에서 저비용 추론 칩으로 확장되고 있음을 보여준다.

VentureBeat Pulse Research가 107개 기업을 조사한 결과, AI 인프라 지출은 빠르게 늘고 있지만 실제 비용과 활용률을 측정하는 역량은 뒤처져 있는 것으로 나타났다. 이 간극이 기업 AI 확장의 새로운 리스크로 부상하고 있다.

arXiv 논문 Kaleido는 비디오 확산 Transformer의 잠재공간에서 채널 단위 시공간 상관성을 활용해 추론 비용을 줄이는 알고리즘·하드웨어 공동 설계를 제안한다.