Xiaomi, 150 watt ile 120 milyar parametreli modeli çalıştıran AI Cube prototipini gösterdi

Xiaomi, 24 Ağustos'taki Xring çip teknolojileri etkinliğinde AI Cube adlı mini bilgisayar prototipini sergiledi. Mühendislik prototipi olan sistemde şirketin Xring O3, O100 ve D100 adlı üç farklı çipi birlikte kullanılıyor. Xiaomi'nin kurucusu Lei Jun, şirketin 2021'de büyük ölçekli çip geliştirme çalışmalarını yeniden başlatmasından bu yana 21 milyar yuanın üzerinde yatırım yaptığını ve çip ekibinin yaklaşık 3.000 kişiye ulaştığını açıkladı. Xring O3, 3 nm üretim sürecine sahip mobil sistem çipi olarak konumlandırılıyor. 10 çekirdekli CPU, 16 çekirdekli GPU ve 200 TOPS seviyesinde NPU içeriyor. AI Cube içinde genel hesaplama ve sistem yönetimi görevlerini üstleniyor. 6 nm O100 ise uç cihazlarda büyük model çıkarımı için tasarlanmış bir AI hızlandırıcı. Çip, 3D yonga istifleme ve belleğe yakın hesaplama yaklaşımı kullanıyor. Xiaomi'nin gösteriminde O100 üzerinde MiMo 3B modelinin saniyede 330 token hızında çalıştırıldığı belirtildi. D100 ise akıllı sürüşe odaklanıyor. 3 nm üretim sürecindeki çipte 20 çekirdekli CPU ve 16 çekirdekli NPU bulunuyor ve 160 GB'a kadar birleşik belleği destekliyor. Xiaomi, bu kapasitenin büyük modellerin yerel olarak belleğe alınmasında önemli olduğunu belirtiyor. AI Cube'un toplam sürekli güç tüketimi 150 watt olarak açıklanırken sistemin 120 milyar parametreli bir modeli yerel olarak çalıştırabildiği ifade ediliyor. Bu değer, masaüstü AI iş istasyonlarıyla karşılaştırmalara yol açtı. Ancak AI Cube henüz bir mühendislik prototipi. Xiaomi satış tarihi veya fiyat açıklamadı. O100 ve D100'ün ticari kullanımının 2027'de başlaması planlanıyor. Şirketin çip stratejisi telefon işlemcilerinin ötesine geçerek AI hızlandırıcıları ve otomotiv işlemcilerini de kapsıyor. Raporlara göre Xiaomi'nin önümüzdeki 10 yılda çip Ar-Ge'sine 50 milyar yuan yatırım yapma planı bulunuyor.