Verilerinizi dışarı aktarmadan, tamamen kendi donanımınızda çevrimdışı çalışan yapay zeka ekosistemi.
Ekran kartınızın (GPU) VRAM kapasitesine göre çalıştırabileceğiniz en verimli açık kaynak model boyutları:
| VRAM Kapasitesi | Örnek Ekran Kartları | Çalıştırılabilir Model Boyutu | Önerilen Modeller | Kuantizasyon |
|---|---|---|---|---|
| 6 GB - 8 GB | RTX 3060 Laptop, RTX 4060, Apple M1/M2 (8GB) | 0.5B - 3B, 7B/8B (Kuantize) | Qwen 2.5 7B, Llama 3.2 3B, Gemma 2 2B | Q4_K_M (4-bit) |
| 12 GB - 16 GB | RTX 3060 12GB, RTX 4070, Apple Silicon 16GB | 7B - 14B (Yüksek Hız) | Qwen 2.5 14B, Llama 3.3 8B, Mistral 7B | Q4_K_M / Q8_0 |
| 24 GB | RTX 3090, RTX 4090, Apple Silicon 24GB+ | 32B (Akıcı) / 70B (Düşük Kuantize) | Qwen 2.5 32B, DeepSeek-Coder 33B, Flux.1 Görsel | Q4_K_M |
| 32 GB - 64 GB+ | Apple M-Serisi Pro/Max 64GB+, Çift RTX 3090 | 70B - 72B Modelleri | Qwen 2.5 72B, Llama 3.3 70B, DeepSeek MoE | Q4_K_S / Q5_K_M |
Terminal üzerinden tek satırla Llama, Qwen ve Mistral modellerini kuran en hafif ve hızlı motor.
ollama.comKullanıcı dostu grafiksel arayüzü ile HuggingFace'ten tek tıkla GGUF modelleri indirip çalıştırın.
lmstudio.aiPagedAttention mimarisiyle sunucularda maksimum verim ve ultra yüksek throughput sunan kütüphane.
vllm.ai
Anthropic'in SEC'e sunduğu halka arz belgeleri, yapay zekâ sunucularının elektrik açlığını kapatmak için doğalgaz türbinlerine ve fosil yakıtlara göbekten bağımlı hale geldiğini gözler önüne serdi.
OpenAI, geliştirdiği yapay zekâ modelinin Kakeya varsayımını ispatladığını, Üstel Zaman Hipotezini (ETH) çürüttüğünü ve Milenyum Problemlerinden Kuantum Yang-Mills teorisinin varlığını kanıtladığını duyurdu.
OpenAI, gecikmeye duyarlı kurumsal uygulamalar ve otonom kodlama için standart modele göre 8 kata kadar daha hızlı çalışan GPT-6.1 Sol Ultrafast sürümünü API, Codex ve ChatGPT Work'te devreye aldı.
Google, 'Gemini 3.1 Flash Image' olarak da bilinen Nano Banana görsel modelini 2.1 sürümüne yükseltti. Yeni sürüm; maske tabanlı hassas düzenleme, 4K çıktı çözünürlüğü ve çoklu üretimlerde nesne/karakter tutarlılığı sunuyor.
Açık kaynak geliştiricisi Niko1221, geliştirdiği Strata motoruyla tüketici sınıfı 12 GB ekran kartlarında 125B parametreli dev Qwen3.8-Flash-Next modelini çalıştırmayı başardı. RTX 5070'te saniyede 94 token üretim hızına ulaşıldı.
Modüler bilgisayar üreticisi Framework, AMD Ryzen AI Max+ PRO 495 işlemcili ve 192GB LPDDR5X bellekli mini masaüstü sistemini 6.469 dolardan başlayan fiyatlarla ön siparişe açtı.
Visual Studio Code 1.139 sürümüyle geliştiricilerin yapay zeka ajanlarıyla çalışma deneyimi baştan yaratıldı. 645 oturumluk devasa konuşma geçmişi 0,1 saniyede açılırken, ajanlar doğrudan Docker container içinde çalışabiliyor.
Google, uzayda güneş enerjisiyle çalışan yörünge veri merkezleri kurma hedefi taşıyan 'Project Suncatcher'ın ilk adımını atıyor. 1 Ekim'de fırlatılacak MVP uydusu, 4 adet TPU çipiyle uzayda yapay zeka sorguları işleyecek.
Çinli teknoloji devi Meituan, 1.6 trilyon toplam parametreye ve 1 milyon token yerel bağlam penceresine sahip yeni nesil çok modlu yapay zeka modeli LongCat-2.5-Preview'ı kullanıma sundu.