llama-modchip Nedir? DeepSeek 284B 64GB RAM’de GPU’suz

Kısa cevap: llama-modchip, 284 milyar parametreli DeepSeek-V4-Flash modelini ekran kartı olmadan, 64 GB RAM’li sıradan bir bilgisayarda çalıştırdığını iddia eden ücretsiz bir GitHub projesi. Projenin kendi belgesine göre model 56,56 GiB’a sıkıştırılıyor ve 16 çekirdekli bir AMD Zen 5 işlemcide saniyede yaklaşık 9–15 token üretiliyor. Bunlar geliştiricinin 10 Kasım 2026 itibarıyla bildirdiği rakamlar; sıkıştırılmış modelin kalitesi bağımsız olarak ölçülmedi.

Dev bir yapay zekâ modeli normalde pahalı ekran kartlarıyla dolu bir sunucu ister. Bu yüzden ücretsiz bir proje "284 milyar parametreli modeli 64 GB RAM’li masaüstünde, GPU’suz çalıştırırım" deyince dikkatle bakmak gerekiyor. Videoda kaynakları sekme sekme açtım. Bu yazıda llama-modchip nedir, sadeleştirilmiş haliyle nasıl çalışıyor, hız iddiaları ne anlama geliyor ve eleştirmenler ne diyor, onu anlatıyorum.

📺 Bu konuyu videoda anlattım: Kimi K3.1 Pro vs DeepSeek V4.1 Flash: Aynı Komutla 3 Türkiye Oyunu, Kim Kazandı?

llama-modchip nedir?

llama-modchip, yerel yapay zekâ çalıştırmak için çok kullanılan llama.cpp programına eklenen, ücretsiz ve Apache 2.0 lisanslı bir yama paketi. Amacı büyük "uzman karışımı" (Mixture-of-Experts) modelleri ekran kartı yerine işlemcide, normal sistem belleğinde çalıştırmak. README’ye göre ana hedef DeepSeek-V4-Flash (toplam 284,33 milyar parametre, aynı anda 13,17 milyarı etkin); 16–32 GB RAM’li dizüstüler için daha küçük bir 30B model de destekleniyor (kaynak: GitHub, llama-modchip). Projeyi WindowsForum ve Sam Codeman da ayrı yazılarda ele aldı.

284B model 64 GB RAM’e nasıl sığıyor?

Model dosyasını küçültüp belleğe tamamen yerleştirerek. README’ye göre standart 76,87 GiB’lık DeepSeek-V4-Flash dosyası 64 GB’lık bir Linux makineye (yaklaşık 62,5 GiB kullanılabilir) sığmıyor. llama-modchip bunu 56,56 GiB’a indiriyor; uzun bağlam önbelleğiyle birlikte kullanılan bellek yaklaşık 57,6–58,9 GiB oluyor ve diske taşma olmuyor. Sam Codeman’ın yazısına göre bu iki teknikle yapılıyor: uzman katmanlarına uygulanan bir sıkıştırma yöntemi ve dikkat katmanlarının yeni bir 2 bit türü biçime dönüştürülmesi (kaynak: Sam Codeman). Biçim özel olduğu için yamasız llama.cpp, Ollama ve LM Studio bu dosyaları açamıyor.

llama-modchip ne kadar hızlı?

Bulut hizmetine göre yavaş, sabırlı işler için kullanılabilir. README, 16 çekirdekli Zen 5 işlemcide komutu okuma için saniyede 44,36 token, metin üretme için saniyede 9,06–9,95 token bildiriyor. Tahmin edici "drafter" açıkken 11,5–14,7 token/sn deniyor (kaynak: llama-modchip README, Sam Codeman özetiyle). Bunlar geliştiricinin kendi rakamları, bağımsız test değil. Bir token kabaca kelimenin dörtte üçü; yani saniyede 10 token yavaş bir okuma hızı.

Eleştirmenler ne diyor?

Eleştiri hızdan çok kalite üzerinde. Sam Codeman’a göre README’deki kalite rakamları 2 bitlik bir sürümü referans alıyor; yani sıkıştırılmış modelin tam hassasiyetli modele göre nasıl olduğunu göstermiyor. Aynı yazı README’deki karşılaştırma satırında bir tutarsızlığa da dikkat çekiyor. Hacker News tartışmasında da bu kadar sıkıştırmadan sonra ne kadar faydanın kaldığı sorgulanıyor (kaynak: Hacker News). Geliştiricinin hız rakamları henüz bağımsız olarak denenmedi.

Çalıştırmak için ne lazım?

README’ye göre:

• RAM: 284B model için 64 GB; küçük 30B model için 16–32 GB.
• İşlemci: Bildirilen rakamlar 16 çekirdekli, AVX-512 destekli modern bir AMD Zen 5 çipte ölçülmüş. Diğer işlemciler listelenmiş ama sonuçlar farklı olur.
• GPU: Gerekmiyor; küçük modellerde isteğe bağlı hızlandırabiliyor.
• Bellek hızı önemli: Sam Codeman’a göre hızın tavanını depolama değil, bellek bant genişliği belirliyor.

Bu senin için ne anlama geliyor?

Çoğu işletme ve içerik üreticisi için bugün bir şey değişmiyor: ücretli API daha hızlı ve güvenilir. Gizliliğe önem verenler ve meraklılar için ise çok büyük modellerin masaüstünde çalışabileceği bir geleceğin işareti. Umut verici bir deney olarak gör. Üzerine bir şey kurmadan önce kendi komutlarınla dene ve çıktı kalitesini kendin kontrol et.

Sık sorulan sorular

DeepSeek 284B gerçekten 64 GB RAM’de GPU’suz çalışıyor mu? Geliştiricinin README’sine göre evet, 56,56 GiB’a ağır sıkıştırılmış bir sürümle. Sonuçlar bağımsız olarak doğrulanmadı.

Ne kadar hızlı? Geliştirici, 16 çekirdekli Zen 5 işlemcide düz üretimde yaklaşık 9–10 token/sn, drafter ile 14,7’ye kadar bildiriyor.

Kalitesi orijinal model kadar iyi mi? Bilinmiyor. Projenin kalite rakamları tam hassasiyetle değil, sıkıştırılmış bir referansla ölçülmüş.

Ollama ya da LM Studio ile kullanabilir miyim? Doğrudan hayır; özel biçim, yamalı llama.cpp sürümü istiyor.

Ücretsiz mi? Evet, proje Apache 2.0 lisansıyla açık kaynak.

Kaynaklar ve güncelleme

Bu yazı 10 Kasım 2026’da videonun açıklamasındaki kaynaklara ve projenin README’sine dayanıyor. Proje iddiaları ve test rakamları kaynaklarda yazdığı gibi aktarıldı. Herhangi bir yazılımı kendi verinle kullanmadan önce kendin dene.

Yapay zekâyı işinde adım adım kullanmak için Skool topluluğumuz 7 gün ücretsiz: okegitim.

Yazar: Akın Yılmaz, YouTube’da 144 bin abonelik bir yapay zekâ kanalı işletiyor. Kanal: @AKINYILMAZOKYANUSI.

Kaynaklar

• https://x.com/TeksEdge/status/2118818205703520328
• https://github.com/synchopate/llama-modchip
• https://x.com/qwerty__cs/status/2119505237920591909
• https://news.ycombinator.com/item?id=50411961
• https://windowsforum.com/news/llama-modchip-claims-deepseek-v4-flash-284b-runs-on-64gb-ram-without-a-gpu.451409/
• https://www.samcodeman.com/writing/llama-modchip-284b-deepseek-v4-flash-64gb-ram-cpu

Yasal Uyarı ve Affiliate Bildirimi

Bu içerik yalnızca eğitim ve genel bilgilendirme amaçlıdır; hukuki, mali veya vergi tavsiyesi değildir ve sonuç garantisi vermez. Yazıdaki bazı bağlantılar satış ortaklığı (affiliate) bağlantısı olabilir; kullanıldığında size ek maliyet olmadan komisyon kazanabilirim.