PrismML, iPhone'larda Çalışabilen 27 Milyar Parametreli Yapay Zeka Modeli Bonsai 27B'yi Duyurdu

PrismML, 27 milyar parametreli devasa bir yapay zeka modelini akıllı telefonlarda çalışabilecek boyuta küçülterek Bonsai 27B'yi duyurdu. Apple'ın da yakından ilgilendiği ve test ettiği bu teknoloji, bulut bağımlılığını ortadan kaldırarak iPhone'larda yerleşik yapay zeka deneyimini kökten değiştirebilir.

Bulut Bağımlılığına Son Veren Teknoloji

Günümüzde gelişmiş yapay zeka modellerini kullanabilmek için genellikle sürekli bir internet bağlantısına ve güçlü bulut sunucularına ihtiyaç duyuluyor. Ancak PrismML tarafından duyurulan yeni bir teknoloji, bu durumu tamamen değiştirmeyi hedefliyor. Şirket, devasa boyutlardaki modelleri doğrudan mobil cihazların içinde çalıştırmayı başaran yeni bir sıkıştırma yöntemi geliştirdi.

PrismML'nin tanıttığı Bonsai 27B, temelini Alibaba'nın open-source (açık kaynaklı) Qwen3.6 27B modelinden alıyor. Normal şartlarda yaklaşık 54 GB depolama alanı gerektiren bu devasa model, özel bir kuantizasyon tekniği sayesinde akıllı telefonlar için sadece 3,9 GB, dizüstü bilgisayarlar için ise 5,9 GB boyutuna kadar küçültüldü. Bu olağanüstü sıkıştırma işlemi, model ağırlıklarının klasik 16 bit yerine yalnızca 1 bit veya üç seviyeli (ternary) formatta saklanmasıyla mümkün kılındı.

Performans Kaybı Minimum Seviyede

Modelin bu kadar küçültülmesine rağmen performansından büyük bir ödün vermemesi dikkat çekiyor. PrismML'nin verilerine göre, telefonlar için optimize edilen 1 bitlik sürüm, orijinal modelin genel performansının yaklaşık %90'ını korumayı başarıyor. Özellikle matematiksel işlemler, kod yazma ve mantıksal akıl yürütme gibi alanlarda kayıp oldukça düşük seviyelerde kalırken, görüntü analizi gibi daha karmaşık görevlerde hafif bir performans düşüşü gözlemleniyor.

Apple Ekosistemi İçin Yeni Bir Dönem

Bu devrimsel gelişme, teknoloji devi Apple'ın da radarından kaçmadı. CNBC'nin raporuna ve PrismML CEO'su Babak Hassibi'nin açıklamalarına göre Apple, bu yeni modelleri hız, enerji tüketimi ve inference (çıkarım) performansı açısından aktif olarak test ediyor. Modelin halihazırda Apple'ın MLX altyapısıyla iPhone, iPad ve Mac cihazlarda sorunsuz çalışabildiği belirtiliyor. Görüşmeler henüz erken aşamada olsa da, bu teknolojinin gelecekteki iOS güncellemelerinde yerleşik bir özellik olarak karşımıza çıkma ihtimali oldukça yüksek.

--- **İlgili Kaynaklar:** yapay zeka haberleri ve kaynakları ihtiyaçlarınız için [AI Merkezi](https://aimerkezi.com) doğru adres.