يحتاج نموذج ذكاء اصطناعي بـ 27 مليار بارامتر عادةً إلى حوالي 54 جيجابايت من الذاكرة للعمل. لكن شركة PrismML أطلقت للتو نموذجاً بحجم 3.9 جيجابايت، وهو يعمل على هاتف iPhone.
Bonsai 27B، الذي أصدرته PrismML هذا الأسبوع، هو أول نموذج ضمن فئة القدرات هذه يتجاوز حاجز الذاكرة في الهواتف الذكية الاستهلاكية. عند تشغيله على هاتف iPhone 17 Pro Max، يصل إلى 11 توكن في الثانية. أما النسخة الثلاثية (ternary)، بحجم 5.9 جيجابايت، فتصل إلى حوالي 26 توكن في الثانية على حاسوب محمول بمعالج M5 Pro. كلا النموذجين متاحان مجاناً بموجب ترخيص Apache 2.0.
احصل على اشتراك GTA+ لمدة شهر واحد عند الطلب المسبق.
اطلب GTA 6 مسبقاً الآن
كيف ضغطت PrismML عدد 27 مليار بارامتر داخل هاتف
تعتمد طريقة الضغط على ملكية فكرية لجامعة Caltech، وتعمل عن طريق تقليل كل وزن في النموذج من 16 بت بدقة الفاصلة العائمة إلى إشارة واحدة. يستخدم الإصدار الثنائي (binary) القيمة +1 أو -1. بينما يضيف الإصدار الثلاثي حالة صفرية لنطاق تعبيري أكبر قليلاً. تشترك كل مجموعة مكونة من 128 وزناً في عامل قياس (scaling factor) بحجم 16 بت، مما يجعل الإصدار الثنائي بحجم 1.125 بت فقط لكل وزن، وهو ما يجعله أصغر بـ 14 مرة من النموذج الأصلي كامل الدقة.
ما يميز Bonsai عن معظم النماذج المكممة (quantized) هو عدم وجود "مخرج طوارئ" بدقة أعلى؛ حيث يتم ضغط الـ Embeddings، وطبقات الـ attention، ورأس نموذج اللغة بالكامل من البداية إلى النهاية. معظم الإصدارات منخفضة البتات تحتفظ بالطبقات الحساسة بدقة كاملة لحماية جودة المخرجات، مما يؤدي إلى زيادة حجم الملف كنوع من المقايضة. لكن Bonsai يتجاوز ذلك تماماً.
يعمل النموذج أيضاً بنظام هجين لطبقة الـ attention حيث تستخدم حوالي 75% من الطبقات الـ attention الخطية بدلاً من التربيعية الكاملة. هذا الخيار التصميمي هو ما يجعل نافذة سياق (context window) بحجم 262,000 توكن عملية على أجهزة الهواتف، حيث أن نظام الـ attention القياسي سيجعل ذلك مكلفاً للغاية على الهاتف.
أداء الاختبارات عند 94.6% من الدقة الكاملة
عبر 15 اختباراً تم تقييمها في وضع التفكير (thinking mode) على وحدات معالجة الرسوميات NVIDIA H100، والتي تغطي المعرفة، والرياضيات، والبرمجة، واستخدام الأدوات، حقق الإصدار الثلاثي متوسط 80.49، وهو ما يمثل 94.6% من النموذج كامل الدقة. بينما حقق الإصدار أحادي البت (1-bit) 76.11.
لإعطاء سياق حول ما تعنيه هذه الأرقام عملياً:
- نتائج رياضيات AIME25 و AIME26: 93.7% لنموذج Ternary Bonsai 27B مقابل 95.3% لنموذج Qwen 3.6B
- البرمجة: 86 نقطة لـ Bonsai مقابل 88 لـ Qwen 3.6
- المعرفة العامة: 77% لـ Bonsai مقابل 83% لـ Qwen 3.6
النقطة الجوهرية هنا هي أن Bonsai يحقق هذه النتائج بجزء بسيط من حجم ملف النماذج المماثلة. إصدارات Qwen التقليدية بـ 2 بت أكبر بمرتين تقريباً وتميل للانهيار في مهام الرياضيات والبرمجة عند أقل من 4 بت. بينما يظل Bonsai متماسكاً في جميع الجوانب.
الاختبار الواقعي: البرمجة والكتابة الإبداعية
أخضعت شركة PrismML النموذج لاختبار عملي: بناء لعبة رعب متصفح من منظور الشخص الأول تسمى Zombie Type. أنتجت جولتان من "vibe coding" نظاماً نظيفاً لاكتشاف التصادم، ومنطق تسجيل نقاط دقيق، ورسومات متماسكة. يستوعب النموذج الهيكل في وقت مبكر؛ حيث تقوم الجولة الثانية بالتحسين بدلاً من إعادة البناء من الصفر.
الكتابة الإبداعية قصة مختلفة قليلاً. لن تنتج مطالبات الـ Zero-shot أي شيء خيالي بشكل خاص. ما يقدمه Bonsai هو منطق داخلي متسق، وإيقاع، وحبكة قصصية، مما يجعله على قدم المساواة أو متقدماً قليلاً على Claude Haiku في مطالبات مماثلة. بالنسبة لنموذج يعمل بالكامل على الأجهزة المحلية دون تكاليف API، فهذه نتيجة ذات مغزى.
كما توفر PrismML طبقة فك تشفير تخمينية (speculative decoding) تسمى DSpark بجانب النموذج. تعمل هذه الطبقة من خلال قيام "مسودة" خفيفة الوزن باقتراح كتل من التوكنات المرشحة، والتي يقوم النموذج الرئيسي بالتحقق منها في تمريرة واحدة بدلاً من توليد التوكنات واحداً تلو الآخر. على معالج H100، يضيف ذلك زيادة في الإنتاجية بمقدار 1.37x دون تغيير في جودة المخرجات. على معالجات Apple Silicon، لم يتم تفعيلها افتراضياً بعد، لكنها مكسب حقيقي لخدمات الـ GPU.
Apple تهتم بالأمر
هذا هو الإصدار الرئيسي الثاني في عائلة Bonsai. في مارس، أطلقت PrismML نموذج Bonsai 8B، وهو نموذج بحجم 1.15 جيجابايت أثبت أن بنية الـ 1-بت يمكن أن تصمد عند 8 مليار بارامتر دون أن ينهار استدلالها. القفزة إلى 27 مليار هي حيث تتغير الرهانات.
تجري Apple الآن محادثات أولية مع PrismML حول تقنية الضغط الأساسية، حيث تقوم الشركة بتقييمها لاستخدامها المحتمل على الأجهزة. أكد الرئيس التنفيذي لشركة PrismML، بابك حسيني، هذه المناقشات. نموذج Gemma مضغوط هو التالي في خط الإنتاج، يليه نماذج حدودية (frontier models) أكبر.
ما يغفله معظم اللاعبين حول هذا الإعلان هو أن التداعيات تمتد إلى ما هو أبعد من الهواتف الذكية. الذكاء الاصطناعي على الجهاز بهذا المستوى من القدرة يعني عدم وجود استدعاءات API، ولا تأخير ناتج عن رحلات الخادم، ولا بيانات تغادر جهازك. بالنسبة لتطبيقات الألعاب تحديداً، يفتح هذا إمكانيات لسلوك NPC مستجيب حقاً، ومعالجة صوتية محلية، ومنطق ألعاب في الوقت الفعلي لا يعتمد على اتصال سحابي.
نموذج 1-bit Bonsai 27B متاح للتنزيل المجاني الآن. إذا كنت تتطلع لمواكبة كل ما يستحق المتابعة في عالم الألعاب والتكنولوجيا، فإن مركز أدلة الألعاب الخاص بنا هو مكان جيد للبدء، وإذا كنت منغمسًا في ألعاب تقمص الأدوار (action RPGs) حالياً، فإن دليل المبتدئين للعبة Where Winds Meet و دليل أفضل الفنون الغامضة يستحقان الحفظ في مفضلتك.
