الأخبار
كيف نبني حلولًا على حواسيب منخفضة التكلفة
ندرس مقدار العمل المفيد والموثوق الذي يمكن أن يؤديه نموذج ذكاء اصطناعي محلي على حاسوب رخيص، ونقارنه بجهاز يتسع فيه النموذج كاملًا للذاكرة.

يشارك ثلاثة حواسيب. حاسوب منخفض التكلفة ببطاقة رسومات RTX 3060 يعمل ضمن قيود صارمة على الذاكرة. حاسوب ثانٍ يعمل عليه الوكيل Hermes يحلّل النتائج ويتحقق من العمل ويُجري التحسينات. ويُنفّذ Mac Studio M3 المهام نفسها بالتوازي كمرجع بذاكرة كافية. تستخدم جميع الأجهزة ملفات النموذج نفسها وإصدار Strata نفسه.
ما يهمنا ليس السرعة بحد ذاتها، بل جودة الإجابات وموثوقيتها في المهام الحقيقية. تُظهر النتائج الأولية أن العتاد المحدود لا يعني بالضرورة جودة إجابات أدنى.
يدرس جزء مستقل من التجربة ما إذا كان الوكيل قادرًا على اكتشاف أخطائه بنفسه وإصلاحها ومنع أخطاء مشابهة. ومن دون أن يُطلب منه، بدأ أيضًا يحسب كم تكلّف تحسيناته من الرموز ويقلّل الاستهلاك غير الضروري.
تقود هذه التجارب إلى نتائج حقيقية وسيناريوهات عملية، مثل العمل مع المستندات.