الأخبار

كيف نبني حلولًا على حواسيب منخفضة التكلفة

ندرس مقدار العمل المفيد والموثوق الذي يمكن أن يؤديه نموذج ذكاء اصطناعي محلي على حاسوب رخيص، ونقارنه بجهاز يتسع فيه النموذج كاملًا للذاكرة.

حواسيب التجربة الثلاثة: حاسوب منخفض التكلفة مع RTX 3060، وحاسوب محمول مع الوكيل Hermes، وMac Studio M3

يشارك ثلاثة حواسيب. حاسوب منخفض التكلفة ببطاقة رسومات RTX 3060 يعمل ضمن قيود صارمة على الذاكرة. حاسوب ثانٍ يعمل عليه الوكيل Hermes يحلّل النتائج ويتحقق من العمل ويُجري التحسينات. ويُنفّذ Mac Studio M3 المهام نفسها بالتوازي كمرجع بذاكرة كافية. تستخدم جميع الأجهزة ملفات النموذج نفسها وإصدار Strata نفسه.

ما يهمنا ليس السرعة بحد ذاتها، بل جودة الإجابات وموثوقيتها في المهام الحقيقية. تُظهر النتائج الأولية أن العتاد المحدود لا يعني بالضرورة جودة إجابات أدنى.

يدرس جزء مستقل من التجربة ما إذا كان الوكيل قادرًا على اكتشاف أخطائه بنفسه وإصلاحها ومنع أخطاء مشابهة. ومن دون أن يُطلب منه، بدأ أيضًا يحسب كم تكلّف تحسيناته من الرموز ويقلّل الاستهلاك غير الضروري.

تقود هذه التجارب إلى نتائج حقيقية وسيناريوهات عملية، مثل العمل مع المستندات.

التفاصيل التقنية وجميع الأرقام · كل الأخبار