LLM Gateway: بوابة API للنماذج والتكاليف

واجهة واحدة لربط النماذج وتوجيه الطلبات ومتابعة التكاليف

llmgateway.io
LLM Gateway screenshot

LLM Gateway بوابة API مفتوحة المصدر تربط التطبيقات بعدة مزوّدين لنماذج اللغة الكبيرة. تجمع توجيه الطلبات وإدارة المفاتيح وتحليل الاستخدام، فتساعد المطورين على تبديل النماذج ومتابعة التكاليف من دون إدارة تكامل منفصل ولوحة فواتير لكل مزوّد.

ما فائدة LLM Gateway؟ شرح بمثال بسيط

تخيّل تطبيق دعم يستخدم نموذجًا لتصنيف رسالة العميل، ونموذجًا آخر لصياغة الرد. يرسل التطبيق الطلب إلى LLM Gateway، فتوصله البوابة إلى المزوّد وتعيد النتيجة. ومن هذه النقطة المشتركة يمكن الاطلاع على تكلفة الاستدعاء وزمن الاستجابة.

البوابة طبقة بنية تحتية وليست نموذجًا يولّد الإجابات بنفسه. تديرها Polar Lights LLC، وتستهدف المطورين وفرق المنصات. وتتيح واجهة Lounge المنفصلة تجربة النماذج في المتصفح.

توصيل التطبيق والتحقق من أول طلب

يوضح دليل البدء الرسمي المسار التالي:

  1. سجّل الدخول إلى لوحة التحكم، وأنشئ مشروعًا واحصل على مفتاح API للبوابة. احتفظ به في بيئة الخادم.
  2. استخدم الرصيد المدفوع مقدمًا، أو أضف مفاتيح المزوّدين الخاصة بك في Provider Keys. مفتاح البوابة يعرّف التطبيق، بينما يربط مفتاح المزوّد حسابك بالخدمة الخارجية.
  3. اختر معرّف نموذج متاح، وتحقق من أنواع المدخلات والقدرات وحدود السياق.
  4. اضبط العنوان الأساسي للعميل المتوافق مع OpenAI على https://api.llmgateway.io/v1. يتضمن طلب HTTP إلى /chat/completions حقلي model وmessages مع مصادقة Bearer.
  5. افحص الرد، ثم راجع المزوّد والرموز وزمن الاستجابة والتكلفة في اللوحة.

اختبر أمثلة من الاستخدام الفعلي قبل تحويل حركة الإنتاج. توافق الواجهة لا يعني أن جميع النماذج تدعم الأدوات والمعلمات نفسها.

تبديل النماذج والتعامل مع تعطل المزوّد

يسهّل التكامل الموحد مقارنة النماذج لمهام مختلفة. ويمكن للتوجيه اختيار مزوّد متاح وإعادة محاولة الطلب الفاشل عبر بديل مؤهل. تعتمد قواعد التوجيه على البدائل المتاحة وحدودها؛ لذلك لا تعني ضمان انعدام الأعطال.

تساعد التحليلات على تحديد النماذج المكلفة والاستدعاءات البطيئة. كما تسمح حدود الاستخدام وقواعد الوصول المرتبطة بالمفاتيح بفصل التطبيقات وتقييد النماذج أو المزوّدين. وقد يقلل التخزين المؤقت العمل المتكرر، لكن تخزين ردود البوابة مؤقتًا يختلف عن تخزين المطالبات لدى المزوّد، وتتوقف فائدته على الإعدادات وطبيعة الطلبات.

ما المجاني، ومتى تظهر الرسوم؟

بحسب التحقق في 10 سبتمبر 2026، لا يفرض التوجيه باستخدام مفاتيحك الخاصة BYOK رسوم منصة في الخدمة المستضافة القياسية، بينما تدفع تكلفة الاستدلال للمزوّد. وتذكر الأسئلة الرسمية نسبة 5% عند شراء الرصيد. أما الاحتفاظ الاختياري بالمحتوى الكامل فيضيف 0.01 دولار أمريكي لكل مليون رمز. وتعرض صفحة الأسعار أيضًا رسومًا دولية بنسبة 1.5% للبطاقات غير الأمريكية؛ وتحتاج خطة Enterprise إلى عرض سعر.

راجع الأسعار الحالية واحسب رموز الإدخال والإخراج الفعلية. الحساب المجاني لا يجعل كل النماذج مجانية. وتختلف شروط DevPass واشتراكات المحادثة عن الرصيد القياسي. هذه الأرقام بالدولار ليست سعرًا محليًا بالريال ولا تأكيدًا لتوافر جميع وسائل الدفع في السعودية.

الاستضافة الذاتية: تحكم أكبر ومسؤولية تشغيل

يشمل دليل الاستضافة الذاتية Docker وCompose وKubernetes. تحتاج المنظومة إلى خدمات التطبيق وPostgreSQL وRedis ومفاتيح المزوّدين. ويتولى فريقك التشغيل والنسخ الاحتياطي والتحديثات وإدارة الصلاحيات.

تستخدم البوابة ترخيص AGPLv3، بينما تخضع الميزات المؤسسية في ee/ لترخيص تجاري منفصل. تناسب الاستضافة الذاتية الفرق التي تحتاج تحكمًا بالبنية وتستطيع إدارتها. لكنها لا تشغّل النماذج تلقائيًا على خادمك: الطلبات الموجهة لمزوّد خارجي تظل تُعالج لديه.

راجع الاحتفاظ بالبيانات وحدود الاستدعاء

الإعداد الافتراضي يحتفظ بالبيانات الوصفية. ويمكن للمؤسسات القياسية تفعيل الاحتفاظ بالمحتوى الكامل. هناك استثناء في Responses API: تُحفظ الردود المخزنة 30 يومًا بصرف النظر عن ذلك الإعداد، ويمكن تعطيل هذا التخزين باستخدام store: false. راجع قواعد الاحتفاظ.

تذكر سياسة الخصوصية أن البوابة لا تستخدم محتوى العملاء لتدريب النماذج، لكن كل مزوّد يطبق سياسته الخاصة. وتوجد أيضًا حدود للمؤسسة والتزامن والمزوّد. تعتمد حصة النماذج المجانية على حالة الرصيد؛ عالج أخطاء 429 بالانتظار وضبط الطلبات المتزامنة.

أسئلة شائعة

هل يمكن استخدام الخدمة مجانًا؟

توجيه BYOK مجاني، لكن المزوّد قد يفرض رسوم الاستدلال. ويُحاسب الرصيد والتخزين الكامل الاختياري بشكل منفصل.

هل يمكن الاحتفاظ بتكامل OpenAI الحالي؟

يمكن استخدام الواجهة المتوافقة بعد تغيير العنوان الأساسي والمفتاح ومعرّف النموذج. اختبر القدرات المطلوبة قبل النقل.

هل تبقى المعالجة كلها محلية عند الاستضافة الذاتية؟

لا. أنت تستضيف البوابة، أما النموذج الخارجي فيواصل معالجة الطلبات عند مزوّده.

هل المطالبات لا تُحفظ أبدًا؟

هذا تعميم غير دقيق. لدى Responses API قاعدة مستقلة للاحتفاظ مدة 30 يومًا وخيار store: false لتعطيل التخزين.

المصادر الرسمية ومجتمع المطورين