كيف حققنا حالة من الفن

أصبح وكلاء الأبحاث سريعًا أحد أهم تطبيقات الذكاء الاصطناعي. البحث هو مهمة عمل معرفية أساسية: جمع المعلومات وقراءتها وتوليفها يدعم كل شيء بدءًا من الكتابة وصنع القرار وحتى البرمجة نفسها. ومع ذلك، فإن الأبحاث التي يقودها الإنسان مقيدة بالذاكرة، وسرعة القراءة، والوقت. وعلى النقيض من ذلك، يستطيع وكلاء أبحاث الذكاء الاصطناعي معالجة كميات هائلة من المعلومات، وتجميع الرؤى على الفور، وتوسيع نطاقها دون عناء. ولهذا السبب، يبرز وكلاء الأبحاث كحالة استخدام عليا للذكاء الاصطناعي اليوم وسيصبحون قريبًا مكونًا فرعيًا أساسيًا لسير عمل الوكلاء الأوسع عبر إنشاء المحتوى والبرمجة والمبيعات والمزيد. في هذا المنشور، نشارك الدروس التقنية والفلسفية التي تعلمناها في بناء وكيل أبحاث على أحدث طراز، وإلى أين نعتقد أن هذا المجال يتجه.

---

البناء للمستقبل

وكيل تسخير

تتمثل مهمة بناء أداة تسخير الوكيل في إنشاء طبقة برمجية تعمل على تحسين تنفيذ وقت تشغيل النموذج من خلال إدارة السياق، واستدعاءات الأدوات، والتحكم في الحلقة، والتنسيق، ومعالجة الأخطاء. ومع ذلك، فإن بناء التطبيقات على نماذج سريعة التحسن يمثل تحديًا هندسيًا حديثًا. كيف يمكننا تصميم برمجيات اليوم تمتص مكاسب الأداء من إصدارات النماذج المستقبلية؟

ويتطلب ذلك التنبؤ بكيفية تطور النماذج، والبقاء متفائلاً بشأن التقدم الذي تحرزه، والحد من الافتراضات، وتجنب التحسينات المصنوعة يدويًا.

لقد تعلمنا ذلك بالطريقة الصعبة منذ سبعة أشهر، عندما اضطررنا إلى التخلي عن محاولتنا الأولى لإجراء بحث عميق وإعادة بناء النظام بأكمله من الصفر. كانت البنية الأولى معقدة ومتطورة (اعتقدنا أن هذا أمر جيد)، لكن افتراضاتها أصبحت اختناقات عندما وصل الجيل التالي من النماذج.

نماذج

على مدار الأشهر السبعة الماضية، تطورت قدرات النماذج بهدوء ولكن بشكل هادف (خاصة في قدراتها على استدعاء الأدوات). لقد دفعنا هذا التركيز التحسيني الفردي إلى الانتقال من سير العمل إلى الوكلاء. نعتقد أنه سيتم تدريب النماذج المستقبلية لحل نقاط الضعف الحالية التي يواجهها مطورو الوكلاء. يتم استهلاك كل نموذج في النهاية بواسطة الحزام، لذلك يجب أن تتطور النماذج لخدمة هذا الحزام. نأمل أن نرى نماذج تتحسن في التلخيص عالي الاستدعاء (لضغط السياق)، وموثوقية استدعاء الأدوات، والدقة في الكتابة.

أدوات

وبالمثل، يجب أن تتطور الأدوات لدعم حاملي شهادة الماجستير في القانون وأدوات الوكلاء المعتمدة على نطاق واسع. يجب أن تقوم أفضل الأدوات بإجراء بعض هندسة السياق من جانب الأداة، ويتم استخلاصها بعيدًا عن الوكيل. يجب عليهم إرجاع البيانات الأكثر صلة فقط بدلاً من تفريغ كميات كبيرة من الرموز المميزة في نافذة السياق. باعتبارنا مزودًا للأدوات، فقد استثمرنا بكثافة في ميزة البحث المتقدم لدينا، والتي تحتوي على هندسة السياق المضمنة. وهذا بدوره يقلل من الهلوسة ووقت الاستجابة لعمليات الوكيل النهائية.

الوجبات الجاهزة

لبناء عوامل تتحسن بمرور الوقت، اتبعنا بعض المبادئ التوجيهية:

1. تبسيط منطق التنسيق والاعتماد على الاستقلالية.
2. انتبه جيدًا للنماذج والأدوات التي يتم تحسينها من أجلها، واستفد من قدراتها الناشئة.
3. ركز على هندسة السياق (المزيد حول هذا في القسم التالي).

---

هندسة السياق – تمرين في التنظيم

تكشف المهام البحثية طويلة المدى عن تحدي أساسي في تصميم الوكيل الحالي: مهمة الحفاظ على نافذة سياق نظيفة ومحسنة بمرور الوقت. إذا لم يكن تنسيق السياق مهمة يوليها المهندس اهتمامًا وثيقًا، فإن الوكيل يكاد يكون محكومًا عليه بالفشل. فيما يلي الخطوط العريضة لتفكيرنا حول هذا المفهوم في مجال البحث العميق.

استرجاع الويب المُدار بالسياق

يعد استخدام البحث المتقدم لـ Tavily هو الخطوة الأولى الطبيعية التي يجب اتخاذها للتغلب على هذا التحدي، حيث أنه يستبعد معالجة محتوى الويب الخام ويعيد فقط أجزاء المحتوى الأكثر صلة من كل مصدر. من خلال الاستفادة من هذه الوظيفة، نسمح لـ Tavily Search بالقيام بالمهمة الثقيلة ونسمح لـ Tavily Research بجني الفوائد، وجمع المحتوى الأكثر قيمة بطريقة فعالة في زمن الاستجابة.

إن التأكد من عدم تجاوز الوكيل لسلسلة بحث واحدة هو الخطوة التالية نحو مسار فعال لجمع السياق. وفي هذا الصدد، يعد استمرار الحالة العالمية وإلغاء تكرار المصدر أمرًا بالغ الأهمية، وفي حالتنا، يساعد ذلك في ثلاثة جوانب:

1. إنه يضمن تعرض الوكيل لمعلومات جديدة فقط.
2. فهو يسمح للمهندس بمعرفة الوقت الذي يضيق فيه نطاق المعلومات ويحث الوكيل على استكشاف المجالات ذات الصلة غير المستغلة.
3. إنه يفسح المجال لإسناد المصدر الفعال لاحقًا في عملية التوليد.

في Tavily، التفاعل مع الويب هو خبزنا وزبدتنا. لقد كان تصميم نظام محسّن لاسترجاع الويب مصممًا للبحث العميق بمثابة لبنة أساسية لتصميم وكيل البحث العميق لدينا ككل.

نمذجة التفاعل بين الإنسان والويب

يقوم البشر بالبحث بطريقة متكررة وغير منظمة بطبيعتها. نبدأ بتحديد المهمة: ما نحاول تحقيقه وما هي المعلومات التي نحتاجها. نقوم بعد ذلك بجمع البيانات من مصادرنا، واستخراج الأفكار الرئيسية والاحتفاظ بها في الذاكرة قصيرة المدى، والسماح لهذه الأفكار المقطرة بتوجيه أفعالنا اللاحقة.

تتكرر هذه الدورة: اجمع المعلومات، واستخلصها، ثم قرر ما يجب فعله بعد ذلك. فقط عندما نجمع ما يكفي من الفهم لإنتاج التسليم النهائي، نعود إلى المصادر الأصلية، ونستخدمها كمراجع لتجميع المنتج النهائي.

نحن نؤمن بأن عوامل البحث العميق يجب أن يتم تصميمها بطريقة مماثلة، حيث يجب استخلاص مخرجات الأداة إلى انعكاسات، و فقط يجب استخدام مجموعة التأملات السابقة كسياق لمتصل الأداة. كما هو الحال مع البشر، فقط عندما يبدأ وكيلك في إعداد التسليم النهائي، يجب عليك تقديم المعلومات الأولية كسياق، وذلك لضمان عدم فقدان المعلومات.

القيام بالمزيد بموارد أقل

يختلف هذا النهج عن هيكلة السياق التقليدية في بنية وكيل ReAct. عادةً، يتم نشر استدعاءات الأداة ومخرجاتها من خلال حلقة استدعاء الأداة، مع استمرار الرموز المميزة التي تم استردادها/إنشاءها مسبقًا في نافذة السياق في كل تكرار لاحق. يمكن رؤية هذا النمط في تنفيذ وكيل LangChain’s Open Deep Research، ومن منظور استهلاك الرمز المميز، يمكن تصميمه من خلال السلسلة التربيعية التالية، حيث $نن$ هو مقدار الرموز المميزة التي يتم استدعاء نموذج استدعاء الأداة بها في كل أداة تستدعي التكرار، و $مم$ هو عدد تكرارات استدعاء الأداة.

$$ن+2ن+3ن+\cdots +من=ن\cdot \frac{م(م+1)}{2}n\; +\; 2n\; +\; 3n\; +\; \backslash cdots\; +\; mn\; \backslash ;=\backslash ;\; n\; \backslash cdot\; \backslash frac\{m(m+1)\}\{2\}$$

على النقيض من ذلك، فإن طريقتنا المقترحة لهندسة السياق تزيل انتشار الرمز المميز (حيث أن عمليات التقطير المعرفية، حتى عند تجميعها، لا تذكر عند مقارنتها بكمية الرموز المميزة التي تم جمعها من الويب) ويمكن نمذجتها من خلال السلسلة الخطية التالية.

$$ن+ن+ن+\cdots +ن=نمn\; +\; n\; +\; n\; +\; \backslash cdots\; +\; n\; \backslash ;=\backslash ;\; نانومتر$$

عند مقارنة الطريقتين، يتم حفظ الرموز المميزة على أساس كل وكيل بمعامل $\frac{م+1}{2}\backslash frac\{م+1\}\{2\}$

ومن خلال هذه المنهجية تمكنا من تقليل استهلاك الرمز المميز بنسبة 66% (عند مقارنتها بـ Open Deep Research) مع تحقيق SOTA على DeepResearch Bench – تقاطع الجودة والكفاءة بالتأثير الكامل.

---

وكلاء الإنتاج – تحدي مستمر

بناء وكلاء درجة الإنتاج هو عمل متوازن. لقد اعتمدنا على الاستقلالية لتحقيق أقصى قدر من الأداء والجودة، مع الاستمرار في تلبية المتطلبات الصارمة لوقت الاستجابة والتكلفة والموثوقية.

الهندسة مع عدم الحتمية

إن طلاب الماجستير في القانون غير حتميين بطبيعتهم، وقد وجدنا أن منحهم حرية التفكير والتكرار يؤدي إلى أقوى النتائج. يمكن أن تؤدي الاستقلالية، عندما تسير بشكل خاطئ، إلى خروج سلوك الوكيل عن المسار الصحيح. يمكن استدعاء الأدوات بشكل غير صحيح، ويمكن أن تتناسب مواد LLM مع موضوع فرعي، وقد تنقطع أنماط التفكير المتوقعة. ولا يمكن لأي ضمانة واحدة أن تتغلب على كل هذه القضايا.

مطلوب تحول في العقلية الهندسية: التعامل مع أوضاع الفشل باعتبارها اعتبارات التصميم الأساسية، وليس الأفكار اللاحقة. تساعد حواجز الحماية البسيطة مثل عمليات إعادة محاولة استدعاء الأدوات أو سلاسل النماذج، ولكن توقع الحالات الشاذة بشكل استباقي، وتعزيز الأنماط المناسبة في المطالبة واختبار حالة الحافة هو ما يمكّن الوكلاء على مستوى الإنتاج طويل الأمد.

الأدوات المثالية — الأقل هو الأكثر

من خلال خبرتنا، من الأفضل عرض مجموعة أدوات صغيرة وأساسية على الوكيل بدلاً من عرض مجموعة كبيرة ومعقدة. لقد شعرنا بإغراء المبالغة في الهندسة من خلال إضافة العديد من الأدوات التي بدت مفيدة من الناحية النظرية، ولكن من الناحية العملية أدى ذلك إلى خلق أنماط فشل جديدة وجعل من الصعب على حاملي شهادة الماجستير في القانون اختيار الأداة المناسبة باستمرار وتكرارها بفعالية.

التقييمات

لقد استخدمنا التقييمات لتوجيه عملية التطوير لدينا ولكننا ندرك أيضًا أوجه القصور فيها. من الصعب الوثوق بتقييمات ماجستير القانون كقاض: النماذج الحالية غير حتمية، وغير قابلة للتفسير في منطقها، ويمكن أن تتحول إلى اختناقات، خاصة بالنسبة للوكلاء الذين يعملون لفترة طويلة حيث يمكن أن تستغرق تجربة واحدة أيامًا حتى تكتمل.

بدلاً من تحسين النتائج المعيارية، قمنا بتحسين التعليقات الاتجاهية. وكان السؤال الأساسي دائمًا هو: هل هذا التغيير جعل الوكيل أكثر موثوقية وأكثر فائدة في الممارسة العملية؟ أصبحت التقييمات أداة للتحقق من هذا الاتجاه، وليس هدف التحسين. لقد قدم الحدس والمراقبة الدقيقة لتتبع الوكيل باستمرار تعليقات أعلى للإشارة من أي درجة تقييم واحدة. بشكل عام، نادرًا ما تكون أفضل النتائج هي أعلى الدرجات العددية. بالنسبة لأنظمة الإنتاج، تعد التحسينات مثل تقليل استخدام الرمز المميز، والموثوقية، وزمن الوصول المنخفض، وتقليل حالات الفشل أكثر قيمة من زيادة نقطة واحدة في التقييم.

---

إذا كنت مهتمًا بتجربة نتائج هذه النتائج عمليًا، فيمكنك الاشتراك للوصول المبكر إليها أبحاث تافيلي هنا.