تطوير حل البحث الذكي المدعوم بنماذج اللغة الكبيرة (LLM) لمستخدمي تطبيقات الخدمات المصرفية عبر الجوال
نبذة عن عميلنا
بنك تجاري أوروبي يمتلك أصولًا تتجاوز قيمتها 6 مليارات ريال سعودي، ومُصنَّف ضمن أبرز المؤسسات المالية عالية التقنية في السوق المحلي، بفضل التزامه بتقديم خدمات رقمية متقدمة وابتكارات مصرفية مستدامة.
البحث التقليدي لا يلبي توقعات مستخدمي الخدمات المصرفية عبر الجوال
كانت تطبيقات العملاء المصرفية لنظامي iOS وأندرويد مزودة بمحرك بحث تقليدي يعتمد على مطابقة كلمات البحث الأساسية بشكل دقيق. وكانت عمليات البحث مقتصرة على قواعد بيانات منفصلة، حيث كانت كل قاعدة مرتبطة بوظيفة معينة داخل التطبيق، على سبيل المثال، كان البحث عن خيارات الإيداع مقتصرًا على وحدة الإيداع فقط، والبحث عن شروط القروض ضمن وحدة القروض فقط.
أجبرت هذه الآلية المحدودة مستخدمي الخدمات المصرفية عبر الجوال على تخمين المصطلحات الدقيقة للوصول إلى النتائج المطلوبة أو التنقل يدويًا بين أقسام التطبيق المتنوعة للحصول على معلومات محددة. بالإضافة إلى ذلك، فشل محرك البحث التقليدي في فهم سياق استفسارات المستخدمين بدقة، ما أدى إلى نتائج ناقصة أو غير دقيقة، وأسهم في انخفاض تفاعل المستخدمين وزيادة طلبات الدعم.
للتغلب على هذا التحدي، قرر البنك تحسين وظائف تطبيقاته المصرفية عبر الجوال من خلال إضافة وظائف بحث ذكية وأكثر سهولة. ونظرًا لاعتياد المستهلكين حاليًا على أدوات البحث بالذكاء الاصطناعي التي تفهم اللغة الطبيعية وسياق الاستفسارات، اختار البنك اعتماد تقنية الذكاء الاصطناعي التوليدي لتحسين جودة النتائج وتعزيز التواصل الفوري مع المستخدمين.
بدأ التعاون المثمر بين البنك وساينس سوفت منذ أكثر من 10 أعوام، تحديدًا في عام 2014، عندما تولَّت ساينس سوفت تطوير تطبيقاته المصرفية وصيانتها بشكل مستمر منذ إطلاقها. وبفضل الخبرة الواسعة التي تتمتع بها ساينس سوفت في تطوير تطبيقات الخدمات المصرفية وتحليل البيانات والذكاء الاصطناعي، قرر البنك الاعتماد على فريقنا لتنفيذ وظائف البحث الذكي الجديدة.
إعداد التصميم التقني وخطة التنفيذ لحل البحث الذكي المدعوم بنماذج LLM
لتنفيذ المشروع، شكَّلت ساينس سوفت فريقًا متخصصًا يضم مديرًا للمشروع، ومحللِّة أعمال، ومهندسًا متخصصًا في علم البيانات بخبرة واسعة في مجال تقنية المعلومات المصرفية.
أجرت محللِّة الأعمال عدة مقابلات مع الجهات المعنية في البنك لفهم التحديات التي يواجهونها مع محرك البحث، وتحديد المتطلبات اللازمة للحل الجديد. كما استطلعت آراء متخصصي دعم العملاء في البنك لفهم المشكلات التي يواجهها عملاء الخدمات المصرفية، والحصول على رؤية شاملة حول العيوب المرتبطة بميزات البحث القديمة. وبناءً على نتائج هذا التحليل، ساعدت خبيرتنا العميل على صياغة مفهوم واضح للحل وصياغته كمواصفات وظيفية تفصيلية.
بعد ذلك، اقترح مهندس علوم البيانات التصميم التقني الأمثل لحل البحث الذكي، حيث صُمم الحل لتمكين البحث الهجين المدعوم بنماذج اللغة الكبيرة (LLM). سيتيح ذلك التجميع الفوري للبيانات من قواعد البيانات المعزولة، والبحث عبر البيانات غير المهيكلة مثل قاعدة المعرفة متعددة التنسيقات لدى البنك، بالإضافة إلى تقديم استجابات دقيقة وملائمة ودقيقة للغاية.
قدم خبيرنا تصورًا عالي المستوى للبنية البرمجية لحل البحث الهجين المتقدم، مع التركيز على المكونات الوظيفية الأساسية التالية:
- وحدة المعالجة المسبقة للبيانات: تعمل على تنظيف بيانات استعلامات اللغة الطبيعية تلقائيًا، وإثرائها، وترميزها لتصبح جاهزة لمعالجة البحث.
- محرك البحث المعجمي: يجري البحث الأوَّلي عن البيانات في قواعد بيانات البنك. وقد اقترح خبيرنا استخدام خوارزميات التصنيف BM25 لتحسين سرعة البحث ودقة النتائج.
- محرك البحث الدلالي: يستخدم خوارزميات تعلم الآلة (ML) ومعالجة اللغة الطبيعية (NLP) لفهم سياق استفسارات المستخدم، واسترجاع البيانات المكافئة دلالياً من قواعد بيانات البنك.
- قاعدة البيانات الموجَّهة: تُخزِّن البيانات المجزّأة والموجَّهة متعددة الصيغ المستخرجة من قواعد بيانات البنك. يجب تحويل البيانات إلى متجهات أولاً لتمكين البحث الدلالي الفعَّال عن البيانات. لذا، اختار مهندس ساينس سوفت قواعد بيانات تجارية موجهة ذات أداء عالٍ، وصمم حلولًا عملية لأتمتة مسارات تحويل البيانات إلى صيغة متجهة.
- محرك دمج نتائج البحث: يجمع بين نتائج البحث المعجمي والدلالي لتوفير سياق استجابة شامل ودقيق.
- محرك إعادة التصنيف: يحلل أجزاء البيانات المسترجعة، ويفرزها حسب صلتها بالموضوع لتكوين استجابات دقيقة وملائمة.
- وحدة نماذج اللغة الكبيرة (LLM) الاختيارية: تُستخدم لتعزيز قدرة البحث الهجين من خلال تحليل سياق الاستعلامات النصية والصوتية، والتواصل المباشر مع مستخدمي تطبيقات الخدمات المصرفية. ولتقليل تكاليف الحل، اقترح خبيرنا استخدام وحدات LLM المدربة سابقًا، وتعزيزها ببيانات قاعدة المعرفة لدى البنك باستخدام تقنية التوليد المعزز للاسترجاع (RAG) الفعالة من حيث التكلفة، ما يوفر حلاً متقدمًا ومستدامًا دون تحميل البنك تكاليف مرتفعة.
أنشأ مهندس علم البيانات مجموعة مخصصة من مؤشرات الأداء الرئيسية (KPIs) لتمكين البنك من التحكم في جودة نتائج البحث الذكي. شملت هذه المجموعة مؤشرات متخصصة لقياس أداء استرجاع البيانات مثل Precision@k، وmAP، وMRR، وNDCG. كما تضمنت مقاييس لتقييم أداء نماذج اللغة الكبيرة (LLM) مثل: مقياس F1، وBLEU، وROUGE، وplexity.
اقترحت ساينس سوفت البدء بنموذج أوَّلي (PoC) لتقييم جدوى الحل المقترح واختبار دقة وأداء أساليب البحث المختلفة في بيئة محكومة. يتيح هذا النهج تحديد التحسينات اللازمة في وقت مبكر وضمان كفاءة التصميم النهائي.
أوصى فريق ساينس سوفت بضرورة تدريب خوارزميات البحث واختبارها على البيانات المعروضة للمستهلكين في تطبيق الخدمات المصرفية عبر الجوال، مثل البيانات المتعلقة بمنتجات البنك، والخدمات، وأسعار الصرف، ومراكز الخدمة، والعروض الترويجية، والعروض الجديدة، حيث سيتيح ذلك لمهندسينا تقييم جودة نتائج البحث المعروضة للعملاء بشكل أكثر دقة.
بعد موافقة البنك على التصميم التقني لحل البحث الذكي وخطة تنفيذ النموذج الأوَّلي (POC)، حدَّد مدير المشروع نطاق المهام المطلوبة لمرحلة النموذج الأولي، والموارد المطلوبة، كما قدَّم تقديرات التكلفة والمدة الزمنية اللازمة للتطوير، ووضع خطة شاملة تتضمن الخطوات اللازمة لتقليل المخاطر التقنية والتشغيلية والمالية المحتملة.
استشارات تطوير بنية تحتية تقنية فعالة من حيث التكلفة للبحث الذكي
نظراً لسياسات أمن المعلومات الصارمة التي يتبعها البنك، لم يكن من الممكن نشر حل البحث الذكي على المنصات السحابية. لذا، كان من الضروري تطوير بنية تحتية داخلية مُخصَّصة تستوعب عمليات البحث المختلط المعقدة، وتدريب نماذج الذكاء الاصطناعي، وتخزين كميات كبيرة من البيانات. فحص مهندسنا قدرات البنية التحتية لتقنية المعلومات الحالية لدى البنك، وحدَّد الثغرات الموجودة في أجهزتها، كما قدَّم توصيات حول الوحدات المثلى لإضافتها، بما في ذلك وحدات المعالجة المركزية (CPU)، ووحدات معالجة الرسومات (GPU)، وذاكرة الوصول العشوائي (RAM)، ومحركات الأقراص الصلبة (SSD) لضمان أداء الحل بكفاءة وقابلية التوسع.
أوضح خبيرنا أنه على الرغم من أن وحدات GPU أكثر كفاءة بشكل عام في تنفيذ عمليات البحث المتجهة، إلا أن وحدات CPU المتطورة متعددة النواة يمكنها التعامل بسلاسة مع الأعباء ومجموعات البيانات الأصغر بسلاسة وكفاءة. واقترح استخدام وحدات CPU الأقل تكلفة بدلًا من وحدات GPU خلال المراحل الأولية للمشروع، حيث سيساعد ذلك على تقليل التكاليف الأولية اللازمة لتطوير البنية التحتية مع الحفاظ على مستوى الأداء المطلوب وقابلية التوسع مستقبلًا.
التخطيط لتنفيذ النموذج الأوَّلي (PoC) لحل البحث الذكي في 4 أسابيع فقط
في غضون 4 أسابيع فقط، حصل البنك على المفهوم الوظيفي والتصميم التقني وخطة التنفيذ لحل البحث الذكي الموجه للعملاء. وقد أسهمت الاستشارات التي قدمتها ساينس سوفت بشأن مجموعة التقنيات والأجهزة في تمكين العميل من تقليل استثمارات المشروع بقدرٍ ملحوظ. كما أن البدء بتنفيذ نموذج أوَّلي (PoC) للحل قد أتاح للبنك تقليل مخاطر المشروع إلى أدنى حد ممكن، والشعور بالثقة بشأن الجدوى التقنية والاقتصادية للحل قبل تطويره على نطاق واسع.
في ديسمبر 2024، أطلقت ساينس سوفت بيئة تجريبية للحل، ولا تزال تعمل على تنفيذ عمليات تكامل قاعدة البيانات.
استنادًا إلى تقديراتنا، فإن إضافة ميزات البحث الذكي المدعوم بنماذج اللغة الكبيرة (LLM) في تطبيقات الخدمات المصرفية عبر الجوال سيُمكِّن عميلنا من زيادة معدل رضا العملاء (CSAT) بنسبة تتجاوز 7%، وتقليل أعباء فِرق تقديم الخدمات المصرفية بأكثر من 60%، بالإضافة إلى زيادة مبيعات المنتجات المالية.
التقنيات والأدوات
- لغات البرمجية: Python
- قواعد البيانات المتجهة: Faiss, Qdrant, Milvus.
- نماذج اللغة الكبيرة المدربة مسبقًا: Llama3.1, BERT
- مكتبات نعالجة اللغة الطبيعية ونماذج اللغة الكبيرة: spaCy, NLTK, Hugging Face Transformers
- أطر عمل تعلم الآلة: PyTorch, TensorFlow.
- أدوات ديف أوبس: Docker, Kubernetes.
نتواصل معكم على الفور