تحسين كفاءة تدريب خوارزمية SpikeProp في الشبكات العصبية النبضية (SNNs) لنماذج اللغة الكبيرة (LLMs) من خلال التهيئة المبتكرة للأوزان

تستخدم الشبكات العصبية النبضية (Spiking Neural Networks - SNNs) نبضات زمنية فردية لإجراء العمليات الحسابية والاتصال، وذلك لمحاكاة آلية عمل الخلايا العصبية البيولوجية. وقد تم تجاهل الشبكات العصبية النبضية لفترة طويلة بسبب الاعتقاد بأنها معقدة وصعبة التحليل. تبحث هذه الدراسة في تحسين خوارزمية SpikeProp، وهي نموذج تعلم خاضع للإشراف مصمم خصيصًا للشبكات العصبية النبضية. في هذا العمل، تم اقتراح ودراسة ثلاثة نماذج مختلفة، وهي النموذج المقترح 1، والنموذج المقترح 2، والنموذج المقترح 3، حيث يقدم كل نموذج تحسينات فريدة لخوارزمية SpikeProp. لتسريع عملية التقارب وتحقيق معدلات تعلم تكيفية، تم دمج خوارزمية تحسين سرب الجسيمات (Particle Swarm Optimization - PSO) وعوامل الزخم (Momentum Factors) في النموذج المقترح 1. أما في النموذج المقترح 2، فقد تم إدخال اعتماد معدل التعلم على معدل النبضات بالاعتماد على التعلم الموجه بالزاوية (Angle-Driven Learning). بينما يجمع النموذج المقترح 3 بين نقاط القوة في النموذجين الأول والثاني من خلال دمج خوارزمية PSO مع معدلات التعلم المحسّنة. تشير الدراسة إلى أن هذه النماذج يمكن أن تسهم في تدريب وتصنيف الشبكات العصبية النبضية بكفاءة ودقة أعلى. بالإضافة إلى ذلك، تستكشف الدراسة كيفية مساهمة نماذج اللغة الكبيرة (Large Language Models - LLMs) في توجيه تصميم البنى العصبية وتحسين قابلية تفسيرها، إلى جانب تعزيز طرق تدريب الشبكات العصبية النبضية. ومن خلال استخدام نماذج اللغة الكبيرة، تهدف الدراسة إلى تحسين شفافية النماذج وتعزيز مبادئ الذكاء الاصطناعي المسؤول (Responsible AI - RAI). وقد أظهر التقييم الشامل والمقارنة بين النماذج المقترحة والأساليب التقليدية أن النماذج الجديدة تتفوق بشكل مستمر على الطرق التقليدية عند اختبارها على مجموعة متنوعة من مجموعات البيانات الواقعية. وبالتالي، تمتلك هذه النماذج إمكانات كبيرة للتطبيقات العملية في تدريب الشبكات العصبية في البيئات الواقعية، وكذلك في تطوير أنظمة ذكاء اصطناعي مستندة إلى توجيه نماذج اللغة الكبيرة، مما يسهم في تقدم تقنيات الذكاء الاصطناعي الحديثة.