New Scaled Conjugate Gradient Algorithm for Training Artificial Neural Networks Based on Pure Conjugacy Condition

Abstract

Conjugate gradient methods constitute excellent neural network training methods characterized by their simplicity efficiency and their very low memory requirements. In this paper, we propose a new scaled conjugate gradient neural network training algorithm which guarantees descent property with standard Wolfe condition. Encouraging numerical experiments verify that the proposed algorithm provides fast and stable convergence. ‫خوارزميت‬ ‫نوع‬ ‫من‬ ‫متدرجت‬ ‫جديدة‬ ‫ان‬ ‫االنحدار‬ ‫ذواث‬ ‫مترافق‬ ‫نتدري‬ ‫ب‬ ‫انشبكاث‬ ‫االصطناعيت‬ ‫انعصبيت‬ ‫ان‬ ‫مستند‬ ‫ة‬ ‫انصرف‬ ‫انترافق‬ ‫شرط‬ ‫عهى‬ ‫عبو‬ ‫خضر‬ ‫خهيم‬ 1 , ‫محمد‬ ‫اندين‬ ‫حساو‬ ‫هند‬ 0 1,2 ‫الرياضيات‬ ‫قسن‬ / ‫والرياضيات‬ ‫الحاسوب‬ ‫علوم‬ ‫كلية‬ / ‫الووصل‬ ‫جاهعة‬ 1 kh_196538@yahoo.com , 2 hinm@yahoo.com :‫انبحث‬ ‫استالو‬ ‫تاريخ‬ 1 / 4 / 0215 :‫انبحث‬ ‫قبول‬ ‫تاريخ‬ 8 / 3 / 0215 ‫انمهخص‬ ‫تدري‬ ‫طرق‬ ‫تمثل‬ ‫افق‬ ‫المتر‬ ‫التدرج‬ ‫طرق‬ ‫كفاءتها‬ ,‫ببساطتها‬ ‫وتتميز‬ ‫العصبية‬ ‫لمشبكات‬ ‫ممتازة‬ ‫ب‬ ‫ذاكرة‬ ‫وتطمبها‬ ‫العددية‬ ‫بمعممة‬ ‫افق‬ ‫متر‬ ‫تدرج‬ ‫نوع‬ ‫من‬ ‫جديدة‬ ‫ارزمية‬ ‫خو‬ ‫اح‬ ‫اقتر‬ ‫البحث‬ ‫هذا‬ ‫في‬ ‫تم‬ .‫جدا‬ ‫منخفضة‬ ‫هذه‬ ‫العصبية‬ ‫الشبكة‬ ‫لتعميم‬ ‫باستخدام‬ ‫االنحدار‬ ‫خاصية‬ ‫تحقق‬ ‫ارزمية‬ ‫الخو‬ ‫ش‬ ‫لهذه‬ ‫العددية‬ ‫النتائج‬ .‫االعتيادية‬ ‫ولف‬ ‫رط‬ ‫ناحية‬ ‫من‬ ‫مشجعة‬ ‫ارزمية‬ ‫الخو‬ ‫مقارنة‬ ‫ارية‬ ‫االستقر‬ ‫و‬ ‫السرعة‬ ‫بال‬ .‫المجال‬ ‫هذا‬ ‫في‬ ‫االخرى‬ ‫طرق‬ :‫دالة‬ ‫كممات‬ ‫التعميم‬ ‫ارزميات‬ ‫خو‬ , ‫االمامية‬ ‫التغذية‬ ‫ذات‬ ‫عصبية‬ ‫شبكات‬ .