من اخترع الشبكات العصبية التلافيفية (CNNs)؟ 1969: كان لدى فوكوشيما ReLU ذات صلة بشبكة CNN [2]. 1979: كان لدى فوكوشيما بنية CNN الأساسية مع طبقات الالتفاف وطبقات أخذ العينات [1]. كانت الحوسبة أكثر تكلفة بمقدار 100 مرة مما كانت عليه في عام 1989 ، وأكثر تكلفة بمليار مرة من اليوم. 1987: طبق Waibel الانتشار الخلفي ل Linnainmaa عام 1970 [3] على TDNNs لتقاسم الوزن مع التلافيف أحادية الأبعاد [4]. 1988: Wei Zhang et al. طبق شبكات CNN ثنائية الأبعاد "الحديثة" المدربة على الظهر للتعرف على الأحرف [5]. تم نشر كل ما سبق في اليابان 1979-1988. 1989: LeCun et al. طبق CNNs مرة أخرى على التعرف على الأحرف (الرموز البريدية) [6،10]. 1990-93: تم استبدال تخفيض أخذ العينات في فوكوشيما بناء على المتوسط المكاني [1] بالحد الأقصى للتجميع ل 1-D TDNNs (Yamaguchi et al.) [7] و 2-D CNNs (Weng et al.) [8]. 2011: بعد ذلك بوقت طويل ، قام فريقي مع Dan Ciresan بتجميع شبكات CNN بسرعة كبيرة على وحدات معالجة الرسومات NVIDIA. في عام 2011 ، حققت DanNet أول نتيجة للتعرف على الأنماط الخارقة [9]. لفترة من الوقت ، تمتعت باحتكار: من مايو 2011 إلى سبتمبر 2012 ، فازت DanNet بكل تحدي للتعرف على الصور دخلت فيه ، 4 منها على التوالي. ومع ذلك ، من المسلم به أن هذا كان في الغالب يتعلق بالهندسة وتوسيع نطاق الرؤى الأساسية من الألفية السابقة ، والاستفادة من الأجهزة الأسرع بكثير. يدعي بعض "خبراء الذكاء الاصطناعي" أن "جعل شبكات CNN تعمل" (على سبيل المثال ، [5،6،9]) كان بنفس أهمية اختراعها. لكن "جعلها تعمل" تعتمد إلى حد كبير على ما إذا كان مختبرك غنيا بما يكفي لشراء أحدث أجهزة الكمبيوتر المطلوبة لتوسيع نطاق العمل الأصلي. إنه نفس الشيء اليوم. البحث الأساسي مقابل الهندسة / التطوير - R مقابل D في البحث والتطوير. مراجع [1] ك. فوكوشيما (1979). نموذج الشبكة العصبية لآلية التعرف على الأنماط التي لا تتأثر بالتحول في الموضع - Neocognitron. Trans. IECE, vol. J62-A, no. 10, pp. 658-665, 1979. [2] ك. فوكوشيما (1969). استخراج الميزات المرئية بواسطة شبكة متعددة الطبقات من عناصر العتبة التناظرية. معاملات IEEE في علوم النظم وعلم التحكم الآلي. 5 (4): 322-333. قدم هذا العمل وحدات خطية مصححة (ReLUs) ، تستخدم الآن في العديد من شبكات CNN. [3] س. لينينما (1970). رسالة ماجستير، جامعة هلسنكي، 1970. أول منشور عن الانتشار الخلفي "الحديث" ، المعروف أيضا باسم الوضع العكسي للتمايز التلقائي. (انظر نظرة عامة على الانتشار الخلفي الشهير لشميدهوبر: "من اخترع الانتشار العكسي؟") [4] أ. وايبل. التعرف على الصوت باستخدام الشبكات العصبية لتأخير الوقت. اجتماع IEICE، طوكيو، اليابان، 1987. الانتشار العكسي ل TDNN لتقاسم الوزن مع التلافيف أحادية الأبعاد. ...