COMPARATIVE ANALYSIS OF NEURAL NETWORK ARCHITECTURES FOR USE IN PRACTICE

A. Zmeev; V. Lavlinskiy; S. N. Yan&#039;shin

doi:doi:10.12737/article_5ac7535df2b5b2.39542261

UDC 68

COMPARATIVE ANALYSIS OF NEURAL NETWORK ARCHITECTURES FOR USE IN PRACTICE

Published в Modeling of systems and processes · Volume 10, Issue 4, 2018 · Pages 18–26 · Rubrics: Tehnicheskie nauki

DOI 10.12737/article_5ac7535df2b5b2.39542261

Received: 29.03.2018 Accepted: 30.03.2018 Published: 30.03.2018

Authors

A. Zmeev ¹ · V. Lavlinskiy ² · S. N. Yan'shin ³

1 Federal'noe gosudarstvennoe kazennoe voennoe obrazovatel'noe uchrezhdenie vysshego obrazovaniya «Voennaya akademiya vozdushno-kosmicheskoy oborony im. G.K. Zhukova»

2 Voronezh State University of Forestry and Technologies named after G.F. Morozov
Russian Federation

3 Air Force Academy named after professor N.E. Zhukovsky and Y.A. Gagarin
Russian Federation

ABSTRACT

Stat'ya posvyaschena analizu formirovaniya dinamicheskih i staticheskih struktur neyronnyh setey. Analiz primenimosti neyronnyh setey v dannoy stat'e napravlen na pravil'noe ispol'zovanie na praktike. Ocenivaetsya vozmozhnost' ispol'zovaniya apparata neyronnyh setey primenitel'no k realizacii ee v MATLAB. V dannoy stat'e privodyatsya razlichnye arhitektury neyronnyh setey, poryadok ih obucheniya. Krome togo rassmatrivayutsya neyronnye seti s zaderzhkoy, s raspredelennym zapazdyvaniem, set' NARX, sloisto-rekurrentnaya set'. Ocenivayutsya ih dostoinstva i nedostatki pri ispol'zovanii v razlichnyh sferah primeneniya. Takzhe ocenivayutsya vozmozhnosti ocenki lineynyh i nelineynyh processov. Sravnivaetsya vremya resheniya zadach dlya obucheniya razlichnyh arhitektur neyronnyh setey. V stat'e takzhe opisyvayutsya osobennosti, kak arhitektur neyronnyh setey, tak i sposobov ih obucheniya s cel'yu polucheniya minimal'nyh oshibok prognozirovaniya.

KEYWORDS

Arhitektura neyronnaya set' dinamicheskaya neyronnaya set' staticheskaya neyronnaya set' neyronnaya set' s zaderzhkoy neyronnaya set' s raspredelennym zapazdyvaniem neyronnaya set' NARX sloisto-rekurrentnaya set'.

Information Text References

Authors:

1. Federal'noe gosudarstvennoe kazennoe voennoe obrazovatel'noe uchrezhdenie vysshego obrazovaniya «Voennaya akademiya vozdushno-kosmicheskoy oborony im. G.K. Zhukova»

2. Voronezh State University of Forestry and Technologies named after G.F. Morozov

Russian Federation

3. Air Force Academy named after professor N.E. Zhukovsky and Y.A. Gagarin

Russian Federation

Type:

Article

Pages:

from 18 to 26

Status:

Published

Subject area:

UDC 68

Language:

Russian

Keywords:

Arhitektura, neyronnaya set', dinamicheskaya neyronnaya set', staticheskaya neyronnaya set', neyronnaya set' s zaderzhkoy, neyronnaya set' s raspredelennym zapazdyvaniem, neyronnaya set' NARX, sloisto-rekurrentnaya set'.

Text

I. Введение

В настоящее время развитие методических подходов для решения различного рода научных задач путём формирования архитектуры нейронных сетей расширяют предметные области их использования. Однако для правильного применения тех или иных архитектур нейронных сетей необходимо учитывать их особенности [1-14]. Поэтому целесообразно исследовать особенности архитектур нейронных сетей.

II. Сравнительный анализ архитектур нейронных сетей

Исходя из того, что нейронные сети подразделяются на динамические и статические, то целесообразно осуществить их сравнение друг с другом. Так статические сети или сети прямого распространения не имеют элементов обратной связи и не содержат никаких задержек. Кроме того, выход рассчитывается непосредственно от входа через связи обратного распространения (через обратную связь). В отличие от статических сетей у динамических сетях выход зависит не только от текущего входа в сеть, но также от текущих или предыдущих входов, выходов или состояний сети [15-28].

Также следует отметить, что динамические сети делятся на две категории: те, которые имеют только соединения со связями с обратным распространением (обратной связью), и те, которые имеют рекуррентные связи.

Отличительной особенностью между статическими сетями, динамическими сетями со связями прямого распространения и рекуррентными динамическими сетями, является то, как они реагируют на входную последовательность.

Кроме того, ответ динамической сети, длится дольше, чем входной импульс.

References

1. Kostin, N. S. Mesto modul'nyh neyronnyh setey v klassifikacii iskusstvennyh neyronnyh setey / N. S. Kostin // Intellektual'nyy potencial XXI veka: stupeni poznaniya. - 2013. - № 19. - S. 91-95.

2. Erdnieva, N. S. Ispol'zovanie iskusstvennyh neyronnyh setey dlya prognozirovaniya pokazateley effektivnosti peredachi soobscheniy mul'tiprocessornoy arhitektury / N. S. Erdnieva // Vestnik Saratovskogo gosudarstvennogo tehnicheskogo universiteta. - 2013. - T. 2, № 1 (70). - S. 167-177.

3. Ivanov, S. A. Ustoychivost' rekursivnyh neyronnyh setey cilindricheskoy arhitektury s zapazdyvayuschimi vzaimodeystviyami / S. A. Ivanov, E. N. Nevzorova, S. A. Kozlova // Innovacii v nauke. - 2013. - № 16-1. - S. 7-11.

4. Golovko, N. A. Ocenka arhitektury iskusstvennyh neyronnyh setey dlya modelirovaniya processa nagreva stal'noy polosy na agregate nepreryvnogo goryachego cinkovaniya / N. A. Golovko, O. S. Logunova // Vestnik Nacional'nogo tehnicheskogo universiteta Har'kovskiy politehnicheskiy institut. Seriya: Informatika i modelirovanie. - 2012. - № 62 (968). - S. 33-39.

5. Dmitrienko, V. D. Novye arhitektury i algoritmy obucheniya disketnyh neyronnyh setey adaptivnoy rezonansnoy teorii / V. D. Dmitrienko, I. P. Havina, A. Yu. Zakovorotnyy // Nauchnye vedomosti Belgorodskogo gosudarstvennogo universiteta. Ser. Ekonomika. Informatika. - 2009. - T. 12, № 15 (1). - S. 88-96.

6. Dmitrienko, V. D. Arhitektury i algoritmy funkcionirovaniya neyronnyh setey Hemminga i Hebba, sposobnyh doobuchat'sya i raspoznavat' novuyu informaciyu / V. D. Dmitrienko, A. Yu. Zakovorotnyy // Radіoelektronіka, іnformatika, upravlіnnya. - 2014. - № 2 (31). - S. 100-109.

7. Istomina, Yu. A. Sistema avtomatizacii proektirovaniya iskusstvennyh neyronnyh setey posloynoy arhitektury / Yu. A. Istomina, V. V. Tynchenko // Reshetnevskie chteniya. - 2012. - T. 2, № 16. - S. 611-612.

8. Zakovorotnyy, A. Yu. Novye arhitektury i algoritmy obucheniya neyronnyh setey adaptivnoy rezonansnoy teorii / A. Yu. Zakovorotnyy // Nauchnyy rezul'tat. Informacionnye tehnologii. - 2016. - T. 1, № 1. - S. 4-11.

9. Zakovorotnyy, A. Yu. Novye arhitektury i algoritmy obucheniya neyronnyh setey adaptivnoy rezonansnoy teorii / A. Yu. Zakovorotnyy // Nauchnyy rezul'tat. Informacionnye tehnologii. - 2016. - T. 1, № 1. - S. 4-11.

10. Sel'vesyuk, N. I. Ob'ektno-orientirovannoe proektirovanie neyronnoy seti dlya avtomatizacii opredeleniya arhitektury vychislitel'noy sistemy v zadachah obespecheniya informacionnoy bezopasnosti / N. I. Sel'vesyuk, A. S. Ostrovskiy, A. A. Gladkih, R. S. Aristov // Nauchnyy vestnik Novosibirskogo gosudarstvennogo tehnicheskogo universiteta. - 2016. - № 1 (62). - S. 133-145.

11. Petrenko, A. N. O vybore arhitektury neyronnoy seti pri reshenii nekotoryh zadach matematicheskoy defektoskopii / A. N. Petrenko, A. E. Kucherenko // Adaptivnі sistemi avtomatichnogo upravlіnnya. - 2008. - № 12 (32). - S. 61-70.

12. Tat'yankin, V. M. Algoritm formirovaniya optimal'noy arhitektury mnogosloynoy neyronnoy seti / V. M. Tat'yankin // Novoe slovo v nauke: perspektivy razvitiya. - 2014. - № 2 (2). - S. 187-188.

13. Matveeva, N. O. Realizaciya radial'no-bazisnoy neyronnoy seti na massivno-parallel'noy arhitekture graficheskogo processora / N. O. Matveeva // Nauchno-tehnicheskiy vestnik Sankt-Peterburgskogo gosudarstvennogo universiteta informacionnyh tehnologiy, mehaniki i optiki. - 2011. - № 1 (71). - S. 54-58.

14. Markin, M. I. Sintez arhitektury neyronnoy seti dlya prikladnoy zadachi / M. I. Markin, R. L. Smelyanskiy // Izvestiya TRTU. - 2000. - № 2(16). - S. 233-236.

15. Yan'shin, S. N. Sovershenstvovanie metodologii planirovaniya radiochastotnogo spektra na osnove tehnologiy matematicheskogo modelirovaniya / S. N. Yan'shin, V. V. Lavlinskiy, S. A. Zmeev, E. A. Rogozin, I. A. Novikova, M. V. Pitolin, N. V. Cipina, O. Yu. Makarov // Voronezh : VGTU, 2017. - 178 s.

16. Teoreticheskie aspekty matematicheskogo opisaniya deystviy v robototehnicheskih sistemah / V. V. Lavlinskiy, S. N. Yan'shin // Informacionnye tehnologii v upravlenii i modelirovanii mehatronnyh sistem : materialy I Mezhdunarodnoy nauchno-prakticheskoy konferencii. - 2017. - S. 184-192.

17. Osobennosti matematicheskogo metoda dlya modelirovaniya celenapravlennyh sistem / V. V. Lavlinskiy, S. N. Yan'shin // Aktual'nye problemy prikladnoy matematiki, informatiki i mehaniki : materialy Mezhdunarodnoy nauchno-tehnicheskoy konferencii. -Voronezh : VGU, 2017. - S. 750-758.

18. Kochedykov, S. S. Predstavlenie znaniy pri reshenii slabostrukturirovannyh zadach na primere podsistemy informacionnoy bezopasnosti avtomatizirovannoy sistemy upravleniya / S. S. Kochedykov, A. S. Kravchenko, V. V. Lavlinskiy, O. V. Lankin, Yu. V. Kulakov // Promyshlennye ASU i kontrollery. - 2017. - № 10. - S. 17-25.

19. Lavlinskiy, V. V. Teoreticheskie osnovy matematicheskogo modelirovaniya dlya opisaniya celenapravlennyh sistem / V. V. Lavlinskiy, E. A. Rogozin, S. N. Yan'shin // Vestnik Voronezhskogo instituta MVD Rossii. - 2017. - № 2. - S. 143-153.

20. Lavlinskiy, V. V. Teoreticheskie osnovy matematicheskogo modelirovaniya deystviy dlya opisaniya celenapravlennyh sistem / V. V. Lavlinskiy, E. A. Rogozin, S. N. Yan'shin // Vestnik Voronezhskogo instituta MVD Rossii. - 2017. - № 4. - S. 144-152.

21. Lavlinskiy, V. V. Primenenie matematicheskogo opisaniya deystviy dlya celenapravlennyh sistem na osnove metodov neyronnyh setey / V. V. Lavlinskiy, S. N. Yan'shin // Modelirovanie sistem i processov. - 2017. - T. 10, № 2. - S. 17-23.

22. Lavlinskiy, V. V. Formirovanie modeley i metodov vzaimodeystviya informacionnyh processov / V. V. Lavlinskiy, O. G. Ivanova // Prikladnaya fizika i matematika. - 2015. - № 4. - S. 49-61.

23. Lavlinskiy, V. V. Formirovanie modeley i metodov vzaimodeystviya informacionnyh processov / V. V. Lavlinskiy, O. G. Ivanova // Pribory i sistemy. Upravlenie, kontrol', diagnostika. - 2014. - № 5. - S. 39-50.

24. Lavlinskiy, V. V. Teoreticheskie predposylki resheniya problem formirovaniya modeley i metodov vzaimodeystviya informacionnyh processov / V. V. Lavlinskiy // Modelirovanie sistem i processov. - 2013. - № 2. - S. 30-36.

25. Zubrickiy, P. Yu. Informacionnoe obespechenie dlya ocenki porogovyh znacheniy v raspoznavanii relevantnyh svoystv informacionnyh ob'ektov v usloviyah apriornoy neopredelennosti / P. Yu. Zubrickiy, V. V. Lavlinskiy // Vestnik Voronezhskogo gosudarstvennogo tehnicheskogo universiteta. - 2011. - T. 7, № 6. - S. 209-214.

26. Serbulov, Yu. S. Mera informacii v zadachah vybora i raspredeleniya informacionnyh resursov / Yu. S. Serbulov, O. Yu. Lavlinskaya, V. V. Lavlinskiy // Inzhenernaya fizika. - 2010. - № 4. - S. 7-8.

27. Lavlinskiy, V. V. Programmnaya realizaciya modeley dlya sinteza virtual'noy real'nosti ASTPP dlya usloviy nechetkogo predstavleniya kontroliruemyh parametrov pri proektirovanii sistem / V. V. Lavlinskiy, E. E. Obruchnikov // Vestnik Voronezhskogo instituta vysokih tehnologiy. - 2009. - № 5. - S. 184-187.

28. Lavlinskiy, V. V. Model' vyyavleniya zakonomernostey preodoleniya sredstv zaschity informacii / V. V. Lavlinskiy, V. V. Sysoev // Informacionnye tehnologii i vychislitel'nye sistemy. - 2001. - № 4. - S. 78-81.

Доступ и загрузка

🗂 JATS XML ❝ To cite 📎 Citations

—

Views

—

Downloads

Citations

Индексируется в

COMPARATIVE ANALYSIS OF NEURAL NETWORK ARCHITECTURES FOR USE IN PRACTICE

I. Введение

II. Сравнительный анализ архитектур нейронных сетей

Confirmation

Регистрация