Нейрондық желіні жобалау

Ереже: Белсендіру функциясы жинақталған кірісті өңдеп, нейронның шығыс мәнін анықтайды. Көп модельде алдымен кірістердің салмақталған қосындысы мен ығысу есептеледі, содан кейін оған осы функция қолданылады. Сызықтық емес түрлендіру күрделі тәуелділіктерді модельдеуге мүмкіндік береді.

Қолдану: Нейрон алдымен салмақталған қосынды алады, кейін белсендіру функциясы оны шығыс мәніне түрлендіреді. Бұл екі кезеңді ажырату есептеудің құрылымын түсінуге көмектеседі; функция жай сақтау командасы емес. Мысалы, z шамасы есептелген соң сигмоида оны шектелген аралықтағы мәнге айналдыра алады. Қосындының өзі мен одан шығыс алатын функцияны ажырату қажет; олар есептеудің бірінен кейін бірі орындалатын қадамдары.

Қате нұсқаларды ажырату: Файл атауы және мысал нөмірі деректі белгілеуге арналған. Мақсатты жауап оқытуда салыстыруға керек, қабат саны құрылымды сипаттайды. Бұлар кірісті сандық шығысқа түрлендіретін функцияның атауы емес.

Қайта орындауға ишара: Кірістердің үлестері қосылғаннан кейін сол саннан нейронның шығысын алуға арналған келесі амалды ойлан.

Ереже: Сигмоида сатылы ауысуды тегістейтін S тәрізді функция ретінде сипатталған. Стандартты логистикалық функция σ(x)=1/(1+exp(−x)) түрінде беріледі. Оның мәні x артқанда бірқалыпты өсіп, төменгі және жоғарғы шектеріне жақындайды, бірақ шектелген x үшін оларға дәл жетпейді.

Қолдану: Сигмоиданың ауысуы бір сәттік секіріс емес, бірқалыпты S тәрізді қисықпен беріледі. Пішінді анықтағанда жай түзу сызықпен немесе сатылы функциямен шатастырмаңыз. Графиктің ортасында өсуі айқынырақ, екі шетінде тегістелу байқалады. x=0 нүктесінде мәні 0,5 болады. Осы қасиеттер жай түзуге, тұйық фигураға немесе үзілісті қадамға сәйкес келмейді.

Қате нұсқаларды ажырату: Көлденең түзу өспейді, шексіз өсетін түзу шектелген аралықта қалмайды. Үшбұрыш пен шеңбер бұл функцияның графигі емес. Сигмоиданы қатаң табалдырықты секірмелі функциямен шатастырмау қажет.

Қайта орындауға ишара: Графиктің екі шетінде баяулап, ортасында тезірек өсетін тегіс пішінді елестетіп, жауаптарды салыстыр.

Ереже: Қосынды 1,1·0,8+0,6·0,2=0,88+0,12=1 болады; әр кіріс өз салмағына көбейтіледі. Бұл есепте ығысу нөлге тең деп алынған; тек әр кірістің өз салмағымен көбейтінділері қосылады. Белсендіру функциясы қолданылмағандықтан, жауапты сигмоиданың шығысымен шатастырмау керек.

Қолдану: Әр кірісті сәйкес салмағымен жұптаңыз: 1,1*0,8 = 0,88; 0,6*0,2 = 0,12. Екі үлесті қосқанда 1 шығады. Кірістерді жай қосу салмақтарды елемейді. Бірінші үлес 1,1×0,8=0,88, екінші үлес 0,6×0,2=0,12. Екеуін қосқанда 1 шығады. Жауап нейронның салмақталған кірісі, ал кейінгі белсендіру оны басқа санға түрлендіруі мүмкін.

Қате нұсқаларды ажырату: 1,7 кірістерді салмақсыз қосқаннан шығады. 0,88 мен 0,12 жеке үлестер ғана. 0,81 басқа салмақтар жұбына сәйкес келеді; берілген коэффициенттерді орындарына дәл сәйкестендіру қажет.

Қайта орындауға ишара: Әр кірісті өз коэффициентімен жеке көбейтіп жаз, содан кейін ғана екі үлесті қосып тексер.

Ереже: 1,1·0,3+0,6·0,8=0,33+0,48=0,81; көбейтінділердің біреуін ғана алу дұрыс емес. Салмақтар кірістермен берілген ретімен жұптасады, ығысу бұл есепте нөлге тең. Қосынды нейронның белсендіруден бұрынғы мәнін көрсетеді, соңғы шығыс сигналымен міндетті түрде бірдей болмайды.

Қолдану: Бірінші үлес 1,1*0,3 = 0,33, екінші үлес 0,6*0,8 = 0,48. Қосынды 0,33+0,48 = 0,81; ондық үтірлер мен кіріс-салмақ жұптарын сақтаңыз. Бірінші көбейтінді 1,1×0,3=0,33, екіншісі 0,6×0,8=0,48. Қосынды 0,33+0,48=0,81. Ондық бөлшектердегі үтірді дұрыс қойып, екі жеке үлесті де есепке алу қажет.

Қате нұсқаларды ажырату: 0,33 және 0,48 жеке көбейтінділер. 1 басқа коэффициенттер жұбымен алынуы мүмкін, ал 1,1 бастапқы кірістің өзі. Ешбірін қосымша дәлелсіз жалпы қосынды ретінде таңдауға болмайды.

Қайта орындауға ишара: Екі көбейтіндіні аралық нәтижелерімен көрсетіп, олардың қосындысы әрқайсысынан үлкен бе, соны тексер.

Ереже: Кез келген мәнді нөлге көбейткенде нөл шығады, сондықтан бұл байланыс сигналдың қосындысына үлес қоспайды. Нөлдік салмақ берілген кірістің осы қосындыға тікелей үлесін нөл етеді. Бұл бүкіл нейронның шығысы міндетті түрде нөл болады дегенді білдірмейді, себебі басқа кірістер мен ығысу болуы мүмкін.

Қолдану: Бұл байланыстың үлесі x*w арқылы есептеледі. Берілгенде x=5, w=0, сондықтан 5*0 = 0. Кірістің өзі нөл емес, бірақ салмағы нөл болғандықтан осы байланыс қосындыға әсер етпейді. Осы байланыстың үлесі 5×0=0. Сұрақ бір байланысты ғана қарастырады. Мысалы, екінші байланыс 2 үлес қосса, жалпы қосынды өзгеше болады; мұнда ол туралы дерек берілмеген әрі сұралмаған.

Қате нұсқаларды ажырату: 5 кірісті салмақсыз қалдырудан, 25 кірісті өзіне көбейтуден шығуы мүмкін. 1 мен 0,5 белсендіру мәнімен шатастыруға ұқсайды. Алдымен қай шаманы есептеп тұрғанымызды — үлес пе, толық шығыс па — анықтау қажет.

Қайта орындауға ишара: Кез келген санды нөлге көбейту ережесін осы бір байланысқа қолдан; бүкіл желі туралы артық қорытынды жасама.