အသက်သွင်းခြင်းလုပ်ဆောင်ချက်များသည် အာရုံကြောကွန်ရက်များတွင် အရေးပါသောအခန်းကဏ္ဍမှပါဝင်ပြီး နျူရွန်တစ်ခုအား အသက်သွင်းသင့်သည် သို့မဟုတ် မလုပ်ဆောင်သင့်ကို ဆုံးဖြတ်ရာတွင် အဓိကအစိတ်အပိုင်းတစ်ခုအနေဖြင့် လုပ်ဆောင်သည်။ Activation functions ၏ သဘောတရားသည် လူ့ဦးနှောက်ရှိ နျူရွန်များ ပစ်လွှတ်ခြင်း နှင့် နှိုင်းယှဉ်နိုင်သည်။ ဦးနှောက်အတွင်းရှိ နျူရွန်တစ်ခု လောင်ကျွမ်းသွားသည် သို့မဟုတ် ၎င်းရရှိသည့် ထည့်သွင်းမှုအပေါ် အခြေခံ၍ မလှုပ်ရှားနိုင်သကဲ့သို့ပင်၊ အာရုံကြောအတု၏ လှုံ့ဆော်မှုလုပ်ဆောင်ချက်သည် နျူရွန်အား အသက်သွင်းသင့်သည် သို့မဟုတ် မလုပ်ဆောင်သင့်သည်ကို အလေးချိန်ထည့်သွင်းမှုပေါင်းစုအပေါ် အခြေခံ၍ ဆုံးဖြတ်သည်။
အာရုံကြောအတုကွန်ရက်များ၏ ဆက်စပ်မှုတွင်၊ activation function သည် မော်ဒယ်အတွက် non-linearity ကို မိတ်ဆက်ပြီး ကွန်ရက်အား ဒေတာအတွင်းရှိ ရှုပ်ထွေးသောပုံစံများနှင့် ဆက်ဆံရေးများကို လေ့လာနိုင်စေပါသည်။ ဤမျဉ်းဖြောင့်မဟုတ်သော စည်းမျဥ်းသည် ကွန်ရက်အတွက် အနီးစပ်ဆုံး ရှုပ်ထွေးသော လုပ်ဆောင်ချက်များကို ထိထိရောက်ရောက် ဆောင်ရွက်နိုင်ရန် မရှိမဖြစ် လိုအပ်ပါသည်။
နက်ရှိုင်းသောသင်ယူမှုတွင် အသုံးအများဆုံးသော activation လုပ်ဆောင်ချက်များထဲမှတစ်ခုမှာ sigmoid လုပ်ဆောင်ချက်ဖြစ်သည်။ sigmoid လုပ်ဆောင်ချက်သည် input တစ်ခုကိုယူပြီး 0 နှင့် 1 အကြား အကွာအဝေးတစ်ခုအဖြစ် ခွဲထားသည်။ ဤအပြုအမူသည် ဇီဝနျူရွန်ကို ပစ်ခတ်ခြင်း (1 နှင့် နီးစပ်သော) အထွက်ကို လောင်ကျွမ်းစေသည့် သို့မဟုတ် လှုပ်ရှားမှုမရှိပါ (0 နှင့် နီးစပ်သော) အခြေပြုသည့် ဇီဝနျူရွန်တစ်ခုအား ပစ်ခတ်ခြင်းနှင့် ဆင်တူသည်။ လက်ခံရရှိသော input ပေါ်တွင်
နောက်ထပ် တွင်ကျယ်စွာ အသုံးပြုသော activation function မှာ rectified linear unit (ReLU) ဖြစ်သည်။ ReLU လုပ်ဆောင်ချက်သည် အပြုသဘောဖြစ်လျှင် အဝင်ကို တိုက်ရိုက်ထုတ်ပြီး အခြားမဟုတ်ပါက သုညဖြင့် မျဉ်းဖြောင့်မဟုတ်ကြောင်း မိတ်ဆက်သည်။ ဤအပြုအမူသည် သတ်မှတ်ထားသော အတိုင်းအတာတစ်ခုထက်ကျော်လွန်ပါက နျူရွန်က လောင်ကျွမ်းသည့် ဦးနှောက်အတွင်းရှိ နျူရွန်ကို ပစ်ခတ်ခြင်းကို တုပသည်။
ဆန့်ကျင်ဘက်အားဖြင့်၊ hyperbolic tangent (tanh) လုပ်ဆောင်ချက်ကဲ့သို့ အသက်သွင်းလုပ်ဆောင်ချက်များလည်း ရှိပြီး၊ input ကို -1 နှင့် 1 အကြား အကွာအဝေးသို့ ခွဲပေးသည်။ tanh လုပ်ဆောင်ချက်ကို sigmoid လုပ်ဆောင်ချက်၏ အတိုင်းအတာဗားရှင်းတစ်ခုအဖြစ် ရှုမြင်နိုင်ပြီး ပိုမိုအားကောင်းသည့် gradient များကို ပေးစွမ်းနိုင်သည်။ နက်နဲသော အာရုံကြောကွန်ရက်များကို ပိုမိုထိရောက်စွာ လေ့ကျင့်သင်ကြားရာတွင် အထောက်အကူဖြစ်စေသည်။
အာရုံကြောကွန်ရက်များတွင် လှုပ်ရှားလုပ်ဆောင်မှုအား ဦးနှောက်အတွင်းရှိ ဇီဝနျူရွန်များ၏ အပြုအမူကို ရိုးရှင်းသော စိတ်ကူးယဉ်မှုတစ်ခုအဖြစ် ယူဆနိုင်သည်။ သရုပ်ဖော်ပုံသည် ပြီးပြည့်စုံခြင်းမရှိသော်လည်း၊ နက်နဲသောသင်ယူမှုပုံစံများတွင် အသက်သွင်းခြင်းဆိုင်ရာလုပ်ဆောင်ချက်များ၏အခန်းကဏ္ဍကို နားလည်ရန်အတွက် သဘောတရားဘောင်တစ်ခုပေးပါသည်။
အသက်သွင်းခြင်းလုပ်ဆောင်ချက်များသည် တစ်ပြေးညီမဟုတ်သော အာရုံကြောကွန်ရက်များကို မိတ်ဆက်ခြင်းနှင့် ၎င်းရရှိသည့်ထည့်သွင်းမှုအပေါ်အခြေခံ၍ နျူရွန်ကို အသက်သွင်းသင့်သည်ရှိမရှိ ဆုံးဖြတ်ခြင်းဖြင့် အာရုံကြောအတုကွန်ရက်များတွင် အရေးပါသောအခန်းကဏ္ဍမှ ပါဝင်ပါသည်။ ဦးနှောက်အတွင်းရှိ အာရုံကြောများ ပစ်ခတ်ခြင်းကို အတုယူခြင်း၏ နှိုင်းယိုင်းမှုသည် နက်ရှိုင်းသော သင်ယူမှုပုံစံများတွင် လှုပ်ရှားလုပ်ဆောင်မှုဆိုင်ရာ လုပ်ဆောင်ချက်များကို နားလည်ရန် ကူညီပေးပါသည်။
အခြား လတ်တလောမေးခွန်းများနှင့် အဖြေများ EITC/AI/DLPP နက်နက်နဲနဲလေ့လာခြင်းကို Python နှင့် PyTorch:
- အကယ်၍ လူတစ်ဦးသည် ပုံမှန်မဟုတ်သော ကွန်ရက်တစ်ခုရှိ အရောင်ပုံရိပ်များကို မှတ်မိလိုပါက၊ မီးခိုးရောင်စကေးပုံများကို အသိအမှတ်ပြုသည့်အခါတွင် အခြားအတိုင်းအတာတစ်ခု ထပ်ထည့်ရမည်နည်း။
- အပိုလုပ်ဆောင်ချက်အချို့ပါရှိသော GPU ပေါ်တွင် PyTorch ကို NumPy နှင့် နှိုင်းယှဉ်နိုင်ပါသလား။
- နမူနာမဟုတ်သော ဆုံးရှုံးမှုသည် အတည်ပြုခြင်း ဆုံးရှုံးမှုဖြစ်ပါသလား။
- PyTorch run neural network model သို့မဟုတ် matplotlib ကိုလက်တွေ့ကျသောခွဲခြမ်းစိတ်ဖြာရန်အတွက် tensor board ကိုအသုံးပြုသင့်ပါသလား။
- PyTorch သည် အပိုလုပ်ဆောင်ချက်အချို့ပါရှိသော GPU ပေါ်တွင် NumPy နှင့် နှိုင်းယှဉ်နိုင်ပါသလား။
- ဤအဆိုပြုချက်သည် မှန်သည်လော သို့မဟုတ် မှားသလား "ခွဲခြားခြင်းအာရုံကြောကွန်ရက်တစ်ခုအတွက် ရလဒ်သည် အတန်းများကြားတွင် ဖြစ်နိုင်ခြေဖြန့်ဝေမှုတစ်ခု ဖြစ်သင့်သည်။"
- PyTorch ရှိ GPU အများအပြားတွင် နက်ရှိုင်းစွာ သင်ယူနိုင်သော အာရုံကြောကွန်ရက်ပုံစံကို လုပ်ဆောင်ခြင်းသည် အလွန်ရိုးရှင်းသော လုပ်ငန်းစဉ်တစ်ခုလား။
- ပုံမှန် အာရုံကြောကွန်ရက်တစ်ခုသည် ဘီလီယံ 30 နီးပါးရှိသော variables လုပ်ဆောင်ချက်တစ်ခုနှင့် နှိုင်းယှဉ်နိုင်ပါသလား။
- အကြီးမားဆုံး convolutional neural network က ဘာကို ဖန်တီးတာလဲ။
- ထည့်သွင်းမှုသည် ViTPose ၏အထွက်ဖြစ်သည့် အပူမြေပုံကို သိမ်းဆည်းသည့် numpy arrays စာရင်းဖြစ်ပြီး numpy ဖိုင်တစ်ခုစီ၏ပုံသဏ္ဍာန်သည် [1, 17, 64, 48] သည် ကိုယ်ခန္ဓာအတွင်းရှိ အဓိကအချက် 17 ချက်နှင့် သက်ဆိုင်ပါက၊ မည်သည့် algorithm ကို အသုံးပြုနိုင်သည်။