課程
2020/03/06
模型介紹
神經元運算流程
首先，當資料進入LSTM後，數學上以g(z)代表，會由Input Gate控制是否要讓資料進入，Input Gate以f(zi)為代號，控制方法是藉由相乘後的值[g(z)*f(zi)]來決定是否要讓資料輸入。其中f(zi)是經過sigmoid轉換後的值，表示Input gate 開啟的機率。
當資料允許被通過後，Forget Gate決定是否要將新值儲存於Memory Cell 裡，如果要儲存，則新值的運算為c`= g(z)*f(zi) + c*f(zf)，其中c`為之前儲存在Memory cell 的值，f(zf)表示經由sigmoid轉換後的值，表示是否要忘記的機率。
最後，更新完的值以h(c`)為數學代號，其值必須再經由Output Gate來控制是否要輸出，輸出的值為h(c`)*f(zo)，f(zo)是sigmoid轉換後的值，表示是否要忘記輸出的機率。