ICANN 2018で発表しました

ギリシャで開催された,International Conference on Artificial Neural Networks (ICANN 2018)で,

「Check Regularization: Combining Modularity and Elasticity for Memory Consolidation」

「Practical Fractional-Order Neuron Dynamics for Reservoir Computing」

の2件を発表しました.

1つ目は,ニューラルネットワークの破滅的忘却を緩和するための正則化手法の提案です. 具体的には,これまで学習したタスクに重要なパラメータには最適値への弾性を,不必要なパラメータには初期化されるような疎性をもたらす正則化で,これら2種類の特性を切り替える境界条件を設計しました.

2つ目は,リザーバコンピューティングの長期的な記憶容量を獲得するためのニューロンダイナミクスの提案です. 具体的には,小数点未満での微分方程式の解が過去の全ての状態を必要とする,すなわち長期的な記憶容量を持つことに注目し,その解が実用的になるように,一定の計算コストを持つ形で近似しました.