【要約】CNNの全結合層をSAMACTに置き換えてみた ― Kerasで実装するハイブリッド画像分類モデル [Qiita_Trend] | Summary by TechDistill
> Source: Qiita_Trend
Execute Primary Source
// Problem
開発者は、リソース制約の厳しいエッジデバイスにおいて、高精度な画像認識と低消費電力を両立させるという課題に直面している。従来のCNNは高い認識性能を持つが、全結合層の計算負荷やメモリ消費が無視できない。特に、デバイス上での学習完結(オンデバイス学習)を実現するには、既存のANNではリソース面での限界がある。
- ・エッジデバイスにおける計算リソースの不足。
- ・ANNによる電力消費の増大。
- ・デバイス上での学習完結の困難さ。
// Approach
開発者は、CNNの畳み込み層で抽出した特徴量を、SNNベースのSAMACT層へ受け渡すハイブリッド構成を採用した。
- ・Kerasのモデルから
pop()を用いて全結合層を削除。 - ・
RateEncodeLayerにより、CNNの出力をレートコーディング形式に変換。 - ・
SAMLayerを用いて、ハイパーパラメータa=3, p=0.75のSNN層を構築。 - ・
MajorityDecodeLayerにより、出力パルスを多数決でデコード。 - ・
SequentialMを用いて、SNNモデルの構築と学習を実行。
// Result
開発者は、ハイブリッドモデルの検証を通じて、エッジAIとしての実用的な可能性を示した。CNNの畳み込み層とSAMACTのSNN層を組み合わせることで、限られたニューロン構成でも高い精度を維持できることを確認した。
- ・CNN-SNNハイブリッド構成において、推論精度96.92%を記録。
- ・入力層のニューロン数を250に抑えた、現実的な構成での検証。
- ・エンドポイントAIとしての動作可能性の提示。
Senior Engineer Insight
> エッジAIへの適用を狙った興味深いアプローチだ。SNNによる低消費電力化のポテンシャルは高い。しかし、学習に膨大な時間を要する点は実運用上の致命的な弱点になり得る。現状のライブラリ構成では、Kerasモデルの構造操作が必要であり、開発体験(DX)に改善の余地がある。スケーラビリティの観点からは、大規模モデルへの適用における計算コストの検証が不可欠だ。