2018-12-08 如何設計類神經網路的層數與深度?

原文: How to Configure the Number of Layers and Nodes in a Neural Network

如何設計類神經網路的層數與深度?

此篇利用全觀的方式闡述為什麼你需要多層網路，以及你該如選擇層數(Layers)與深度(Nodes)，同時提到許多篇文獻與討論可以參考。

摘錄筆記：

Single-layer perceptron僅能處理線性問題, 區分兩類, 若碰到非線性就是需要多層網路Multilayer perceptron。
1987年, Lippmann,已經提出兩層網路幾乎可以cover所有類型的pattern分類, 但針對每層的node沒有明確的說明。
提了五點設計組態的方向，其實滿有意思的，因為並沒有一定的答案：

Experimentation：讓數據說明一切。 Intuition：Domain knowhow的直覺。 Go For Depth：深度學習吧。 Borrow ideas：就是多讀論文。 Search：這點滿有趣，寫自動化腳本去找最佳參數。

Exported from Medium on March 15, 2023.