神經網絡可以在很多任務上有超越人類的表現，但如果要求一個 AI 系統吸收新的記憶，它們可能會突然忘記之前所學的內容。

現在，一項新的研究揭示了神經網絡經歷睡眠階段，并幫助預防這種健忘癥的新方法。

人工神經網絡面臨的一個主要挑戰是“災難性遺忘”（catastrophic forgetting）。當它們去學習一項新任務時，會有一種不幸的傾向，即突然完全忘記他們以前學到的東西。本質上，新學到的知識會覆蓋過去的數據。

相比之下，人類的大腦能夠終身學習新任務，而不會影響其執行先前記憶的能力。在早有的研究表明，當一輪又一輪的學習穿插著睡眠時，人腦的學習效果最好。睡眠顯然有助于將近期經歷融入長期記憶中。

“重組記憶實際上可能是生物體需要經歷睡眠階段的主要原因之一，”加州大學圣地亞哥分校的計算神經科學家 Erik Delanois 說道。

那 AI 是否可以睡覺呢？此前的一些研究試圖通過讓 AI 模擬睡眠來解決災難性遺忘。例如，當神經網絡學習一項新任務時，一種被稱為交錯訓練的策略會同時向機器提供它們之前學習過的舊數據，以幫助它們保留過去的知識。這種方法之前被認為是在模仿大腦在睡眠時的工作方式，不斷重播舊的記憶。

然而，科學家們曾假設交錯訓練需要在神經網絡每次想要學習新事物時，為其提供最初用于學習舊技能的所有數據。這不僅需要大量的時間和數據，而且似乎也不是真正的大腦在真正的睡眠中所做的事情——生物既不會保留學習舊任務所需的所有數據，睡覺時也沒有時間重播所有這些內容。

在一項新研究中，研究人員分析了災難性遺忘背后的機制，以及睡眠對于預防這種遺忘中的效果。研究人員沒有使用傳統的神經網絡，而是使用了一種更接近模擬人腦的“脈沖神經網絡”。

在人工神經網絡中，被稱為神經元的組件被輸入數據，并共同解決一個問題，例如識別人臉。神經網絡反復調整突觸(神經元之間的聯系），并觀察由此產生的行為模式是否能更好地找到解決方案。

隨著時間的推移（不斷訓練），網絡會發現哪些模式最適合計算結果。最后，它采用這些模式作為默認模式，這被認為是部分模仿了人腦的學習過程。

此圖代表了抽象突觸空間中的記憶及其在睡眠和不睡眠時的演化

在大多數人工神經網絡中，神經元的輸出是隨著輸入的變化而不斷變化的數字。這大致類似于生物神經元在一段時間內可能發出的信號數量。

相比之下，在脈沖神經網絡中，一個神經元只有在給定數量的輸入信號后，才會產生輸出信號，這一過程是對真正生物神經元行為的真實再現。由于脈沖神經網絡很少發射脈沖，因此它們要比典型的人工神經網絡傳輸的數據更少，原則上也需要更少的電力和通信帶寬。

正如預期的那樣，當脈沖神經網絡學會在網格中發現水平粒子對，然后被訓練去尋找網格中垂直粒子對時，它顯示出災難性的遺忘。然而，在之后的幾輪學習后，研究人員讓脈沖神經網絡經過一段時間間隔，參與學習第一個任務的神經元集合被重新激活。這更接近神經科學家目前認為的睡眠過程。

簡單來說就是，脈沖神經網絡使得之前學習過的記憶痕跡能夠在離線處理睡眠期間自動重新激活，并在不受干擾的情況下修改突觸權重。

該研究使用帶有強化學習的多層脈沖神經網絡來探索將新任務訓練周期與類睡眠自主活動周期交錯，是否可以避免災難性遺忘。值得注意的是，該研究表明，可以通過周期性地中斷新任務中的強化學習（類似睡眠階段的新任務）來預防災難性遺忘。

捷克科學院計算機科學研究所的計算神經科學家 Pavel Sanda 表示“有趣的是，我們沒有明確地存儲與早期記憶相關的數據，以便在睡眠期間可以人為地重放它們，以防止遺忘。”

科學家們發現，他們的策略有助于防止災難性的遺忘。在經歷了類似睡眠的階段后，脈沖神經網絡能夠執行這兩項任務。他們認為，此項策略有助于保存與新舊任務相關的突觸模式。

“我們的工作展現了開發受生物學啟發的解決方案的實用性”Delanois 說道。

研究人員指出，他們的發現不僅限于脈沖神經網絡。Sanda 表示，即將開展的工作表明，類似睡眠的階段可以幫助“克服標準人工神經網絡中的災難性遺忘”。

該研究于 11 月 18 日發表在《 PLOS Computational Biology 》雜志上。

參考鏈接：https://spectrum.ieee.org/catastrophic-forgetting-deep-learning