網路行銷
透過利用幾十年前的數學原理，研究人員希望柯爾莫哥洛夫-阿諾德網絡能促進科學發現。
網路行銷 介紹
「神經網路是目前人工智能領域最強大的工具，」週邊理論物理研究所研究員 Sebastian Wetzel 說。
然而，神經網路一直以來都呈現出不利的態勢。的網路如何得出結論，或者是否存在一些基本原理可以解釋這些結果。
人工智能研究人員長期以來一直想知道不同類型的網路是否有可能以更透明的方式提供類似可靠的結果。
2024年4月的一項研究引入了一種替代神經網路設計，名為柯爾莫哥洛夫-阿諾德網路（KAN），它更加透明，但也可以針對此類問題完成常規神經網路幾乎能做所有的事情。
儘管這項創新才推出幾個月，但新設計已經引起了研究和編碼社群的廣泛興趣。如此有用，因為它們可以從數據中提取科學規則。[They’re] 這是 MLP 中令人興奮的新穎替代方案。
網路行銷 實現不可能的事
典型的神經網路的工作原理如下：人工神經元（或節點）層使用人工突觸（或邊緣）相互連接。 。
神經網路的一個共同目標是找到最能連接某些數據點的數學函數或曲線。進行建模，描述則輸出函數將理想地表示物理的方程式- 相當於物理公式。
對於MLP，有一個數學定理可以告訴你網路路能夠達到最佳函數的程度。
但KAN在適當的情況下可以。
KAN以與MLP完全不同的方式進行功能輸出（連接網路輸出的點）。它們也是可學習的，因此可以比MLP 的簡單數值權重更敏感地進行調整。
然而在 35 年裡，KAN 被認為根本不切實際。的背景關聯」。
波焦的憂慮之一可以追溯到KAN核心的數學概念。論文中表明，如果有一個使用多個變數的數學函數，則可以將其轉換為多個函數的組合，每個函數都有一個變數。
然而，有一個重要的問題。在訓練過程中學習以正確的方式彎曲，從而匹配目標價值。
因此，KAN 看起來前景黯淡——直到今年1 月的一個寒冷的一天，麻省理工學院的物理學研究生劉子明重新設計了這個主題。馬克思·泰格馬克一直致力於讓神經網路更容易被科學應用理解——希望能夠有一個頭部黑盒子的內部情況——但事情並沒有成功。夫-阿諾德定理。
泰格馬克熟悉波吉歐的論文，認為這項努力會導致另一個死胡同。不平滑，網路仍然可以用平滑函數逼近它們。在沒有嘗試過的情況下就放棄了這個想法，因為他知道自35 年前Poggio 的論文發表以來，軟體和硬件已經取得了巨大的進步。可能的，而這在1989年甚至是不可想像的。
劉研究了這個想法大約一周時間，在此期間他開發了一些原型KAN 系統，所有系統都有兩層——最簡單的網絡，也是研究人員幾十年來一直關注的類型。的選擇，因為柯爾莫哥洛夫-阿諾德定理本質上為這種結構提供了藍圖。替換MLP中的權重。
但令劉沮喪的是，他的原型並沒有在他想要的與科學相關的雜務上表現良好。問題的任務？
打破常規的想法是他們所需要的突破。計劃進行KAN 分析領域的專家。
在四月份的論文中，該小組證明了三層KAN 確實是可能的，並提供了一個可以精確表示函數的三層KAN 的示例（而兩層KAN 則不能）。 。王逸軒。
網路行銷 經過驗證的改進
作者也將他們的網路用於解決兩個現實世界的問題。結的其他屬性後預測給出了結的特定拓撲屬性。到了這一步。
第二個問題涉及聚集物理學中被稱為安德森局域化的現象。 。
但泰格馬克表示，KAN相對於其他形式的神經網路的最大優勢以及其近期發展背後的主要動機具有其可解釋性。 。
約翰霍普金斯大學研究機器學習的物理學家 Brice Ménard 表示，KAN 實現這一點的能力雖然還很有限，但表明這些網絡理論可以教我們一些關於世界的新知識。描述是用一個簡單的方程式來的，那麼KAN 網路就非常擅長找到它，」他說。但他警告說，KAN 最有效的領域可能僅限於問題（例如中發現的）問題），鱈魚本身俱有很少的變數。
劉和泰格馬克同意這個觀點，但不認為這是缺點。 乙=MC2 ——「可以用一個或兩個變數的函數來寫，」泰格馬克說。方案。
網路行銷 終極方程
Liu 和 Tegmark 的 KAN 論文很快就引起了轟動，在大約三個月內獲得了 75 次引用。發表會上的一篇論文表明，他們的Kolmogorov-Arnold 資訊神經網路(KINN) 在運動偏微分方程(PDE) 方面“顯著論證”MLP。科學上中無所不在。
新加坡國立大學研究人員 7 月發表的一篇論文則更為複雜。兩個網路在自然語言處理和其他機器學習任務方面大致相當。是重中之重。
同時，劉正努力讓 KAN 更實用、更容易使用。而不是傳統論文」。劉說，這個版本更加用戶友好，提供了原始模型所缺乏的乘法工具以及其他功能。
他和他的合著者認為，這種類型的網路不僅僅達到目的的手段。在觀察天體運動時，應用驅動的研究人員專注於預測它們的未來狀態，而好奇心驅動的研究人員則希望揭示運動背後的物理原理。獲得了更多收益，而不僅僅是幫助解決了哪些令人畏懼的侵犯問題。
