以下是 Notebook LM Study Report! 關於人工智慧（AI）的新聞從未停歇。動輒數十億美元的投資、不斷擴大的模型規模、持續刷新的評測基準——這些消息既抽象又令人應接不暇。然而，正如Ilya Sutskever在一次深度訪談中所觀察到的，儘管數字驚人，AI的「緩慢起飛」卻給人一種出奇「正常」的感覺。我們似乎很快就習慣了這一切。 Ilya Sutskever是現代AI發展史上的一位核心人物。從引爆深度學習革命的AlexNet，到構成今日大型語言模型基礎的Transformer，再到GPT-3，他的名字幾乎與每一次重大突破緊密相連。最近，他卸下了OpenAI首席科學家的光環，創立了新的研究機構Safe Superintelligence Inc. (SSI)，專注於AI安全。 在這篇訪談中，他提出了一些挑戰主流敘事的觀點。本文將為你梳理出其中五個最令人驚訝、也最違反直覺的洞見。它們不僅重新定義了我們衡量AI進展的方式，更指出了通往真正智慧的道路，可能與我們想像的截然不同。 ——————————————————————————– 洞見一：規模化的時代已結束，歡迎重返研究的時代 Ilya認為，AI的發展可以劃分為幾個時代。2012年到2020年是「研究的時代」，充滿了各種嘗試與探索。而從2020年到大約2025年，則是「規模化的時代」。這個時代由一個強而有力的單一理念主導：只要將更多的運算資源和數據投入到一個已知的「食譜」（即預訓練）中，就能保證獲得進步。這對企業來說極具吸引力，因為它提供了一條低風險、可預測的進步路徑。 然而，這個時代正在走向終結。原因很簡單：高品質的預訓練數據正迅速耗盡，單純依靠擴大規模所帶來的邊際效益正在遞減。現在的瓶頸不再僅僅是運算能力，而是缺乏新的、根本性的想法。 這意味著AI的未來將不再像過去幾年那樣可以預測。進步不再是加大投資就能確保的結果，而是將再次依賴於高風險、不可預測的真正研究突破。我們又回到了那個需要冒險、需要靈感、需要「好品味」的時代，只是這次，我們手上多了許多強大的電腦。 But now the scale is so big. Is the belief really, “Oh, it’s so big, but if you had 100x more, everything would be so different?” … I don’t think that’s true. So it’s back to the
