【2024/09/17】目標終結幻覺?Google DataGemma 介紹 (SimonLiu@Medium from Tze)
[同場加映】RAG 檢索增強生成— 讓大型語言模型更聰明的秘密武器 (SimonLiu@Medium)
【2024/06/3 】中央社: 黃仁勳演講背板感謝合作夥伴 台灣17所大學入列攜手輝達共推AI (新聞來源)
【2024/04/22】 Google Gemini使用教學|有哪些功能?怎麼用?(未來城市)
Google Gemini是由Google開發的一款聊天機器人,2023年上市的時候稱Bard,2024年二月改名Gemini。主要競爭對手是OpenAI公司的ChatGPT等其他先進的AI聊天機器人,同時也不斷地在進步中。由於是和ChatGPT與Copilot競爭的產品,我們可以期待這兩項產品的功能,在Gemini皆可以看得到,這一節將只針對Gemini的特色說明。
【2024/04/29】 Demis Hassabis x Chris Anderson (TED Talk-How AI is unlocking secrets of Nature…)
💪私人筆記連結
😎 談話逐字稿 摘要:Demis Hassabis,Google DeepMind 的執行長,在本次訪談中談論了他如何運用 AI 來加速科學發現。Hassabis 描述了 DeepMind 如何訓練 AI 玩遊戲,從西洋棋到更複雜的圍棋,以及 AI 如何在這些遊戲中超越人類,例如 AlphaGo 和 AlphaZero。 他也說明了 AlphaFold,一個能預測蛋白質三維結構的 AI 系統,如何為生物學和醫學領域帶來革新。最後,Hassabis 談到了 AI 的未來,特別是通用人工智慧 (AGI) 的發展,強調了安全性和合作的重要性,以確保 AI 能夠造福人類。
主要事件時間軸
- 1980 年代中期:年輕的 Demis Hassabis 在英格蘭 11 歲以下西洋棋隊訓練時,開始對西洋棋電腦產生興趣,從而引發了他對人工智慧的熱情。
- 2010 年:Demis Hassabis 創立 DeepMind,目標是用人工智慧加速科學發現。
- 2012-2013 年:DeepMind 開發出第一個深度強化學習系統,並在 Atari 遊戲 Breakout 中取得突破。AI 系統透過觀察螢幕像素學習,並發展出人類從未見過的獲勝策略。
- 2016 年:DeepMind 開發的 AlphaGo 擊敗世界圍棋冠軍 (天下雜誌相關報導)(AlphaGo – The Movie | Full award-winning documentary) (2017 AlphaGo擊敗柯潔),展示了 AI 在圖形辨識和直覺遊戲中的強大能力。AlphaGo 不僅贏得了比賽,還發明了全新的圍棋策略。
AlphaGo 之後: DeepMind 開發出 AlphaZero,一個從零開始學習任何雙人遊戲的通用遊戲系統。AlphaZero 在 24 小時內從隨機遊戲進步到超越世界冠軍級別,並在西洋棋比賽中擊敗了所有現有的西洋棋程式。
AlphaFold 之後: DeepMind 將注意力轉向蛋白質摺疊問題,這是一個生物學領域的重大挑戰。
⦿AlphaFold 成立後一年內
⦿AlphaFold 成功預測了超過 2 億 (=200M) 個蛋白質的 3D 結構,為生物學家和製藥公司節省了數十億年的研究時間。[有空一定要來預測一下 𝚫N-BGLF5 長得怎麼樣! haha]
⦿DeepMind 與歐洲生物資訊研究所合作,將 AlphaFold 的預測結果和程式碼開源,供全球科學界使用。(Thank you 🙏🙏🙏)
近期
⦿Demis Hassabis 成立了 Isomorphic Labs,這家從 Google 分拆出來的新公司致力於利用 AI 加速藥物研發,目標是將藥物研發時間從數年縮短至數月。⦿OpenAI 和微軟發布 ChatGPT,引發全球關注。Hassabis 認為,ChatGPT 的成功證明公眾已經準備好接受大型語言模型,並將其用於日常生活。
⦿面對人工智慧的快速發展,Hassabis 呼籲政府、公民社會、學術界和產業實驗室之間加强合作,共同制定安全可靠的人工智慧發展框架,避免惡性競爭和潛在風險。
人物介紹
Demis Hassabis
- DeepMind 的聯合創辦人兼執行長,該公司於 2014 年被 Google 收購。
- 從小就對遊戲、西洋棋和人工智慧充滿熱情。
- 相信人工智慧是加速科學發現和解決人類面臨重大挑戰的終極工具。
- 領導 DeepMind 開發出一系列突破性的人工智慧系統,包括 AlphaGo、AlphaZero 和 AlphaFold。
- 強調安全、負責任和符合倫理的人工智慧發展的重要性。
Chris Anderson
- TED 主席,採訪 Demis Hassabis。
- 對人工智慧的潛力和潛在風險表示關注。
- 認同 Hassabis 的觀點,即政府和社會各界需要共同努力,確保人工智慧的發展符合人類利益。
Liv Boeree
- Hassabis 和 Anderson 的共同朋友,一位科學傳播者和撲克玩家。
- 在 TEDAI 演講中提出了“摩洛陷阱”的概念,警告企業在競爭壓力下可能做出不理智的決策。
Satya Nadella
- 微軟執行長,積極推動人工智慧的發展和應用。
- 認為人工智慧是推動微軟未來發展的關鍵因素。
其他
- Richard Feynman: 美國物理學家,Hassabis 的科學偶像之一。
- Garry Kasparov: 前西洋棋世界冠軍,於 1997 年被 IBM 的深藍(DeepBlue)電腦擊敗。
- AlphaGo: DeepMind 開發的圍棋人工智慧程式,於 2016 年擊敗世界圍棋冠軍。
- AlphaZero: DeepMind 開發的通用遊戲人工智慧系統,可以從零開始學習任何雙人遊戲。
- AlphaFold: DeepMind 開發的蛋白質結構預測人工智慧系統,成功預測了超過 2 億個蛋白質的 3D 結構。
Demis Hassabis 對談逐字稿重點整理
來源一:英文逐字稿
I. 開場: Chris Anderson 簡短介紹 Demis Hassabis,並引用 Hassabis 談及自己為何選擇發展 AI 的初衷,認為這是理解宇宙的關鍵。
II. 人工智慧的緣起
- Hassabis 從小熱愛物理,並視費曼等物理學家為偶像。
- 他發現近年來在基礎物理領域進展緩慢,因此認為 AI 是加速科學發現的最佳工具。
- 網路時代產生的大量數據,也只有 AI 才能有效分析,並協助人類科學家找到新發現。
III. 遊戲與 AI 的邂逅
- Hassabis 從小就是西洋棋高手,並曾參與國際比賽。
- 他接觸西洋棋電腦後,開始對 AI 產生濃厚興趣,並思考如何讓電腦模擬人類思考。
- Hassabis 創立 DeepMind 後,選擇先從遊戲領域著手,利用遊戲測試 AI 演算法。
IV. Atari 遊戲的突破
- DeepMind 早期利用 Atari 遊戲訓練 AI,並在遊戲 Breakout 中取得突破。
- AI 在沒有任何策略指導的情況下,自行發展出更有效率的遊戲方式,讓團隊感到驚艷。
V. 圍棋的巔峰之戰
- DeepMind 接著挑戰更複雜的圍棋,並開發出 AlphaGo 程式,成功擊敗世界冠軍。
- AlphaGo 不僅獲勝,還發展出圍棋界前所未見的新策略,展現 AI 的強大潛力。
VI. AlphaZero 的誕生
- 團隊進一步開發出 AlphaZero,這款程式不需任何先備知識,就能透過自我學習精通不同遊戲。
- AlphaZero 在 24 小時內,就能從隨機亂玩進步到超越世界冠軍等級,速度驚人。
VII. 挑戰西洋棋
- AlphaZero 在西洋棋領域也展現驚人實力,僅用 9 小時就超越人類數百年來累積的棋藝。
- Hassabis 認為這證明 AI 不僅能逐步進步,更能在短時間內達成人類難以企及的成就。
VIII. 蛋白質摺疊的應用
- Hassabis 長期以來希望將 AI 應用於科學研究,並將蛋白質摺疊問題視為終極目標。
- 蛋白質是構成生命的重要元素,而蛋白質摺疊問題則是要預測蛋白質的三維結構。
IX. AlphaFold 的突破
- DeepMind 開發出 AlphaFold 程式,成功解決蛋白質摺疊問題,並將 2 億種蛋白質的結構公開於資料庫。
- 這項成就相當於節省了數十億年的研究時間,對生物學和醫學領域產生重大影響。
X. Isomorphic 的願景
- Hassabis 成立新公司 Isomorphic,將 AI 應用於藥物開發領域,希望能縮短藥物研發時間。
- Isomorphic 的目標是設計出能精準結合蛋白質特定部位的化合物,降低藥物副作用。
XI. Moloch 陷阱的擔憂
- Anderson 提出「Moloch 陷阱」的概念,認為企業競爭可能導致 AI 發展失控。
- 他以 ChatGPT 推出後,Google 倉促推出 Gemini 為例,說明企業競爭可能導致 AI 發展過於急躁。
XII. 開放原始碼 AI 的風險
- Anderson 認為 Meta 開放 AI 原始碼的行為過於輕率,可能帶來難以預測的風險。
- Hassabis 坦言,雖然 Google 早已投入大型語言模型的開發,但 ChatGPT 的成功仍出乎意料。
XIII. 科技巨擘的軍備競賽
- Anderson 指出微軟和 OpenAI 投入巨資開發超級電腦,Google 也將被迫跟進,形成 AI 軍備競賽。
- 他擔心企業在競爭壓力下,可能不計風險地加速 AI 發展,最終導致失控。
XIV. 合作與規範的重要性
- Hassabis 認為隨著 AI 發展,企業間的合作和政府監管將更加重要。
- 他主張應優先建立安全可靠的 AI 架構,並透過合作避免 AI 軍備競賽失控。
XV. 知識之樹的探索
- Hassabis 將人類知識比喻為一棵大樹,而 AI 則是探索這棵大樹的工具。
- 他相信 AI 能幫助人類解開更多科學謎團,並迎來更美好的未來。
XVI. 結語
- Hassabis 認為 AI 最終能幫助人類理解宇宙的本質,並實現人類的終極夢想。
- Anderson 對 Hassabis 的貢獻表示肯定,並期許 AI 能朝著正確的方向發展。
來源二:中文逐字稿
內容與英文逐字稿相同,僅語言不同。
總結
這兩篇逐字稿記錄了 Chris Anderson 與 Demis Hassabis 關於 AI 發展的精彩對談。Hassabis 從自身的經歷出發,分享了他對 AI 的熱情、DeepMind 的發展歷程,以及 AI 在科學領域的應用。他也坦言 AI 發展面臨的挑戰,並呼籲企業和政府加強合作,以確保 AI 能安全、可靠地造福人類。
Table of Contents: Demis Hassabis on Artificial Intelligence
Source: Excerpts from “Transcript of the Talk” – Chris Anderson interviews Demis Hassabis
I. Introduction
- Brief introductory exchange between Chris Anderson and Demis Hassabis.
- Hassabis reveals his longstanding interest in “big questions” about reality and consciousness, and his belief that AI provides the fastest path to answering them.
II. Why AI?
- Hassabis explains that his fascination with physics and “big questions” led him to AI. He felt traditional physics wasn’t making fast enough progress and saw AI as the ultimate tool for scientific advancement and understanding the human brain.
III. AI as a Scientific Tool
- This section focuses on AI’s potential to analyze vast datasets, a task beyond human capacity, to identify patterns and insights, ultimately aiding scientific discovery.
IV. Demis’ Journey with Games and AI
- Early Influences: This part delves into Hassabis’ childhood love for games, particularly chess, and how early chess computers sparked his interest in AI and mimicking human thought processes.
- DeepMind and Atari: Discusses the founding of DeepMind and its early work using classic Atari games as testing grounds for AI algorithms, leading to the development of “deep reinforcement learning” where systems learned directly from pixel data.
- The AlphaGo Breakthrough: Explores the pivotal moment when DeepMind’s AlphaGo program defeated the world champion in the complex game of Go, showcasing AI’s ability to surpass human capabilities and even invent novel strategies.
- AlphaZero and Beyond: Covers the development of AlphaZero, an AI system that learned games like chess and Go from scratch, achieving superhuman proficiency in remarkably short timeframes. This section highlights the speed and potential of AI’s learning capabilities.
V. Protein Folding: A Real-World Application
- The Protein Folding Problem: Introduces the protein folding problem, a 50-year-old challenge in biology, and explains the importance of predicting a protein’s 3D structure from its amino acid sequence for understanding biological function and disease.
- AlphaFold’s Solution: Details DeepMind’s AlphaFold program, which successfully predicts protein structures with remarkable accuracy, potentially revolutionizing drug discovery and disease research.
- Open-Sourcing AlphaFold: Discusses DeepMind’s decision to make AlphaFold’s results and resources publicly available, underscoring the potential benefits for the global scientific community.
- Isomorphic and Drug Discovery: Introduces Isomorphic, a new company spun out of DeepMind, which aims to leverage AI for drug design by predicting chemical interactions with protein structures, potentially accelerating drug discovery timelines.
VI. The Moloch Trap and the Future of AI
- The ChatGPT Moment: This section analyzes the impact of OpenAI’s ChatGPT, which brought AI into the public consciousness and triggered a competitive response from companies like Google.
- Concerns about Reckless Development: Raises concerns about the potential dangers of unchecked AI development driven by competition, citing the “Moloch Trap” – a situation where companies are compelled to take actions that individuals within those companies might deem risky.
- Collaboration and Safe Architectures: Highlights the need for increased collaboration between AI labs, governments, and civil society to ensure the safe and responsible development of AGI (Artificial General Intelligence).
- Government’s Role: Discusses the role of government regulation in defining a level playing field and establishing clear boundaries to prevent a potentially dangerous AI arms race.
VII. A Vision for the Future
- The Tree of Knowledge: Uses the metaphor of a “tree of knowledge” to illustrate AI’s potential to unlock new areas of scientific discovery and understanding.
- Optimism and Potential Risks: Concludes with Hassabis’ optimistic outlook on AI’s potential to solve major challenges while acknowledging the need for caution and ethical considerations in its development.
- Unknowable Knowledge: Briefly touches upon the possibility that some knowledge might be inaccessible or even harmful to humanity.
- The Importance of the Scientific Method: Reiterates the importance of the scientific method as the best tool for navigating the complexities and unknowns of AI and its potential impact on the world.
【2024/05/29 AI for PI Workshop】AI 如何升級你的研究:從生物影像或影片出發
主辦單位:AI 合作社 (https://daais.sinica.edu.tw/pages/4334)
協辦單位:植物暨微生物學研究所
主講人:廖弘源(資訊科學研究所特聘研究員兼所長)
題目:AI 如何升級你的研究:從生物影像或影片出發
主持人:陳君厚(統計科學研究所研究員兼副秘書長)
時 間:2024年 5月 29日(三) 14:00-15:30
地 點:生物醫學科學研究所 B1C演講廳
與談人:
楊欣洲 (統計科學研究所研究員兼所長)
陳建璋 (生物醫學科學研究所研究員兼學術處處長)
王中茹 (植物暨微生物學研究所副研究員)
王建堯 (資訊科學研究所助研究員)
吳素幸 (植物暨微生物學研究所特聘研究員兼所長)
~歡迎想知道AI 如何運用在影像分析,或者已經嘗試AI 在影像分析,有點小心得,或者是有點卡關的學生、助理及博士後到場聆聽、提問、經驗分享、參與對談~
YT 連結待補:(0605發布了 📣)
【2024/05/18】 Data Security (🤔😎)
05/18 Breaking Point for OpenAI – “They Don’t Care About Safety” (also mentioned Ilya Sutskever)
https://youtu.be/rQENjm_K2XA?si=_HdweiTgCSGl28Ee&t=154
05/21 T客邦 GPT-4o的中文Token訓練資料被發現裡面充滿賭博以及色情影片廣告的內容污染
★ 5 月 14 日,普林斯頓大學研究大型語言模型推理效率的博士生蔡天樂(Tianle Cai)檢視了 GPT-4o 的公共標記庫,並調出了該模型用於解析和壓縮中文提示的 100 個最長中文標記的列表。
★對模型來說,處理文字最簡單的方法是逐個字元處理,但這顯然比識別某串字元(如”c-r-y-p-t-o-c-u-r-r-e-n-c-y”)始終代表相同的意思更費時費力。 這些字串被編碼為「標記」,模型可以用來處理提示。包含更多更長的Token通常意味著 LLM 更有效率,使用者也更能負擔得起,因為使用者通常是按Token計費的。
05/22 中央社 研調:台灣96%資安領導人 因壓力不敢點出風險
𑁍中央社記者吳家豪台北21日電)網路資安廠商趨勢科技今天公布一項研究指出,台灣受訪企業有高達96%的網路資安領導人,在董事會的壓力影響下,不敢直接點出其企業面臨的資安風險。(新聞連結)
【2024/05/02】 Notebooklm 初體驗 (超愛 💘)
https://notebooklm.google
Notebooklm = Notebook using language model
𑁍(YT教學4) AI-CHAT with *YOUTUBE videos •Summarize Transcripts & More with #NoteBookLM | Good Life, Jan 04 2024
𑁍(YT教學1)⬅︎ 必看 The Knowledge Kitten published on Feb 20 2024)
𑁍(YT教學2) How to Use NotebookLM (Google’s New AI Tool). Published by Tiago Forte, Feb 15 2024
𑁍(YT教學3) Google NotebookLM Just Changed Note-taking Forever. Published by Skill Leap AI, Apr 11 2024
【2024/04/30】 520之後何去何從? 數位部長唐鳳曝最新動向(Yahoo 新聞)
數位發展部部長唐鳳即將在520後卸任,外界關切她接下來的動向!唐鳳今(4/30)出席「數位部公共程式網站上線記者會」受訪表示,公共程式的特色就是「取之於公共、用之於公共」, 像這種公共政策,不管人是不是在政府單位服務,都可以對公共服務有所貢獻。
唐鳳也經常在社群與網友互動,昨晚有網友在Threads提問,「請問部長卸任之後會去哪?」對此,唐鳳則表示,自己會持續和全球民主夥伴,分享台灣這幾年的數位工作,也會出一本新書:《plurality.net》(多元宇宙),此書已獲得達賴喇嘛、國際透明組織創辦人Ezekwesili、美國經濟學家Acemoglu、日本哲學家炳谷行人等人的推薦。
⭕️點連結之後,發現這是建立在hackMD上的協作書! 讓素芳重新把「生醫學倫事件簿」重新連結好! 謝謝唐鳳💖💙💚💛💜、謝謝g0v💟♡😘、謝謝hackpad❤️🔥🥰💞、謝謝g0v.hackMD.io💞💘💖!!
【2024/04/22】 TAIDE台灣大型語言模型釋出!TAIDE如何下載、有哪3大特色?(未來城市)
2022年,OpenAI推出大型語言模型「ChatGPT」,使用者能透過對話,從ChatGPT獲得解答;今年四月,台灣也推出台版繁中、納入台灣文化的聊天機器人TAIDE(Trustworthy AI Dialog Engine)。國家科學及技術委員會主委吳政忠15日宣布,開源釋出可商用的TAIDE-LX-7B模型。未來,政府發展生成式AI模型時,TAIDE能提供更多元的服務,並幫助企業、學校、研究等機構導入生成式AI。
TAIDE是台灣第一個本土AI引擎,過去,大型語言模型常以簡體中文的文本訓練,欠缺繁體中文資料,並常出現偏誤。所以,國科會透過TAIDE計畫,完成能呼應本土化需求,並確保生成式AI的可信任性和適用性的大型語言模型。
TAIDE團隊指出,TAIDE能實現五大目標:
—專為台灣訂製
—多元化訓練素材
—奠定應用基礎
—健全AI發展環境
—公私協力創造雙贏
但是但是但是呢 首頁實在太忙了,讓人心煩意躁,不想繼續瀏覽! QQ.
又butbutbut 呢 激起我想用之建立法鼓山慈悲智慧生程式AI (詳此頁)!
Look! https://www.cbeta.org/node/6444
Look Again ! https://drive.google.com/file/d/13EFO7MtqqOx_Rs7vzzZTdGdycqrz3qk_/view
【2024/04/16 AI for PI Workshop】與AI專家們對談:如何將AI導入你的研究?以人文歷史研究為例
謝謝 shihminlo6097 君!🙏 以下由人工人智慧摘錄筆記 :
06:00 主講人廖老師 開始 (主講人廖鴻源老師的YOLOv4很有影響力喔 ⬅︎ 誰發表的AI研究最具影響力?(2020#3))
12:00 文史資料數位化, e.g. 圖像識別(日月潭水社碼頭)
17:00 Action Dictionary (可加註解), e.g. 昆蟲字典
25:00 文圖分離, image cationing (擴增註解)
32:00 用 關鍵詞 在視訊中搜尋
37:00 數位資料防偽 (加浮水印兩個可互補)
42:00 圖影修復inpainting (by nonlinear filtering)
47:00 Q&A #1 (是Yuju ^^)
53:00 Q&A #2
56:00 院長reply
1:01:00 座談 開始
【2024/04/02】 Attention is all you need –8 名Google員工發明了現代人工智慧,這是那篇論文的內幕故事
(T客邦 | 電腦王)
本文英文原文(8 Google Employees Invented Modern AI. Here’s the Inside Story)目前需訂閱才能讀得到,殘念。。。。
前人種樹,後人摘果。在科技圈,科技巨頭做出創新技術但成果卻被初創企業竊取的情況屢見不鮮。最近的例子之一便是Google與OpenAI。最近對科技圈產生最深遠影響的論文《Attention Is All You Need》就是Google的人發表的,但最終引爆市場的卻是OpenAI。那篇論文的所有8位作者後來均離開了Google,本文介紹了這篇論文的誕生故事,並介紹了他們的最新動向。也許裡面最值得深思的,是如何打造創新的土壤。我們如何才能打造出那樣的土壤呢?
已成傳奇
2017 年春發表的科學論文《你所需要的只是注意力》(Attention Is All You Need)共有八位作者,他們都來自Google,不過當時其中一人已經離開了公司。當其中最資深的作者諾阿·薩澤爾(NOAM SHAZEER)看到初稿時,他意外地發現自己的名字位列所有作者之首,這似乎表明他所做的貢獻最為顯著。他說:「我可不是這麼想的」。
Attention is all you need archive 本文在這裡!
【2023/12/13】 MODA–TAIDE v11-唐鳳:AI引擎TAIDE(ㄊㄞˊ ㄉㄜˊ)測試第11版 信件撰寫可用性高 (中央社 2023.12.13)
唐鳳致詞時表示,2010年到2016年曾在蘋果跟包含Siri在內的團隊合作,去年底ChatGPT問世後,很多研究人員都好奇,為什麼ChatGPT信心水準不夠高但有那麼多人願意使用。人工智慧應該要「知之為知之,不知為不知」,如果模型回答的內容信賴度不夠高,應該要標示出來,或提到這段內容訓練資料較少等。
唐鳳指出,Google最近推出新的AI模型Gemini已開始具備相關能力,像是提供3個段落 😍💖👩❤️👨 (原來Bard不就是這樣了嗎?),依信心水準排序,同時也會標出哪些內容經過查核、哪些內容信心水準較低等。除此之外,也希望了解AI模型的大腦模樣,在國科會指導下,數位部跟資安院、工研院也啟動AI產品與系統評測中心,規劃針對語言模型進行項目評測。