- 2023年4月20日

《 Google 》問技術人員：什麼是生成式 AI ？

一位 Google 人工智慧專家對此進行了分解

我們最近擴展了對 Bard 的訪問，這是一項早期實驗，可讓您與生成 AI 協作。Bard 由大型語言模型提供支援，這是一種機器學習模型，以其生成自然語言的能力而聞名。這就是為什麼你經常聽到它被互換地描述為 “生成 AI”。與任何新技術一樣，人們有很多問題是正常的 —— 比如生成人工智慧到底是什麼。

為了討論有關生成 AI，大型語言模型，機器學習等的常見問題，我們坐下來與 Google 高級研究總監 Douglas Eck 坐下來。道格不僅在人工智慧的最前沿工作，而且還擁有文學和音樂研究的背景。技術和創意的結合使他處於一個特殊的位置，可以解釋生成人工智慧的工作原理以及它對技術和創造力的未來意味著什麼。這是他不得不說的。

在我們深入研究生成式人工智慧之前，我們必須更廣泛地談論人工智慧。這是那些有趣但通常有點模糊的術語之一。人工智慧到底是什麼？

人工智慧是一個廣義的術語，通常用於描述各種先進的計算機系統。我更喜歡更具體地談論「機器學習」。我們今天在人工智慧中看到的大部分內容實際上是機器學習：賦予計算機系統從範例中學習的能力。

我們將程式設計為從示例中學習的機器稱為「神經網路」。他們學習的一種主要方式是獲得大量示例供您學習，例如被告知圖像中的內容 - 我們稱之為分類。如果我們想教一個網路如何識別大象，那將涉及人類向網路介紹大象長什麼樣子的大量例子，並相應地標記這些照片。這就是模型學習區分大象和圖像中其他細節的方式。

語言模型是另一種類型的神經網路。

語言模型如何工作？

語言模型基本上可以預測單詞序列中接下來出現的單詞。我們在大量文本上訓練這些模型，以便它們更好地理解下一個可能出現的單詞。改進語言模型的一種方式 —— 但不是唯一的方法 —— 是給它更多的 “閱讀”—— 或者用更多的數據訓練它 —— 有點像我們如何從我們學習的材料中學習。如果你開始輸入短語 “Mary 踢了一個......”，一個在足夠數據上訓練的語言模型可以預測，“Mary 踢了一個球”。如果沒有足夠的訓練，它可能只會想出一個「圓形物體」或只想出它的顏色「黃色」。訓練語言模型所涉及的數據越多，它就越微妙，它就越有可能準確地知道瑪麗最有可能踢了什麼。

在過去的幾年中，我們在如何在語言模型中實現更好的性能方面取得了重大突破，從擴展其大小到減少某些任務所需的數據量。

語言模型已經在那裡幫助人們 - 例如，你會看到他們在 Gmail 中出現智慧撰寫和智能回復。語言模型也為巴德提供了動力。

明白了。因此，我們定義了 AI 和語言模型。生成式 AI 呢？

生成模型可以從所展示的範例中學到的東西，並根據該資訊創建全新的東西。因此，「生成」這個詞！大型語言模型（LLM）是一種生成 AI，因為它們以自然語言的形式生成新穎的文本組合。我們甚至可以構建語言模型來生成其他類型的輸出，例如新圖像，音訊甚至影片，例如 Imagen，AudioLM 和 Phenaki。

這帶來了很多人的一個大問題：生成式人工智慧對創意領域和創造力意味著什麼？

我認為創意領域有巨大的潛力 —— 把它想像成消除一些重複的單調乏味的世俗任務，比如生成草稿，而不是侵犯他們與生俱來的創造力。作為一名音樂研究人員，我認為生成人工智慧就像幾十年前鼓機的到來一樣。鼓機產生的節奏與人類鼓手的聲音不同，並推動了全新的音樂流派。

就像 1980 年代的許多音樂一樣。

當然，或者嘻哈是如何隨著鼓機的使用在布朗克斯演變的。整個流派都是通過音樂中的這種新的後端技術發展而改進的。鼓機並沒有取代鼓手，它只是增加了另一層。

顯然，這裏有機會。但是潛在的挑戰呢？

在我進入計算機科學之前，我養育了兩個孩子並獲得了文學學位，所以我問自己一個真正的問題，即在一個生成人工智慧可以寫出一篇相當不錯的八年級或九年級論文的世界里，教育工作者如何衡量成功。

如果你回想一下，當圖形計算機出現時，老師應該如何知道他們的學生是否自己做了數學？通過了解學生可以使用哪些工具並要求學生以新的方式 “展示他們的工作” 來推進教育。

公司 —— 包括我們 —— 有責任思考這些模式將有什麼好處，以及如何確保這是一種演變而不是顛覆。

我很高興你提出了責任。你能談談谷歌是如何開發機器學習的嗎？

我們正在並一直在花時間深思熟慮地做到這一點。如果我們製造一個產品，我們希望確信它可以有所説明並避免傷害。2018 年，我們是首批開發和發佈人工智慧原則並建立內部治理結構來遵循這些原則的公司之一。我們今天的人工智慧工作涉及谷歌的負責任人工智慧小組和許多其他小組，專注於在開發新興技術時避免偏見、毒性和其他危害。

我聽你說過，這些重大的技術飛躍已經以小的、有用的方式出現。但是，生成式人工智慧對社會來說能有多大的飛躍呢？

我們現在知道機器可以解決簡單的問題，如圖像分類和生成文檔。但我認為我們已經準備好擁有更雄心勃勃的能力，比如用複雜的推理解決問題。今天，生成式人工智慧可以説明你寫一封套用信。明天，它可能會徹底改變您的創意工作流程和流程，讓您騰出時間以新的心態解決全新的挑戰。通過隨著時間的推移進行協作和實驗，我們將發現生成式 AI 的更多好處。