AI 概念

Transformer

現代 LLM 底層的神經網路架構，由 Google 的 Vaswani 等人在 2017 年論文「Attention Is All You Need」中提出。與早期逐字處理文本的循環神經網路 (RNN) 不同，Transformer 使用注意力機制平行處理整個序列。這種平行化使訓練速度大幅提升，並更好地處理文本中的長距離依賴關係。

關鍵創新：Transformer 用自注意力機制取代了循環結構，讓序列中的每個位置都能同時關注其他所有位置。這種架構現在驅動著 GPT、Claude、Gemini、LLaMA 等幾乎所有前沿語言模型。

🔗 比喻：RNN 就像一個字一個字地閱讀一本書，同時試圖記住所有內容。Transformer 則像是把整本書攤開在桌上，讓你能立即看到任意兩段之間的聯繫。

Attention Mechanism（注意力機制）

一種讓模型在生成每個輸出時能動態關注輸入中最相關部分的技術。自注意力通過將每個輸入轉換為三個向量來計算序列中所有 token 之間的關係：

• Query（查詢）— 我在找什麼？
• Key（鍵）— 我包含什麼？
• Value（值）— 我提供什麼資訊？

注意力分數決定了每個 token 應該對其他 token 產生多大影響。

Multi-head attention：現代 Transformer 使用多個平行的注意力「頭」，每個頭學習不同的關係模式。一個頭可能追蹤句法結構，而另一個頭捕捉語義意義。例如，GPT-2 每層使用 12 個注意力頭。

Neural Network（神經網路）

一種鬆散地受生物神經元啟發的計算系統，由分層組織、彼此互連的節點（人工神經元）構成，用來處理資訊。每個連接都有一個可學習的權重，在訓練過程中不斷調整。現代 LLM 是層數很多的「深度」神經網路——GPT-2 有 12 到 48 個依序堆疊的 Transformer 區塊，資訊在越高的層變得越抽象。

🔗 比喻：像一條工廠裝配線，每一站（層）把原料（輸入）加工成越來越精緻的產品——前段處理基本特徵，後段組裝複雜的模式。

Parameters（參數）

定義 LLM 所學內容的數值權重。每個參數代表網路連接中的一個可調值，在訓練過程中調整以最小化預測錯誤。更多參數通常意味著更大的學習複雜模式的能力，但通過更好的架構或訓練資料，效率提升可以用更少的參數達到類似結果。

規模參考：

Tokens

LLM 處理的基本文本單位——在詞彙量大小和序列長度之間取得平衡的子詞塊。現代分詞器不使用完整的詞或單個字元，而是將文本分割成有意義的子單位。這種方法通過將罕見詞拆分成熟悉的片段來處理，同時保持常見詞完整。

🔗 範例："unhappiness" 可能被分詞為 ["un", "happi", "ness"]。"Hello, world!" 通常變成 4 個 token：["Hello", ",", " world", "!"]。GPT-4 使用約 100,000 個 token 的詞彙表；在英文中大約 1 個 token ≈ 0.75 個詞。

Embeddings（嵌入向量）

以高維空間中的密集數值向量來表示詞、Token 或概念。模型在訓練中學習嵌入，使語義相近的項目聚集在一起。這些向量捕捉的關係非常豐富——不只是相似度，還有類比和層級結構。

🔗 經典範例：vector("king") - vector("man") + vector("woman") ≈ vector("queen")。現代嵌入在數千個維度上編碼了更豐富的關係，支撐語義搜尋、聚類和遷移學習。

Context Window（上下文視窗）

LLM 可以同時考慮的最大文本量（以 token 計）。這定義了模型在單次互動中擁有多少「記憶」。更大的視窗能夠處理整本書、整個程式碼庫或長對話，但隨著注意力機制的平方增長而增加計算成本。

Context Window 的演進：

Pre-training（預訓練）

LLM 通過在大規模文本語料庫上預測下一個 token 來學習語言模式的基礎訓練階段——包括書籍、網站、程式碼庫和學術論文，共計數千億到數萬億個 token。這種自監督學習（不需要人工標籤）讓模型能夠隱式地獲得語法、事實、推理模式和世界知識。

🔗 核心洞察：Next-token prediction 看似簡單卻非常強大。為了準確預測下一個是什麼，模型必須隱式地學習語法、語義、事實、邏輯關係，甚至近似推理——這些都從這個簡單的目標中湧現出來。

Fine-tuning（微調）

在特定資料上進行的額外訓練，讓預訓練模型適應特定任務、領域或行為。它把一個通用語言模型加以特化——用於指令遵循、醫療知識、程式撰寫或組織的特定需求——所需的資料量遠少於預訓練。

常見方法：

• 監督式微調（SFT）：在精選範例上訓練
• 指令微調：在多樣的任務格式上訓練
• 領域適應：在專門語料上訓練
• 參數高效方法：如 LoRA，以極少的運算完成微調

RLHF（人類回饋強化學習）

一種通過訓練人類判斷而非預定義獎勵來使 LLM 與人類偏好對齊的技術。

過程：

1. 收集人類對模型輸出的比較（哪個回應更好？）
2. 訓練一個獎勵模型來預測人類偏好
3. 使用強化學習（通常是 PPO）針對這個獎勵模型優化 LLM

為什麼重要：RLHF 將原始語言模型轉變為有用的助手。InstructGPT、ChatGPT 和 Claude 都使用 RLHF 的變體。它解決了「對齊」問題——讓 AI 系統做人類真正想要的事情，而不是字面上指定的事情。

Training Data（訓練資料）

用來訓練 LLM 的文本語料庫，深刻影響模型的能力與行為。品質和多樣性與規模同等重要——研究顯示，在高品質資料上訓練的較小模型，可以勝過在雜訊較多資料上訓練的較大模型。

典型來源：

• 網頁爬取（Common Crawl）
• 書籍與文學作品
• 維基百科
• 學術論文
• 程式碼庫（GitHub）
• 精選的指令資料集

Emergent Capabilities（湧現能力）

在較大模型中突然出現但在較小模型中不存在的能力——這些能力無法通過從較小規模的外推來預測。例子包括思維鏈推理、上下文學習和多步驟問題解決。

🔗 比喻：就像物理學中的相變——水不會「逐漸有點結冰」。同樣，模型可能通過內部表示的突然重組獲得能力，而不是平滑積累。

Hallucination（幻覺）

當 LLM 生成流暢且聽起來合理但實際上事實錯誤、沒有證據支持或完全捏造的內容時。

類型：

• 內在幻覺：與提供的上下文中的資訊相矛盾
• 外在幻覺：編造任何來源中都沒有的無法驗證的資訊

根本原因（2025 研究）：幻覺現在被理解為系統性激勵問題——訓練目標獎勵自信的回應而非校準過的不確定性。模型學會「虛張聲勢」而不是承認無知，因為基準測試會懲罰「我不知道」的回應。

Multimodal（多模態）

能處理和生成多種內容類型——文字、圖像、音訊、影片——的 AI 系統，且經常在同一次互動中完成。這需要專門的編碼器（如視覺 Transformer）把非文字輸入轉換成語言模型能理解的表示。

例子：

• GPT-4o（「omni」）：在單一架構中統一文字、圖像和音訊
• Gemini 2.5：處理文字、圖像、音訊和影片，原生支援 1M+ Token 上下文
• Claude 3+：在對話中分析圖像
• DALL-E 3、Stable Diffusion、Midjourney：從文字生成圖像
• Sora：使用擴散從文字生成影片

Temperature（溫度）

控制輸出生成隨機性的參數。Temperature 在採樣前縮放可能的下一個 token 的機率分布。

Vision Encoder（視覺編碼器）

把圖像轉換成語言模型能理解的 Token 或嵌入的元件。視覺 Transformer（ViT）把圖像切成方格（如同 Token），經過 Transformer 層處理，產出可以與文字整合的表示。

流程：

1. 圖像切成固定大小的方格（例如 16×16 像素）
2. 每個方格嵌入為一個向量
3. 加上位置編碼
4. 經過 Transformer 層處理
5. 輸出表示與語言模型整合

Diffusion Models（擴散模型）

一種通過學習逐漸添加雜訊的逆過程來生成圖像（以及越來越多的影片）的技術。

訓練：模型學習逐步去噪圖像
生成：從純雜訊開始，在文字提示的引導下迭代細化成連貫的圖像

關鍵模型：

• DALL-E 3 (OpenAI)：文字轉圖像，與 ChatGPT 整合
• Midjourney：以藝術風格化輸出聞名
• Stable Diffusion 3 (2024)：開源，使用 Transformer
• Sora (2024)：將擴散擴展到影片生成

🔗 比喻：就像雕塑家從一塊粗糙的大理石（雜訊）開始，逐漸雕刻以揭示雕像（圖像），文字提示則作為藍圖。