AI 思考強度怎麼選?不是開到最高就最好

VS Code 已可為模型設定思考強度。高強度會消耗大量推理 Token,也容易過度思考;指令明確的單純任務用低強度最穩定,資訊不全的複雜任務才值得開高。

本文目錄
  1. 思考強度的代價
  2. 低強度:指令遵從性最高
  3. 高強度:小心過度思考
  4. 實務選擇建議

VS Code 在選擇模型時,現在可以透過右側箭頭設定「思考強度」(Thinking Effort),提供 Low、Medium、High 等選項。這項功能在 CLI 工具上早已支援一年,如今終於來到 IDE。

但新選項也帶來一個常見疑問:既然在某些工具裡扣的點數都一樣,是不是永遠選「最高」就好?答案是否定的。

思考強度的代價

雖然在部分 IDE 介面上感覺不出差異,但底層其實是一種「等價交換」。AI 進行深度思考時,內部會產生大量的推理 Token(Reasoning Tokens),背後燃燒的算力極高,而且並非所有任務都需要高強度思考。

低強度:指令遵從性最高

低思考強度的模型不需要在內部反覆推演,注意力會完全集中在你給的提示詞上。它的指令遵從性(Instruction Following)極高,你說一,它絕對不說二。

高強度:小心過度思考

進入深度思考時,模型會在內部不斷進行自我對話與推論。如果任務本身很簡單,反而容易把問題複雜化、引入雜訊;而且內部產生的上下文變得很長,有時甚至會迷失方向,忽略你一開始設定的格式限制。

實務選擇建議

思考強度 適合的任務特性 典型例子
低 明確、單純、要求嚴格遵守指令 純翻譯、輸出特定格式(例如 JSON)、修改指定的幾行程式碼
高 極度複雜、資訊不完整 系統架構分析、專案底層規劃、資訊不足下的除錯、高複雜度邏輯運算

判斷原則很簡單:

  • 選低強度:當你已經下達了「完美的指令」,而且不希望 AI 做任何額外的變化或腦補(即使是好意的調整),低強度的執行品質與穩定度最高。
  • 選高強度:連人類都需要想很久、需要沙盤推演的困難任務,務必把思考強度開高。給它足夠的空間嘗試與推論,最後產出的邏輯深度會有極大差異。

延伸閱讀