AI 思考強度怎麼選?不是開到最高就最好
VS Code 已可為模型設定思考強度。高強度會消耗大量推理 Token,也容易過度思考;指令明確的單純任務用低強度最穩定,資訊不全的複雜任務才值得開高。
VS Code 在選擇模型時,現在可以透過右側箭頭設定「思考強度」(Thinking Effort),提供 Low、Medium、High 等選項。這項功能在 CLI 工具上早已支援一年,如今終於來到 IDE。
但新選項也帶來一個常見疑問:既然在某些工具裡扣的點數都一樣,是不是永遠選「最高」就好?答案是否定的。
思考強度的代價
雖然在部分 IDE 介面上感覺不出差異,但底層其實是一種「等價交換」。AI 進行深度思考時,內部會產生大量的推理 Token(Reasoning Tokens),背後燃燒的算力極高,而且並非所有任務都需要高強度思考。
低強度:指令遵從性最高
低思考強度的模型不需要在內部反覆推演,注意力會完全集中在你給的提示詞上。它的指令遵從性(Instruction Following)極高,你說一,它絕對不說二。
高強度:小心過度思考
進入深度思考時,模型會在內部不斷進行自我對話與推論。如果任務本身很簡單,反而容易把問題複雜化、引入雜訊;而且內部產生的上下文變得很長,有時甚至會迷失方向,忽略你一開始設定的格式限制。
實務選擇建議
| 思考強度 | 適合的任務特性 | 典型例子 |
|---|---|---|
| 低 | 明確、單純、要求嚴格遵守指令 | 純翻譯、輸出特定格式(例如 JSON)、修改指定的幾行程式碼 |
| 高 | 極度複雜、資訊不完整 | 系統架構分析、專案底層規劃、資訊不足下的除錯、高複雜度邏輯運算 |
判斷原則很簡單:
- 選低強度:當你已經下達了「完美的指令」,而且不希望 AI 做任何額外的變化或腦補(即使是好意的調整),低強度的執行品質與穩定度最高。
- 選高強度:連人類都需要想很久、需要沙盤推演的困難任務,務必把思考強度開高。給它足夠的空間嘗試與推論,最後產出的邏輯深度會有極大差異。