「獲知球的移動方向,是決定球拍最佳位置的关键要素。」
2015 年,學者 Matthew Hausknecht 與 Peter Stone 在研究 Atari 遊戲智能體時,說出了這句話。
聽起來像廢話。但在 AI 世界裡,這句話撕開了一個根本矛盾:當下的畫面,永遠不夠你做決策。
Pong 遊戲裡的「時間失憶」
先回到經典的 Pong 彈球遊戲。
某一幀畫面定格,螢幕上只有兩隻球拍、一顆球、當下的比分。全部細節都精準到位。
但問題是——你無法判斷球正在飛向哪裡。
原因很簡單:單幀畫面只能揭示球拍和球的位置,卻無法揭示球的速度。
球往哪飛,是一個關於「過去幾個瞬間」的事實。沒有任何一個孤立的瞬間,能單獨包含這個資訊。
這就是核心矛盾:眼前的即時輸入,永遠無法滿足動態決策的需求。
「感知混淆」:兩個相反的情境,長得一模一樣
真正麻煩的,是學術界所謂的「感知混淆(Perceptual Aliasing)」。
DeepMind 的 Volodymyr Mnih 等人在 2015 年 Nature 論文中坦言,由於智能體只能觀察當前螢幕畫面,這個任務屬於「部分可觀察狀態」。
什麼意思?
「球正飛向你的球拍」和「球正飛離你的球拍」——這兩個截然不同的情境,在靜態畫面中會產生完全相同的圖像。
一個只看圖像的系統,被迫把它們當成同一種情境。而這兩種情境需要完全相反的操作,系統必然在其中一種情況下出錯。
4 幀疊加:一個最樸素的補丁
DeepMind 的解法非常直接——不給一張畫面,而是把最近的幾幀疊在一起作為輸入。
預設值是 4 幀,雖然 3 幀或 5 幀也能適應。
四幀並排後,球的運動直接顯現為位置的變化。運動方向不再是需要抽象記憶的概念,變成了一個可以直接「看見」的視覺屬性。
值得注意的是,論文並沒有把這組堆疊畫面稱為「記憶」。它本質上只是一個比單一時刻更寬的輸入通道。

真正的問題來了:第 5 幀之後,歷史不存在
Hausknecht 與 Stone 一針見血地指出:DQN 是用最近 4 個狀態構成的輸入訓練的。
「如果某款遊戲要求玩家記住超過過去四屏畫面更久遠的事件,DQN 將無法掌握這款遊戲。」
這句話背後藏著一道極其堅硬的物理邊界。
固定滑動窗口機制意味著:無論窗口如何拓寬,邊界之外的資訊都會被物理抹去。倒數第 5 幀之後的歷史,根本不在輸入範圍內。
說實話,這不是遊戲問題,是 AI 的通用困境
從 Pong 到擁有數百萬上下文窗口的大語言模型,表面上看技術已經天翻地覆。
但底層邏輯沒變:模型能輕易容納人類海量的靜態知識,卻無法在動態交互中把過去的全部細節無損隨身攜帶。
有限算力與上下文窗口是硬約束。真正的難題不是「能存多少」,而是「在壓縮過去的同時,如何準確提煉決定未來的核心狀態」。
這份摘要的取捨,決定了後續時刻擁有怎樣的資訊基礎。任何被遺漏的細節,後續時刻都永遠無法基於它做出反應。
持久記憶,是下一個關鍵戰場
這也是為什麼「持久記憶」成為當下自主智能體的核心議題。
簡單理解,一個表現良好的系統,必須從過去向當下承載某些資訊。但它承載的永遠不可能是完整的過去,而是一份摘要。
未來值得關注的方向是:如何讓智能體在壓縮的同時,不失真地保留「會影響決策的關鍵狀態」。這不僅是技術突破點,更是 AI 能否真正跨越時間、持續行動的底層邏輯。
FAQ
Q1:什麼是「感知混淆(Perceptual Aliasing)」?
A:指兩個截然不同的情境在靜態畫面中產生完全相同的圖像。例如球飛向球拍和球飛離球拍,在單幀畫面中看起來一模一樣,導致只看圖像的智能體無法區分,被迫執行相同的操作,從而在其中一種情境下必然出錯。
Q2:DQN 為什麼選擇用 4 幀畫面疊加作為輸入?
A:因為單幀畫面只能顯示位置,無法顯示球的速度與方向。將最近 4 幀畫面疊加後,球的運動直接顯現為位置變化,運動方向變成一個可直接觀測的視覺屬性。預設值為 4 幀,但 3 幀或 5 幀同樣可適應。
Q3:為什麼說「4 幀」暴露了 AI 記憶的物理硬邊界?
A:DQN 僅用最近 4 個狀態作為輸入訓練,一旦遊戲需要記住超過 4 屏更久遠的事件,DQN 就無法掌握。固定滑動窗口意味著邊界外的資訊被物理抹去,這揭示了有限上下文窗口下 AI 記憶的根本矛盾。