Josh Huang's Engineering Notes
三個聊天機器人，完全沒有回應，三個彼此無關的原因
在一個自架的多 agent 閘道上，架起三個聊天機器人角色，三個都在收到第一則訊息後完全沒有回應，而且對測試的人來說什麼錯誤都看不到。除錯過程一層一層剝開，發現是同一套系統裡三個真正各自獨立的層級，還有第四件事看起來像 Bug，其實不是。
This article is also available in English: English version——內容相同，僅語言不同。
在一個自架的多 agent 閘道上，架起三個聊天機器人角色， 三個都在收到第一則訊息之後完全沒有回應，測試的人什麼都看不到。 除錯的過程一層一層剝開了同一套系統裡三個真正各自獨立的層級—— 還有第四件事，看起來完全像個 Bug，其實不是。
第一層：那個看得到的設定，其實根本管不到的憑證
這個閘道的模型供應商設定，檢查起來完全正確——供應商對、模型名稱對， 也沒有什麼明顯缺漏的地方。但回覆訊息在 agent 協調層裡的某個地方悄悄地死掉了， 使用者那邊什麼都看不到，唯一能看到任何東西的方法， 是直接去 tail 閘道自己的程序 log，而不是相信「沒看到錯誤」就代表沒事。 這才浮現出真正的第一層問題：實際在執行階段被使用的憑證， 放在一個獨立、依每個 agent 各自區分的驗證儲存區裡， 跟人類可以編輯的供應商設定完全脫鉤——而那個儲存區根本是空的。 看得到的設定，跟真正卡住執行的那個東西，是兩份剛好看起來有關聯、實際上不同的狀態。
Unlock this article to keep reading, or subscribe for unlimited access to everything. See Pricing for details.