如何設計一條可靠的 Agentic Ingestion Pipeline (上):從單一 Prompt 瓶頸到 LangGraph 多 Agent 協作圖譜

從單一 Prompt 瓶頸到 LangGraph 多 Agent 協作:非結構化財經 Podcast 語音與逐字稿 Pipeline 的解耦與拓撲設計。

如何設計一條可靠的 Agentic Ingestion Pipeline (上):從單一 Prompt 瓶頸到 LangGraph 多 Agent 協作圖譜

最近我花了一段時間,將專案中負責處理非結構化財經 Podcast 語音串流與逐字稿的 AI 數據 Pipeline,從最初的單一 Ingestion 腳本逐步演進為基於多 Agent 協作的生產級版本。

在我的實踐中,我發現最大的挑戰並非語音轉文字本身(透過呼叫雲端語音轉寫服務,將音訊轉為原始逐字稿已經非常便宜且容易解決),而是如何從極度冗餘、充滿雜訊的逐字稿中,產出穩定、高品質且符合結構化 Schema 的財經摘要與市場標的分析。

這篇文章我想分享自己在這段演進過程中的架構思考,記錄我是如何一步步克服「請 LLM 幫我摘要」的瓶頸,並透過 LangGraph 設計出一個由多個 Agent 協同作戰的處理圖譜。


陽春版的瓶頸:為什麼「請幫我摘要這段逐字稿」注定失敗?

在剛開發第一代 Ingestion 腳本時,我的作法非常直覺:取得原始逐字稿後,直接包進一個簡單的 Prompt 中送給大語言模型,指令大概就是「請幫我整理這段逐字稿的摘要、重點與提及的市場標的數據(Market Ticker Data)」。

然而,實際面對真實的財經 Podcast 節目時,這種做法產出的摘要簡直不堪入目,原因在於真實的對談音訊中充斥著以下四大雜訊:

  1. 廣告與贊助商訊息 (Sponsor Announcements):主持人常在開頭或中間穿插 VPN、線上課程或券商的廣告。大模型在處理時,很容易將這些廣告內容誤認為本集討論的「財務洞察」,甚至直接寫進摘要重點。
  2. 生活雜談與暖場閒聊 (Chitchat & Intro):主持人切入正題前,通常會有數分鐘至十幾分鐘的近況分享。這些內容雖然增加節目娛樂性,但對尋求財務洞察的讀者而言完全是多餘的雜訊。
  3. 訪談的口語冗餘與跳躍思考:尤其是雙人主持或專訪節目,充滿了口語贅字與跳躍性對談。整篇逐字稿往往長達兩三萬字,但真正有價值的核心觀點可能只佔 10%。
  4. 長文本注意力渙散與多人對話交錯 (Lost in the Middle):談話內容常在多個標的之間快速切換。如果直接硬吞整篇逐字稿,模型很容易在長文本中注意力渙散,導致摘要時而詳細、時而漏掉關鍵個股。

如果只用一個 Prompt 硬吞整篇逐字稿,大模型不是因為 Context 過長而偏離主題,就是因為格式錯亂而崩潰。為了產出真正具有專業水準、只保留財經核心洞察的精簡資料,我意識到必須將任務解耦,改由多個專門的 Agent 來分工協作。


基於 LangGraph 的多 Agent 協作設計

為了解決單一模型調用的局限性,我選擇使用 LangGraph 來重新建構整個工作流。

LangGraph 的「狀態圖(StateGraph)」概念非常適合這種複雜的 DAG(有向無環圖)流程。我們能定義一個共享的狀態對象(State),讓每個節點(Node)只負責處理狀態中的一部分資料,並在完成後更新狀態傳遞給下一個節點。這樣做的好處是,我們能將「過濾、章節合併、報告撰寫、個股分析、總編校驗」等工作完全解耦。

系統拓撲設計

這是我在專案中實際編排的 StateGraph 拓撲流程。整個 Pipeline 在執行時,會從入口節點進入,進行平行分流與最終的匯合(Fan-out / Fan-in):

如何設計一條可靠的 Agentic Ingestion Pipeline (上):從單一 Prompt 瓶頸到 LangGraph 多 Agent 協作圖譜 - 圖 1


核心 Agent 與節點的分工機制

在這套 LangGraph 工作流中,每個節點都有其明確的職責與邏輯:

1. 掃描與標記 Agent (extract_events)

2. 政策路由器與章節合併器 (cluster_sentences & consolidate_chapters)

3. 報告撰寫 Agent (write_article)

4. 總編 Agent (extract_key_insights)

5. 標的與情緒分析 Agent (extract_tickers)


上集總結

在第一個階段中,透過將單一 Prompt 的粗暴呼叫拆解為 LangGraph 上的分散式節點,我們不僅解決了長文本截斷與廣告雜訊干擾的痛點,更讓每一個步驟都有專屬的 Agent 進行守護。

然而,將這套系統搬上生產環境時,新的挑戰才剛開始:

在下集中,我將深入分享我們在生產環境實踐的 Step-by-step Checkpoints 重播機制、推理解算溢出應對策略與寫入前強校驗防寫閘 (Pre-Persistence Gate)。


Reference