把 SOP、產品手冊、法遵政策、FAQ 與客服知識庫切分、向量化、權限控管,讓員工問得到但不越權。
從申請文件、保單、合約、財報或 KYC 補件中抽取欄位,進入審核 workflow,不讓員工重複打字。
把通話摘要、客戶背景、下一步提醒、風險提示與工單建立串在一起,但保留人工覆核。
分清楚哪些資料絕對不能進入模型、哪些可以送 commercial LLM、哪些只能在私有部署裡跑。沒分清楚 = 不該開始。
私有部署 / 合規 LLM Gateway / On-prem inference——按資料分級決定,不是按「最簡單」決定。
所有 prompt + retrieval context + LLM 回應都留存可追,含時間戳、user、模型版本。稽核時調得出。
上線後持續抽樣(自動 eval + 人工複核),對「答錯有後果」的流程設告警閾值。模型升級時 regression test 全跑。
AI 是「準備提案」不是「自主決策」——KYC 結論、合約條款、放款建議都由人簽。AI 把人工從重複工作中解放出來,但不取代判斷責任。
上線前用真實金融場景測 100+ 案例(合規問題、權限外洩、錯誤建議)。每次模型版本更動全部重跑,沒過不上線。