• AUTOSPHERE 車智 AI|技術資源

    企業級架構,從權限與可追溯性開始

    語音服務、模型推理、企業知識、服務 API、資料治理與營運監控,組成可分階段驗證與擴充的 AI 客服技術架構。

    語音服務模型路由企業 API資料治理故障降級彈性部署
    技術架構總覽

    從客戶進線到服務完成的處理路徑

    各層可分別驗證、監控與替換,避免將所有服務綁定在單一模型或單一外部系統。

    客戶渠道電話・LINE・Web
    →
    語音/文字處理辨識・合成・上下文
    →
    AI 模型路由快速・深度・人工
    →
    知識與企業資料文件・API・權限
    →
    服務執行回覆・寫入・轉接
    語音與服務層

    支援自然對話,也保留服務控制

    聲

    語音服務

    支援語音辨識、語音回覆與對話上下文。

    • 插話與中斷處理
    • 電話真人轉接
    • 通話記錄與摘要
    知

    企業知識

    從企業核准內容找出可引用的回答。

    • FAQ 與 SOP
    • 型錄與服務條款
    • 版本與來源紀錄
    API

    服務工具

    即時狀態與寫入操作透過企業 API 完成。

    • 預約與時段查詢
    • 工單與維修進度
    • 執行結果確認
    AI 模型路由

    依問題複雜度,選擇合適處理路徑

    並非所有問題都交給同一模型;路由策略需兼顧速度、成本、正確性與服務風險。

    FAST PATH

    常見問題

    以快速模型配合核准知識庫,處理營業資訊與標準問答。

    DATA PATH

    即時查詢

    透過企業 API 取得預約、庫存或工單狀態。

    DEEP PATH

    複雜問題

    跨文件或多步驟問題進入較深的推理與檢核流程。

    HUMAN PATH

    人工處理

    高風險、敏感或需要專業判斷的問題轉交真人。

    安全與治理

    資料隔離、操作確認與完整稽核

    安全設計需落實在身分、資料、工具與操作結果,而不只是模型提示詞。

    權

    資料與權限治理

    • 企業與品牌租戶隔離
    • 門市及角色權限
    • 資料列與索引隔離
    • 敏感資訊遮罩
    • 知識版本管理
    • 查詢與回答紀錄
    盾

    交易與寫入安全

    • 客戶意圖再次確認
    • 身分與權限驗證
    • 冪等控制防止重複
    • 逾時及重試限制
    • 完整輸入輸出稽核
    • 成功後才回覆完成
    可靠性與故障降級

    外部服務異常時,不讓 AI 假裝完成

    當模型、電信或企業 API 無法正常服務時,系統改採可控的降級流程。

    !

    偵測異常

    監控逾時、錯誤回應、模型狀態與外部 API。

    →
    備

    建立待辦

    無法確認時改為待確認、建立回電或客服任務。

    →
    人

    人工回退

    保留對話與查詢結果,轉接真人繼續處理。

    部署與算力

    依資料責任與實際負載配置

    部署方式應配合企業資安政策、既有系統、延遲目標與使用規模評估。

    雲

    雲端部署

    適合試點與一般企業,可較快完成資源配置與服務擴充。

    私

    私有化部署

    適合資料隔離與環境控制要求較高的企業。

    混

    混合部署

    敏感資料保留於企業環境,其他服務依需求彈性配置。

    GPU
    算力配置原則
    RTX 可作為語音與一般服務的測試基線;HGX B300 僅作為複雜推理與大型模型工作負載的候選配置。最終是否採用,需依模型大小、量化方式、同時處理量、延遲目標與壓力測試結果決定。
    容量驗證情境

    以可量測條件進行壓力與穩定性測試

    20,000通/日測試情境
    4 分鐘每通 AI 服務段
    約 334尖峰同時處理情境
    重要說明:上述數字為容量規劃與壓力測試情境,不代表現有客戶量,也不構成正式承載能力保證。實際容量應以完成電信、模型、企業 API 與部署環境整合後的測試報告為準。
    測試與驗收

    以品質、效能與安全指標驗證

    每一階段都應有可量測的驗收條件,並保留測試紀錄與改善依據。

    語音辨識正確率
    問答命中與引用來源
    企業 API 操作成功率
    平均與尖峰回應時間
    真人轉接成功率
    錯誤回答與拒答機制
    尖峰負載與穩定性
    外部服務中斷測試
    權限隔離與完整稽核