Infonexs
技術
現況:以 PostgreSQL + pgvector 進行文件檢索、能理解資料表結構並經校驗的 Text-to-SQL,以及可呼叫雲端模型的多模型工作流程。
現況:SOVEREIGN DATA CORE
AI 撰寫查詢、草擬動作。你的系統計算結果,你的團隊批准變更。
PostgreSQL + pgvector 為制度與 SOP 建立索引,每個答案都引用來源。
產生的 SQL 在執行前會經過解析並比對資料表結構,且僅有唯讀權限。
需要寫入系統的動作會等待指定審批人批准,每個步驟都有紀錄。
發展藍圖
本地推論:以 NVIDIA NIM 與 TensorRT-LLM,在客戶自己的 GPU 伺服器上運行 Llama、Qwen 等開源模型,讓提問與數據留在客戶的網路內。
基準測試:在同一組 ERP 問題上,公布本地與雲端模型的準確率、延遲與每千次查詢成本。
更大的文件集合:當制度與文件集合變大時,評估以 NVIDIA cuVS 進行 GPU 加速向量檢索。