02
地端 LLM + RAG 知識庫
Local LLM
許多單位導入這類工具時面臨同一項限制:內部文件不得上傳至外部服務。本系統完整運行於自有機器,將公司的 PDF、規範與手冊建立為知識庫後即可直接查詢。全程可離線運作,資料不離開公司。
地端 LLM + RAG 知識庫點擊放大
左側管理知識庫與回答模式 · 右側三個分頁:知識庫聊天、圖片生成、影片生成
三種用法,一個介面
- 知識庫聊天 上傳 PDF／TXT／Markdown 建立向量索引後直接問
- 圖片生成 在本機產生,不必把構想送到外部平台
- 影片生成 同一套環境完成產出
地端部署優勢
- 資安與機密 標案文件、客戶名單、內部規範不經過第三方伺服器
- 沒有訂閱費 一次建置,之後用多少都不再按次計費
- 離線可用 沒有網路、或網路受管制的環境照樣運作
- 可控可調 模型、索引與回答策略都在自己手上
- 支援文件PDF／TXT／Markdown,單檔上限 200MB,可持續累加索引
- 回答模式自動路由:一般對話／網路搜尋／知識庫／混合查證,依問題性質自動選擇
- 部署單機或內網伺服器,不需對外連線
- 可客製模型選型、介面調整、與現有系統串接
回答模式自動判斷。需引用內部文件時查詢知識庫,需最新資訊時才啟用網路搜尋,以降低模型產生錯誤內容的機率。此為導入這類工具最常見的疑慮,已內建於系統中。
