效能測試 壓力測試 🧰 新手也能跑的 LLM Bench:安裝流程、測試方法、結果判讀與優化方向 首頁 LLM 🧰 新手也能跑的 LLM Bench:安裝流程、測試方法、結果判讀與優化方向 1. LLM Bench 是什麼?能解決什麼問題 LLM Bench(泛指用來量測大型語言模型推論效能的基準測試工具... wwfandy 2月 23, 2026 閱讀
向量檢索 私有知識庫 🏠 地端 AI 文件助手進階:RAG 切片策略、Top-K 調校與引用來源格式最佳實務 🏠 地端 AI 文件助手進階:RAG 切片策略、Top-K 調校與引用來源格式最佳實務 很多人在搭建地端 AI(例如 Ollama + 各類文件助手)後,明明資料都放進去了,回答卻常出現兩種狀況: 抓不到重點 或 抓到不相干的段落 ,最後就變成「看起來很... wwfandy 12月 20, 2025 閱讀
技術文件 私有化 🤖 地端 AI 進階應用:使用 Ollama 與 Python 建立私有技術文件助手 🏠🤖 地端 AI 進階應用:使用 Ollama 與 Python 建立私有技術文件助手 把「公司內部 SOP、維運筆記、Runbook、故障排查手冊」丟給雲端 AI 來問答,最大的痛點通常不是效果,而是 資料外流風險 與 合規問題 。 這篇要做的是一個「... wwfandy 12月 20, 2025 閱讀