💡 知识卡片
原始会话经 LLM 提炼后的结构化知识。比原始会话更好读、更好搜。
主题
Ollama本地摘要与云API对比
- Ollama 是本地大模型运行器，安装包约 100MB，模型文件 3B 约 2GB、7B 约 4GB，完全免费且可离线运行，数据 100% 不出本机
- 性能对比：DeepSeek 云 API 单会话 5~10 秒、质量最高、约 ¥0.009/会话；Ollama qwen2.5:7b 需 1~3 分钟、质量中等；qwen2.5:3b 需 30~60 秒、质量一般
- 无独立显卡（如 Intel UHD 630 核显）只能 CPU 推理，速度慢；16GB 内存仅剩 7.7GB 可用时跑 7B 模型（Q4 约 4.7GB）有卡顿风险，3B 模型（约 2GB）更安全
- 接入方式：改 cards.py 走 OpenAI 兼容接口 http://localhost:11434/v1
- 折中方案：继续用云 API，但在发送前做脱敏（手机号、身份证、公司名替换为占位符），或按敏感关键词分流到本地模型