KI-Antwortbibliothek
Eine Frage pro Seite, die Antwort steht im ersten Absatz. Dazu jeweils eine Vergleichstabelle, die Grenzen der Gültigkeit sowie Autor und Prüfdatum — leicht nachzuprüfen und leicht zu zitieren.
绝大多数企业知识库先用 RAG，不要上来就微调。RAG 决定模型「能看到什么」，让答案可溯源、文档改了当天生效、还能按人做权限隔离；微调决定模型「怎么说话」，能统一语气和输出格式，但教不会新知…
核心区别是：RPA 执行你写死的流程，AI Agent 自己决定下一步做什么。流程固定、界面稳定、要求每次结果完全可复现的任务（对账、批量填表、定时导数据）用 RPA 更稳也更便宜；输入是非结…
先看数据能不能出域，再算成本。数据受合规约束（涉密、等保要求、医疗病历、金融客户信息）的场景必须私有化，这是硬门槛，不用做成本对比；不受约束时，调用量小、业务还在验证阶段就直接用公有云 API…
重点看三件事：交付过什么、数据归谁、他走之后你能不能自己维护。要求对方拿出可访问的真实系统而不是 PPT 和演示视频；在合同里写清数据、模型权重、代码和微调产物的归属；把二期改动和故障响应的报…
总成本由硬件、实施、运维三块构成，硬件通常占一半以上，真正的分水岭是模型规模。按 2026 年 8 月中国大陆行情、单机推理口径估算：7B–14B 级单卡机在几万元量级，70B 级多卡整机在几…
先按显存倒推，其他都次要。经验公式：权重显存 ≈ 参数量 × 每参数字节数 × 1.2（FP16 每参数约 2 字节，INT4 约 0.5），再留出随并发与上下文长度增长的 KV cache。…
诚实的回答是：脱离评测集谈准确率没有意义。「准确率」至少要拆成检索召回率、答案正确率、幻觉率、拒答率四个指标，口径各不相同；同一套系统在制度条文查找上表现很好，在跨文档汇总或需要计算的问题上会…
先问数据能不能出内网，能出再算钱。如果数据依规不能出内网或不能出境，SaaS 直接出局，这不是价格题而是合规题。可以出内网时，比的是 3–5 年总拥有成本、需求变更频率和团队运维能力：使用年限…
从签合同到真正有人用，通常是 4–12 周，取决于卡到位没有、文档整理得怎么样。纯技术侧最快：机器就位后把开源模型跑起来是几天的事。真正拖时间的是三件非技术的事——硬件采购与机房改造、内部数据…
可以，而且这正是私有化部署存在的理由。把开源权重下载到内网、在本地 GPU 上推理，全过程不需要联网，模型不会回传任何数据。要注意的是「不出内网」必须落到整条链路：向量库、日志、监控告警、甚至…
取决于微调方式，差三个数量级。调语气和输出格式的轻量微调（LoRA 类），几百到几千条高质量样本就够；要让模型稳定掌握一整套行业表达，通常要上万条；继续预训练注入领域知识则按亿级 token …
多数企业该租不该买。自购只在两种情况下明显划算：数据受合规约束不能出内网，或者负载高且常年稳定、显卡利用率能长期跑在高位。反过来，需求还在变、用量有明显波峰波谷、或者只是想先验证场景，租用几乎…
分四步：选一个边界清晰的小场景、建评测集、做最小可用版本、再谈推广。第一个项目的目标不是做出多强的系统，而是让组织学会怎么判断好坏——没有评测集就没有判断依据，后面所有争论都会变成「感觉不太行…
按数据规模和现有技术栈选，别一上来就挑最「专业」的那个。百万级向量以内、团队本来就在用 PostgreSQL 的，pgvector 通常最优 —— 不新增一套要单独运维的系统。千万级以上、需要…
不必全公司统一选一个，按数据敏感度和任务难度分开决定。数据不能出内网、调用量大且稳定的，用可私有部署的开源家族（Llama 4 / Qwen 3.x / DeepSeek V4 / GLM-5…
能处理，但必须按文档类型分开做，不能指望全丢进去就有效果。扫描件要先过 OCR，版式复杂的还要做版面分析才能还原正确的阅读顺序；合并单元格、多级表头的表格如果按普通文本切分，几乎必错，要单独抽…
多数企业场景不需要。一个支持工具调用的模型 SDK 加几百行自己写的胶水代码，就能覆盖绝大部分「读输入 → 调工具 → 出结果」的需求，出错时调用栈是你自己的，好查。重框架的价值在多团队复用抽…
现阶段最落地的是「把图像里的信息变成结构化文本」：票据抽取、扫描文档版面还原、仪表与铭牌读数、门店陈列检查、图纸理解。共同点是有确定答案、能人工抽检、错了代价可控。反过来，需要精确测量、安全判…
多数 AI 项目不是败在模型不够强，而是败在动手之前：需求没被定义成可验收的问题、数据根本没准备好、以及拿 AI 去绕开本该修的流程。典型表现是 demo 惊艳、上线后没人用。有效的预防办法是…
先分清你是内部使用还是向境内公众提供服务，这决定了合规负担的量级。《生成式人工智能服务管理暂行办法》主要约束向境内公众提供生成式 AI 服务的一方，企业研发应用但不向公众提供服务的不适用；而《…
估算公式是：单次成本 =（输入 token × 输入单价）+（输出 token × 输出单价），再乘日调用次数。关键在三点：输入输出分开计价且输出通常更贵；RAG 片段和多轮对话历史会让输入 …
诚实的回答是：没有通用的节省比例，取决于你的问题重复率和知识库质量。高重复的标准咨询（查订单、退换货规则、营业时间）能被大幅分流；需要判断、授权、安抚情绪或跨系统操作的会话替代不了。而且省下的…
最低要求是三件事：找得到、读得出、说得清归属。找得到指文档有统一存放位置和检索入口；读得出指不是扫描图片或加密文件，能稳定提取成文本；说得清归属指每份文档有版本、生效日期和可见范围。这三条做不…