免费 AI 够用了吗?

科研记录 | 从聊天应用、API 到 Agent 架构的选择与互补

Posted by 陈陈 on August 24, 2026

本文是《DeepSeek Harness 本地部署:从踩坑到跑通》的续篇。上一篇记录了如何在 MacBook 上安装 DeepSeek Harness,并连接本地 Ollama 的 qwen3 模型。本篇进一步讨论一个更普遍的问题:既然豆包、元宝等客户端可以免费完成很多任务,为什么还要搭建自己的 AI 架构,甚至购买 API?

一、一个容易产生的疑问

对于研究生和科研人员来说,豆包、腾讯元宝以及其他免费 AI 客户端已经能够完成许多工作:

  • 回答专业问题;
  • 总结和解释论文;
  • 辅助文献调研;
  • 修改论文语言;
  • 生成提纲和文字材料;
  • 进行联网搜索;
  • 处理一定规模的文件。

如果这些功能已经足够好,为什么还要安装 Ollama、DeepSeek Harness、VS Code 插件,并为 API Token 付费?

这个问题不能简单用“付费模型更强”来回答。更准确的答案是:免费客户端、付费 API 和自建 Agent 架构,处于不同的层次,解决的是不同的问题。


二、先区分三个概念

1. 免费 AI 客户端:面向人的应用

豆包、元宝等产品通常已经把模型、搜索、文件上传、对话界面和部分工作流整合在一起。用户打开网页或客户端,直接输入问题即可。

它们的优势是“开箱即用”:

用户提出问题
    ↓
客户端组织上下文、搜索和文件
    ↓
模型生成回答
    ↓
用户阅读、复制和继续修改

这种模式非常适合一次性任务和日常辅助。

2. API:面向程序的模型服务

API 可以理解为模型服务提供给程序使用的一扇标准接口。程序通过 URL、API Key 和请求参数调用模型,模型返回文本或结构化结果。

Python 脚本 / VS Code / Harness / 知识库
                    ↓
              API 请求
                    ↓
             云端模型服务
                    ↓
              返回结果

API 本身不是一个完整的办公软件,也不自动替您设计科研流程。它的价值在于:可以被其他程序稳定、重复、自动地调用。

3. Agent 架构:让模型参与完成任务

Agent 是建立在模型之上的运行系统。它不仅生成文字,还可以在规则约束下调用工具,完成多步任务:

理解目标
  ↓
制定步骤
  ↓
读取文件或项目
  ↓
调用工具
  ↓
修改文件或运行命令
  ↓
检查结果
  ↓
继续修正或交付结果

在本文的实践中,DeepSeek Harness 扮演的就是 Agent 运行层,Ollama 或 SCNet API 提供模型推理能力。


三、为什么免费客户端已经很强?

首先应该承认,免费客户端在很多场景下已经足够好,甚至比自己搭建系统更方便。

适合免费客户端的任务

任务 免费客户端的优势
快速问答 不需要配置环境
联网搜索 搜索功能通常已经集成
初步文献检索 可以快速浏览和总结网页资料
单篇论文阅读 上传文件后即可提问
语言润色 交互简单,修改结果直观
图片、语音和视频 多模态功能通常更完整
临时生成提纲 不需要建立项目目录和脚本
获取第二意见 可以快速换一个产品交叉比较

对于“我现在有一个问题,请帮我回答”这样的需求,免费客户端完全可以作为首选。

因此,搭建自己的架构并不是为了取代所有免费工具,而是为了处理免费客户端不擅长的另一类问题。


四、付费 API 的优势是什么?

1. API 可以接入自己的科研工具链

免费客户端的功能由产品提供者决定;API 则可以接入研究者自己的程序和工作流。

例如,可以把 SCNet 的 Token API 接入:

  • DeepSeek Harness;
  • VS Code Continue;
  • Python 文献分析脚本;
  • 实验室知识库;
  • 文献卡片生成工具;
  • 学生周报评阅程序;
  • 论文评审模板;
  • PPT 或课件生成流程。

这样,模型就不再只是一个聊天窗口,而是科研系统中的一个可调用组件。

2. API 更适合批量任务

假设有 100 篇论文需要处理,手动上传和提问会非常耗时。通过 API,可以建立批处理流程:

论文目录
    ↓
程序逐篇读取 PDF 或 Markdown
    ↓
提取标题、摘要、方法和结论
    ↓
调用模型生成结构化文献卡片
    ↓
保存为 Markdown 或 CSV
    ↓
汇总为专题综述

这类任务的关键不只是模型回答得好,还包括:

  • 输入格式统一;
  • 输出格式统一;
  • 任务可以重复执行;
  • 失败任务可以重试;
  • 结果可以保存和检索。

3. API 更适合固定科研规范

科研工作往往需要固定评价标准。例如,论文评审可以固定检查:

  1. 研究问题是否明确;
  2. 相关工作是否充分;
  3. 数学模型和假设是否一致;
  4. 公式推导是否严谨;
  5. 实验设计是否支持结论;
  6. 图表和数据是否自洽;
  7. 创新点是否被清楚表达;
  8. 局限性是否诚实说明。

把这些要求写进提示模板或 Agent 流程后,每篇论文都可以接受相对一致的检查。

这比每次临时向聊天机器人描述一遍要求,更适合实验室长期使用。

4. API 可以控制模型和参数

在 API 层面,通常可以指定:

  • 使用哪个模型;
  • 上下文长度;
  • 最大输出长度;
  • 系统提示词;
  • 输出格式;
  • 是否流式返回;
  • 是否进行工具调用。

在本文的实践中,SCNet API 通过以下地址接入 Harness:

https://api.scnet.cn/api/llm/v1

在配置模型时,模型 ID 必须严格使用 SCNet 实际支持的名称,例如:

DeepSeek-V4-Pro
Qwen3-30B
SCNet-Max

模型名称的大小写和字符格式不能自行猜测,否则可能出现“Model Not Exist”错误。

5. API 适合将一次性经验变成可复用工具

一次论文评审只是一次使用;一个自动化评审流程则可以反复使用。

一次对话经验
    ↓
整理为提示词和检查清单
    ↓
接入 API
    ↓
封装为脚本或 Harness Skill
    ↓
成为实验室可复用工具

这正是 API 对科研团队的长期价值:它帮助团队沉淀方法,而不仅仅是获得一次回答。


五、自己搭建 AI 架构的优势

这里的“自己搭建”并不一定意味着自己训练模型,也不一定意味着自己购买和维护 GPU。它主要是指:自己决定模型如何接入工作环境,以及如何组织任务。

1. 模型和工具可以分离

本文采用的架构是:

科研文件与本地工作环境
            ↓
DeepSeek Harness Agent 运行层
            ↓
       模型提供商
       ├─ Ollama 本地 qwen3:8b/14b
       └─ SCNet 云端 Token API
          ├─ DeepSeek-V4-Pro
          ├─ Qwen3-30B
          └─ SCNet-Max

更换模型时,Agent 工作流不必完全重写;更换 Agent 工具时,模型也不必更换。

2. 可以在本地和云端之间分层

对于科研人员,最实用的不是所有任务都上云,而是进行分层:

任务类型 推荐后端 原因
快速问答 本地 qwen3:8b 响应快、零 API 费用
一般代码辅助 本地 qwen3:14b 适合 VS Code 和 Continue
敏感材料初步处理 本地 Ollama 数据不离开本机
多篇文献综合分析 SCNet 云端 API 上下文和推理能力更强
论文深度评审 DeepSeek-V4-Pro 适合复杂逻辑分析
申请书和中文材料 Qwen3-30B 适合中文表达和结构化写作
多步文件处理 Harness + 云端 API 模型与工具形成闭环
联网搜索 豆包、元宝或专门搜索工具 产品化搜索体验更方便

3. 可以把 Agent 变成科研工作台

通过 Harness,模型可以在授权目录中完成这样的任务:

请阅读当前目录下的论文初稿和参考文献,检查研究问题、技术路线和实验结论之间是否一致;将问题分为“必须修改”“建议修改”和“文字润色”三类,并把结果保存为 review.md

这类任务包含文件读取、内容分析、分类整理和文件写入,不再是简单的问答。


六、为什么要为 API 付费?

付费的对象不是“多买了一次聊天”,而是购买了以下能力:

可调用的模型服务
+ 可重复的接口
+ 可接入的工作流
+ 可自动化的批处理
+ 可控制的模型选择
+ 可扩展的 Agent 架构

如果只是偶尔问几个问题,免费客户端更划算;如果每天有大量文献、论文、申请书和项目文件需要处理,API 的价值就不仅是答案质量,还包括节省时间和减少重复劳动。

费用应当如何衡量?

可以用下面的方式估算:

API 费用
÷
节省的科研工作时间
=
每小时的效率成本

我在实际使用 SCNet Token API 的过程中,曾产生约 458 次请求,消耗约 4000 万 tokens,费用约 81 元。这个数字说明 API 费用并不应只按“请求次数”评价,而应结合这些请求是否真正帮助完成了文献分析、论文评审或申请书修改。

同时,也不应因为已经充值,就让所有简单问题都使用云端模型。最合理的做法仍然是本地和云端分工。


七、免费客户端、API 和 Agent 的互补关系

可以把三者比喻成科研工作中的三个工具层次:

免费客户端:个人助手

适合:

  • 快速查询;
  • 临时讨论;
  • 联网搜索;
  • 初步阅读;
  • 多模态输入;
  • 获取第二意见。

API:可调用的模型发动机

适合:

  • 程序化调用;
  • 批量处理;
  • 固定模板;
  • 自动化流程;
  • 结果结构化;
  • 模型路由和成本控制。

Agent 架构:科研工作流执行器

适合:

  • 读写项目文件;
  • 执行终端命令;
  • 多步骤任务;
  • 结果检查和修正;
  • 生成最终交付物;
  • 沉淀实验室方法论。

三者并不是互相排斥的替代关系:

免费客户端 = 快速使用
API        = 稳定接入
Agent      = 自动执行

八、针对研究生和科研人员的实际建议

建议一:先使用免费客户端确认需求

不要一开始就搭建复杂系统。先用豆包、元宝或其他客户端确认:

  • 自己经常提出哪些问题;
  • 哪些任务最耗时间;
  • 哪些任务需要联网;
  • 哪些任务需要反复处理文件;
  • 哪些材料涉及隐私或保密。

建议二:把高频任务整理成模板

例如:

  • 文献阅读模板;
  • 论文评审模板;
  • 研究方案论证模板;
  • 基金申请书检查模板;
  • 学生周报评阅模板。

建议三:再把重复任务接入 API 或 Agent

当任务具备以下特征时,就值得使用 API 或 Agent:

  • 每周重复出现;
  • 输入文件格式相近;
  • 输出结构比较固定;
  • 需要跨多个文件处理;
  • 手动复制粘贴很耗时;
  • 需要保存和追踪历史结果。

建议四:敏感材料优先本地处理

使用云端 API 时,应考虑数据安全。对于尚未公开的申请书、内部项目资料、合作方数据和敏感实验结果,可以:

  • 优先使用本地 Ollama;
  • 上传前进行脱敏;
  • 只将必要片段发送到云端;
  • 不把 API Key 写入公开代码仓库。

九、结论

免费 AI 客户端并没有失去价值。恰恰相反,它们是科研人员日常使用 AI 的重要入口。自己搭建架构和购买 API,也不是因为免费客户端“不能用”,而是因为科研工作中还有一类更复杂的需求:

  • 需要批量处理;
  • 需要固定标准;
  • 需要接入本地文件;
  • 需要执行多步操作;
  • 需要保存和复用结果;
  • 需要把个人经验变成实验室工作流。

因此,一套合理的科研 AI 体系不应该是“只用免费客户端”或“全部改用付费 API”,而应该是:

本地 Ollama
    负责快速、私密、低成本任务

免费 AI 客户端
    负责联网搜索、多模态和临时问答

SCNet Token API
    负责高质量、复杂、长文本推理

DeepSeek Harness
    负责把模型接入文件、工具和科研工作流

最终需要选择的不是“哪个 AI 工具最强”,而是:

针对具体科研任务,选择合适的模型、合适的接口和合适的执行方式。

上一篇文章解决了“如何部署 Harness”的问题;这一篇更关心“为什么要部署,以及什么时候值得使用”。对于研究生和科研人员来说,真正有价值的不是多安装几个 AI 工具,而是逐渐形成一套适合自己研究方向、能够节省时间并且可以持续复用的工作系统。


参考资料