Python系列AI系列（仅供参考）：AI大模型之采用DeepSeek-Coder:6.7b + Ollama + Continue离线部署

AI大模型之采用DeepSeek-Coder:6.7b Ollama Continue离线部署AI大模型之采用DeepSeek-Coder:6.7b Ollama Continue离线部署一、流程梳理1、外网一次性下载清单仅需这 1 次联网1. 核心工具安装包2. 推荐模型下载选 1 个即可3. 下载完成验证2、内网断网环境 安装配置 一步一命令核对表 阶段 1安装 Ollama 环境 阶段 2安装 Continue IDEA 插件 阶段 3配置 Continue 连接本地模型核心步骤 阶段4离线功能验证确保万无一失3、日常使用命令速查内网环境1. 启动/停止模型服务2、项目级中文提问模板直接复制用二、大模型简单对比程序员视角deepseek-coder:6.7bqwen2:7b三、实际应用方案 B: DeepSeek-Coder:6.7b Ollama Continue1、外网必须下载的 3 样1Ollama 安装包2Continue IDEA 插件 ZIP3下载 DeepSeek-Coder 模型关键2、内网一步一命令安装配置纯离线阶段 1安装 Ollama阶段 2安装 Continue 插件Idea里阶段 3配置 Continue核心方法1方法 2手动打开文件100% 成功备用注意乱码问题阶段 4启动模型不用也可以阶段 5离线使用中文提问不用也可以AI大模型之采用DeepSeek-Coder:6.7b Ollama Continue离线部署一、流程梳理1、外网一次性下载清单仅需这 1 次联网1. 核心工具安装包2. 推荐模型下载选 1 个即可模型下载命令需在外网环境执行执行前确保 Ollama 已安装方案 A中文首选后端项目分析最优# 通义千问2 7B 量化版中文极强代码理解好4GB显存可跑ollama pull qwen2:7b方案 B代码专用DeepSeek Coder# DeepSeek Coder 6.7B 量化版代码理解拉满中文支持优秀ollama pull deepseek-coder:6.7b方案 C低配电脑8G 内存可用# Qwen2 1.5B 量化版体积小速度快适合低配机器ollama pull qwen2:1.5b3. 下载完成验证Ollama 安装包文件大小约 200MB 左右Continue 插件 ZIP文件大小约 10-20MB模型文件默认存储在 C:\Users\你的用户名.ollama\models 目录qwen2:7b 完整大小约 4.5GBdeepseek-coder:6.7b 约 4GB2、内网断网环境 安装配置 一步一命令核对表全程断网所有操作均在本地完成无任何外网请求 阶段 1安装 Ollama 环境 阶段 2安装 Continue IDEA 插件 阶段 3配置 Continue 连接本地模型核心步骤以 Qwen2:7b 为例DeepSeek 仅需修改模型名即可1 打开 IDEA 右侧 Continue 面板 → 点击右上角 ⚙️ 设置图标 → 选择 Open Settings2打开 config.json 配置文件 完全替换 models 数组为以下配置直接复制{models:[{title:Local Qwen2 7B,provider:openai,model:qwen2:7b,apiBase:http://localhost:11434/v1,apiKey:ollama,contextWindow: 32768,systemMessage:你是一个专业的 Java 后端开发助手全程用中文回答只分析用户提供的项目代码不生成通用原理。}],tabAutocompleteModel:{title:Local Qwen2 7B,provider:openai,model:qwen2:7b,apiBase:http://localhost:11434/v1,apiKey:ollama}}3保存配置文件重启 IDEA 配置生效 4启动本地模型服务打开CMD/终端执行命令ollama run qwen2:7b✅ 成功显示 提示符保持窗口打开 阶段4离线功能验证确保万无一失1彻底断开网络拔网线/关闭WiFi 确保电脑完全断网 2在 Continue 聊天框输入测试指令Repo 用中文帮我分析这个项目的登录功能告诉我核心代码位置和调用链3等待模型回答✅ 成功模型正常读取项目代码用中文精准定位功能、解释逻辑 ❌ 失败检查 Ollama 服务是否启动、配置文件是否正确。3、日常使用命令速查内网环境1. 启动/停止模型服务# 启动 Qwen2 模型保持窗口打开ollama run qwen2:7b# 启动 DeepSeek 模型ollama run deepseek-coder:6.7b# 查看已安装模型ollama list# 停止模型服务Windows 直接关闭CMD窗口即可2、项目级中文提问模板直接复制用# 功能定位模板Repo 用中文详细说明这个项目中【XX功能】的实现逻辑、入口文件、涉及的类和方法、完整调用链只讲我项目里的代码不要通用原理。# 代码分析模板Repo 帮我分析这个项目中【XX模块】的代码结构用中文说明每个类的作用、方法之间的调用关系。# 问题排查模板Repo 用中文帮我排查这个项目中【XX报错】的原因定位相关代码并给出修复方案。二、大模型简单对比程序员视角deepseek-coder:6.7b专门为代码训练天生懂编程写函数、补全逻辑、查 bug、解释代码、生成注释都很顺支持多语言Java、Python、Go、JS、C/C、SQL 都不错体量 ~4GB本地跑压力小缺点通用聊天、写文案不如通用大模型qwen2:7b阿里通用大模型综合能力强代码能写但不是专精代码复杂逻辑偶尔跑偏适合既要写代码又要写文档、总结、翻译大小 ~4.5GB比 deepseek-coder 稍大三、实际应用方案 B: DeepSeek-Coder:6.7b Ollama Continue1、外网必须下载的 3 样1Ollama 安装包下载地址https://ollama.com/download文件名类似OllamaSetup.exe保存好内网直接双击安装点击后会下载一个 .exe 安装包比如 OllamaSetup.exe后续拷到内网笔记本上双击安装就能在离线环境用 Ollama 了。2Continue IDEA 插件 ZIP下载地址https://plugins.jetbrains.com/plugin/22707-continue/versions下载对应你 IDEA 版本的 .zip不要解压直接保存注意idea版本与插件适配Continue 1.0.67 只支持 IDEA 2024.1 及以上版本你的 IDEA 是 2023.2版本太旧装不上高版本插件。3下载 DeepSeek-Coder 模型关键在外网电脑打开 CMD执行需要外网已安装ollamaollama pull deepseek-coder:6.7b等待显示 success 即可。①双击安装OllamaSetup.exe外网②打开 CMD执行外网ollama pull deepseek-coder:6.7b等它下载完 → 出现 success上一步下载的ollama里如果你提问它必须依据某个大模型才能回答目前没有一个大模型列表里的都是需要联网下载的我这里选择下载大模型 deepseek-coder:6.7b。③然后把整个文件夹复制走C:\Users\你的用户名\.ollama2、内网一步一命令安装配置纯离线阶段 1安装 Ollama1双击 OllamaSetup.exe 安装2打开新 CMD输入ollama--version出现版本号 成功3把从外网拷来的 .ollama 文件夹覆盖到内网电脑C:\Users\内网用户名\.ollama4查看模型是否存在ollama list可以发现ollama基于大模型deepseek-coder:6.7b可以使用了阶段 2安装 Continue 插件Idea里IDEA → File → Settings → Plugins点右上角齿轮 → Install Plugin from Disk…-选择你下载的 Continue-xxx.zip重启 IDEA双击导入continue插件阶段 3配置 Continue核心方法1打开 Continue 设置 → Open Settings把下面这段 完整复制粘贴 替换原有内容{models:[{title:DeepSeek-Coder 6.7B (离线),provider:openai,model:deepseek-coder:6.7b,apiBase:http://localhost:11434/v1,apiKey:ollama,contextWindow: 16384,systemMessage:你是专业Java后端开发助手只分析项目代码全程用中文回答简洁准确不废话。}]}保存重启 IDEA。方法 2手动打开文件100% 成功备用如果点击齿轮没反应直接手动找到文件按 WinR 打开「运行」输入%USERPROFILE%\.continue回车后会直接跳转到 Continue 的配置文件夹用 IDEA / 记事本打开里面的 config.json替换成上面的配置保存即可。如果你只有 config.yaml如图所示删除旧的 config.yaml新建一个文件命名为 config.json把下面这段完整复制进去保存{name:Local Assistant,version:1.0.0,schema:v1,models:[{title:DeepSeek Coder 6.7B (Ollama),model:deepseek-coder:6.7b,apiBase:http://localhost:11434,provider:ollama,options:{temperature: 0.7,num_ctx: 4096}}],tabAutocompleteModel:[{title:DeepSeek Coder 6.7B (Ollama),model:deepseek-coder:6.7b,apiBase:http://localhost:11434,provider:ollama,options:{temperature: 0.7,num_ctx: 4096}}],contextProviders:[{name:codebase}]}注意乱码问题解决方法1、打开 IDEA → File → Settings → Editor → File Encodings把所有编码都改成 UTF-82、上面勾选后还是乱码的话找到 IDEA 的安装目录进入 bin 文件夹用记事本 / Notepad打开 idea64.exe.vmoptions64 位系统在文件最末尾添加这 3 行配置阶段 4启动模型不用也可以打开 CMD运行ollama run deepseek-coder:6.7b出现 就可以用了窗口不要关。阶段 5离线使用中文提问不用也可以在 Continue 里直接发Repo 帮我找这个项目里登录功能在哪里实现调用链是什么Repo 这个接口的业务逻辑在哪个类哪个方法全部离线、中文、不联网。Copy-paste monkeyAI大模型之采用DeepSeek-Coder:6.7b Ollama Continue离线部署