Continue-AI编程助手本地部署llama3.1+deepseek-coder-v2

In lại 作者：撒哈拉 更新时间：2024-08-04 16:59:02 86 4

领先的开源人工智能代码助手。您可以连接任何模型和任何上下文，以在 IDE 内构建自定义自动完成和聊天体验

推荐以下开源模型：

聊天：llama3.1-8B

推理代码：deepseek-coder-v2:16b

嵌入模型

• nomic-embed-text

模型默认存储路径：C:\Users\你的用户名\.ollama\models\blobs

模型离线下载：https://pan.quark.cn/s/dbc3fdeffc68

命令行运行：

ollama run deepseek-coder-v2:16b ollama run llama3.1:8b ollama pull nomic-embed-text:latest

VScode搜索：Continue

 

对话模型示例：

  "models": [ { "title": "Ollama", "provider": "ollama", "model": "llama3.1:8b" } ],

    "models": [ { "model": "gpt-4-turbo-preview", "contextLength": 8192, "title": "gpt-4-turbo-preview", "systemMessage": "You are an expert software developer. You give helpful and concise responses.", "apiKey": "you-key", "apiBase": "https://api.fe8.cn/v1", "completionOptions": { "temperature": 0.7, "topP": 0.9, "topK": 10, "presencePenalty": 0.01, "frequencyPenalty": 0.02 }, "provider": "openai" } ],

设置代码推理：

  "tabAutocompleteModel": { "title": "deepseek-coder-v2:16b", "provider": "ollama", "model": "deepseek-coder-v2:16b" },

设置嵌入：

  "embeddingsProvider": { "provider": "ollama", "model": "nomic-embed-text" },

 

使用教程：

轻松理解代码

VS code： cmd+L (MacOS) / ctrl+L (Windows)

Tab自动完成代码

 

重构您正在编码的函数

VS code： cmd+I (MacOS) / ctrl+I (Windows)

询问有关您的代码库的问题

VS Code： @codebase (MacOS) / @codebase (Windows)

 

快速使用文档作为上下文

VS code： @docs (MacOS) / @docs (Windows)

使用斜杠命令开始操作

在此处了解有关斜杠命令的更多信息

VS Code： /edit (MacOS) / /edit (Windows)

 

将类、文件等添加到上下文中

VS code： @files (MacOS) / @files (Windows)

在此处了解有关上下文提供程序的更多信息。

 

了解终端错误

VS code： cmd+shift+R (MacOS) / ctrl+shift+R (Windows)

 

官方文档：

https://github.com/continuedev/continue

https://docs.continue.dev/setup/overview

https://ollama.com/blog/continue-code-assistant

https://docs.continue.dev/setup/select-model

最后此篇关于Continue-AI编程助手本地部署llama3.1+deepseek-coder-v2的文章就讲到这里了,如果你想了解更多关于Continue-AI编程助手本地部署llama3.1+deepseek-coder-v2的内容请搜索CFSDN的文章或继续浏览相关文章，希望大家以后支持我的博客！ 。

86 4 0

• wit.ai - 将数据导入wit.ai

  更新:下面提到的stackoverflow给出了另一种解决方案，即导入json并用正确格式的数据替换文本。我现在试图看看如何适应给定的格式，它看起来像这样: { "text" : "use

• artificial-intelligence - luis.ai 与 api.ai 与 wit.ai 之间的比较？

  有谁知道三者之间的具体区别和功能，或者作为开发人员是否有更多功能/更灵活地使用？ 最佳答案 wit.ai 与 Dialogflow 与 luis.ai ╔═══════════════════════

• wit.ai - 有没有办法自动训练 Wit.ai？

  我知道 Wit.ai 引擎可以通过手动验证案例来训练，但是有没有办法用一组定义的输入和输出来训练它？ 最佳答案 您可能可以查看其中一个应用程序的导出格式并对其进行调整以导入新应用程序。 https:/

• wit.ai - wit.ai 的商业用途

  来自 wit.ai 团队的一些人请回答这个 我们计划将 wit.ai 用于商业目的。有使用政策吗？请提供一些注意事项指南。此外，这项服务将来是否也是免费的，还是您计划推出企业版？ 主要是 API 命中

• api-ai - 在对话框流中添加确认实体(api.ai)

  我需要添加一个确认实体，以便在对话框流 (api.ai) 中的某个操作的参数中得到"is"或“取消”。假设用户正在购买咖啡，我会询问有关咖啡和数量的详细信息，最后我需要确认，我应该向哪个实体申请？任何

• python - 考虑一个整数数组 n A=[a1,a2,a3......an]。查找并打印满足 ai*aj <= max(ai,ai+1,.....aj) 的总对数，其中 i < j

  谁能帮我解决上面的问题。我们必须在数组 (a1,a2),(a1,a3),(a1,a4).... 等中找到元素的组合，然后选择满足条件 (ai*aj) <= max 的组合(A) 其中 A 是数组并返回

• wit.ai - 我是否正确地训练了我的 wit.ai 机器人？

  我正在尝试训练我的 Wit.ai 机器人以识别某人的名字。我不太确定我是否完全理解 NLP 的工作原理，所以我会给你一个例子。 我定义了很多表达，比如“我的名字是XXXX”、“大家都叫我XXXX” 在

• algorithm - 是否存在用于测试棋盘游戏 AI 与其他 AI 的通用站点？

  我想知道是否存在一个网站，人们可以上传他们的 AI 在不同的棋盘游戏中相互竞争:国际象棋、五子棋等。 该站点将接受程序的源代码(以某种通用语言编写)、对其进行编译并相互运行程序。所有程序都必须使用一些

• Phát triển AI Golang: Tích hợp AI vào ứng dụng của bạn

  大家好，我是程序员幽鬼。 你想为后代开发一个令人难以置信的应用程序，你想到的第一件事——人工智能!还有什么比模仿人类智能的机器更令人着迷的呢?如果你期待打破刻板印象并准备推出出色的 AI 应用

• azure - 将 AI Analytics 查询添加到 AI 仪表板？

  我在 Application Insights Analytics 中创建了几个查询来获取我想要的图表。 示例: customEvents | where timestamp >= ago(31d)

• wit.ai - 使用 wit.ai API 删除实体值

  我似乎无法让这个请求生效: https://wit.ai/docs/http/20160526#delete--entities-:entity-id-values-link 我已经设置了一个值为“C

• wit.ai - wit.ai 的 Node.js 客户端调用多个自定义操作

  我正在尝试在 wit.ai 中编写示例应用程序。我使用在 https://wit.ai/docs/quickstart 中显示的 node.js 客户端跟随快速启动应用程序。 .那里显示的示例只有一个

• php - 如何在dialoglow(api.ai)中生成我的代理的api.ai url并在PHP中使用该api URL将用户的输入存储在MYSQL数据库中

  在 api.i(dialogflow) 中，我想获取用户的输入，如姓名、年龄、邮件等，并使用 PHP 将它们存储在我的 MYSQL 数据库中。 如何在对话流中生成我的代理的公共(public) API

• wit.ai - 使用跨域 HTTP API 检索 Wit.ai 机器人文本响应

  我目前正在与 Wit.ai 合作 webpage in CodePen.io .我想知道是否可以使用 HTTP API 检索 Wit.ai 机器人的文本响应(“Bot says”)。 例如:如果用户要

• java - 使用 Minimax 算法的 NIM 游戏和 AI 玩家 - AI 会输棋

  我接到了一项任务，要编写一个由人类玩家和 AI 玩家组成的 NIM 游戏。游戏是“Misere”(最后一个必须拿起一根棍子的人输了)。 AI 应该使用 Minimax 算法，但它正在采取使其输得更快的

• google-ai-platform - 如何取消部署模型，或者特别是如何从 Vertex AI 上的 shell 获取已部署模型的 ID？

  为了通过 shell 从端点取消部署模型，我必须指定 deployed-model-id如 gcloud ai endpoints undeploy-model 中所述 我如何获得这个已部署的模型 I

• docker - 如何将环境变量传递给 gcloud beta ai custom-jobs create with custom container (Vertex AI)

  我在谷歌的 Vertex AI 中运行自定义训练作业。执行自定义作业的简单 gcloud 命令将使用类似于以下语法的内容(可以查看命令的完整文档 here ): gcloud beta ai cust

• wit.ai - 有没有办法通过 HTTP API 管理(创建/编辑/验证)Wit AI Stories？

  Wit AI project 在他们的 Converse 功能中添加了一个名为 Story 的新概念。有没有办法通过 HTTP API 管理(创建/编辑/验证)这些 Wit AI 故事？ 最佳答案 W

• dialogflow-es - 我可以在不使用 Google 的 AI 平台 (Api.ai) 的情况下将应用程序部署到 Google Assistant

  我想为 Google 智能助理部署一个应用。但是，我想使用不同的 AI 后端而不是 api.ai。 有人知道这是否可能吗？如何？ 或者如果我想使用 Google 智能助理，我会被 api.ai 困住吗

• gcp-ai-platform-notebook - 如何在 GCP AI Platform Notebook 上运行 Python 3.6

  我的项目有一个依赖项，需要 python v3.6+。因此，它会在通过 pip 在 python 3 内核中安装时抛出错误，因为 AI Platform Notebooks 默认附带 v3.5。如何使