Skip to content

Repository files navigation

AI 本地知识库

English

基于 LangChain.js 的 RAG 智能问答助手。 导入 Markdown 文档构建知识库,用户提问时自动检索相关内容,通过 AI 模型生成回答。

建议在嘉立创EDA专业版客户端使用此扩展

本地模式说明

alt text

模型类型说明

扩展基于Transformers.js库构建,支持ONNX模型。首次运行默认会从镜像站在线拉取ONNX模型,若镜像站无法拉取,也可通过本地导入ONNX模型文件夹(可从HuggingFace魔塔社区获取ONNX模型源文件,本地导入时直接选择源文件夹即可自动解析),导入后文件会存入浏览器缓存,建议导入时只选择需要使用的模型文件,避免占用空间。

向量模型说明

扩展在编译时已经预构建全文档向量,预构建所用模型会在设置中显示,在线拉取的模型默认也是预构建所使用的模型和向量维度,因此可直接使用预构建向量。若使用其他向量模型,因向量维度不同则需要对全部文档重构向量,将耗费大量时间,通常不推荐。

LLM模型说明

LLM模型推荐使用大于4B参数的模型才会有良好体验,需要注意的是本地LLM运行会占用大量内存,确保电脑有足够内存用于推理,建议使用在线模型,也可使用ollama等框架本地部署后使用openai格式的api接入。

其他说明

  1. 若计划完全使用本地模型会对电脑配置要求较高,建议多核,超线程,高主频,大内存的设备。
  2. 本地模型使用前会读取缓存,加载onnx,分配内存和初始化WASM,因此首次使用需要一些准备时间,受限于主机性能和模型参数,可能会有卡顿是正常现象。

功能

✅ 支持接入通用模型API,借助本地向量模型可实现根据知识库内容的智能答疑

alt text

✅ 支持本地向量模型,可完成知识库内容的快速关键词检索

alt text

✅ 支持本地通用模型+向量模型,实现根据知识库内容问答

alt text

✅ 集成prodocs.lceda.cn全部文档,遇到问题随问随答

alt text

安装

使用方法

1.在"高级"-"扩展管理器"中导入eext-knowledge-base.eext扩展文件。 alt text

2.在"配置"中开启"允许外部交互"选项 alt text

3.进入原理图或PCB界面,点击顶部导航栏"高级"-"AI 知识库"选择需要的功能即可。 alt text

致谢

About

嘉立创EDA专业版扩展:基于本地Embedding模型的RAG知识库。EasyEDA Pro Extension: The local RAG knowledge base based on an embedding model.

Topics

Resources

Stars

4 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages