关于 AnythingLLM
将任何文档、资源或内容转化为任何LLM在聊天时可以用作参考的上下文。
产品概述
AnythingLLM是一个全栈应用程序,你可以使用商业现成的LLM或流行的开源LLM和向量数据库解决方案,构建一个无妥协的私人ChatGPT,既可以在本地运行,也可以远程托管,并能够与你提供的任何文档进行智能对话。
AnythingLLM将你的文档分成称为工作区
的对象。工作区的功能类似于线程,但增加了文档的容器化功能。工作区可以共享文档,但它们之间不会互相通信,所以你可以保持每个工作区的上下文清晰。
AnythingLLM的酷炫功能
- 🆕 自定义AI代理
- 🖼️ 多模态支持(包括闭源和开源LLM!)
- 👤 多用户实例支持和权限管理 仅Docker版本
- 🦾 工作区内的代理(浏览网页、运行代码等)
- 💬 为你的网站提供可嵌入的自定义聊天小部件
- 📖 支持多种文档类型(PDF、TXT、DOCX等)
- 简单的聊天界面,具有拖放功能和清晰的引用
- 100%支持云部署
- 适用于所有流行的闭源和开源LLM提供商
- 与其他任何聊天界面相比,具有内置的成本和时间节省措施,可管理非常大的文档
- 完整的开发者API,可用于自定义集成!
- 更多功能...安装后即可发现!
环境变量
查看环境变量
- PROJECT
- anythingllm
- DOMAIN
- stack.localhost
- JWT_SECRET
- "make this a large list of random numbers and letters 20+"
- LLM_PROVIDER
- ollama
- OLLAMA_BASE_PATH
- http://host.docker.internal:11434
- OLLAMA_MODEL_PREF
- llama3.2
- OLLAMA_MODEL_TOKEN_LIMIT
- 4096
- EMBEDDING_ENGINE
- ollama
- EMBEDDING_BASE_PATH
- http://host.docker.internal:11434
- EMBEDDING_MODEL_PREF
- nomic-embed-text:latest
- EMBEDDING_MODEL_MAX_CHUNK_LENGTH
- 8192