使用LibreChat搭建AIGC-AIO站点

“librechat. 一个让你浑身上下都痛快的项目”--来自Zeabur。LibreChat是一个创新的开源平台，让每个人都能更自然、更直观、更愉快地与人工智能进行对话。这款免费的聊天机器人解决方案具有与付费服务相媲美的强大功能。除了易用性和语言可访问性外，LibreChat还允许深度个性化。用户可以根据自己的特定需求和兴趣创建自定义预设，从而塑造更加个性化的对话体验。Librechat主要特性包括：

• 完全开源（MIT License）；
• All in one的AI模型选择：OpenAI API、Azure、BingAI、ChatGPT、Google Vertex AI、Anthropic（Claude）、插件；
• 多模态支持，使用GPT-4-Vision和Gemini Pro Vision上传和分析图像，以及Active Development的更多文件类型和Assistant API集成；
• 多语言用户界面支持且自动识别与切换，包括英语、中文简繁体等17种语言；
• 集成身份验证和令牌功能进行多用户验证审核，可配置代理、反向代理、Docke及其他许多部署选项。

Librechat的Github项目仓库主页如下：

「GitHub - danny-avila/LibreChat」

apt update -y
curl -fsSL https://get.docker.com -o get-docker.sh && sh get-docker.sh
apt install docker-compose -y

git clone https://github.com/danny-avila/LibreChat.git && cd LibreChat/

cp .env.example .env 
#nano .env

#build过程耗时主要取决于网络情况和主机性能，ATL G3.2GB约需2分钟
docker-compose build

docker-compose up -d

启动后，就可以通过http://<ip_or_domainname>:3080访问专属All in one的AIGC站点了。

Librechat采用的数据库是MongoDB，在部署之后可能会出现的唯一问题复现如下：

1. 通过http://<ip_or_domainname>:3080显示拒绝连接；
2. 使用netstat -anp | grep 3080显示TCP端口监听正常；
3. 使用docker ps -a显示mongodb容器Restarting (132)  n seconds ago，一直重启。

在此情况下，查询退出码132并通过cat /proc/cpuinfo | grep avx没有返回任何输出，可以确定CPU是不支持AVX指令集。解决办法是降级mongodb为4.4.4版本。在docker-compose已启动的情况，需要停止运行并删除Librechat拉取的最新版本MongoDB镜像后，重新拉取使用4.4版本。

docker-compose down
docker rmi <mongo_or_mongoDB_id>
docker pull mongo:4.4
nano docker-compose.yml

在docker-compose.yml文件中将mongodb块的image: mongo修改为image: mongo:4.4即可。

mongodb:
    container_name: chat-mongodb
    image: mongo:4.4
    restart: always
    user: "${UID}:${GID}"
    volumes:
      - ./data-node:/data/db
    command: mongod --noauth

Librechat支持所有的大模型，支持多用户管理与身份验证，尽管没有将国产的LLM纳入也很正常，有需要的可以使用one-api，相比较Librechat略简洁一些，没有直接提供诸如token计数、计费、自定义代理渠道等业务功能，更适合个人和非盈利组织。