基于RDS PostgreSQL与Dify平台构建AI应用

Dify是一款开源的大语言模型（LLM）应用开发平台。它将后端即服务（Backend as Service）与LLMOps理念相结合，使开发者能够迅速构建生产级的生成式AI应用。本文将介绍如何基于RDS PostgreSQL与Dify平台构建智能问答应用。

阿里云官方文档

创建RDS

1. 快速创建RDS PostgreSQL实例。

为RDS实例创建账号和数据库，详情请参见创建账号和数据库。

其中：

创建账号时，账号类型选择高权限账号。

创建数据库时，授权账号选择已创建的高权限账号。
注意：创建完数据库，必须打开数据库控制台，确保绑定用户到该数据库实现高权限账号。

2. 为RDS PostgreSQL开通外网地址。具体操作，请参见开通或关闭外网地址。将ECS实例的公网IP地址，添加到RDS PostgreSQL的白名单中。具体操作请参见设置白名单。

3. 为RDS PostgreSQL的目标数据库开启vector插件，请先确保创建好数据库和用户后，再去插件找到vector安装。

创建ECS

1. 最少4c8g以上，然后在ECS中，安装Docker。

   bash <(curl -sSL https://linuxmirrors.cn/docker.sh)

2. （可选）如果购买的是GPU版的ECS实例，需要执行如下命令，安装container-toolkit组件。

   curl -s -L https://nvidia.github.io/nvidia-container-runtime/centos8/nvidia-container-runtime.repo | \
   sudo tee /etc/yum.repos.d/nvidia-container-runtime.repo
   
   sudo yum install -y nvidia-container-toolkit
   
   #重启docker
   sudo systemctl restart docker

3. 执行如下命令，获取Dify源码。

   git clone https://github.com/langgenius/dify.git

   需要注意，这种方式.env.example是隐藏文件，您可以通过ls -al查看。

4. 去https://github.com/langgenius/dify找到目录下的docker/.env.example并复制到ECS内/root/dify/docker下。

5. 配置环境变量，将RDS PostgreSQL作为默认数据库和向量库。
   我们cp .env.example到.env下后，替换以下内容。

# 184行
DB_USERNAME=testuser
DB_PASSWORD=password
DB_HOST=pgm-******.pg.rds.aliyuncs.com
DB_PORT=5432
DB_DATABASE=dify

# 387行
VECTOR_STORE=pgvector
# 427行
PGVECTOR_HOST=pgm-******.pg.rds.aliyuncs.com
PGVECTOR_PORT=5432
PGVECTOR_USER=testuser
PGVECTOR_PASSWORD=password
PGVECTOR_DATABASE=dify

6. 启动Dify镜像。

   cd /root/dify/docker
   docker compose -f docker-compose.yaml up -d