Xtreme1 Docker Compose 本地部署后可以使用 localhost 或 IP 来访问,并进行了一些软硬件需求等文档更新;
本地模型运行目前仅支持Linux server( NVIDIA Driver 或 NVIDIA Container Toolkit)
Component | Recommended configuration |
GPU | Nvidia Tesla T4 or other similar Nvidia GPU |
GPU RAM | 6G or more |
RAM | 4G or more |
还没有评论,来说两句吧...