字
字节笔记本
2026年2月19日
TostUI:Docker 化 AI 模型 Web UI 集合
API中转
¥120
本文介绍 TostUI,一个基于 Docker 的生成式 AI 模型 Web UI 集合,帮助用户轻松在本地部署各种前沿 AI 模型。
TostUI 简介
TostUI 是由 camenduru 开发的开源项目,提供了一系列 Docker 容器化的 Web 用户界面,专门用于简化各种前沿生成式 AI 模型的本地部署。该项目采用 MIT 许可证,在 GitHub 上拥有 407 stars 和 35 forks。
核心定位:Docker-based web user interfaces designed to easily run various state-of-the-art generative AI models locally
核心功能
TostUI 通过容器化技术,将复杂的 AI 模型部署简化为几个简单的命令。每个服务都包含:
- 预配置环境:无需手动安装依赖
- Web 控制界面:直观的浏览器操作界面
- GPU 优化:针对 NVIDIA GPU 进行性能优化
- 一键部署:通过 Docker 快速启动
支持的 AI 模型与服务
TostUI 目前支持 15+ 种 AI 模型和服务,涵盖图像生成、视频处理、3D 生成、音乐生成等多个领域:
图像生成与编辑
| 服务名称 | 功能 | VRAM 要求 | 部署方式 |
|---|---|---|---|
| Flux.2 [dev] (8bit) | 高质量图像生成 | 24GB | Local |
| Tost Synth v1.0 (4K) | 高分辨率图像合成 | 24GB | Local |
| Z-Image-Turbo With LoRA | 快速图像生成 | 24GB | Local |
| Z-Image-Turbo (4bit) | 低显存图像生成 | - | Local |
| Z-Image-Turbo with Upscaler (8bit) | 图像生成+超分辨率 | - | Local + RunPod |
| Qwen Image Edit 2511 (8bit) | 智能图像编辑 | 24GB | Local + RunPod |
| Qwen Image Edit 2509 with LoRAs (8bit) | 高级图像编辑 | - | Local + RunPod |
| GenFocus DeblurNet (8bit) | 图像去模糊 | 24GB | Local |
视频生成与增强
| 服务名称 | 功能 | VRAM 要求 | 部署方式 |
|---|---|---|---|
| Wan 2.2 First Last Frame (8bit) | 首尾帧视频生成 | 24GB | Local |
| Wan 2.2 Image to Video (8bit) | 图生视频 | - | Local + RunPod |
| SeedVR2 | 视频增强与修复 | 24GB | Local |
3D 生成
| 服务名称 | 功能 | VRAM 要求 | 部署方式 |
|---|---|---|---|
| Trellis 2 | 3D 模型生成 | 24GB | Local + RunPod |
| Trellis 2 (UE兼容版) | Unreal Engine 兼容 3D 生成 | 24GB | Local |
音乐生成
| 服务名称 | 功能 | VRAM 要求 | 部署方式 |
|---|---|---|---|
| Song Generation v1.5-beta | 音乐生成 | 24GB | Local |
| Song Generation base-new | 基础音乐生成 | 14GB | Local |
技术栈
- 容器化:Docker
- 前端框架:Next.js
- UI 组件:shadcn/ui 组件库
- 样式处理:PostCSS
- 包管理:pnpm
- 语言:TypeScript
安装与使用
前置要求
- Docker Desktop:https://desktop.docker.com/
- NVIDIA GPU:推荐使用 RTX 3090/4090/5090
- 显存:根据服务不同,需要 14GB-24GB VRAM
快速开始
bash
# 1. 安装 Docker Desktop
# 下载地址:https://desktop.docker.com/win/main/amd64/Docker%20Desktop%20Installer.exe
# 2. 拉取并运行容器(以具体服务为例)
docker run --gpus all -p 3000:3000 --name tostui-service camenduru/<image-name>
# 3. 访问应用
# 打开浏览器访问 http://localhost:3000更新容器
bash
# 停止、删除旧容器并拉取最新版本
docker stop <container-name>
docker rm <container-name>
docker pull camenduru/<image-name>云服务平台
除了本地部署,TostUI 还提供云服务选项:
- 官方云服务:https://ui.tost.ai
- GPU 云平台:支持 RunPod(Pod 和 Serverless 部署模式)
项目结构
text
TostUI/
├── app/ # 应用主目录
├── components/ # UI 组件
├── lib/ # 工具库
├── public/ # 静态资源
├── next.config.mjs # Next.js 配置
├── package.json # 依赖配置
├── tsconfig.json # TypeScript 配置
└── LICENSE # MIT 许可证硬件测试环境
所有服务均在以下硬件环境经过测试:
- NVIDIA RTX 3090
- NVIDIA RTX 4090
- NVIDIA RTX 5090
社区与支持
- GitHub 仓库:https://github.com/camenduru/TostUI
- Twitter/X:https://x.com/camenduru
- Discord 社区:https://discord.gg/k5BwmmvJJU
- GitHub Sponsors:https://github.com/sponsors/camenduru
适用场景
AI 研究者
- 快速测试最新的生成式 AI 模型
- 无需配置复杂的开发环境
- 对比不同模型的效果
创意工作者
- 图像生成与编辑
- 视频内容创作
- 3D 资产生成
- 音乐创作辅助
开发者
- 集成 AI 功能到现有项目
- 构建 AI 驱动的应用原型
- 学习生成式 AI 技术
总结
TostUI 是一个极具价值的开源项目,通过 Docker 容器化技术大大降低了前沿 AI 模型的使用门槛。其核心优势包括:
- 开箱即用:预配置的 Docker 容器,无需手动安装依赖
- 覆盖全面:支持图像、视频、3D、音乐等多种生成式 AI 模型
- 部署灵活:支持本地部署和云端运行
- 硬件优化:针对 NVIDIA GPU 进行专门优化
- 开源免费:MIT 许可证,可自由使用和修改
对于希望探索生成式 AI 能力但不想处理复杂环境配置的用户来说,TostUI 是一个理想的解决方案。
分享: