ByteNoteByteNote

字节笔记本

2026年2月19日

TostUI:Docker 化 AI 模型 Web UI 集合

API中转
¥120

本文介绍 TostUI,一个基于 Docker 的生成式 AI 模型 Web UI 集合,帮助用户轻松在本地部署各种前沿 AI 模型。

TostUI 简介

TostUI 是由 camenduru 开发的开源项目,提供了一系列 Docker 容器化的 Web 用户界面,专门用于简化各种前沿生成式 AI 模型的本地部署。该项目采用 MIT 许可证,在 GitHub 上拥有 407 stars 和 35 forks。

核心定位:Docker-based web user interfaces designed to easily run various state-of-the-art generative AI models locally

核心功能

TostUI 通过容器化技术,将复杂的 AI 模型部署简化为几个简单的命令。每个服务都包含:

  • 预配置环境:无需手动安装依赖
  • Web 控制界面:直观的浏览器操作界面
  • GPU 优化:针对 NVIDIA GPU 进行性能优化
  • 一键部署:通过 Docker 快速启动

支持的 AI 模型与服务

TostUI 目前支持 15+ 种 AI 模型和服务,涵盖图像生成、视频处理、3D 生成、音乐生成等多个领域:

图像生成与编辑

服务名称功能VRAM 要求部署方式
Flux.2 [dev] (8bit)高质量图像生成24GBLocal
Tost Synth v1.0 (4K)高分辨率图像合成24GBLocal
Z-Image-Turbo With LoRA快速图像生成24GBLocal
Z-Image-Turbo (4bit)低显存图像生成-Local
Z-Image-Turbo with Upscaler (8bit)图像生成+超分辨率-Local + RunPod
Qwen Image Edit 2511 (8bit)智能图像编辑24GBLocal + RunPod
Qwen Image Edit 2509 with LoRAs (8bit)高级图像编辑-Local + RunPod
GenFocus DeblurNet (8bit)图像去模糊24GBLocal

视频生成与增强

服务名称功能VRAM 要求部署方式
Wan 2.2 First Last Frame (8bit)首尾帧视频生成24GBLocal
Wan 2.2 Image to Video (8bit)图生视频-Local + RunPod
SeedVR2视频增强与修复24GBLocal

3D 生成

服务名称功能VRAM 要求部署方式
Trellis 23D 模型生成24GBLocal + RunPod
Trellis 2 (UE兼容版)Unreal Engine 兼容 3D 生成24GBLocal

音乐生成

服务名称功能VRAM 要求部署方式
Song Generation v1.5-beta音乐生成24GBLocal
Song Generation base-new基础音乐生成14GBLocal

技术栈

  • 容器化:Docker
  • 前端框架:Next.js
  • UI 组件:shadcn/ui 组件库
  • 样式处理:PostCSS
  • 包管理:pnpm
  • 语言:TypeScript

安装与使用

前置要求

  • Docker Desktophttps://desktop.docker.com/
  • NVIDIA GPU:推荐使用 RTX 3090/4090/5090
  • 显存:根据服务不同,需要 14GB-24GB VRAM

快速开始

bash
# 1. 安装 Docker Desktop
# 下载地址:https://desktop.docker.com/win/main/amd64/Docker%20Desktop%20Installer.exe

# 2. 拉取并运行容器(以具体服务为例)
docker run --gpus all -p 3000:3000 --name tostui-service camenduru/<image-name>

# 3. 访问应用
# 打开浏览器访问 http://localhost:3000

更新容器

bash
# 停止、删除旧容器并拉取最新版本
docker stop <container-name>
docker rm <container-name>
docker pull camenduru/<image-name>

云服务平台

除了本地部署,TostUI 还提供云服务选项:

  • 官方云服务https://ui.tost.ai
  • GPU 云平台:支持 RunPod(Pod 和 Serverless 部署模式)

项目结构

text
TostUI/
├── app/              # 应用主目录
├── components/       # UI 组件
├── lib/              # 工具库
├── public/           # 静态资源
├── next.config.mjs   # Next.js 配置
├── package.json      # 依赖配置
├── tsconfig.json     # TypeScript 配置
└── LICENSE           # MIT 许可证

硬件测试环境

所有服务均在以下硬件环境经过测试:

  • NVIDIA RTX 3090
  • NVIDIA RTX 4090
  • NVIDIA RTX 5090

社区与支持

适用场景

AI 研究者

  • 快速测试最新的生成式 AI 模型
  • 无需配置复杂的开发环境
  • 对比不同模型的效果

创意工作者

  • 图像生成与编辑
  • 视频内容创作
  • 3D 资产生成
  • 音乐创作辅助

开发者

  • 集成 AI 功能到现有项目
  • 构建 AI 驱动的应用原型
  • 学习生成式 AI 技术

总结

TostUI 是一个极具价值的开源项目,通过 Docker 容器化技术大大降低了前沿 AI 模型的使用门槛。其核心优势包括:

  • 开箱即用:预配置的 Docker 容器,无需手动安装依赖
  • 覆盖全面:支持图像、视频、3D、音乐等多种生成式 AI 模型
  • 部署灵活:支持本地部署和云端运行
  • 硬件优化:针对 NVIDIA GPU 进行专门优化
  • 开源免费:MIT 许可证,可自由使用和修改

对于希望探索生成式 AI 能力但不想处理复杂环境配置的用户来说,TostUI 是一个理想的解决方案。

分享: