小冰-私有化
  1. 部署须知
小冰-私有化
  • 交付流程须知
  • 接口调用须知
  • 性能测试报告
  • 部署须知
    • 信创可用环境 - 整合
    • 私有化 步骤一 -- 前期接洽沟通
    • 私有化 步骤二 -- 业务定版封包
    • 私有化 步骤三 -- 售后升级响应
  • 基础服务
    • 概述
    • 常见问题
    • 技术文档
    • 数据准备
      • 模型迁移
      • 范例视频迁移
      • 分配租户形象和声音
      • 租户创建(开箱操作)
  • TTS
    • 概述
    • 技术文档
    • 常见问题
    • 接口返回码枚举
    • 接口
      • 查询声音列表
      • 实时流式音频接口(300字以内)
      • 实时同步音频接口(3000字以内)
      • 异步音频接口(10万字以内)
      • 查询异步tts结果
      • 查询tts权益
  • 视频生成
    • 概述
    • 技术文档
    • 常见问题
    • 接口
      • 接口使用须知
      • 视频创建接口
        • 获取数字员工列表
        • 获取数字员工详情
        • 批量获取数字员工详情
        • 创建透明虚拟人视频
        • 创建编辑器视频
        • 获取任务结果
        • 获取播报相关权益,
        • 查询声音列表
      • 声音形象定制
        • 获取训练的权益
        • 提交视频训练任务
        • 获取视频训练任务结果
        • 确认预览结果
        • 提交音频训练任务
        • 获取音频训练任务结果
  • 交互
    • 概述
    • 技术文档
    • 交互SDK
    • 常见问题
    • 接口
      • 生成签名Signature
      • 获取所有虚拟人信息
      • 获取虚拟人资源(带状态)
      • 获取虚拟人可用的声音信息
      • 创建
    • 其他
      • Demo页面验证流程
  • ASR
    • 概述
    • 部署架构图
    • 常见问题
    • 接口
  • 训练平台
    • 概述
    • 技术文档
    • 常见问题
  • 大脑
    • 概述
    • 技术文档
    • 常见问题
    • 接口鉴权
    • 示例代码
    • 对话URL获取
    • 接口
      • 流式对话接口(SSE)
  • ws交互接口
  1. 部署须知

私有化 步骤二 -- 业务定版封包

原文地址: ---

私有化 - 标准2#


[[toc]]

一、挑选服务#

nametypedescdetail
asr-api通用语音识别 接口服务2C 2G
asr-autho通用语音识别 认证服务2C 2G 需绑定机器码
asr-decoder通用语音识别 推理算法16C 64G 一路 一个模型
autotrain-api训练平台训练平台 接口服务4C 4G 依赖
语音合成接口服务
运营后台接口服务
autotrain-front训练平台训练平台 前端服务1C 1G
avatar-editor播报平台视频剪辑 推理算法16C 64G 200G 一路
channel-platform-api通用渠道平台 接口服务4C 4G
channel-platform-front通用渠道平台 前端服务1C 1G
h5-front通用小程序H5 前端服务1C 1G 依赖
asr-api - SSL 证书
model-agent通用模型管理 工作端2C 2G
model-api通用模型管理 调度端2C 2G
operator-api通用运营后台 接口服务4C 4G 依赖
主站平台接口服务
语音合成接口服务
模型管理调度端
训练平台接口服务
资源管理接口服务
operator-front通用运营后台 前端服务1C 1G
resource-center-api通用资源管理 接口服务4C 4G
rtc-api交互平台交付平台 接口服务4C 4G
rtc-core交互平台交付平台 推理算法4C 4G 1路 任意个模型
rtc-front交互平台交付平台 前端服务1C 1G ; 测试页面,非正式业务
rtc-gateway交互平台交付平台 流量服务4C 4G 1路
tts-api通用语音合成 接口服务4C 4G
tts-core通用语音合成 算法服务32C 128G - 15路 任意个模型;每路 2C,每个模型占磁盘约1GB
音色模型 - 合成disk1.2G 每个模型
video-api播报平台视频任务 调度端4C 4G 依赖
语音合成接口服务
运营后台接口服务
渠道平台接口服务
资源管理接口服务
website-api通用主站平台 接口服务4C 4G 依赖
语音合成接口服务
运营后台接口服务
渠道平台接口服务
资源管理接口服务
website-front通用主站平台 前端服务1C 1G
algo-v4播报平台视频生成 推理算法16C 64G 7G显存 - 1路 任意个模型
aitv-zeroshot播报平台 Todo零样本视频生成 推理算法8C 20G 7G 显存 – 1路
标准形象模型 - 合成disk500MB 每个模型v3 版本算法
小样本形象模型 - 合成disk1.2G 每个模型
autotrain-a10_b_zs训练平台 Todo零样本配置 数据处理算法8C 70G 14G 显存 – 1路
autotrain-v10_a训练平台 Todo零样本配置 数据处理算法 多实例加速10C 80G 18G 显存 – 1路 推荐6路
autotrain-data-enhancement-cpu训练平台训练平台 数据处理算法 - 数据增强6C 12G - 1路 形象训练路数:当前服务路数=4:1
autotrain-matting训练平台训练平台 数据处理算法 - 抠图8C 20G 4G 显存 - 1路 形象训练路数:当前服务路数=4:1
autotrain-predict训练平台训练平台 数据处理算法 - 预测模型8C 20G 8G 显存 - 1路 形象训练路数:当前服务路数=3:1
autotrain-pregeneration训练平台训练平台 数据处理算法 - 预生成8C 26G 5G 显存 - 1路 形象训练路数:当前服务路数=3:1
autotrain-set训练平台训练平台 数据处理算法 - 单图驱动 - 模型配置 - TRT转换 等8C 70G 14G 显存 - 1路 瓶颈 形象训练路数:当前服务路数=3:1
autotrain-set-upload-cpu训练平台训练平台 数据处理算法 - 协助配置上传服务2C 2G 形象训练路数:当前服务路数=4:1
autotrain-silence-extend训练平台训练平台 数据处理算法 - 效果数据增强服务5C 10G 5G 显存 - 1路 形象训练路数:当前服务路数=4:1
autotrain-swapface训练平台训练平台 数据处理算法 - 换脸8C 20G 6G 显存 - 1路 和训练无关,单独功能
media-quality训练平台训练平台 数据质量算法 - 质检8C 20G 6G 显存 - 1路 形象训练路数:当前服务路数=4:1
mlop-agent-fs-background训练平台训练平台 训练服务 - 超分辨率12C 30G 10G显存 - 1路 形象训练路数:当前服务路数=3:1
mlop-agent-sr-background训练平台训练平台 训练服务 - 音画同步12C 30G 10G显存 - 1路 形象训练路数:当前服务路数=3:1
mlop-agent-train-background训练平台训练平台 训练服务 - 形象训练16C 90G 20G显存 - 1路 瓶颈
mlop-agent-tts-background训练平台训练平台 训练服务 - 音色训练16C 30G 20G显存 - 1路 瓶颈
tts-background-cpu训练平台训练平台 训练服务 - 音频合成2C 4G - 1路 声音训练路数:当前服务路数=5:1
video-handler-background训练平台训练平台 训练服务 - 视频预处理16C 64G 7G显存 - 1路 形象训练路数:当前服务路数=3:1
算法镜像镜像仓库最大镜像 >30G;最大每层 > 10G
----
openapi-api大脑平台接口服务4C 4G
cot-service-api大脑平台接口服务4C 4G
knowledge-service-api大脑平台接口服务4C 4G
moderation-service-api大脑平台接口服务4C 4G
chatservice-api大脑平台接口服务4C 4G
portalservice-api大脑平台接口服务4C 4G
workflow-service-api大脑平台接口服务4C 4G
doc-parse-server大脑平台算法服务16C 64G 15G显存
triton-server大脑平台算法服务4C 4G
nlp-front大脑平台前台服务1C 1G
vllm-service大脑平台算法服务16C 64G 15G 显存
----
minIO训练平台
播报平台
s3 协议的 文件存储服务4C 4G 2T磁盘(不限量) - 需开启 https 支持
mysql通用mysql 协议的 数据库4C 4G 500G磁盘 - MySQL 8.0 版本协议
nacos训练平台
播报平台
配置文件管理中心2C 2G - nacos 2.3 版本协议
openresty通用nginx 网关代理2C 2G
rabbitmq训练平台
播报平台
消息队列4C 4G - rabbitmq 3.8 版本协议
redis通用数据缓存4C 4G - redis 6 版本 协议
etcd大脑平台信息注册服务2C 2G 50G磁盘 - etcd v3 版本 协议
mongo大脑平台数据库8C 8G 500G 磁盘
postgres大脑平台数据库8C 8G 500G 磁盘
elasticsearch大脑平台数据仓库8C 16G 2T 磁盘
milvus大脑平台数据仓库16C 32G 2T 磁盘

二、确定资源#

nametypedescdetail
通用网络内网无限制,内部机器互联无阻碍同一子网内 tcp / udp 互访无障碍
通用网络如果有多子网,每个子网均有独立 DNS 服务同一个机器 在不同网络访问时 使用不同 ip 的话,可以将同一个 域名 解析至不同的 ip。保障客户端无论在哪个网络,可以使用同一个域名访问到同一个目标机器
通用网络带宽 千兆 以上
通用nas网络磁盘性能吞吐 100MB/s;
延迟 10ms;
IOPS 15000+
通用中间件内网可达,运行稳定
通用VMcpuinter 主频 2.7 睿频 3.3;支持 avx2 指令集
通用VMGPUnvidia 驱动 5.2.5 支持
通用VMos操作系统 linux base
通用VMdriver硬件驱动已安装
通用VMsoftware安装 docker 20+; docker compose 插件
rsync pigz zip unzip 等同步压缩文件工具
通用VM权证绑定证书的机器,硬件不要更换
网络播报平台域名1个主站域名 ;建议此域名内网可解析
网络播报平台域名1个文件存储域名;此域名内网可解析
网络播报平台SSL 证书每个域名对应一套证书,或者一组二级域名对应一套证书
网络播报平台白名单 端口开放 80 443 9000 端口,转发路由支持 websocket ;文件存储服务所在端口
网络播报平台白名单 协议允许 音频、视频文件上传(s3协议 及其 握手协议等)
网络播报平台白名单 CORS允许 必要的域名 跨域访问 资源
网络播报平台带宽建议 每路下载视频 5MB 带宽
网络交互平台域名每个 流服务IP 对应配置一个域名;此域名内网可解析;可以用二级域名,不可做路径转发
网络交互平台SSL 证书每个域名对应一套证书,或者一组二级域名对应一套证书
网络交互平台白名单 端口开放 443 端口,转发路由支持 websocket
网络交互平台白名单 端口开放 udp 端口组 20000 - 20100,转发路由支持 websocket ;端口数量与 此ip 负载的最大路数有关;端口数 = 路数 * 10
网络交互平台带宽每路视频播放 至少5MB 带宽
网络训练平台同 播报平台可与播报平台 集成部署
网络---内网端口白名单此类端口,需要内网可互联互通
网络v19000minIO
网络v19001minIO
网络v127017mongoDB
网络v127018mongoDB
网络v13306MySQL
网络v16379redis
网络v15672rabbitMQ
网络v18848nacos
网络v150051grpc
网络v18081operator-api
网络v18082operator-front
网络v180website / gateway
网络v1443website / gateway
网络v18084website-api
网络v18098h5-front
网络v18085website-front
网络v18086tts-api
网络v18087model-manager-api
网络v18088resource-center-api
网络v18089channel-front
网络v18090channel-api
网络v18091autotrain-api
网络v18092autotrain-front
网络v116531asr-autho
网络v18001asr-decoder
网络v18889asr-api
网络v138889asr-api
网络v19002asr-api
网络v139002asr-api
网络v18093mlop-agent-sr
网络v18094mlop-agent-fs
网络v18095mlop-agent-train
网络v18096mlop-agent-tts
网络v18097model-manager-agent
----v2
网络 tcp 端口v23305非必须,数据库工具平台 adminer
网络 tcp 端口v28848注册中心 nacos
网络 tcp 端口v29848非必须,注册中心 nacos
网络 tcp 端口v280总网关 http openresty
网络 tcp 端口v2443总网关 https openresty
网络 tcp 端口v25672消息队列 rabbitmq
网络 tcp 端口v215672非必须,消息队列 rabbitmq
网络 tcp 端口v225672非必须,消息队列 rabbitmq
网络 tcp 端口v24369非必须,消息队列 rabbitmq
网络 tcp 端口v26379数据缓存 redis
网络 tcp 端口v26380非必须,数据缓存 redis
网络 tcp 端口v26381非必须,数据缓存 redis
网络 tcp 端口v29000文件存储 minIO
网络 tcp 端口v29001非必须,文件存储 minIO
网络 tcp 端口v23306数据库 MySQL
网络 tcp 端口v25432数据库 postgres
网络 tcp 端口v22379注册中心 etcd
网络 tcp 端口v22380非必须,注册中心 etcd
网络 tcp 端口v24001非必须,注册中心 etcd
网络 tcp 端口v227017数据库 mongo
网络 tcp 端口v227016非必须,数据库工具 mongo express
网络 tcp 端口v29200数据仓库 elasticsearch
网络 tcp 端口v29300非必须,数据仓库 elasticsearch
网络 tcp 端口v25601非必须,数据仓库工具 kibana
网络 tcp 端口v219530向量数据库 milvus
网络 tcp 端口v29090非必须,向量数据库 milvus
网络 tcp 端口v29091非必须,向量数据库 milvus
---v2------
网络 tcp 端口v216531音频平台 asr-autho
网络 tcp 端口v28889音频平台 asr-api
网络 tcp 端口v238889音频平台 asr-api
网络 tcp 端口v29002音频平台 asr-api
网络 tcp 端口v239002音频平台 asr-api
网络 tcp 端口v28001音频平台 asr-decoder
网络 tcp 端口v28392训练平台 autotrain-front
网络 tcp 端口v28393训练平台 autotrain-api
网络 tcp 端口v28394训练平台 mlop-agent-fs-background
网络 tcp 端口v28395训练平台 mlop-agent-sr-background
网络 tcp 端口v28396训练平台 mlop-agent-train-background
网络 tcp 端口v28397训练平台 mlop-agent-tts-background
网络 tcp 端口v28080员工平台 website-front
网络 tcp 端口v28081员工平台 h5-front
网络 tcp 端口v28082员工平台 website-api
网络 tcp 端口v28083员工平台 video-api
网络 tcp 端口v28084员工平台 avatar-editor
网络 tcp 端口v28085员工平台 channel-platform-front
网络 tcp 端口v28086员工平台 channel-platform-api
网络 tcp 端口v28087员工平台 model-api
网络 tcp 端口v28088员工平台 model-agent
网络 tcp 端口v28089员工平台 operator-front
网络 tcp 端口v28090员工平台 operator-api
网络 tcp 端口v28091员工平台 resource-center-api
网络 tcp 端口v28092员工平台 tts-api
网络 tcp 端口v250051员工平台 tts-core
网络 tcp 端口v28580交互平台 rtc-front
网络 tcp 端口v28581交互平台 rtc-api
网络 tcp 端口v28586-8687交互平台 rtc-gateway
网络 UDP 端口v220000-21000交互平台 rtc-gateway
网络 tcp 端口v210080大脑平台 openapi-api
网络 tcp 端口v210081大脑平台 cot-service-api
网络 tcp 端口v210082大脑平台 knowledge-service-api
网络 tcp 端口v210083大脑平台 moderation-service-api
网络 tcp 端口v210084大脑平台 chatservice-api
网络 tcp 端口v210085大脑平台 portalservice-api
网络 tcp 端口v210086大脑平台 workflow-service-api
网络 tcp 端口v210087大脑平台 doc-parse-server
网络 tcp 端口v28000大脑平台 triton-server
网络 tcp 端口v210088大脑平台 nlp-front
网络 tcp 端口v28000大脑平台 vllm-service

三、确定模型#

1.
形象模型 确定方法:SaaS 运营平台
2.
音色模型 确定方法:SaaS 运营平台

四、入场前流程#

1.
产品经理确定:
人物形象 - 声音音色 对应关系、启用关系
交付的服务列表 ,及每个服务的 并发路数
2.
训练-运营平台 提供:
人物形象模型包下载链接
人物模型参数 细节 (需详细)
声音音色包下载链接
音色配置参数
3.
KA 组 提供:
私有化服务列表: 收集
私有化服务配置: 收集、变量占位符
数据库初始化脚本: 收集
RabbitMQ 初始化事项: 收集
其他资源初始化: 收集
4.
聚合整理:
初次安装包 - 使用 oss://custom-devops 存储空间
初次安装手册
公司内测环境
内测域名
升级包 - 存储空间 同
升级步骤手册
5.
项目经理 和 客户确定 环境准备完成
6.
项目经理 和 客户协商 包下载传递等流程
如果客户有外网环境,可提前下载好安装包

五、场内流程#

1.
确认资源
2.
展开安装包
3.
测试网络联通性
4.
确认中间件内容
5.
业务测试
修改于 2025-04-15 08:56:56
上一页
私有化 步骤一 -- 前期接洽沟通
下一页
私有化 步骤三 -- 售后升级响应
Built with