小冰-私有化
  1. 部署须知
小冰-私有化
  • 交付流程须知
  • 接口调用须知
  • 性能测试报告
  • 部署须知
    • 信创可用环境 - 整合
    • 私有化 步骤一 -- 前期接洽沟通
    • 私有化 步骤二 -- 业务定版封包
    • 私有化 步骤三 -- 售后升级响应
  • 基础服务
    • 概述
    • 常见问题
    • 技术文档
    • 数据准备
      • 模型迁移
      • 范例视频迁移
      • 分配租户形象和声音
      • 租户创建(开箱操作)
  • TTS
    • 概述
    • 技术文档
    • 常见问题
    • 接口返回码枚举
    • 接口
      • 查询声音列表
      • 实时流式音频接口(300字以内)
      • 实时同步音频接口(3000字以内)
      • 异步音频接口(10万字以内)
      • 查询异步tts结果
      • 查询tts权益
  • 视频生成
    • 概述
    • 技术文档
    • 常见问题
    • 接口
      • 接口使用须知
      • 视频创建接口
        • 获取数字员工列表
        • 获取数字员工详情
        • 批量获取数字员工详情
        • 创建透明虚拟人视频
        • 创建编辑器视频
        • 获取任务结果
        • 获取播报相关权益,
        • 查询声音列表
      • 声音形象定制
        • 获取训练的权益
        • 提交视频训练任务
        • 获取视频训练任务结果
        • 确认预览结果
        • 提交音频训练任务
        • 获取音频训练任务结果
  • 交互
    • 概述
    • 技术文档
    • 交互SDK
    • 常见问题
    • 接口
      • 生成签名Signature
      • 获取所有虚拟人信息
      • 获取虚拟人资源(带状态)
      • 获取虚拟人可用的声音信息
      • 创建
    • 其他
      • Demo页面验证流程
  • ASR
    • 概述
    • 部署架构图
    • 常见问题
    • 接口
  • 训练平台
    • 概述
    • 技术文档
    • 常见问题
  • 大脑
    • 概述
    • 技术文档
    • 常见问题
    • 接口鉴权
    • 示例代码
    • 对话URL获取
    • 接口
      • 流式对话接口(SSE)
  • ws交互接口
  1. 部署须知

私有化 步骤一 -- 前期接洽沟通

原文地址: ---

私有化 - 标准1#


[[toc]]

小冰 大多数服务 期望环境#

nametypedescdetail
cpuhardwarex86_64基础 2.7+GHz;睿频 3.5+ GHz
cpuhardwareavx2lscpu 中支持 此 flag
cpuhardwareavx2信创 avx2 模拟支持版本 性能折半;需要的 CPU 核数 * 2
diskhardwareSSDESSD 性能 8000+ IOPS
osos~ubuntu20.04 / CentOS 7.9
nvidiahardwareT4 / A10 / V100
nvidia driverdriver~510.47.03
nvidia cudasoftware~12.1+
dockersoftware~docker 24.0.7 / compose v2.21.0
kuburnetescluster~1.24+
rsyncsoftware*断点续传同步文件工具
nasremote disk~nfs v3 通信协议吞吐 100MB/s;
延迟 10ms;
IOPS 15000+
ssl 证书业务网络资源申请因为浏览器,手机app 等隐私权限问题 ,需要网站、app 启用 https 安全网络链接访问,所以需要 提供域名对应的证书。
域名业务网络资源申请因为浏览器,手机app 等隐私权限问题 ,需要网站、app 启用 https 安全网络链接访问,所以需要 提供域名。
如有多网多路由访问,不同子网内,访问域名需要解析到正确的路由网关IP。
音色模型 - 合成disk1.2G 每个模型
标准形象模型 - 合成disk500MB 每个模型v3 版本算法
小样本形象模型 - 合成disk1.2G 每个模型
算法镜像镜像仓库最大镜像 >30G;最大每层 > 10G

服务资源 期望#

nametypedescdetail
中间件套装CPU4 core 每节点一般是 单节点 或者 3节点组集群
中间件套装内存8G 每节点
中间件套装serviceslistredis ; mysql ; po
大数据中间件套装
前后端等服务CPU4 core 每节点一版是 单节点 或按高可用要求做冗余备份
前后端等服务内存4 G 每节点
ASRCPU2core 每路总量留 15% 额外空间
ASR内存20G+ 每模型总量留 15% 额外空间
TTSCPU2core 每路总量留 15% 额外空间
TTS内存2G 每路总量留 15% 额外空间
TTS磁盘1G 每音色--
RTC - 交互CPU4core 每路总量留 15% 额外空间
RTC - 交互内存4G 每路总量留 15% 额外空间
RTC - 交互磁盘10~20G 每模型--
播报GPU7G 显存 每路--
播报CPU24core 每路--
播报内存48G 每路--
播报磁盘v3: 70~90G ; v4: 5G 每模型--

小冰 大多数服务 开发信息#

nametypedescdetail
前端研发开发框架 or 语音react-js
前端运行时nginx
后端研发开发框架 or 语音spring-java
后端运行时java -jar
算法研发开发框架 or 语音c++; pytorch-python
算法运行时bin ; python3

客户现场规则#

规则说明
入场条件证件 / 注册流程
客户方 联系人
客户方 入场地址
允许带入 电脑 移动硬盘 等是 / 否
允许现场 拍照是 / 否
数据传入条件公网直连 / 堡垒机 / 内部特殊流程
数据库操作权限是 / 否
中间件 插件 升级权限是 / 否
宿主机 操作系统 升级权限是 / 否
宿主机 显卡驱动 变更权限是 / 否
宿主机 安装软件 方式 权限数据包源 / 本地安装包
1.
操作用户
2.
信息收集 -- 主机内部
3.
信息收集 - 主机外部
nametypedescdetail
redis中间件version: 5.0.8 / 6.0.20
password:
ip:
port:
CPU: 4C
memory: 4G
disk: 4G
千兆网
* 单机模式
- 数量 : 1
- 集群模式: nodes
- 代理配置
- 国产化版本
- 用途:缓存数据存储,分布式锁等
mysql中间件version: 8.0
username:
password:
databases:
ip:
port:
root_username:
root_password:
CPU: 4C
memory: 8G
disk: 4G
千兆网
* 单机模式
- 集群模式: nodes
- 数量:1
- 代理配置
- 国产化版本
- 用途:业务数据存储,账户信息、视频任务信息、模型信息等
mongoDB中间件version:
username:
password:
ip:
port:
CPU: 4C
memory: 8G
disk: 4G
千兆网
* 集群模式: nodes
- 单机模式
- 数量:1
- 代理配置
- 用途:对话数据信息,FAQ、文档知识库等
文件存储中间件version:
username:
password:
ip:
port:
path:
CPU: 4C
memory: 8G
disk: 2T
千兆网
- 数量:1
- AWS(S3)
- minio RELEASE.2024-04-06T05-26-02Z
- COS(Tencent)
- OSS(Aliyun)
- ECS(金山)
- 国产化版本
* http 类型接口建议开启 ssl ,启用 https 传输协议
- 用途:文件存储,音频文件、视频文件、图片文件等
RabbitMQ中间件version: 3.8.16
username:
password:
ip:
port:
vhost:
CPU: 4C
memory: 4G
disk: 4G
千兆网
* 数量:1
vhost 内 全权限
- 部分权限(权限列表)
- 用途:消息存储,用作任务驱动,视频推理任务、视频剪辑任务等
Elasticsearch中间件version:
username:
password:
ip:
port:
CPU: 8C
memory: 16G
disk: 1T
千兆网
* 集群模式: nodes
- 单机模式
- 权限列表
- 用途:文本搜索,faq等
docker基础组件version:* nvidia 插件
* compose 插件
- 容器网段
- 镜像仓库
VIP虚拟IPip组:
os操作系统* ubuntu 20.04
- CentOS 7.9
- Redhat
- 国产化
内网带宽网络内部网关 NAT 等映射关系
外网网络可访问域名
显卡硬件Series:
driver:
cuda:
* A10 / V100 / T4
磁盘系统盘:
数据盘
权限--username:
password:
ssh 等操作通道*
4.
信息收集 - 网络拓扑图
用于特殊客户内网环境 ,例如客户内网限制特别严格
nametypedescdetail
xxxgatewayDNAT / SNATrules xxx
xxx公网 ipinboundwhite / black list
xxx公网 ipoutboundwhite / black list
xxx内网 ipinboundwhite / black list
xxx内网 ipoutboundwhite / black list
xxxrouteswitch 发现rules xxx
xxxservicesDNSAUTO / 定制
xxxservicesTimerxxx
xxxservicesACR内部仓库
xxxservicessources内部源

小冰公司资质#

网络类#

SaaS 网站备案#

https://beian.miit.gov.cn/#/Integrated/recordQuery
WXWorkCapture_17339715875363.png#431px #208px
1.
阿里云 隐私法规: https://help.aliyun.com/document_detail/2705226.html
2.
Azure 中国区法规: https://www.21vbluecloud.com/ostpt/
3.
Azure 国际群法规: https://azure.microsoft.com/zh-cn/support/legal/

IP 白名单类#

小冰公司
北京办公区:
电信地址段1:1.202.26.224/29
电信地址段2:124.126.224.208/29
联通200M地址段:123.114.54.0/28
南凌国际出口:
香港:103.220.8.209,103.220.8.210
美国:136.144.61.105
苏州办公区:
**苏州联通:58.240.231.74 ** 58.240.231.72/29
苏州电信:58.211.135.10
office_2024: 1.202.26.224/29,124.126.224.208/29,123.114.54.0/28,103.220.8.209,103.220.8.210,136.144.61.105,58.240.231.72/29,58.211.135.10/32
提供给客户 我们 北京 集群的 出口,客户内网环境 入栈来源的 IP 信息
platform cluster 出口 eip: 123.56.113.250,182.92.181.33,123.56.45.75,123.57.28.41,47.93.220.108,47.94.148.214,60.205.186.151,47.95.118.122

小冰内部 定版封包#

nametypedescdetail
服务定版版本号 配置文件配置中的 全部变量需 现场可变
模型定版下载地址 配置方式现场更新脚本
网关配置前端资源 等 上传下载 配置静态资源等 url 路径需可配置,应对 场内 分级、分区管理等细则
代码行为排期文档确定明确需求,必要时文档留存;规划日程安排,确定关键时间点;设计测试用例,确定验收标准
修改于 2025-04-21 03:23:39
上一页
信创可用环境 - 整合
下一页
私有化 步骤二 -- 业务定版封包
Built with