播出文件整备系统架构和维护

(整期优先)网络出版时间:2023-04-19
/ 4

播出文件整备系统架构和维护

陈开鹏

重庆广播电视集团 (总台)

摘要为充分利用现代电视网络制播技术和全台制作网红利,集团在建设全高清播控系统时着重考虑全网系统的业务交互,实现高清制式的素材采集、节目制作、资料存储、播出分发离不开安全高效的文件整备系统。本文详细介绍了集团整备系统架构及运行维护供大家参考。

关键字】文件整备,存储,传输带宽,迁移,维护

0 背景

集团全高清播总控系统建于广电大厦,而媒资、制作、送播网络位于一江之隔的旧址(彩电中心),两地直线距离12公里。这为建设安全高效的整备系统带来挑战。节目整备是播出业务的重要环节,它直接关系到节目后续是否可以安全播出,是否能达到最优化的生产方式、最有效的资源整合、最精细的流程管理,从而实现安全高效互联互通、信息资源共享。

1  整备系统架构

整备系统作为制作与播出间的桥梁,根据节目单播出时间的先后顺序将待播出节目文件整备进入播出系统,不仅具有整备管理,同步迁移功能,还负责对迁移至播出系统的素材进行技术审核和文件化自动备播工作,有力的保障了播出安全。鉴于媒体数据量较大,将IO量大的服务器及数据库服务器直连到核心交换机,避免多层转换提高迁移效率;为确保系统业务不间断,交换机全部配置成双套,并且采用冗余AC电源。整备系统与关联系统网络架构如图1所示:

图 1

1.1.存储

按业务不同分为播出二级存储区、播出视频服务器存储区和广告存储区。

播出二级存储区域:负责存储18个频道15天(-7 ~ +7)高清待播素材,采用主备冗余配置,主备存储体素材镜像,存储体带宽满足外系统送播、文件自动技审、同步素材至播出视频服务器的需求。

播出视频服务器存储区域:负责存储18个频道3天(-1 ~ +1)高清待播素材,满足18个频道高清素材高效迁移带宽需求。

广告存储区域:存储负责存储18个频道两年的高清待播素材,隔年删除。与二级存储共享硬件。

1.1.1 存储容量计算参数

在计算中需要首先明确一些基本的技术参数:

高清视频文件,视频格式为MPEG-2,抽样格式为4:2:2,IBP GOP=12;音频格式为PCM,取样频率为48kHz,量化级别为20bit,声道数量为8。

视频文件码率取最大值50Mbps,音频码率为8.8Mbps;所以视音频文件码率应为 50 + 8.8= 58.8Mbps。

1.1.2 广告系统存储

广告文件按每条30s 计算,存储3个月,共10000条,存储量约10000 × 30s × 58.8Mbps × 1 /(8bpB × 1024 × 1024)= 2.07TB ≈2TB。

1.1.3 二级缓存存储

二级存储系统分为主备两个物理存储体,为了防止单存储体故障,主备存储体采用相同配置。按18个高清频道存储15天的节目量计算,存储容量如下:

高清素材存储时间=(10小时*14天+24)=164小时;

存储容量 = 视音频码率×高清总时间×3600秒/8bit/1024M

         =(50+8.8)Mbps×164小时×18个频道×3600秒/8bit/1024/1024≈74.5TB;

考虑到80%的存储安全水位线,则存储体有效容量为:74.5TB /0.8≈94TB;

总存储容量=94TB+广告存储容量2TB=96TB。

1.1.4 视频服务器存储

单机存储10个频道3天的播出节目文件,按每天新增240h的节目量考虑,3天的节目实际按300h+240h存储容量计算。

采用单机视频服务器,每台单机最多播出4个频道,因此按照每台单机存储4个频道3天的播出节目文件,每个频道每天新增10h的节目考虑,3天的节目实际按照24h+10h×2存储容量计算:

(24h+10h×2)× 3600s/h × 58Mbps × 4 /(8b/B ×1024 ×1024)=4.4TB;

考虑20%冗余为5.5TB,这就是每台单机播出服务器建议有效存储容量。

1.2.传输带宽

每个部分的带宽分别计算如下:

1. 送播系统到二级存储带宽=58.8Mbps÷8×18频道×4倍速=530MBps;

2. MD5校验带宽=58.8Mbps÷8×18频道×6倍速=793.2MBps;

3. 广告及节目上载到二级存储带宽=58.8Mbps÷8×6个任务×3倍速=133MBps;

4. 新闻中心到二级存储带宽=58.8Mbps÷8×2个任务×3倍速=44MBps;

5. 二级存储镜像带宽=58.8Mbps÷8×18频道×3倍速=397MBps;

6. 自动技审带宽=58.8Mbps÷8×18频道×3倍速=397MBps;

7. 人工复检带宽=58.8Mbps÷8×2个站点×3倍速=44MBps;

8. 二级存储到视频服务器带宽=58.8Mbps÷8×18频道×3倍速×2台(主备VS)=794MBps;

9. 二级存储到第三备份视频服务器=58.8Mbps÷8×3频道×3倍速=66MBps;

10. 视频服务器上载到二级存储=58.8Mbps÷8×4个任务×3倍速=88MBps。

二级存储读写带宽总结如下:

表1

分类

写入带宽MBps

读取带宽MBps

送播系统到二级存储

530

MD5校验

793

现址广告及节目上载到二级存储

133

新闻中心到二级存储

44

二级存储镜像

397

文件自动技审

397

人工复检审片

44

二级存储系统到视频服务器

794

二级存储到第三备份视频服务器

66

视频服务器上载到二级存储

88

写合计:

795

读合计:

2424

合计带宽:

3285

在每频道都有一条任务在执行的极限情况下,整备系统所需的存储有效读写带宽理论值为3285MBps,建议实际的存储带宽不小于2000MBps。

视频服务器分为5个系统组,每个系统组配置主备两套视频服务器,每组负责3个频道的播出。采用单机视频服务器,最多的视频服务器需要播出4个高清频道的素材,假设每个频道有1条迁移任务,单条迁移任务3倍速,则单机视频服务器的带宽=58.8Mbps÷8×3频道×3倍速=66MBps。

1.3.软件功能

播出整备系统的软件按功能分成八个部分,主要负责播出节目文件的整备以及节目生命周期管理,其具体功能说明如下:

  1. 上载软件:主要负责自办节目及广告的上载、人工审核等;
  2. 备播软件:根据节目单以及设定的策略将节目文件从外部系统整备到播出二级存储及播出视频服务器,并对整个节目整备过程提供统一的监管调度;
  3. 策略服务:作为备播软件的功能补充,根据设定的策略生成自动迁移或删除过期文件的任务;
  4. 同步迁移:负责在播出系统内实际执行节目文件迁移、删除等任务;
  5. 自动技审:负责系统二级存储区节目文件自动技审;
  6. 人工复检:对未通过自动技审的节目文件进行人工审看;
  7. 导播审看:根据播出节目单,自动对视频服务器上的节目文件进行头尾播放操作,以确保视频服务器中存储的节目完整可用,具有快放和紧急节目单修改审核功能;
  8. 提前播:部署于重点频道,按照设定对整张节目单进行提前播出,以确认节目单的整体播放效果,预先发现问题。

1.4.迁移服务器设计

带宽计算章节计算出了每个环节的迁移带宽,为了满足每部分的带宽需求,需要配备相应数量的迁移服务器。各环节的迁移集群功能如下:

表 2

                  2播出整备流程

整备业务流程分为两个大阶段。第一个阶段将节目文件整备进入播出的二级存储,称为二级整备;第二个阶段将节目文件整备到播出视频服务器待播,称为三级整备。

播出系统整体存储区分布以及节目文件整备数据流向示意,如图2所示:

图 2

如图所示,高清文件来源主要有三种,即台内文件、台外文件和存储介质,对应的备播流程有文件化送播、文件化导入和介质上载三种。

2.1文件化送播

台内文件由GMP(核心整备软件)软件执行,分为节目单和预播时间两种方式。设计后者的原因,是为了将计划播出时间范围内但还未编入节目单的节目提早整备进入播出系统。

节目单整备是GMP软件加载播出系统接收到的15天范围内总编室节目单,过滤出节目单中需要整备的节目,发起主动二级整备。

预播时间整备是指送播系统将节目文件准备就绪后,调用播出提供的接口,向 GMP软件发起节目入库请求,GMP依据请求中携带的预计播出时间属性,对15天内预计播出的节目发起二级整备。此方式整备进播出系统的节目,GMP会将预播时间保存到节目属性中,后续策略服务进行素材生命周期管理时,会依据节目单和预播时间两个属性判断节目文件是否需要删除。

2.1.1送播流程

两种方式整备流程基本一致,详细步骤如下:

  1. GMP依据待整备节目的节目代码,通过送播系统提供的备播查询接口,查询节目文件是否可用以及获取节目的详细信息;
  2. 送播系统接到查询请求后,如果对应节目不能用,返回节目不能用状态;可用则返回节目可用状态,同时返回完整的节目信息;
  3. 如果送播系统反馈节目状态可用,则:

1)GMP软件从反馈信息中获取节目的详细信息,包括:节目存储路径,节目物理文件名、节目MD5值,实际时长,入出点,插播点等;

2)GMP依据获取的存储路径和物理文件名信息提交迁移任务,之后由同步迁移软件将节目文件从送播系统迁移到播出二级存储;

3)迁移完成后同步迁移软件会立即对文件进行MD5校验以保证节目文件没有发生损坏,如果MD5校验成功,则GMP标识二级整备任务完成,否则GMP软件会标识二级整备任务失败。对失败的任务值班员发现后需要手工重试,如果重试依然无法成功,则需要联系送播系统排查原因;

4)二级整备任务完成后(不管是成功还是失败),GMP软件会调用送播系统提供的备播状态反馈接口,将备播结果反馈给送播系统;

5)二级整备任务成功后,GMP软件会将获取到的节目详细信息更新到播出数据库中,并标识节目已经进入播出系统,同时会对比送播系统提供的详细节目信息和播出数据库中原有的节目信息,如果节目信息发生了变更,GMP会发送节目信息变更提醒。

  1. 如果送播系统反馈节目文件不可用,则:

1)GMP会定时轮询送播系统,如果对应节目文件进入了送播系统,GMP可以立即触发节目的整备,整备流程同步骤3中描述的环节;

2)达到整备关门时间,节目文件仍然没有进入送播系统,GMP软件会进行关门时间报警,值班员需要联系相关部门,确认节目备播和播出方式;

3)到关门时间后仍让用户提交素材,值班长可在备播监控上查看备播状态,以便应急处理。

  1. GMP在进行二级整备时,会根据二级存储的容量采用负载均衡,将二级整备的目标存储区动态分配到主备两个存储区,之后再由策略服务在空闲时段完成镜像存储。
  2. 节目文件进入播出二级存储后,节目的二级整备流程结束。

播出从送播系统整备的数据交互流程如下图所示:

2.2文件化导入

台外文件通过安全摆渡+文件导入的方式将节目文件整备进入到播出系统中。

  1. 台外制作系统通过办公网将要导入播出系统的节目文件拷贝到安全摆渡区域的外部存储区中;
  2. 安全摆渡网关会自动将相关节目文件摆渡到安全摆渡区域的内部存储区中;
  3. 播出目录监视软件监视安全摆渡区域的内部存储区,发现新的节目文件后可以及时导入到播出系统内。而节目元数据信息,比如入出点、插播点等,则需制作系统以XML元数据描述文件的形式随同节目文件同时传递。

2.3介质上载

由于时间原因,节目制作完成后来不及走正常的文件送播流程,可通过介质形式将节目文件提交到播出系统。

具体上载流程如下:

  1. 如果待上载节目已经编入总编室节目单,上载人员在上载工作站打开总编室节目单选择对应节目,系统自动生成携带有节目信息的上载任务;
  2. 如果待上载节目属于临时添加节目,上载人员可以在上载工作站手动添加上载任务后进行上载;
  3. 上载完成后,需要在上载工作站节目审核界面进行人工审核操作,以确认上载节目内容的正确性;
  4. 人工审核通过后,软件会自动提交迁移任务,将节目文件从上载存储迁移到二级存储区中。紧急情况下,手工选择将节目文件从上载存储区直接迁移到播出视频服务器,不再经过二级存储;
  5. 如上载完成后节目信息和播出库中空节目信息发生变更,上载软件会发送节目信息变更消息,提示播出值班员进行对应节目信息的刷新操作。

                    3系统维护

3.1系统优化

建设初期,播出频道和节目量较少,设计对外迁移服务器6台;同步迁移服务器6台;自动技审6台。在实际运行过程中,我们发现有不足之处,进行了一定优化补充。现存GMP2台,迁移12台,技审6台,导播审看2台,人工复检2台,控制台1台,策略服务器1台。

为了减轻GMP压力,工作模式由一主一备改为负载均衡,各自承担一半频道的节目单管理任务。每两周重启软件,每半年重启服务器。每次定位故障源是GMP的话,都会联系厂家升级版本,修复BUG,测试后再上线。

为进一步降低GMP压力和提升整备及时性,在策略服务器中,对一些重要服务器及业务,设置了优先策略。每两周重启软件,每半年重启服务器。

迁移12台,其中6台对外迁移和6台对内迁移,优化为3台对外,9台对内,每台迁移设置最大并行任务3条,二级存储体的最大并行任务设置为20条,播出服务器最大并行任务设置为4条。每两周重启软件,每半年重启服务器。

技审6台的读取均设置到备二级存储,有效降低主二级存储的分发压力,同时保障技审任务的及时性。每两周重启软件,每半年重启服务器。

 


3.2维护案例

3.2.1故障排查案例

GMP在执行删除播出服务器里的素材后,有概率残留迁移任务记录,导致素材重播时会出现误判为迁移任务已完成无法再次迁移的问题。修复方法一是修改GMP软件,在手动添加迁移任务时,会提前删除迁移任务记录;另一方法是提高数据库归档频率至1天,而播服素材的保存周期为3天,保证下次重播时上次的任务记录已归档。

媒资故障导致的GMP任务等待,包括素材进入待删区,名称包含异形符号和交互数据丢失等等,在本系统全面排查无果后,确认是媒资系统异常。

3.2.2运行保障案例

在多次迁移延迟问题,定位到GMP软件假死后,分析历史数据,规定了GMP软件定期重启频率,每周一。

GMP的迁移逻辑是按照发单时间和单子内的条目先后进行整备,不能根据节目的整备剩余时间来智能调整整备顺序,导致节目整备的及时性受到考验,运维人员需要为紧急素材手动修改优先级,保证备播。

3.2.3性能优化案例

GMP加载节目单频率优化过程,兼顾了整备及时性和整备压力。综合分析了各频道编单人员的编单习惯和整备效率后,将GMP的节目单轮询时间确定为1小时,由此将从发单到迁移再到备播完成的最大时长控制在一个半小时内,在《送播条例》规定的关门时间之内。

结束语:全流程文件化播出整备系统是硬盘播出系统中的重要环节。目前各大电视台播出系统正在向着超高清,IP化发展。各大电视台由于各自组织构架不同,设计了不同的系统方案。我台的系统方案和运行流程已经过5年的平稳运行,安全性和效率性都得到了可靠的验证。

参考文献:

【1】何瑾,杨磊。中央电视台节目制播流程优化方案及实践【J】现代电视技术 2017(4):90-95

【2】翟萌。面向全媒体内容整备的监控系统设计和实践【J】现代电视技术 2018(1):125-127