|
江西气象科技 |
多普勒雷达资料存储方案的探讨
马中元1,朱春巧2
(1.江西省气象科学研究所,江西 南昌 330046;2.江西省气象技术装备中心,江西 南昌 330046)
摘 要:列举了3种存储方式,并结合多普勒雷达资料的特点对其作了一些论述,指出数据压缩是关键,数据存储要用动态眼光去考虑选择合适的存储设备。
关键词: 多普勒雷达 数据压缩 数据存储
20世纪60年代中期,我国气象部门开始装备常规模拟式的天气雷达(如711和713型)。80年代中期,南京气象学院、北京、上海等大城市陆续引进了多普勒雷达,使我国在多普勒雷达技术研究方面取得了长足发展。目前,我省正在着手建立以南昌为中心的吉安、赣州3部多普勒雷达组网的现代数字化天气雷达网工程。该项工程完成后,将在我省强对流天气的监测和预报、大气物理结构的研究等方面发挥积极的作用。
由于多普勒雷达资料数据十分庞大,时间间隔密(每6 min更新1次,每次约10 MB左右,每天约2.4
GB),寻找一种较好的压缩和存贮方式来保存这些历史资料很有必要。
1 存储方式的比较
1.1 3.5"磁光盘驱动器MO
市场上3.5"磁光盘驱动器MO型号繁多,有640 MB、1.3 GB、2.3 GB等容量供选择,一些厂家还生产出了更大容量的MO盘片(如5 GB)。MO支持USB、SCSI等多种接口。以2.3
GB为例,其内部传输速率高达8
MB/s,适合做数据备份和资料存取等,应用较广泛。但MO成本较高,作为长期保存多普勒雷达资料实难可行。另外,这种方式通用性较差,用户必须配备相同规格的MO驱动器才能使用。
1.2 磁盘阵列系统(箱)
在所有存储介质中,硬盘扮演的角色一直无可替代。随着操作系统和应用软件容量的增大,宽带网、DC数码像机和DV数码摄像机的普及,对数据存储的容量和速度都提出了更高的要求。因此,120
GB、160 GB、200 GB等大容量硬盘应运而生。如西部数据公司的新产品WD1200-JB(120 GB),由于采用了8 MB缓存(普通为2
MB),其性能在7 200 rpm(普通为5 400 rpm)产品系列中位居第一,但其价格也较高。
磁盘阵列系统(箱)非常适合于数据频繁读取和数据量大的场合,一般由8个以上大容量硬盘组成,比较适用保存1 a的雷达基数据,便于日常预报分析使用和科研活动等。
1.3 DVD-ROM
目前DVD-ROM已成为PC机的标配,它们存储及读写数据都依赖于那束红色激光(635~650 nm)。市面上能买到的DVD存储容量为4.7
GB。随着科技的高速发展,下一代DVD标准[1]——Blur-ray Disc(蓝线光盘)技术规范已在紧锣密鼓地酝酿之中。
Philips公司在2001年CEATEC展示会上展示出采用Blu-ray Disc技术的下一代DVD盘片,这款产品被命名为BlueDVD。它的外观与现在的普通光盘没有本质的区别,直径依然是12
cm,但容量却有极大的提升:单面单层存储容量达到27 GB,单面双层容量达50 GB,而双面双层则高达100 GB。如此高的容量是未来方案的首选。
2 多普勒雷达资料的预处理
目前,我省多普勒雷达资料的存储是采用MO、硬盘和CD光刻3种方式。前面已经介绍了MO的优缺点,成本高和通用性差限制了其使用范围。多普勒雷达上的硬盘空间只有40
GB,除保存系统外要保存原始基数据是不可能的,最多可保存几次重要过程的产品。现在采用CD光盘(0.65
GB)刻录原始基数据,如果刻录所有数据则每月需115片光盘。显然,我省多普勒雷达资料的存储是一个未解决的问题。
2.1 压缩处理
无论采用什么存储方式,多普勒雷达资料的压缩处理是一个关键。压缩处理要考虑到:
(1) 数据保真度,在追求高压缩比时还不能失真;
(2) 恢复解码要使用方便,要和回放软件接口。
统计结果表明,雷达基数据的压缩率为60%~90%(视雷达回波的覆盖面积而定),这可大大节省存储空间。由于目前雷达资料必须通过厂方提供的回放软件才能观看70多种产品,所以压缩保存雷达资料并不影响它使用,只不过要在回放前解压一下。虽然压缩是重点和关键,但可使用的压缩软件有许多,如winzip、arj、lha等。我们只是在实际操作中,根据交互式和命令行式(当需实现自动化时)的不同,来选择何种压缩软件而已。
2.2 存储流程
(1) 使用数据库。这个库使用磁盘阵列系统,配备8个160 GB的硬盘,容量为1 280 GB,能保存1 a时间的雷达基数据(约900
GB)。这些基数据按期限滚动操作,确保磁盘空间不溢出。同时,可直接供预报、科研人员使用。
(2) 压缩数据库。数据的存储必须考虑到数据备份,这里专门存放压缩后的雷达基数据,也是数据备份库。由于雷达数据的压缩率较大,平均每月数据量为17
GB左右,在磁盘阵列系统中可以保存2 a的雷达基数据(约400 GB),且可定期滚动操作。
磁盘阵列系统的总容量为1 280 GB,要达到保存1 a基数据约900 GB和 2 a压缩数据约400 GB,则最大预测量为1 300
GB的指标,超过了磁盘阵列系统的总容量。但考虑到雷达检修时间、全省无回波日等情况,实际数据量要小于上述最大预测量。因此,这种兼顾使用方便的方式是可行的。
3 历史资料的存储
上述列举的3种存储方式都各有优劣。一方面为满足预报需要可用硬盘存储数据;另一方面,为保证资料的安全性,又需定期保存历史数据。
3.1 DVD-ROM的存储
作为过渡性质而采用DVD-ROM方式存储多普勒雷达资料是可行的。3 400元的刻录机和60元的4.7
GB光盘是最为经济的。光盘的保存寿命一般都在60~100
a,且具有一定的抗震性,像书一样易于保存,是所有存储介质中安全性最高的。这种具有较高的性价比和良好的通用性的方式是我们存储历史雷达资料的首选。目前,按雷达基数据的压缩率为60%~90%计算,1片4.7
GB的DVD光盘,可以刻录5~20 d压缩数据。
由于刻录机价格低廉,无所谓淘汰,一方面我们可以配置2套刻录机互作备份,以确保历史资料刻录万无一失;另一方面随着DVD技术的发展,随时可以扩展,待蓝线光盘(Blu-ray
Disc)上市后,1张光盘容量可达100 GB。当然,DVD光盘方式也存在一些缺陷,它不像硬盘那样使用方便和调用快捷。
3.2 刻录规定
压缩数据库,一方面是使用数据库的备份,另一方面又是为DVD刻录作准备。每月从压缩数据库中刻录出历史数据需4.7 GB
DVD光盘2~5片。确认刻录无误后,注明时间段标记,一式2份,异地保存。刻录历史数据还可以有选择地刻录,如选择重要天气过程、有无回波等过程,这样还可以节省部分DVD盘片。
对于历史资料提取和回放,由于所使用的压缩软件都具有文件管理功能(每片光盘上自带解压软件),可全部文件或部分文件解压后直接使用,与使用原始数据不同的是增加了解压步骤。就目前的存储技术来看,还没有更好的介质替代DVD光盘。
4 结语
作为历史资料来存储多普勒雷达资料,首先要解决数据的压缩。在保证没有损失的前提下,应以最大压缩比为追求目标,同时还要考虑到预报使用方便等因素。存储介质要考虑到可靠性高、保存时间长和经济实用等因素,本文推荐使用DVD-ROM和Blu-ray
Disc设备。
在全国多普勒雷达网的建立之际,组织力量进行多普勒雷达资料的应用研究,包括数据破译、压缩方法、图像处理、产品发布、预报分析等方面将十分重要。
------------------------------
第一作者简介:马中元,男,工程师,主要从事计算机软件开发与短时天气预报工作。