洪水预报软件测评专项方案.doc

附件
洪水预报软件测评方案（试行）
一、总则
1、 测评目标
为促进水利科技推广管理工作，服务洪水预报系统建设，水利部科技推广中心、水利部防洪抗旱减灾工程技术研究中心、中国水利学会减灾专业委员会联合组织开展洪水预报软件测评工作。
2、 参评单位
中国已经取得洪水预报软件著作权单位单独或联名参与。报送洪水预报软件，必需为报送单位自主研发或联合研发，代理销售不含有报名资格。
3、 测评方法
测评含软件测试和教授评审两部分。
（1）软件测试。由含有中国合格评定国家认可委员会（CNAS）资质国家级软件检测机构对各参评产品进行软件测试。
（2）教授评审。参评单位对参评产品进行应用功效演示，由教授组现场评审。
4、 评分措施
软件测评结果以分值表示，100 分为满分，其中软件测试部分占70%，教授评审部分占30%。总分≥85分为“优良”产品； 85分＞总分≥60分为“合格”产品；总分≤60分为“需改善”产品。
二、软件测试纲领
1、 测试依据
Ø GB/T 25000.51- 《软件工程 软件产品质量要求和评价（SQuaRE）商业现货（COTS）软件产品质量要求和测试细则》；
Ø SL323-《实时雨水情数据库表结构及标识符标准》；
Ø GB/T 22482-《水文情报预报规范》。
2、 测试准备
（1）测试环境
软件测试地点设在检测机构，检测机构根据《软件工程软件产品质量要求和评价（SQuaRE）商业现货（COTS）软件产品质量要求和测试细则》中设备配置，统一准备测试环境，参评单位负责在统一测试环境上安置应用软件。
参评单位应在要求时间进行系统安置工作（时间最长为一个工作日），并签署相关测试委托书。
（2）测试文档
在系统测试开始前，参评单位向检测机构提供用户手册或操作手册等系统相关文档。
3、 软件功效测试
（1）系统建模
1）模型/方法库管理
Ø 多个产汇流、模型/方法，各模型/方法可任意组合
Ø 模型/方法构件封装，仅经过数据接口机制实现信息交换
Ø 各模型/方法对同一输入、输出要素含有相同格局数据接口定义
Ø 对模型/方法可进行添加、修改、删除、导入导出、运行等维护操作
2）预报方案构建
Ø 方案定义
Ø 流域圈画
Ø 确定方案模型雨量站控制权重
3）参数率定/检验
Ø 历史数据处理
Ø 参数优选
Ø 率定资料选择
Ø 预报方案维护
（2）作业预报
Ø 实时雨水情查询
Ø 数值降雨预报
Ø 实时洪水预报
Ø 实时洪水校正
Ø 预报误差统计
Ø 洪水预报精度评定
Ø 预报结果管理
4、 测试数听说明
Ø 为了表现公平标准，统一测试标准，由测评组织单位统一提供洪水预报基础数据。
5、 软件系统缺点严重程度等级
缺点严重程度等级设定以下：
S1级 ：发觉影响被测系统正确运行严重问题
——造成系统瓦解
——出现不可挽救数据丢失或损坏
——主业务步骤出现断点
——造成死机
——内存泄漏
S2级：发觉影响被测模块正确运行严重问题
——造成程序模块丢失或未实现
——软件错误造成数据丢失
——被测数据处理错误
——需求未实现
S3级：发觉影响被测功效正确实现问题
S4级：通常性错误或功效实现有不完善处
S5级：提议性问题
6、 预报精度等级
参见GB/T 22482-《水文情报预报规范》，以作业预报精度等级进行评价，即用预报误差和许可误差之比百分数作为分级指标，分级指标≤25.0为优异；25.0分级指标≤50.0为良好；50.0﹤分级指标≤100.0为合格；分级指标﹥100.0为不合格。
7、 测试结果判定标准
检测机构对测试过程中发觉问题进行分析汇总，向参评单位出具《系统测试问题确定单》，而且双方签字确定。
在系统测试中，检测机构依据已确定《系统测试问题确定单》，对每一项测试内容给出其检测结果。检测结果分为“经过”、“基础经过”、“不经过”和“功效缺失”。
（1） 经过
在测试过程中，针对某测试过程测试用例实施后，结果和预期基础一致，未发觉S5级以外缺点，该测试过程检测结果可判定为“经过”。
（2） 不经过
在测试过程中，针对某测试过程测试用例实施后，发生S1级或S2级缺点，该测试过程判定为“不经过”。
（3） 基础经过
在测试过程中，结果属上述“经过”、“不经过”以外情况，该测试过程判定为“基础经过”。
（4） 功效缺失
因系统原所以无法提供测试功效点，在测试结果中注明“功效缺失”。
8、 测试内容及评分标准
此次测试内容包含系统功效性、可靠性、易操作性和效率4个方面，和自选演示项目，其评分安排以下：
序号
测试内容
评分安排
1
功效性测试
60
2
精度评定
10
3
可靠性测试
15
4
效率测试
10
5
易操作性测试
5
合 计
100
自选演示项目
不计分，但可作为教授现场评审参考依据。

（1） 功效性
编号
测试内容
技术要求
1
系统建模
（30分）

模型/方法管理（4分）

灵活性（1分）
包含多个产汇流、模型/方法，各模型/方法可任意组合
独立性（1分）
模型/方法构件封装，仅经过数据接口机制实现信息交换
统一性（1分）
各模型/方法对同一输入、输出要素含有相同格局数据接口定义
扩充性（1分）
对模型/方法可进行添加、修改、删除、导入导出、运行等维护操作
预报方案构建（10分）
方案定义（4分）
确定预报站码、计算时段长、预见期、预热期、方案输出类型、预汇报警阈值、方案说明、水位流量关系曲线、库容曲线、方案输入个数和类型、上游依据站点、站点流量合成关系、预报方案结构框图等
流域圈画（2分）
流域边界自动/人工圈画
确定方案模型（2分）

添加、删除、变更模型/方法、模型参数、状态变量等
雨量站控制权重（2分）
利用泰森多边形或其它方法，计算区域内雨量站控制权重
参数率定（16分）
历史数据处理（5分）
对用于模型参数率定历史水文气象资料，包含洪水摘录资料、洪水日资料、降雨摘录资料和降雨日资料，进行等时段整编
参数率定/检验（5分）
录入、修改、存放参数，设定参数范围或参数值，设定率定/检验期，选择目标函数，设定统计阈值，参数经验及合理性分析等
参数优选（2分）
选择优化方法，自动/人工优选参数
率定资料选择（2分）
历史、实时数据任意时间内或场次洪水选择、检验、修改、展示
预报方案维护（2分）
检索、查询、更新、删除、导入导出预报方案等功效
2

作业预报（30分）

实时雨水情查询（10分）
雨情查询（5分）
各站降雨过程柱状图及数据表查询、降雨量小时(时段)数据、日数据、旬月数据；区域降雨过程柱状图及数据表查询、区域降雨等值线/面图绘制等
水情查询（5分）
各站实时水情数据过程线及数据表查询，包含小时数据、日数据、旬月数据、特征值等
实时预报（14分）
数值降雨预报（3分）
能对未来降雨进行数值预报或能接入数值降雨预报数据
实时洪水预报（5分）
预报方案手动/自动运行,能够以图形表格方法展示运行结果
实时洪水校正（3分）
对洪水过程、单点数据进行自动/人工校正　
预报误差统计（3分）
任意时间内或场次洪水洪峰流量/水位、洪峰出现时间、洪量（径流量）绝对误差、相对误差，确定性系数统计
结果管理（6分）
预报信息报表（2分）
自动生成预报信息报表
洪水预报精度评定（2分）
任意时间内或场次洪水预报过程合格率统计、确定性系数统计
预报结果优选（2分）
多模型/方法计算结果对比分析

（2）精度评定
序号
精度等级
得分范围
1
优异
9-10
2
良好
7-8
3
合格
5-6
4
不合格
0-4

(3)可靠性
编号
评测内容
技术要求
评分标准
1
成熟性（10分）
系统应能够不间断稳定运行。
A. 在测试过程中，系统运行情况良好，能够很好地完成所述功效，基础没有犯错（9～10）
B. 在测试过程中，系统运行情况基础正常，能够完成所述功效，发生通常性错误（5～8）
C. 在测试过程中，系统运行情况不正常，难以完成所述功效，发生严重性错误（1～4）
D. 在测试过程中，系统发生致命性错误，无法继续运行（0）
2
易恢复性
（5分）
软件系统应含有自动或手动恢复方法，方便在发生错误时能够快速地恢复正常运行。
A. 运行中犯错后不需人工干预即可恢复（5）
B. 运行中犯错后需人工干预才可恢复（4）
C. 运行中犯错后只能关闭重启应用系统才可恢复正常（2～3）
D. 运行中犯错后只能关闭计算机才可恢复正常（1）
备注：假如在成熟性测试中未出现错误，检测机构将模拟异常情况，比如强行断电等进行测试。

（4）效率
编号
评测内容
技术要求
评分标准
1
时间特征
（5分）
对软件系统各类人机交互操作、信息查询、图形操作等应实时响应。
A. 在测试过程中，响应时间在合理范围之内（5）
B. 在测试过程中，响应时间超出合理范围，不过可接收（1～4）
C. 在测试过程中，响应时间超出合理范围，不可接收（0）
2
资源特征
（5分）
对软件系统各类操作，服务器资源利用合理。
A. 在测试过程中，资源利用合理（5）
B. 在测试过程中，资源利用基础合理（1～4）
C. 在测试过程中，资源利用显著不合理，如有内存泄漏等现象（0）
测试说明
（一）测试点
1、GIS操作：放大操作到某个地域或流域。
2、模型计算耗时。

（5）易操作性
编号
评测内容
技术要求
评分标准
1
易操作性（5分）
应含有良好简体汉字操作界面、具体帮助信息，系统参数维护和管理经过操作界面完成。
A. 操作简单，轻易了解，完全符合软件信息表所述内容，很好地反应了其所在领域特征（4～5）
B. 比较轻易操作，需花费一定时间了解，基础符合软件信息表所述内容，基础地反应了其所在领域特征（2～3）
C. 操作复杂，难以了解，没有很好地反应了其所在领域特征（0～1）
三、教授评审纲领
1、 评审准备
参评单位自行准备软硬件及网络环境，和对应软件产品和测试数据。
2、 评审内容及技术要求
教授评审内容包含系统关键功效及自选演示项目标实用性、易用性、时效性、美观性、优异性等方面进行评价，评审内容和其要求以下：
编号
演示/测评内容
1
总体结构
（10分）
采取软件结构（2分）
采取开发架构（2分）
功效结构合理性（6分）
2
系统建模
（30分）
模型/方法管理，包含多个产汇流、模型/方法，各模型/方法可任意组合，模型封装合理，组合方便。（5分）
预报方案构建：
方案定义（3分）
流域圈画（2分）
确定方案模型（2分）
雨量站控制权重（2分）
参数率定：
历史数据处理（5分）
参数率定/检验（5分）
参数优选（2分）
率定资料选择（2分）
预报方案维护（2分）
3
作业预报
（25分）

实时雨水情查询
雨情查询（4分）
水情查询（4分）
实时预报：
数值降雨预报（3分）
实时洪水预报（5分）
实时洪水校正（2分）
预报误差统计（2分）
洪水预报精度评定（2分）
结果管理（3分）
4
系统管理
（5分）

用户管理（3分）
对用户及其功效权限管理
日志管理（2分）
模型计算错误时日志统计
5
GIS功效
（10分）
通用GIS功效（5分）
等值线、在线编辑地图等功效（5分）
6
自选演示项目
（20分）
演示参评产品特色功效,比如无资料地域处理等（20分）
评分标准
教授将从实用性、易用性、时效性、美观性、优异性等方面，对各项演示内容进行评价。