洪水预报软件测评专项方案.doc

附件洪水预报软件测评方案（试行）一、总则1、 测评目标为促进水利科技推广管理工作，服务洪水预报系统建设，水利部科技推广中心、水利部防洪抗旱减灾工程技术研究中心、中国水利学会减灾专业委员会联合组织开展洪水预报软件测评工作。2、 参评单位中国已经取得洪水预报软件著作权单位单独或联名参与。报送洪水预报软件，必需为报送单位自主研发或联合研发，代理销售不含有报名资格。3、 测评方法测评含软件测试和教授评审两部分。（1）软件测试。由含有中国合格评定国家认可委员会（CNAS）资质国家级软件检测机构对各参评产品进行软件测试。（2）教授评审。参评单位对参评产品进行应用功效演示，由教授组现场评审。4、 评分措施软件测评结果以分值表示，100 分为满分，其中软件测试部分占70%，教授评审部分占30%。总分85分为“优良”产品； 85分总分60分为“合格”产品；总分60分为“需改善”产品。二、软件测试纲领1、 测试依据 GB/T 25000.51- 软件工程 软件产品质量要求和评价（SQuaRE）商业现货（COTS）软件产品质量要求和测试细则； SL323-实时雨水情数据库表结构及标识符标准； GB/T 22482-水文情报预报规范。2、 测试准备（1）测试环境软件测试地点设在检测机构，检测机构根据软件工程软件产品质量要求和评价（SQuaRE）商业现货（COTS）软件产品质量要求和测试细则中设备配置，统一准备测试环境，参评单位负责在统一测试环境上安置应用软件。参评单位应在要求时间进行系统安置工作（时间最长为一个工作日），并签署相关测试委托书。（2）测试文档在系统测试开始前，参评单位向检测机构提供用户手册或操作手册等系统相关文档。3、 软件功效测试（1）系统建模1）模型/方法库管理 多个产汇流、模型/方法，各模型/方法可任意组合 模型/方法构件封装，仅经过数据接口机制实现信息交换 各模型/方法对同一输入、输出要素含有相同格局数据接口定义 对模型/方法可进行添加、修改、删除、导入导出、运行等维护操作2）预报方案构建 方案定义 流域圈画 确定方案模型雨量站控制权重3）参数率定/检验 历史数据处理 参数优选 率定资料选择 预报方案维护（2）作业预报 实时雨水情查询 数值降雨预报 实时洪水预报 实时洪水校正 预报误差统计 洪水预报精度评定 预报结果管理4、 测试数听说明 为了表现公平标准，统一测试标准，由测评组织单位统一提供洪水预报基础数据。5、 软件系统缺点严重程度等级缺点严重程度等级设定以下：S1级 ：发觉影响被测系统正确运行严重问题造成系统瓦解出现不可挽救数据丢失或损坏 主业务步骤出现断点造成死机内存泄漏S2级：发觉影响被测模块正确运行严重问题造成程序模块丢失或未实现软件错误造成数据丢失 被测数据处理错误需求未实现 S3级：发觉影响被测功效正确实现问题S4级：通常性错误或功效实现有不完善处S5级：提议性问题6、 预报精度等级 参见GB/T 22482-水文情报预报规范，以作业预报精度等级进行评价，即用预报误差和许可误差之比百分数作为分级指标，分级指标25.0为优异；25.0分级指标50.0为良好；50.0分级指标100.0为合格；分级指标100.0为不合格。7、 测试结果判定标准检测机构对测试过程中发觉问题进行分析汇总，向参评单位出具系统测试问题确定单，而且双方签字确定。在系统测试中，检测机构依据已确定系统测试问题确定单，对每一项测试内容给出其检测结果。检测结果分为“经过”、“基础经过”、“不经过”和“功效缺失”。（1） 经过在测试过程中，针对某测试过程测试用例实施后，结果和预期基础一致，未发觉S5级以外缺点，该测试过程检测结果可判定为“经过”。（2） 不经过在测试过程中，针对某测试过程测试用例实施后，发生S1级或S2级缺点，该测试过程判定为“不经过”。（3） 基础经过在测试过程中，结果属上述“经过”、“不经过”以外情况，该测试过程判定为“基础经过”。（4） 功效缺失因系统原所以无法提供测试功效点，在测试结果中注明“功效缺失”。8、 测试内容及评分标准此次测试内容包含系统功效性、可靠性、易操作性和效率4个方面，和自选演示项目，其评分安排以下：序号测试内容评分安排1功效性测试602精度评定103可靠性测试154效率测试105易操作性测试5合 计100自选演示项目不计分，但可作为教授现场评审参考依据。（1） 功效性编号测试内容技术要求1系统建模（30分）模型/方法管理（4分）灵活性（1分）包含多个产汇流、模型/方法，各模型/方法可任意组合独立性（1分）模型/方法构件封装，仅经过数据接口机制实现信息交换统一性（1分）各模型/方法对同一输入、输出要素含有相同格局数据接口定义扩充性（1分）对模型/方法可进行添加、修改、删除、导入导出、运行等维护操作预报方案构建（10分）方案定义（4分）确定预报站码、计算时段长、预见期、预热期、方案输出类型、预汇报警阈值、方案说明、水位流量关系曲线、库容曲线、方案输入个数和类型、上游依据站点、站点流量合成关系、预报方案结构框图等流域圈画（2分）流域边界自动/人工圈画确定方案模型（2分）添加、删除、变更模型/方法、模型参数、状态变量等雨量站控制权重（2分）利用泰森多边形或其它方法，计算区域内雨量站控制权重参数率定（16分）历史数据处理（5分）对用于模型参数率定历史水文气象资料，包含洪水摘录资料、洪水日资料、降雨摘录资料和降雨日资料，进行等时段整编参数率定/检验（5分）录入、修改、存放参数，设定参数范围或参数值，设定率定/检验期，选择目标函数，设定统计阈值，参数经验及合理性分析等参数优选（2分）选择优化方法，自动/人工优选参数率定资料选择（2分）历史、实时数据任意时间内或场次洪水选择、检验、修改、展示预报方案维护（2分）检索、查询、更新、删除、导入导出预报方案等功效2作业预报（30分）实时雨水情查询（10分）雨情查询（5分）各站降雨过程柱状图及数据表查询、降雨量小时(时段)数据、日数据、旬月数据；区域降雨过程柱状图及数据表查询、区域降雨等值线/面图绘制等水情查询（5分）各站实时水情数据过程线及数据表查询，包含小时数据、日数据、旬月数据、特征值等实时预报（14分）数值降雨预报（3分）能对未来降雨进行数值预报或能接入数值降雨预报数据实时洪水预报（5分）预报方案手动/自动运行,能够以图形表格方法展示运行结果实时洪水校正（3分）对洪水过程、单点数据进行自动/人工校正预报误差统计（3分）任意时间内或场次洪水洪峰流量/水位、洪峰出现时间、洪量（径流量）绝对误差、相对误差，确定性系数统计结果管理（6分）预报信息报表（2分）自动生成预报信息报表洪水预报精度评定（2分）任意时间内或场次洪水预报过程合格率统计、确定性系数统计预报结果优选（2分）多模型/方法计算结果对比分析（2）精度评定序号精度等级得分范围1优异9-102良好7-83合格5-64不合格0-4(3)可靠性编号评测内容技术要求评分标准1成熟性（10分）系统应能够不间断稳定运行。A. 在测试过程中，系统运行情况良好，能够很好地完成所述功效，基础没有犯错（910）B. 在测试过程中，系统运行情况基础正常，能够完成所述功效，发生通常性错误（58）C. 在测试过程中，系统运行情况不正常，难以完成所述功效，发生严重性错误（14）D. 在测试过程中，系统发生致命性错误，无法继续运行（0）2易恢复性（5分）软件系统应含有自动或手动恢复方法，方便在发生错误时能够快速地恢复正常运行。A. 运行中犯错后不需人工干预即可恢复（5）B. 运行中犯错后需人工干预才可恢复（4）C. 运行中犯错后只能关闭重启应用系统才可恢复正常（23）D. 运行中犯错后只能关闭计算机才可恢复正常（1）备注：假如在成熟性测试中未出现错误，检测机构将模拟异常情况，比如强行断电等进行测试。（4）效率编号评测内容技术要求评分标准1时间特征（5分）对软件系统各类人机交互操作、信息查询、图形操作等应实时响应。A. 在测试过程中，响应时间在合理范围之内（5）B. 在测试过程中，响应时间超出合理范围，不过可接收（14）C. 在测试过程中，响应时间超出合理范围，不可接收（0）2资源特征（5分）对软件系统各类操作，服务器资源利用合理。A. 在测试过程中，资源利用合理（5）B. 在测试过程中，资源利用基础合理（14）C. 在测试过程中，资源利用显著不合理，如有内存泄漏等现象（0）测试说明（一）测试点1、GIS操作：放大操作到某个地域或流域。2、模型计算耗时。（5）易操作性编号评测内容技术要求评分标准1易操作性（5分）应含有良好简体汉字操作界面、具体帮助信息，系统参数维护和管理经过操作界面完成。A. 操作简单，轻易了解，完全符合软件信息表所述内容，很好地反应了其所在领域特征（45）B. 比较轻易操作，需花费一定时间了解，基础符合软件信息表所述内容，基础地反应了其所在领域特征（23）C. 操作复杂，难以了解，没有很好地反应了其所在领域特征（01）三、教授评审纲领1、 评审准备参评单位自行准备软硬件及网络环境，和对应软件产品和测试数据。2、 评审内容及技术要求教授评审内容包含系统关键功效及自选演示项目标实用性、易用性、时效性、美观性、优异性等方面进行评价，评审内容和其要求以下：编号演示/测评内容1总体结构（10分）采取软件结构（2分）采取开发架构（2分）功效结构合理性（6分）2系统建模（30分）模型/方法管理，包含多个产汇流、模型/方法，各模型/方法可任意组合，模型封装合理，组合方便。（5分）预报方案构建：方案定义（3分）流域圈画（2分）确定方案模型（2分）雨量站控制权重（2分）参数率定：历史数据处理（5分）参数率定/检验（5分）参数优选（2分）率定资料选择（2分）预报方案维护（2分）3作业预报（25分）实时雨水情查询雨情查询（4分）水情查询（4分）实时预报：数值降雨预报（3分）实时洪水预报（5分）实时洪水校正（2分）预报误差统计（2分）洪水预报精度评定（2分）结果管理（3分）4系统管理（5分）用户管理（3分）对用户及其功效权限管理日志管理（2分）模型计算错误时日志统计5GIS功效（10分）通用GIS功效（5分）等值线、在线编辑地图等功效（5分）6自选演示项目（20分）演示参评产品特色功效,比如无资料地域处理等（20分）评分标准 教授将从实用性、易用性、时效性、美观性、优异性等方面，对各项演示内容进行评价。