中国信通院大数据产品能力评测观察
发布时间:2022-01-09作者:小编阅读:0
在中国信息通信研究院(以下简称“中国信通院”)主办的“2021数据资产管理大会”上,中国信通院云计算与大数据研究所大数据与区块链部副主任姜春宇对第十三批大数据产品能力评测进行了解读。
大数据产品能力评测已经走过了7个年头,历久弥新,评测体系在不断进化,体现在几个方面,一是产品类目不断扩展,从最初的两三款产品扩展到了30个产品,覆盖了大数据工具的方方面面;二是评测维度不断丰富,从基本功能逐步延伸到性能、稳定性和安全;三是考核体系更加完备,从单纯的考察产品能力向企业服务能力、知识产权等方向延伸。七年以来,大数据产品能力评测体系已经成为厂商产品研发和用户采购选型的风向标。
上面这组数字展示了大数据产品能力评测取得的成绩。截至目前,中国信通院一共进行了13批评测,共计274家企业参与了评测, 530款产品通过了评测,测试的数量达到了672款。下图是近两年评测的全家福,可以看到大数据产品能力评测作为权威的大数据评测体系,覆盖了国内大数据领域的头部企业。
2021年度中国信通院推出了首个稳定性评测,开辟了评测的新方向,来自阿里云、京东、智臾的多个产品已经完成了测试;同时完成了首批数据安全产品能力评测,中国信通院2022年将进一步拓展新的数据安全产品评测类型;首次在8192个节点的环境下完成了分布式分析型数据库的性能测试,这是目前测试最大规模的分布式分析型数据库集群。本批产品能力评测数量继续稳步增长,共计142款产品通过了测试。
从评测参与度来说,排名前三的企业分别是阿里云、百度及腾讯云;从评测项目的受欢迎度来看,批处理、联邦学习、数据管理平台位列前三,隐私计算产品增长势头明显。
上面两张图展示了十三批评测的整体情况,从数量来看,本批共有140个产品首次通过评测。从企业分布地域来看,这90家企业分布于全国15个城市,北京、上海、杭州成为大数据企业聚集地。本批评测中联邦学习是最受欢迎的品类,功能和安全一共达到了28次,数据管理平台保持高速发展,共有14款产品参测。本批参测厂商中,阿里云以7项评测继续领跑,金山云紧随其后,科大讯飞、华为、中移动苏研、蚂蚁并列第三。
上图总结了历年大规模评测的情况,本批共有2个厂商通过大规模测试,分别是阿里云和华为。其中华为通过了批处理平台30000+节点的测试,阿里云通过分布式分析型数据库8192节点的测试。阿里云、华为、天翼云、浪潮、360、新华三、南大通用、电科云、科大讯飞、亚信等企业参与到大规模的评测中,节点规模的增长标志我国大数据产品在智能管理和容灾能力上的巨大突破。
中国信通院长期放眼国际,推动自主基准和工具的研发,自研了系列测试工具DataBench,从2019年以来已经联合各行业用户自研了五款性能测试工具,涵盖工业、金融、电信等场景,推出了性能、稳定性测试基准,致力于提供贴合实际业务、规范化、本地化的测试服务。累计完成近40次性能及稳定性测试,其中事务数据库性能测试广受欢迎,已经完成了18款产品的测试。未来我们将开源这些工具,为广大用户提供选型工具。
2021年9月1日,数据安全法正式实施,数据安全成为全行业关注焦点。数据安全产品的产品能力如何,决定了企业数据安全能力的基础是否牢靠。下半年我们推出了首批数据安全产品评测,新增数据分类分级工具和数据审计工具,已经有星环、亿赛通等多家企业通过评测。2022年中国信通院将进一步完善数据安全产品体系,为用户选型数据安全产品提供更多参考。
优秀的产品并不等同于成功的项目,在整个大数据项目实施的过程中,企业的咨询和实施的能力同样非常重要。为此,中国信通院推出了大数据服务能力评估体系,其中,大数据服务商包括平台建设、数据治理和应用开发这三个维度,而数据库的方向包括规划的设计能力、实施运维能力、运营运维能力和应用迁移能力这四个方向。分别从流程、人员以及技术工具这三个维度来评价整个数据库和大数据服务商的能力。一经推出广受好评,多家大数据领域服务商参与评测。
第三批的大数据服务商能力的评估结果和整体情况如下,共计四家企业通过了六项评估,上海电信工程通过了应用开发能力评估达到第三级,京东科技通过了数据库服务商的规划设计、实施部署和运营运维这三项,其中运维运营能力达到第三级。而腾讯云、中移苏研通过了我们数据库运营运维能力的评估达到第三级。
上图是中国信通院整个大数据服务商能力评估情况的总览,可以看到,大数据服务商整体都在三级和四级之间,较为平均。而数据库服务能力差异比较大,二级到三、四、五级均有企业分布,说明数据库领域服务能力差距很大,亟需进一步提升。
本次评测的十大观察:
观察一:产品能力差异逐渐扩大。本批可选项整体通过率为59.92%,其中可选项通过率低于50%的产品占35.56%,通过率为100%的占比为24.44%,通过率在50~100%之间的约为40%。不同类型产品的可选项通过率方面,可以看到数据库类产品的通过率为50.23%、批处理平台类为43.33%、数据分析应用为77.72%。右下角的图片展示了不同项目的通过率,整体来看,参测产品能力两极分化比较严重。
观察二:大数据平台逐渐成熟、实时计算需求突出。这几批批处理平台测试数量是先达到顶峰再下降的,侧面反映出批处理平台技术逐渐成熟。流计算的实时处理平台通过的产品数量在逐渐增加,反应出流计算技术持续发展,同时实时计算需求不断增强,从事这方面产品研发的企业数量越来越多。
观察三:海量异构数据处理需求推动数据存储技术发展。除关系型数据库以外,非关系型的数据库及其他类型存储的产品测试数量在稳定增长,在第13批已经累计超过了20款产品,以图数据库、键值数据库为代表的新型数据库产品解决了非结构化数据的存储需求。同时,数据湖、多模数据库等技术逐步落地,使得一套系统存储海量不同数据成为可能。
观察四:融合成为大数据技术发展的重要特征。这里面有两个典型的方向,一是批流融合,越来越的产品既通过了流计算的评测,也通过了批处理评测,同时具备批流的能力。二是TA融合,很多数据库产品同时通过了事务型数据库的评测和分析型数据库的评测,同时具备AP和TP处理能力。
观察五:隐私计算技术发展火热,市场迎来爆发期。据统计,国内隐私计算相关企业已经达到88家,上线产品已经超过100款。此外,隐私计算技术的落地趋势明显,随着政策、社会、产业环境进一步优化,与去年相比,更多的产品从研发阶段推进了试点和实施的阶段。
观察六:中小企业深耕细分领域、差异化发展。中小企业已经成为大数据领域新兴技术分支不可忽视的力量,尤其在数据安全、数据库等细分领域,中小企业重点发力,依靠自己专业的技术和市场能力,为自己在大数据产业赢得一席之地。
观察七:大数据技术推广的十大重点行业。我们统计了大数据应用比较深入的十大行业,上图可见整体的分布。可以看到金融、政务和电信是目前大数据技术应用比较深入的,紧随其后的是医疗、制造和互联网行业。关于各行业占企业整体收入占比,可以看到军工行业占大数据企业营收比例最高,达50%以上,金融、医疗和电信行业营收占比约为40%。
观察八:智能化、云原生成为大数据产业未来发展的主要方向。中国信通院调研分析了本批参测产品未来的技术发展方向,从发展趋势来看,大数据技术最明显的两个方向是智能化和云原生。智能化方向的趋势具体包括智能监控告警、自动底层优化、智能数据分布及跨集群资源调度等。云原生方向的趋势有微服务、Serverless、容器化、Devops等。总的来看,未来大数据技术将致力于为客户提供更加高效的、低成本、自动化的数据服务。
观察九:整个数据库产品包括大数据产业的发展离不开自己的性能标准。中国信通院Databench性能测试工具已经完成了17款的产品性能测试,已经成为了国内最受欢迎的性能测试的工具。本年度的分布式事务型数据库性能测试结果如下图。中国信通院未来将继续开发针对更多大数据产品的测试工具并逐步开源现有的测试工具。
观察十:稳定性成为未来分布式系统建设的重点。上图是中国信通院本批测试的一些统计。左边是不同类型扰动下性能下降比例,可以看到网络问题对分布式数据库性能影响最大,平均下降约40.02%左右。数据处理类产品对网络干扰更加敏感,性能平均下降49.13%。右图是不同类型产品在综合扰动下性能下降的比例,可以看到高强度扰动相较于低强度扰动,性能平均下降20.45%。不同类别的分布式系统对扰动的敏感程度不同,分布式时序数据库最为明显,下降约49.37%。这是本批稳定性测试的基本情况。
为进一步汇聚行业资源,推动评测服务数字化转型,为企业和用户提供交流平台。可信大数据网站已经上线,可以通过访问网站查看最新的活动新闻和研究进展(网址见上图)。未来我们也将持续对网站进行迭代和更新,同时进行小程序的开发,串联产业上下游,推动大数据产业发展。
未来我们会坚定的围绕着数据基础设施夯实企业的数据基础设施这一目标,围绕它来开展我们的标准研发,包括提供在线化、数字化、场景化的测试服务。同时在数据安全、稳定性能,应用解决方案这些方面继续发力,构建一个更加完善的大数据产品的能力评测体系,为大数据产业夯实基础。
众行者远,中国信通院云计算与大数据研究所的工作离不开产业的共同努力。欢迎大家加入大数据技术标准推进委员会,一同交流学习,进行思想的碰撞,共同推动我国大数据产业发展。
亿联云提供全球网络优化服务、MPLS VPN、企业私有云&混合云搭建方案、云专线、SD-WAN、跨国视频会议、跨境电商直播等相关应用场景,如有任何疑问,欢迎致电010-53390328!
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,请联系站长邮箱:shawn.lee@eliancloud.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。
标题:中国信通院大数据产品能力评测观察
TAG标签:
地址:https://www.elinkcloud.cn/article/20220107172040.html