天河一号超级计算机共享磁盘容量则达到1PB
天河一号千万亿次超级计算机系统
每秒钟1206万亿次的峰值速度和每秒563.1万亿次的Linpack实测性能,使这台名为“天河一号”的计算机位居同日公布的中国超级计算机前100强之首,也使中国成为继美国之后世界上第二个能够研制千万亿次超级计算机的国家。
这个速度意味着,如果用“天河一号”计算一天,一台当前主流微机得算160年。“天河一号”的存储量,则相当于4个国家图书馆藏书量之和。
超级计算机又称高性能计算机、巨型计算机,是世界公认的高新技术制高点和21世纪最重要的科学领域之一
天河一号采用6144个INTEL通用多核处理器和5120个AMD图形加速处理器,内存总容量98TB,点对点通信带宽40Gbps,而共享磁盘总容量则达到1PB。该超级计算机系统将部署于天津滨海新区国家超级计算天津中心作为业务主机。
如何高效处理全球信息一直是Google的狂热追求,而其自行开发的C++编程工具MapReduce就在其中扮演着关键角色。它可以多线程同时执行大规模数据集(1TB以上)的并行运算,是日常超大计算量的完美方案。
Google今天自豪地宣布,他们只需要短短68秒钟就能完成对1TB数据的排序处理。这些数据都是未压缩的文本文件,使用Google File System文件系统存储在1000台计算机上。在此之前,Google处理分布于910台计算机上的等量数据需要耗时209秒,效率只有现在的三分之一左右。
当然,信息爆炸时代的数据量远远不只是TB级别,更常见的是一千倍的PB级别。在今年1月份的时候,Google MapReduce平均每天的数据处理量是20PB,相当于美国国会图书馆今年5月份存档网络数据的240倍。
那么Google MapReduce对4000台计算机上的1PB数据进行排序处理需要多长时间呢?答案是6小时零2分钟。放眼全球, 除了Google还没有谁具备这种高速处理能力。
Google还透露,这1PB数据是存储在48000个硬盘上的(当然并没有全部填满),不过考虑到测试的持续时间、涉及的硬盘数量、硬盘的使用寿命,每次进行测试都会有至少一块硬盘挂掉。为此Google文件系统会为每个文件备份三个拷贝,并分别放在三块硬盘上。