高性能計算(HPC) 指通常使用很多處理器(作為單個機器的一部分)或者某一集群中組織的幾臺計算機(作為單個計算資源操作)的計算系統(tǒng)和環(huán)境。高性能集群上運行的應用程序一般使用并行算法，把一個大的普通問題根據(jù)一定的規(guī)則分為許多小的子問題，在集群內的不同節(jié)點上進行計算，而這些小問題的處理結果，經過處理可合并為原問題的最終結果。由于這些小問題的計算一般是可以并行完成的，從而可以縮短問題的處理時間。

　　高性能集群在計算過程中，各節(jié)點是協(xié)同工作的，它們分別處理大問題的一部分，并在處理中根據(jù)需要進行數(shù)據(jù)交換，各節(jié)點的處理結果都是最終結果的一部分。高性能集群的處理能力與集群的規(guī)模成正比，是集群內各節(jié)點處理能力之和，但這種集群一般沒有高可用性。高性能計算的分類方法很多。這里從并行任務間的關系角度來對高性能計算分類。

　　一、高吞吐計算(High-throughput Computing)

　　有一類高性能計算，可以把它分成若干可以并行的子任務，而且各個子任務彼此間沒有什么關聯(lián)。因為這種類型應用的一個共同特征是在海量數(shù)據(jù)上搜索某些特定模式，所以把這類計算稱為高吞吐計算。所謂的Internet計算都屬于這一類。按照Flynn的分類，高吞吐計算屬于SIMDSingle Instruction/Multiple Data，單指令流-多數(shù)據(jù)流)的范疇。

　　二、分布計算(Distributed Computing)

　　另一類計算剛好和高吞吐計算相反，它們雖然可以給分成若干并行的子任務，但是子任務間聯(lián)系很緊密，需要大量的數(shù)據(jù)交換。按照Flynn的分類，分布式的高性能計算屬于MIMD(Multiple Instruction/Multiple Data，多指令流-多數(shù)據(jù)流)的范疇。

　　有許多類型的HPC 系統(tǒng)，其范圍從標準計算機的大型集群，到高度專用的硬件。大多數(shù)基于集群的HPC系統(tǒng)使用高性能網絡互連，基本的網絡拓撲和組織可以使用一個簡單的總線拓撲。HPC系統(tǒng)由計算、存儲、網絡、集群軟件四部分組成。

　　高性能計算HPC系統(tǒng)技術特點是什么?

　　HPC系統(tǒng)目前主流處理器是X86處理器，操作系統(tǒng)是linux 系統(tǒng)(包括Intel、AMD、NEC、Power、PowerPC、Sparc等)、構建方式采用刀片系統(tǒng)，互聯(lián)網絡使用IB和10GE。

　　高性能計算HPC集群中計算節(jié)點一般 分3種: MPI節(jié)點、胖節(jié)點、GPU加速節(jié)點。雙路節(jié)點稱為瘦節(jié)點(MPI節(jié)點)，雙路以上稱為胖節(jié)點;胖節(jié)點配置大容量內存;集群中胖節(jié)點的數(shù)量要根據(jù)實際應用需求而定。

　　GPU英文全稱Graphic Processing Unit，中文翻譯為圖形處理器。 在浮點運算、并行計算等部分計算方面，GPU可以提供數(shù)十倍乃至于上百倍于CPU的性能。目前GPU廠家只有三家NVIDIA GPU、AMD GPU和Intel Xeon PHI?？蛇x擇的GPU種類比較少。

　　高性能計算的性能指標怎樣衡量?

　　CPU的性能計算公式: 單節(jié)點性能=處理器主頻*核數(shù)*單節(jié)點CPU數(shù)量*單周期指令數(shù)。單周期指令數(shù)=8(E5-2600/E5-2600 v2/E7-4800 v2)或16(E5-2600 v3);節(jié)點數(shù)量=峰值浮點性能需求/單節(jié)點性能。

　　時延( 內存和磁盤訪問延時)是計算的另一個性能衡量指標，在HPC系統(tǒng)中，一般時延要求如下:

　　一個MFlops等于每秒一佰萬(=10^6)次的浮點運算;

　　一個GFlops等于每秒拾億(=10^9)次的浮點運算;

　　一個TFlops等于每秒一萬億(=10^12)次的浮點運算，(1太拉)

　　一個PFlops等于每秒一千萬億(=10^15)次的浮點運算;

　　一個EFlops等于每秒一佰京(=10^18)次的浮點運算。

　　高性能計算的靈魂—并行文件系統(tǒng)

　　TOP500 HPC系統(tǒng)中存儲主要使用分布式文件系統(tǒng)，分布式文件系統(tǒng)(Distributed File System)可以有效解決數(shù)據(jù)的存儲和管理難題: 將固定于某個地點的某個文件系統(tǒng)，擴展到任意多個地點/多個文件系統(tǒng)，眾多的節(jié)點組成一個文件系統(tǒng)網絡。每個節(jié)點可以分布在不同的地點，通過網絡進行節(jié)點間的通信和數(shù)據(jù)傳輸。人們在使用分布式文件系統(tǒng)時，無需關心數(shù)據(jù)是存儲在哪個節(jié)點上、或者是從哪個節(jié)點從獲取的，只需要像使用本地文件系統(tǒng)一樣管理和存儲文件系統(tǒng)中的數(shù)據(jù)。

　　分布式文件系統(tǒng)的設計基于客戶機/服務器模式。一個典型的網絡可能包括多個供多用戶訪問的服務器。當前主流的分布式文件系統(tǒng)包括: Lustre、Hadoop、MogileFS、FreeNAS、FastDFS、NFS、OpenAFS、MooseFS、pNFS、以及GoogleFS等，其中Lustre、GPFS是HPC最主流的。