,計算機系統(tǒng)結(jié)構(gòu)（第20講）,計算機系統(tǒng)結(jié)構(gòu),第一章基本概念第二章指令系統(tǒng)第三章存儲系統(tǒng)第四章輸入輸出系統(tǒng)第五章標量處理機,第六章向量處理機第七章互連網(wǎng)絡(luò)第八章并行處理機和多處理機,第六章向量處理機,6.1向量數(shù)據(jù)表示方式6.2向量處理機的結(jié)構(gòu)6.3向量處理方式6.4向量處理機的關(guān)鍵技術(shù)6.5向量處理機實例6.6向量處理機的性能評價6.7向量處理機的發(fā)展,6.1向量數(shù)據(jù)表示方式向量處理機是解決數(shù)值計算問題的一種高性能計算機結(jié)構(gòu)向量處理機一般都采用流水線結(jié)構(gòu)，有多條流水線并行工作向量處理機通常屬大型或巨型機，也可以用微機加一臺向量協(xié)處理器組成一般向量計算機中包括有一臺高性能標量處理機必須把要解決的問題轉(zhuǎn)化為向量運算，向量處理機才能充分發(fā)揮作用,6.1向量數(shù)據(jù)6.1.1從標量到向量,6.1.1從標量到向量例如：一個簡單的C語言程序如下：for(i=10;i<=1010;i+)ci=ai+bi+5;在向量處理機上，可以只用一條指令：C(10:1010)=A(10:1010)+B(15:1015)一條向量指令可處理個或?qū)Σ僮鲾?shù)在標量處理機上用10多條指令，其中有8條指令要循環(huán)1000次。采用多寄存器結(jié)構(gòu)的兩地址指令編寫程序。,存儲器采用字節(jié)編址方式，字長為32位在一般標量處理機中需要如下指令序列來實現(xiàn)（A、B、C分別是向量a、b、c在內(nèi)存中的起始地址）：,START:LOADR0,ST;讀循環(huán)初值,10LOADR1,ED;讀循環(huán)終值,1010LOADR2,L;讀內(nèi)存地址增量,;常數(shù)4MOVER3,R2MULR3,R0;向量偏移量,;初始值為40LOOP:LOADR4,A(R3);讀A向量的;一個元素,LOADR5,B(R3);讀B向量的一個元素ADDR4,R5STORER4,C(R3);寫C向量的一個元素ADDR3,R2;改變向量偏移量INCR0;循環(huán)次數(shù)增1CMPR0,R1;循環(huán)是否結(jié)束BLELOOP;循環(huán)未結(jié)束轉(zhuǎn)LOOP,;否則繼續(xù)HALTST:10;循環(huán)初值ED:1010;循環(huán)終值L:4;內(nèi)存地址增量,第六章向量處理機,6.1向量數(shù)據(jù)表示方式6.2向量處理機的結(jié)構(gòu)6.3向量處理方式6.4向量處理機的關(guān)鍵技術(shù)6.5向量處理機實例6.6向量處理機的性能評價6.7向量處理機的發(fā)展,6.2向量處理機結(jié)構(gòu)向量處理機的最關(guān)鍵問題是存儲器系統(tǒng)能夠滿足運算部件帶寬的要求。主要采用兩種方法：1.存儲器存儲器結(jié)構(gòu)多個獨立的存儲器模塊并行工作處理機結(jié)構(gòu)簡單，對存儲系統(tǒng)的訪問速度要求很高2.寄存器寄存器結(jié)構(gòu)運算通過向量寄存器進行需要大量高速寄存器，對存儲系統(tǒng)訪問速度的要求降低,6.2.1存儲器存儲器結(jié)構(gòu)向量處理機中有多個高速流水線運算部件，存儲器的訪問速度是關(guān)鍵采用多個存儲體交叉和并行訪問來提高存儲器速度，例如：CRAY-1有64個存儲體，每個處理機訪問4個存儲體STAR-100采用32個存儲體交叉，每個存儲體并行讀出8個64位數(shù)據(jù)我國研制的YH-1向量計算機有37個存儲體,操作數(shù)緩沖棧和寫結(jié)果緩沖棧主要用于解決訪問存儲器沖突雖然采用質(zhì)數(shù)個存儲體能消除訪問存儲器的沖突，但是，數(shù)據(jù)經(jīng)過多次運算之后，在存儲體中分布必然發(fā)生改變主要優(yōu)缺點：硬件結(jié)構(gòu)簡單,造價低；速度相對較低,操作數(shù)緩沖棧,寫結(jié)果緩沖棧,主存儲器,流水線運算部件,6.2.2寄存器-寄存器結(jié)構(gòu)把存儲器-存儲器結(jié)構(gòu)中的緩沖棧改為向量寄存器，運算部件需要的操作數(shù)從向量寄存器中讀取，運算的中間結(jié)果也寫到向量寄存器中。向量寄存器與標量寄存器的主要差別是：一個向量寄存器能夠保存一個向量，例如：64個64位寄存器。連續(xù)訪問一個向量的各個分量。需要有標量寄存器和地址寄存器等。,采用寄存器-寄存器結(jié)構(gòu)的主要優(yōu)點：降低主存儲器的流量。例如：采用寄存器-寄存器結(jié)構(gòu)的CRAY-1與采用存儲器-存儲器結(jié)構(gòu)的STAR-100比較，運算速度高3倍多，而主存流量低2.5倍。STAR-100的主存儲器流量：328W/1.28us=200MW/SCRAY-1的主存儲器流量：4W/50ns=80MW/S,計算機系統(tǒng)結(jié)構(gòu)（第21講）,第六章向量處理機,6.1向量數(shù)據(jù)表示方式6.2向量處理機的結(jié)構(gòu)6.3向量處理方式6.4向量處理機的關(guān)鍵技術(shù)6.5向量處理機實例6.6向量處理機的性能評價6.7向量處理機的發(fā)展,6.2向量處理機結(jié)構(gòu)向量處理機的最關(guān)鍵問題是存儲器系統(tǒng)能夠滿足運算部件帶寬的要求。主要采用兩種方法：1.存儲器存儲器結(jié)構(gòu)多個獨立的存儲器模塊并行工作處理機結(jié)構(gòu)簡單，對存儲系統(tǒng)的訪問速度要求很高2.寄存器寄存器結(jié)構(gòu)運算通過向量寄存器進行需要大量高速寄存器，對存儲系統(tǒng)訪問速度的要求降低,6.2.1存儲器存儲器結(jié)構(gòu)向量處理機中有多個高速流水線運算部件，存儲器的訪問速度是關(guān)鍵采用多個存儲體交叉和并行訪問來提高存儲器速度，例如：CRAY-1有64個存儲體，每個處理機訪問4個存儲體STAR-100采用32個存儲體交叉，每個存儲體并行讀出8個64位數(shù)據(jù)我國研制的YH-1向量計算機有37個存儲體,采用寄存器-寄存器結(jié)構(gòu)的主要優(yōu)點：降低主存儲器的流量。例如：采用寄存器-寄存器結(jié)構(gòu)的CRAY-1與采用存儲器-存儲器結(jié)構(gòu)的STAR-100比較，運算速度高3倍多，而主存流量低2.5倍。STAR-100的主存儲器流量：328W/1.28us=200MW/SCRAY-1的主存儲器流量：4W/50ns=80MW/S,8個向量寄存器86464,主存儲器8MB64個個體,12個流水線結(jié)構(gòu)的運算部件,緩沖寄存器6464,標量寄存器864,緩沖寄存器6424,地址寄存器824,指令緩沖寄存器25616,CRAY-1向量處理機結(jié)構(gòu),第六章向量處理機,6.1向量數(shù)據(jù)表示方式6.2向量處理機的結(jié)構(gòu)6.3向量處理方式6.4向量處理機的關(guān)鍵技術(shù)6.5向量處理機實例6.6向量處理機的性能評價6.7向量處理機的發(fā)展,6.3向量處理方式要根據(jù)向量運算的特點和向量處理機的類型選擇向量的處理方式。有三種處理方式：1橫向處理方式，又稱為水平處理方式，橫向加工方式等。向量計算是按行的方式從左至右橫向地進行。2縱向處理方式，又稱為垂直處理方式，縱向加工方式等。向量計算是按列的方式自上而下縱向地進行。3縱橫處理方式，又稱為分組處理方,式，縱橫向加工方式等。橫向處理和縱向處理相結(jié)合的方式。以一個簡單的C語言編寫的程序為例，說明向量的三種處理方式的工作原理。for(i=1；i<=n；i+)yi=ai(bi+ci);,6.3.1橫向處理方式也稱為水平處理方式，橫向加工方式等逐個分量進行處理：假設(shè)中間結(jié)果為T(I)計算第1個分量：T(1)B(1)C(1)Y(1)A(1)T(1)計算第2個分量：T(2)B(2)C(2)Y(2)A(2)T(2)計算最后一個分量：T(N)B(N)C(N)Y(N)A(N)T(N),存在兩個問題：在計算向量的每個分量時，都發(fā)生寫讀數(shù)據(jù)相關(guān)。流水線效率低如果采用多功能流水線，必須頻繁進行流水線切換橫向處理方式對向量處理機不適合即使在標量處理機中，也經(jīng)常通過編譯器進行指令流調(diào)度。,6.3.2縱向處理方式也稱為垂直處理方式，縱向加工方式等T(1)=B(1)+C(1)T(2)=B(2)+C(2)T(n)=B(n)+C(n)Y(1)=A(1)T(1)Y(2)=A(2)T(2)Y(N)=A(N)T(N),采用向量指令只需要2條：VADDB，C，TVMULA，T，Y這種處理方式適用于向量處理機數(shù)據(jù)相關(guān)不影響流水線連續(xù)工作。不同的運算操作只需要切換1次。,6.3.3縱橫處理方式用于寄存器-寄存器結(jié)構(gòu)的向量處理機中向量寄存器的長度是有限的，例如，每個向量寄存器有64個寄存器。當向量長度N大于向量寄存器長度n時，需要分組處理。分組方法：，其中：為余數(shù)，共分組。組內(nèi)采用縱向處理方式，組間采用橫向處理方式。因此，也稱為分組處理方式，縱橫向加工方式等。,計算機系統(tǒng)結(jié)構(gòu)（第22講）,6.3.3縱橫處理方式用于寄存器-寄存器結(jié)構(gòu)的向量處理機中向量寄存器的長度是有限的，例如，每個向量寄存器有64個寄存器。當向量長度N大于向量寄存器長度n時，需要分組處理。分組方法：，其中：為余數(shù)，共分組。組內(nèi)采用縱向處理方式，組間采用橫向處理方式。因此，也稱為分組處理方式，縱橫向加工方式等。,運算過程為：第組：T(1,n)=B(1,n)+C(1,n)Y(1,n)=A(1,n)T(1,n)第組：T(n+1,2n)=B(n+1,2n)C(n+1,2n)Y(n+1,2n)=A(n+1,2n)T(n+1,2n)最后第k+1組：T(kn+1,N)=B(kn+1,N)+C(kn+1,N)Y(kn+1,N)=A(kn+1,N)+T(kn+1,N),每組用兩條向量指令，每組發(fā)生數(shù)據(jù)相關(guān)兩次，其中組內(nèi)發(fā)生數(shù)據(jù)相關(guān)一次，組間切換時發(fā)生數(shù)據(jù)相關(guān)一次。優(yōu)點：減少訪問主存儲器的次數(shù)例如：中間變量T不寫入主存儲器。,第六章向量處理機,6.1向量數(shù)據(jù)表示方式6.2向量處理機的結(jié)構(gòu)6.3向量處理方式6.4向量處理機的關(guān)鍵技術(shù)6.5向量處理機實例6.6向量處理機的性能評價6.7向量處理機的發(fā)展,6.4向量處理機的關(guān)鍵技術(shù)6.4.1向量與標量性能的平衡6.4.2向量鏈接技術(shù),6.4.1向量與標量性能的平衡實際的應用問題中通常既有向量計算又有標量計算，而且兩類計算有一定的比例向量平衡點(vectorbalancepoint)：為了使向量硬件設(shè)備和標量硬件設(shè)備的利用率相等，一個程序中向量代碼所占的百分比。關(guān)鍵問題是：希望向量硬件和標量硬件都能夠充分利用，不要空閑。例如：一個系統(tǒng)的向量運算速度為90Mfolps，標量運算速度為10Mfolps。,如果程序的90是向量運算，10是標量運算。則向量平衡點為0.9。硬件利用率最高。向量處理機的向量平衡點必須與用戶程序的向量化程度相匹配。IBM向量計算機的設(shè)計思想與上述方法不同，它維持較低的向量與標量比例，定在35的范圍之間。這種做法能夠適應通用應用問題對標量和向量處理要求。,機器型號,幾種超級計算機的向量性能和標量性能,FujitsuVP400,CrayIS,Cray2S,CrayX-MP,CrayY-MP,HitachiS820,NECSX2,向量性能Mflops,標量性能Mflops,向量平衡點,85.0,9.8,0.90,151.5,11.2,0.93,143.3,13.1,0.92,201.6,17.0,0.92,737.3,17.8,0.98,424.2,9.5,0.98,207.1,6.6,0.97,6.4.2向量鏈接技術(shù)1、向量指令的類型以CRAY-1向量處理機為例，有四類指令，兩種指令格式(1)向量與向量操作，ViVjOPVk(2)向量與標量操作，ViSjOPVk(3)向量取，Vi存儲器(4)向量存，存儲器Vi,CRAY向量處理機的指令格式,g,h,i,j,k,4位,3位,3位,3位,3位,g,h為操作碼，i為目的寄存器編號j,k為源寄存器編號,g,h,i,j,k,g為操作碼，h為變址寄存器A的編號i為目的寄存器編號，j,k,m為形式地址,m,4位,3位,3位,3位,3位,16位,2、向量運算中的相關(guān)和沖突向量運算中的數(shù)據(jù)相關(guān)和功能部件沖突：采用順序發(fā)射順序完成方式(1)寫讀數(shù)據(jù)相關(guān)。(2)讀讀數(shù)據(jù)相關(guān)，或向量寄存器沖突。(3)運算部件沖突。V0V1V2V0V1V2V3V4V5V3V0V4(a)不相關(guān)的指令(b)寫讀數(shù)據(jù)相關(guān),V0V1V2V0V1V2V3V4V5V3V1V4(c)功能部件沖突(d)讀讀數(shù)據(jù)相關(guān)3、向量鏈接技術(shù)(chaining)結(jié)果寄存器可能成為后繼指令的操作數(shù)寄存器兩條有數(shù)據(jù)相關(guān)的向量指令并行執(zhí)行，這種技術(shù)稱為兩條流水線的鏈接技術(shù)。,例如：有如下3條向量指令：V3AV2V0V1V4V2V3第一、二條指令沒有數(shù)據(jù)相關(guān)和功能部件沖突，可以同時開始執(zhí)行。第三條指令與第一、二條指令均存在寫讀數(shù)據(jù)相關(guān)，可以鏈接執(zhí)行。,浮點加,7,1,2,3,4,5,6,Mem,V0,V1,V2,V3,V4,1,2,3,4,5,6,1,2,3,4,5,6,浮點乘,三種執(zhí)行方式比較：(1)如果向量長度為N，三條指令采用串行方法執(zhí)行的時間為：(1+6+1)+N-1+(1+6+1)+N-1+(1+7+1)+N-1=3N+22拍(2)如果前兩條指令并行執(zhí)行，第三條指令串行執(zhí)行，則執(zhí)行時間為：(1+6+1)+N-1+(1+7+1)+N-1=2N+15拍(3)如果采用鏈接技術(shù)，則執(zhí)行時間為：(1+6+1)+(1+7+1)+(N-1)=17+N-1=N+16拍,實現(xiàn)鏈接的條件：(1)沒有向量寄存器沖突和運算部件沖突。(2)只有第一個結(jié)果送入向量寄存器的那一個周期可以鏈接。(3)先行的兩條指令產(chǎn)生運算結(jié)果的時間必須相等。(4)兩條向量指令的向量長度必須相等。,