北大數(shù)字中國研究院副院長方裕演講

　　新浪科技訊 2009GIS產(chǎn)業(yè)發(fā)展論壇11月18日在深圳舉行，本屆論壇主題為“自主創(chuàng)新 合作共贏”。新浪網(wǎng)為獨家支持網(wǎng)絡媒體。以上圖為北京大學數(shù)字中國研究院副院長方裕做題為《GIS技術(shù)發(fā)展重要方向----網(wǎng)格GIS》的主題演講。

　　以下為演講實錄

　　各位下午好，我今天下午報告的題目是網(wǎng)格GIS。網(wǎng)格計算技術(shù)的名字比較新，實際上由來已久。20世紀的60年代的時候已經(jīng)進入了第三代計算機，這個時候就有這樣一種夢想，能不能把計算機連起來變成一個超級計算機，變成一個大的計算環(huán)境，可以共享計算資源。那個時候只是僅僅說說而已，因為網(wǎng)絡技術(shù)沒有發(fā)展到這個程度。當時局域網(wǎng)還不太成熟，所以僅僅是一些想法。到70年代、80年代的時候局域網(wǎng)的技術(shù)已經(jīng)基本成熟了，所以這個時候就正式提出“分布式計算”，分布式計算在美國當時也花了上百萬美元開始研究，開始研究的這個公司后來倒閉了。

　　當時第一個實驗系統(tǒng)叫MEDUSA，是用了12臺PDP器，當然那個時候由于種種原因特別是技術(shù)上的原因，包括系統(tǒng)軟件方面的原因，最后這個項目以失敗告終。但是給人們留下了很多思考的問題，也就是說它的教訓為后人積淀了很多避免類似錯誤發(fā)生的基礎(chǔ)。分布式計算那個時候失敗以后沉寂了一段時間，80年代以后也沒有再提分布式計算，那個時候網(wǎng)絡技術(shù)與局域網(wǎng)技術(shù)已經(jīng)非常成熟了，當然也提出了CSCW就是所謂的協(xié)同工作技術(shù)，但沒有大的項目出現(xiàn)，沒有花大力氣研究，而只是在理論上進行探討。進入20世紀90年代IT技術(shù)方面主要是兩大進展，第一大進展是面向?qū)ο蟮募夹g(shù)日趨成熟，而且進入了使用階段，像BS結(jié)構(gòu)取代了CS結(jié)構(gòu)。到了90年代中期提出了網(wǎng)格計算，又重新拾起原來的分布式計算。應該這么說，60年代起對分布式計算的技術(shù)目標定的過高，所以一直存在著許多問題。那么，在90年代以后開始對目標做一些小小的修正，特別是一些無法實現(xiàn)的目標做了修正。比方說我們并不想把許許多多的東西都塞到里頭去，比方說在大的計算機集群，很多很多計算機連在一起的環(huán)境中不一定要做編輯、不一定要做修改，這個東西也是可以理解的。因為邊際修改的東西在單機上就可以實現(xiàn)，何必在這個上面做。而在這上面做主要是解決如何共享資源，這個資源包括計算資源和數(shù)據(jù)資源，計算資源當然是以硬件為主的。網(wǎng)格計算在90年代又掀起高潮，盡管到目前為止還是在受限的條件下投入使用，但仍然在進一步的發(fā)展中。所以最近又出現(xiàn)了所謂的云技術(shù)、所謂的云計算。說句老實話，凡是同樣一個內(nèi)容的東西老在變名字說明什么呢？說明它還不夠完善或者說還不夠完備，還存在問題。換名字大概就是這樣，否則完全成熟了，像“計算機”就沒有再聽說叫另外的名字。

　　在國外首先提出網(wǎng)格計算的時候就是希望這個機器用了網(wǎng)格就像我們的電一樣，一拉開關(guān)燈就亮了，至于電網(wǎng)里面的這個電是哪兒供應的，我相信像深圳也不止由一個電廠供應，是不是大亞灣也進行了供應，這個我并不知道。我并不關(guān)心電是哪個電廠發(fā)的，當然在系統(tǒng)內(nèi)部要結(jié)算還是需要的，作為用戶根本不需要。也就是說我可以去任何一個地方，只要是連了電網(wǎng)的，任何一個結(jié)點上的資源都可以用，想用我們就可以用。大家都知道Grid，像中國電網(wǎng)就叫China Grid。

　　網(wǎng)格計算的實質(zhì)是三個共享：一是實現(xiàn)計算資源的高度共享；二是實現(xiàn)數(shù)據(jù)資源的高度共享；三是實現(xiàn)服務的高度共享。換句話說就是借助于互聯(lián)網(wǎng)將有限個參與的同構(gòu)或異構(gòu)計算機系統(tǒng)整合，形成一個巨大的虛擬計算平臺，如同一個計算機一樣。

　　網(wǎng)格技術(shù)最關(guān)鍵的一條就是協(xié)調(diào)廣域范圍內(nèi)的資源。而網(wǎng)格計算的基本原理就是說在任何一個結(jié)點上都可以使用到網(wǎng)格內(nèi)的任何資源，不管這個資源生存在哪個結(jié)點上。當然，在網(wǎng)格基本技術(shù)研究方面比較典型的就是所謂的層次模型，這個我也不再細講。

　　按照應用可以分為計算網(wǎng)格、數(shù)據(jù)網(wǎng)格和服務網(wǎng)格。相關(guān)的工作在美國、在歐洲及其他國家都做的很多，美國有NTG、DTF，國防部也有GIG，GIG主要是空間數(shù)據(jù)的共享。歐洲也有，像歐洲的數(shù)據(jù)網(wǎng)格，英國有英國的國家網(wǎng)格等等。這是一些地方典型網(wǎng)格的資料介紹。這是一張列表，我們國家也有，十一五建設(shè)網(wǎng)格。還有中國的教育科研網(wǎng)格。

　　P2P就是對等計算是廣域分布式計算的新趨勢，基本的思路我剛才已經(jīng)講過了，在一個結(jié)點上可以使用任意一個加入這個系統(tǒng)結(jié)點的資源。也試圖用不同的計算系統(tǒng)統(tǒng)一到Grid上來。網(wǎng)格計算的核心技術(shù)就是對等計算技術(shù)，包括資源管理技術(shù)、計算任務調(diào)度技術(shù)、負載平衡技術(shù)、容錯技術(shù)等等，同時要求信息隱蔽和數(shù)據(jù)抽象，還包括一些安全方面的比如數(shù)據(jù)方面的完整性、一致性問題。

　　關(guān)于地理信息系統(tǒng)也很快的說一下，地理信息系統(tǒng)是一類獲取、處理、分析、表示并在不同系統(tǒng)、不同地點和不同用戶之間傳輸空間數(shù)據(jù)的計算機應用系統(tǒng)。這個定義本身包含了在不同的機器之間如何共享資源的問題。地理信息系統(tǒng)從學科分界的角度來說，任何一個學科都一樣，包含三個層次：理論方法、技術(shù)工具、應用和服務。作為GIS層次應該在一層次和二層次范疇，重點在第二層次，當然有一部分是在第一層次。這是GIS平臺的三層架構(gòu)，包括基礎(chǔ)平臺、行業(yè)應用開發(fā)平臺以及應用系統(tǒng)和應用軟件。實際上網(wǎng)格計算應該屬于最底層的技術(shù)。

　　網(wǎng)格計算對我們來說就是地理信息系統(tǒng)，實際上在應用中要求是非常迫切的，也就是說無論在廣域的范圍內(nèi)的應用以及行業(yè)范圍內(nèi)的一些應用，都希望使用網(wǎng)格技術(shù)、使用網(wǎng)格地理信息系統(tǒng)，尤其GIS更是這樣，因為它需要的數(shù)據(jù)非常多，大量的應用涉及到的數(shù)據(jù)非常多，而這些數(shù)據(jù)又不可能完全集中在一臺或數(shù)臺機器上。特別是在我們國家更是有很多數(shù)據(jù)，比如各省的數(shù)據(jù)由省里來維護、更新，往往是放在本地的。但是他們的使用卻是很多地方都用得到，所以先把數(shù)據(jù)完全統(tǒng)起來，從管理的角度比較困難一些。對于網(wǎng)格GIS來說，它的目標跟網(wǎng)格計算是一樣的。換句話說網(wǎng)格GIS的總體目標是建立一個分布式的地理信息系統(tǒng)軟件平臺，這個軟件平臺由若干臺計算機所組成，互聯(lián)網(wǎng)環(huán)境下可以跨地域、跨平臺、協(xié)同工作的GIS集群系統(tǒng)?？梢詫崿F(xiàn)用戶能夠使用第四代語言自行組織和定制地理信息和地理空間數(shù)據(jù)的計算服務，為空間數(shù)據(jù)的網(wǎng)格計算提供系統(tǒng)級軟件支持。最后當然是實現(xiàn)共享，實現(xiàn)計算資源和計算能力的共享。

　　它的主要技術(shù)指標：首先是面向空間實體及其關(guān)系的數(shù)據(jù)組織與存儲，怎么存，怎么反應出來，不光是存，而且要反應出來，讓其他的結(jié)點所了解、所知道，這是第一個問題。第二是如何支持多個空間數(shù)據(jù)庫，一個應用可能涉及到很多空間數(shù)據(jù)庫，我們這里也不妨把它叫做空間數(shù)據(jù)庫集群，如何運用多個空間數(shù)據(jù)庫來完成一件計算任務，完成一個應用；第三是支持組成這個系統(tǒng)的各個計算機之間的協(xié)同計算，換句話說一個計算任務完全可以分布在若干個計算結(jié)點上。第四是計算完了經(jīng)過整理向用戶提交計算結(jié)果，而用戶本身并不關(guān)心提交的任務在哪些結(jié)點上運行。另外是要提供一種讓用戶提交計算任務的手段，這就是所謂的面向問題的空間查詢語言，然后利用這個空間查詢語言可以開發(fā)查詢的程序，然后提交，最后提交結(jié)果。這里面可能還有一些新型的空間數(shù)據(jù)模型和新型的空間數(shù)據(jù)關(guān)系和空間的算式。

　　它的運行架構(gòu)說起來簡單也非常簡單，這張圖很形象的說明，我們把這些叫做服務器（見圖），實際上叫做網(wǎng)格計算結(jié)點，通過互聯(lián)網(wǎng)聯(lián)系起來。聯(lián)系起來以后用戶可以通過互聯(lián)網(wǎng)連到某一臺結(jié)點上，這時候利用門戶技術(shù)，實際上中間也可以再加一臺機器，這臺機器叫門戶機，門戶機進行提交，當然這個門戶機完全可以不在分布式結(jié)點上，在網(wǎng)格結(jié)點上就合一了。就像售票一樣，火車售票處離開了火車站就是個門戶，如果北京站下面就有一個售票處，那就是北京站的售票，實際上是一樣的，這個售票處就是門戶的概念，我這里為了畫的方便把門戶省掉了。這個沒關(guān)系，門戶就是個二轉(zhuǎn)手。

　　具體來說，要解決一個計算任務或者要完成一個計算任務，在網(wǎng)格里的計算任務分哪幾步呢？首先第一步是用戶用第四代語言在本機上起草任務解決方案，也就是編制所謂的計算任務程序，我們叫做空間查詢語言以及結(jié)合常規(guī)的計算語言編輯它的任務書，然后向計算結(jié)點提交或者說通過門戶向計算結(jié)點提交，這是第一步。第二步，協(xié)同的計算結(jié)點或網(wǎng)格結(jié)點，網(wǎng)格結(jié)點接到計算任務以后對計算任務進行解意，形成了操作原語（包括操作對象、操作體）在內(nèi)所組成的完整系列。網(wǎng)格結(jié)點接到任務以后就對它進行解意，形成操作序列。形成操作序列以后第三步是網(wǎng)格結(jié)點根據(jù)全局目錄對操作系列進行拆分，確保每一個操作原語的執(zhí)行地點，這樣就形成了分布方案。形成分布方案就要向相關(guān)的計算結(jié)點發(fā)送操作原理，這樣發(fā)起了一次分布式的或者網(wǎng)格計算事務。第四步，有關(guān)網(wǎng)格結(jié)點接到了操作任務以后就啟動分布式計算系統(tǒng)，然后分別進行計算，當然這里面如果有必要可以進行二次分布，比方說在空間信息計算里有時候有二位運算，單位運算好辦，送過去的數(shù)據(jù)肯定有，沒有就不會分了，可能還有二次運算，有時候可能會出現(xiàn)這種情況。二次運算的兩個操作對象分別在不同的機器上，可能把這個結(jié)點交給另外一個結(jié)點，這叫做數(shù)據(jù)遷移了，我們叫做二次運算，類似的情況是這樣。當計算任務完成以后接到分任務的結(jié)點就回送計算結(jié)果，如果有必要的話發(fā)起一個同步任務，相當于數(shù)據(jù)庫里所謂的二次提交技術(shù)。另外如果有進行修改的話，計算過程中有進行修改的話還要發(fā)起數(shù)據(jù)同步，因為要保證主副器，這種情況我們盡量避免出現(xiàn)，因為有的時候會出現(xiàn)不確定性問題。為什么呢？普通計算問題不大，特別是修改，如果說一個數(shù)據(jù)在這個網(wǎng)格系統(tǒng)里有多個，單機上我們完全可以遵循語音，任何一次修改以后的結(jié)果立刻被大家所感受到，在單機上可以，在網(wǎng)絡系統(tǒng)上會出現(xiàn)這樣的問題，完全有可能在同一個時間分別在兩個結(jié)點上對主本、副本或兩個副本同時進行修改，這時候就會出現(xiàn)數(shù)據(jù)的不一致性問題，所以這個盡量慎用。

　　各個結(jié)點都已經(jīng)完成計算任務以后，向發(fā)起結(jié)點回送計算結(jié)果以后，那么就由發(fā)起這次分布式事務的結(jié)點進行匯總和整理。完成以后就是極速分布式事務就是所謂的二次提交，然后向用戶返回計算結(jié)果。用戶接到計算結(jié)果以后本次任務就結(jié)束了。

　　從這個流程看，實際上當一個用戶提交了網(wǎng)格計算任務以后，他并不知道你這個任務到底涉及到多少個結(jié)點，到底涉及到多少個結(jié)點進行計算，這個是一樣的。對用戶來說我只需要得到正確的結(jié)果就可以。這里頭有一些關(guān)鍵技術(shù)，首先一個關(guān)鍵技術(shù)是計算任務的組織，計算任務的組織實際上就涉及到網(wǎng)格空間計算語言的審計，我們把它叫做面向問題的計算任務描述語言以及它的（解譯）機制。如何設(shè)計出一套語言來，這套語言可以用來描述一個大的計算任務，然后又怎么能夠?qū)@個任務進行解譯變成若干個操作步，這是第一個比較大的關(guān)鍵技術(shù)。第二個大的關(guān)鍵技術(shù)，已經(jīng)描述成了若干個操作步所組成的序列，如何根據(jù)系統(tǒng)當時的資源情況進行分布，分布到不同的結(jié)點上，也就是說要為這些計算原語尋找執(zhí)行地點，而且要經(jīng)常優(yōu)化，因為完全可能出現(xiàn)具備這個計算能力的若干個結(jié)點，你怎么來開，開哪個？第三個關(guān)鍵問題就是實現(xiàn)計算，這里面包括了面向?qū)ο蟮臄?shù)據(jù)組織、存儲與操縱，第三點原則上和單機上的任務相仿，只不過這里頭會出現(xiàn)計算過程中出現(xiàn)問題的時候做二次補償?shù)膯栴}，我做不了了再把它傳給另一個有能力進行計算任務的結(jié)點。另外一點要保證地理空間數(shù)據(jù)的完整性和一致性，在可能的情況下還要實現(xiàn)系統(tǒng)的負載平衡和容錯，負載平衡也比較困難，但還可以做到一些，容錯實現(xiàn)很困難，這個要求很高，目前也沒有很好的辦法。

　　首先設(shè)計一個面向問題的時空查詢語言，我們叫做STCQL。這個查詢語言的目標就是提供計算任務的組織工具和任務解譯機制，這里面包括這樣一些內(nèi)容，計算任務的組織工具部署在客戶端上，這是沒有問題的，客戶端書寫他的計算任務。而任務解析解譯機制是部署在網(wǎng)格結(jié)點上，包括提供了詞法檢查、語法檢查、目標代真（生成計算原語的序列及其分布方案），配合計算任務分布引擎發(fā)出去。這個語言的使用方法既可以單獨使用，也可以嵌入程序設(shè)計語言使用。它的特點是引入了一系列新的空間，引入了一些新的數(shù)據(jù)類型，包括時空數(shù)據(jù)類型和“場” 數(shù)據(jù)類型。另外定義了關(guān)系監(jiān)測、關(guān)系計算、關(guān)系合成和幾何體之間運算等四大類的空間關(guān)系算子以及他們的組合算子，然后定義一些空間的函數(shù)，時間的函數(shù)和時空結(jié)合的函數(shù)，包括他們的實現(xiàn)。還要定義一些“長”數(shù)據(jù)進行計算進行的解析和數(shù)據(jù)。

　　STCQL的數(shù)據(jù)類型包括時空復合體類型、空間體類型、時間體類型、空間尺度類寫、時間尺度類型、“場”類型，他們的對象實例可以通過按照一定規(guī)格排列的字符串來表示，也可以通過時空函數(shù)或聚集函數(shù)來生成。實際上計算任務經(jīng)過解譯以后就生成了這么一個計算方案，這個計算方案是由并行語句所組成的，也就是說這些語句是可以分布到別的機器上去，并行語句本身又有若干個并行線索所組成，實際上它是兩個并行。一個并行是并行語句的并行，并行語句可以分布在不同的結(jié)點上。第二是當一個并行語句分布到了一個網(wǎng)格結(jié)點上，那么它又可以采用多道程序技術(shù)形成了并行線索，也就是說在同一臺機器上進行計算。換句話說，同一個并行語句中的一個線索是在一臺機上進行的。

　　這是一個控制流序列的例子（見圖），在這里就不細講了，是我們測試的例子。另外是STCQL的空間關(guān)系謂詞和空間函數(shù)也不惜說了，總共擴充了11類時間關(guān)系謂詞和1類時間關(guān)系函數(shù)，設(shè)計了4類時空關(guān)系謂詞和13類時空構(gòu)造函數(shù)，還有1類時空運動構(gòu)造函數(shù)和4類具體運動函數(shù)，因為時間關(guān)系也不多講例子了，包括平移運動、收縮運動、穿越關(guān)系等等。

　　剛才已經(jīng)說到當一個并行結(jié)點生成并行方案以后就要進行分布，生成并行方案我們有幾個優(yōu)先，也就是說確定分布到哪里去有幾個優(yōu)先，第一個優(yōu)先是就地計算，就地計算最優(yōu)先，在本地能夠計算的盡可能在本地計算，因為這樣省去了很多網(wǎng)絡的開銷和其他不確定性因素，自己做最放心。除非自己的計算任務已經(jīng)非常重了需要分布出去，另外一類是本地沒有條件進行計算，也就是說計算時所涉及到的空間資源我本地沒有，這時候就要將計算分布到擁有資源的結(jié)點上去，所以我們第二優(yōu)先是資源的分布，也就是說分到具有合適的計算資源結(jié)點上。只有第三優(yōu)先才考慮計算能力或負載平衡，假如說同時可以有兩個或三個結(jié)點能夠計算這個任務，這時候分布就要挑計算負載比較輕的結(jié)點作為目的地。而分布的依據(jù)，實際上這個系統(tǒng)設(shè)計了一個全局目錄，全局目錄在每個結(jié)點上都有一個，當然要對全局目錄進行同步，每次計算任務完了以后都要進行同步，因為全局負載目錄首先包括加入這個系統(tǒng)的多少個結(jié)點，都在什么地方，這是第一步。第二步是要有一個全局的資源目錄。第三步是有全局計算資源目錄，這也是屬于目錄的一部分。主要是看它的負載，當前負載是比較簡單的，這個負載就是CPU的利用率，CPU利用率越高負載越大。

　　這里面還有許多細節(jié)問題，其中一個細節(jié)問題剛才已經(jīng)提到了，就是所謂的多目算子，（二目）以上的，這個肯定會出現(xiàn)二次分布。另外是全局目錄的一致性問題，如何進行全局目錄的同步。第三個問題是分布式數(shù)據(jù)庫事務的組織和嵌套，整個計算任務是一個分布式事務，但分布到每個結(jié)點上的任務也是一個事務，按照事務的原子系統(tǒng)，它的事務就是這個子事務正確完成以后就要進行提交，提交就變成永久的了。當然不排除一個計算任務有八個子任務、有八個子事務，一個主事務有八個子事務，八個子事務里有七個子事務都正確完成了，其中一個子事務出了錯，要回滾，這時候那七個事務已經(jīng)提交了，要引入永久的所以要提交二次分布。等整個任務提交以后各個子事務的提交才算完成，否則不能算完成。當然還有空間數(shù)據(jù)的一致性問題，這個問題實在太麻煩了，實際上這個系統(tǒng)里來了一個干脆的不需編輯，需要編輯就退出系統(tǒng)，編輯完了以后再加入系統(tǒng)，加入系統(tǒng)以后緊接著就是數(shù)據(jù)同步，同步完了再計算。這里頭還會碰到冗余計算的問題，兩個或兩個以上的結(jié)點都具備承擔某個子任務能力的時候完全可以進行冗余計算，哪個對算哪個，這里面有個取舍問題，如果都對了取一個，只有一個對就取一個。這是空間數(shù)據(jù)操作分布執(zhí)行機制的一個表示（見圖），剛才說到了補償，就是當某一個結(jié)點得到計算任務時又沒有計算成功，這時候還要進行二次分布，這是所謂的補償，這個補償從投影里可以看出來（見圖），有個服務的補償。實際上有很多事情，大量的工作是放在異常處理下，而且異常處理是怎么也處理不全、處理不完。

　　從實用角度來說網(wǎng)格結(jié)點可以動態(tài)的加入與退出，實際上就是系統(tǒng)的基本配置和維護問題，還有系統(tǒng)的容錯問題，系統(tǒng)容錯問題我們實際上沒有做，因為這個太困難了。所謂分布式系統(tǒng)里發(fā)現(xiàn)錯誤主要是兩類錯：一類是Sail-Silent，發(fā)現(xiàn)就停了，這個好半；還有一類叫Byzantine，這個我們現(xiàn)在沒管，結(jié)點壞了沒死，神經(jīng)錯亂，給他的計算任務他貌似認真的給你做完，然后把結(jié)果傳過來，根本就不對。這類情況很復雜，首先誰有權(quán)判斷哪個是神經(jīng)錯亂，這個要引入表決機制，少數(shù)服從多數(shù)，可以做，但極大的影響系統(tǒng)資源，所以我們沒有做這個。

　　還有一個比較關(guān)鍵的問題是全局目錄的同步，全局目錄是網(wǎng)格系統(tǒng)中最重要的配置目錄，一個資源的配置目錄，需要不斷地在系統(tǒng)中對全局目錄進行同步，同步的時刻就包括這么幾個：一是某一個結(jié)點加入或退出了，這時候進行同步；二是當一個結(jié)點故障，這個可以歸到上面，故障就退出了；三是當數(shù)據(jù)庫發(fā)生變化的時候需要同步；四是計算負荷變化的時候也需要進行同步，因為計算資源目錄總的來說比較小，這個同步比較簡單。

　　從實現(xiàn)的角度來說我們充分利用Open Source提供的有利條件，加以有選擇地使用改造。核心處理技術(shù)是自行研發(fā)的，包括：面向問題的時空復合查詢語言、空間數(shù)據(jù)計算的分布和實現(xiàn)機制、數(shù)據(jù)一致性維護機制、新型數(shù)據(jù)模型與存儲、操縱機制等。從實現(xiàn)技術(shù)的考慮我們采用了基于語義的迭代式操作原語序列解譯機制，基于分級優(yōu)先的原語執(zhí)行分布機制。這個機制得到了國家863項目的支持，列了一個重點項目，我們和中國地大（武）教授那邊密切合作，現(xiàn)在武教授正在進行軟件開發(fā)，部分已經(jīng)實現(xiàn)，特別是在分布計算主體正在實現(xiàn)，包括查詢語言等等東西，預計明年年底之前能夠完成。而且目前同樣的分布式成果開始做，同樣一個大的項目里有一個示范應用在進行實驗，這是一個比較好的應用環(huán)境，好多數(shù)據(jù)是被計算結(jié)點所有的。好，我的演講就到這里，謝謝。