PIE-Engine遙感云服務平臺版本更新說明

PIE-Engine遙感云服務平臺 自2020年8月19日發(fā)布公測版本以來,在大家的關愛和建議下不斷成長,平臺的可用性和成熟度也逐步提高。我們將PIE-Engine近4個月的更新情況進行了匯總,幫助大家進一步了解平臺現(xiàn)狀,從而更好地開展教育和科研工作。
?一、重要更新內容?
1、PIE-Engine全新官方主頁上線
PIE-Engine官方網站全新改版,增加了在線直播、應用服務、遙感處理云服務等內容;PIE-Engine遙感計算云服務頁面也經過了重新設計,內容展示更為全面(訪問地址:https://engine.piesat.cn/engine-studio/);
2、免費可用的公共數據集增加至69種
豐富的公共數據集是使用PIE-Engine平臺的基礎要求,我們通過持續(xù)的數據接入和更新,將數據集種類增加至69種,總量約1.2PB,日更新量10-14TB,覆蓋光學、雷達、高光譜、氣象、海洋、環(huán)境等領域,同時提供了專門的頁面對所有數據集進行介紹。詳細數據更新情況見下文“數據集更新”說明。
3、建立了跨數據中心的數據接入和預處理系統(tǒng)
為了實現(xiàn)高速、穩(wěn)定的遙感數據接入,我們構建了一套跨數據中心的分布式自動化數據接入與預處理系統(tǒng),將位于中國北京/寧夏、韓國首爾、日本東京、新加坡和德國法蘭克福的云服務器無縫連接起來,基于云架構協(xié)同工作;
4、增加或優(yōu)化了近200個在線編程計算算子
全面更新和優(yōu)化了用于在線編程的JavaScript計算算子,涉及數據統(tǒng)計分析、矩陣運算、集合訪問、元素過濾、線性回歸等,同時還提供了多種針對特定衛(wèi)星數據的專有算子。大部分算子底層采用C++實現(xiàn)。詳細更新情況見下文“開發(fā)算子更新”說明;
5、引入了多種計算流圖優(yōu)化技術以提升計算效率
采用多種技術優(yōu)化計算腳本執(zhí)行時生成的計算流DAG圖,包括中間對象合并、計算路徑剪枝、計算緩存替換等,大幅提高了復雜計算腳本的執(zhí)行效率;
6、支持將參數化計算腳本發(fā)布為可集成的Web服務
支持將用戶編寫的計算腳本生成Web服務鏈接,其中的參數化變量可通過HTTP請求參數動態(tài)修改。生成的鏈接符合OGC標準,可方便地嵌入到第三方應用中,通過幾行代碼即可將PIE-Engine的數據和計算服務集成到業(yè)務系統(tǒng)中;
7、重構用戶資源管理功能并增加個人資源配額限制
整體重構了用戶數據資源管理功能,改進了數據上傳、接入和檢索的效率以及操作體驗;改進數據存儲機制以更好地隔離用戶私有數據;優(yōu)化了用戶資源配額管理,目前用戶個人存儲空間增加至250GB,文件個數增加至6000個,下載流量增加至100GB/月;
8、發(fā)布長時間影像動態(tài)變化展示和衛(wèi)星數據在線檢索應用
現(xiàn)在用戶可使用Timelapse應用查看中國區(qū)任何地方2013-2020年長時間序列影像的變化(基于Landsat8影像數據);在線提供基本的影像數據檢索和統(tǒng)計功能,便于用戶了解數據的分布情況。
?二、數據集更新?
1、光學衛(wèi)星數據
Landsat7 TOA數據(1999-2004,全國);
Landsat8 TOA數據(2013-2020,亞洲);
Landsat8 SR數據(2013-2020,亞洲);
Sentinel 2 MSI數據(2019-2020,亞洲);
GF1_WFV TOA 數據、GF1_WFV SR 數據、GF1_B/C/D正射融合數據;
GF-2正射融合數據(樣例);
2、夜光遙感
DMSP OLS、VIIRS Nighttime Day數據
3、高程DEM
ALOS DEM 12.5米、ASTER GDEM V3 30米、SRTM DEM 30米等;
4、行政區(qū)劃及矢量數據
包括全球國家行政區(qū)劃邊界、中國省級行政區(qū)劃邊界、中國城市行政區(qū)劃邊界、中國縣級行政區(qū)劃邊界、全球港口分布等;
5、環(huán)境監(jiān)測數據
Sentinel5p系列數據(SO2、O3、NO2、CO、甲烷、甲醛、紫外線氣溶膠等多種氣體、云層的監(jiān)測數據);
6、地表覆蓋產品
全球10米地表覆蓋(FROM-GLC10 2017 v1)、全球土地覆蓋分類(MCD12Q1.006)、全球30米地表覆蓋(FROM-GLC30 2015 v2)、全球地表覆蓋GlobeLand30、全球30米不透水面產品等;
7、植被相關產品
全球8天合成LAI產品(MOD15A2H V6)、全球陸地植被產品(MOD13Q1 V6)等;
8、人口分布數據集
WorldPop人口數據集(100米/1公里)、LandScan全球人口分布數據集;
9、氣象/氣候產品
風云4號衛(wèi)星反演產品(最近1個月)、葵花8號衛(wèi)星反演產品(最近1個月)、中國1km*1km分辨率氣溫及雪深格點產品、氣象數值天氣預報產品、氣象實況監(jiān)測產品、氣象短臨預報產品、全球生態(tài)系統(tǒng)總初級生產力(GPP)、全球地表太陽輻射產品等;
10、海洋衛(wèi)星產品
海洋2B散射計產品、海洋1C海岸帶成像儀產品(1C/2A/2B)等;
11、第三方合作數據
PlanetLabs衛(wèi)星數據(樣例)、吉林一號衛(wèi)星數據(樣例)、全球250米LAI產品。
?三、開發(fā)算子更新?
1、增加了多種數據統(tǒng)計分析方法
在Reducer下擴展了mean、median、count、percentile、first、last、linearFit、linearRegression、pearsonsCorrelation、fixedHistogram等多個算子。
2、擴展了數據查詢過濾方式
在Filter下增加了or、and、calendaRange、dayOfYear、inList等多種過濾方式,優(yōu)化了ImageCollection和FeatureCollection的數據過濾方式;
3、增加了高程數據通用算法
包括方位角、坡度、陰影計算等算法,支持高程數據的分析計算;
4、增加了針對國產遙感數據的反演算法
包括FY4A的PM2.5、PM10、氣溶膠反演算法和FY4A、Landsat8、Sentinel-1、葵花8等數據的去云算法;
5、Array類增加算子
getInfo、cat、abs、accum、slice、transpose、subtract、add、multiply、divide、and、or、not、bitwiseAnd、bitwiseOr、bitwiseNot、bitwiseXor等算子以及matirxDeterminant、matrixDiagonal、matrixToDiag、matrixTrace、matrixTranspose、matirxInverse、matrixFnorm、matrixPseudoInverse、matrixCholeskyDecomposition、matrixSolve、matrixORDecompositon、matrixMultiply等矩陣運算相關算子30個;
6、新增基本數據類型
新增了String、Number、Dictionary、List等基本數據類型,擴展算子近60個,實現(xiàn)了部分功能的并行計算,優(yōu)化了執(zhí)行效率;
7、完善ImageCollection和Image類等
完善了ImageCollection和Image類,修正了部分算子數據不兼容的問題,增加了Reduce、matrixMultiply、date、set、get等算子;
8、完善FeatureCollection和Geometry類等
完善了FeatureCollection和Geometry類,增加了contains、difference、intersects、union、simplify、dissolve、buffer、toGeoJSON等10多個算子;
9、完善了Export數據導出方法,改進了導出效率和精度。
?四、其它更新情況?
1、增加了用戶中心模塊
在用戶中心中可以設置用戶基本信息,查看個人積分以及兌換積分領獎等。以后用戶可以使用個人積分兌換平臺的資源使用配額;
2、在線幫助文檔全新升級
新的用戶幫助文檔內容更加豐富,包含了平臺上所有可用算法的說明介紹以及相關的案例講解;
3、提供數據集專有演示腳本
增加了29種常用數據集的演示腳本,位置在“參考示例”—>“Datacatlog”目錄下;
4、支持分享代碼鏈接的管理
現(xiàn)在用戶可以管理自己已經分享的代碼鏈接,可設置是否公開或刪除鏈接;
5、增加地圖界面動態(tài)創(chuàng)建圖例功能
優(yōu)化矢量數據繪制、數據導出等方法。
?五、近期重要發(fā)布計劃?
1、本地Python開發(fā)包正在內測之中,預計在2020年12月內發(fā)布;
2、多種機器學習分類算法正在集成開發(fā)中,預計在2021年1月份發(fā)布;
3、對于在線深度學習模型API的編程調用將在2021年第一季度發(fā)布,可實現(xiàn)AI模型和計算平臺的深度整合。
【PIE-Engine注冊地址】
https://engine.piesat.cn