11月9日-10日,由歐拉開源社區(qū)舉辦的第二屆操作系統(tǒng)產(chǎn)業(yè)峰會(huì)& openEuler Summit在北京召開,旨在聚集全產(chǎn)業(yè)鏈力量,共同推動(dòng)基礎(chǔ)軟件產(chǎn)業(yè)的發(fā)展。軟通動(dòng)力作為社區(qū)共建者,是此次峰會(huì)的協(xié)辦單位,并在10日的兼容性分論壇上分享了“HPC應(yīng)用基于歐拉開源操作系統(tǒng)的遷移實(shí)踐”的主題演講。
軟通動(dòng)力圍繞基于華為openEuler + Kunpeng平臺(tái)的根技術(shù)推廣應(yīng)用、openEuler的KAE助力SPARK提升性能等實(shí)踐多個(gè)維度,全面分享了軟通動(dòng)力在歐拉開源操作系統(tǒng)領(lǐng)域的遷移調(diào)優(yōu)優(yōu)秀實(shí)踐。
HPC-WAN打造高時(shí)效、高性能的氣象應(yīng)用解決方案
大數(shù)據(jù)時(shí)代,氣象服務(wù)應(yīng)用領(lǐng)域不斷拓展,氣象數(shù)據(jù)處理也越來越重要。但氣象應(yīng)用處理數(shù)據(jù)量大,時(shí)效性要求高。性能是氣象應(yīng)用對(duì)平臺(tái)要求的關(guān)鍵。HPC-WAN遷移實(shí)踐是將氣象解決方案遷移到openEuler+鯤鵬的計(jì)算平臺(tái),充分發(fā)揮openEuler+鯤鵬在HPC場(chǎng)景的性能優(yōu)勢(shì)。軟通動(dòng)力通過畢昇編譯器進(jìn)行編譯,MPI軟件替換為HyperMPI,再對(duì)OS進(jìn)行性能調(diào)優(yōu),最終實(shí)現(xiàn)氣象HPC組件在openEuler+Kunpeng平臺(tái)正常運(yùn)行,整體性能超過通用平臺(tái)。
基于華為openEuler+Kunpeng平臺(tái)根技術(shù)能力,使HPC-WAN解決方案性能超過通用平臺(tái)(X86),有效解決氣象行業(yè)對(duì)計(jì)算平臺(tái)高性能的要求。通過HPC-WAN遷移實(shí)踐,軟通動(dòng)力助力華為基礎(chǔ)軟件根技術(shù)在行業(yè)的推廣應(yīng)用。
SPARK使能openEuler打造大數(shù)據(jù)高效處理組件
SPARK是一個(gè)開源的大數(shù)據(jù)處理組件,它支持一組豐富的高級(jí)工具,包括用于SQL的sparksql等。當(dāng)前開源Spark使用壓縮方式各有優(yōu)缺點(diǎn),其中GZIP壓縮方式?jīng)]有使能KAE,CPU占用率高,壓縮速度慢。本次優(yōu)化是在Spark中使能openEuler acclib,通過openEuler 的軟加速、硬加速庫提升Spark性能。軟通動(dòng)力通過在Spark中,增加openEuler的KAEzip調(diào)用接口、使能gzip接口以及解壓縮庫配置;使用 scala開發(fā)語言進(jìn)行KAE硬加速使能;最終優(yōu)化后的Spark SQL查詢性能提升5+倍,HiBench性能測(cè)試提升40%+。
基于華為openEuler的KAE加速能力,助力SPARK大數(shù)據(jù)處理效率提升5倍+,軟通動(dòng)力通過SPARK使能openEuler優(yōu)化實(shí)踐支撐華為鯤鵬KAE加速在開源軟件的使能和運(yùn)用。
操作系統(tǒng)作為基礎(chǔ)軟件的根技術(shù),是推動(dòng)數(shù)字變革的關(guān)鍵力量。作為企業(yè)數(shù)字化轉(zhuǎn)型可信賴合作伙伴,軟通動(dòng)力幫助眾多行業(yè)進(jìn)行數(shù)字化轉(zhuǎn)型實(shí)踐,也在持續(xù)關(guān)注和支持操作系統(tǒng)產(chǎn)業(yè)的發(fā)展。作為歐拉開源社區(qū)的參與者和貢獻(xiàn)者,軟通動(dòng)力積極參與社區(qū)合作與交流,在加速庫、應(yīng)用遷移方向不斷提升技術(shù)能力并積累大量經(jīng)驗(yàn),通過持續(xù)的投入和技術(shù)創(chuàng)新,不斷為歐拉開源操作系統(tǒng)生態(tài)發(fā)展增磚添瓦。