時(shí)間:2022-07-25 10:42:29
NVIDIA人工智能實(shí)驗(yàn)室解決方案是NVIDIA公司針對(duì)中國(guó)教育市場(chǎng)推出的基于數(shù)據(jù)中心虛擬化基礎(chǔ)架構(gòu)上的GPU虛擬化,加之NVIDIA深度學(xué)習(xí)學(xué)院培訓(xùn)體系的一體化人工智能實(shí)驗(yàn)室解決方案。該方案采用以用戶為中心的計(jì)算模式、按需向用戶提供GPU資源、框架資源、深度學(xué)習(xí)環(huán)境。保障用戶對(duì)GPU資源的獨(dú)享,保證用戶獲取足夠的自由度和較高的用戶體驗(yàn),同時(shí)滿足集中管理和數(shù)據(jù)安全的需求,靈活和快速部署人工智能實(shí)驗(yàn)環(huán)境。
數(shù)據(jù)中心虛擬化基礎(chǔ)架構(gòu)平臺(tái)是一個(gè)成熟的解決方案,主要包括服務(wù)器虛擬化、存儲(chǔ)虛擬化、網(wǎng)絡(luò)虛擬化及管理平臺(tái)等。再加上NVIDIA的GPU虛擬化后,用戶能夠簡(jiǎn)單、快速、一站式的構(gòu)建校園GPU資源管理平臺(tái),對(duì)內(nèi)提供GPU服務(wù),大大簡(jiǎn)化GPU資源管理工作,提高數(shù)據(jù)的安全性,提高機(jī)器硬件利用率,降低IT擁有總成本(TCO)。
采用了混合云計(jì)算模式(集合服務(wù)器虛擬化、GPU虛擬化、PC虛擬化和網(wǎng)盤),既支持服務(wù)器的后端計(jì)算資源池彈性分配,又支持客戶機(jī)前端計(jì)算資源的分布式運(yùn)算,Grid6.0為GPU虛擬化帶來(lái)了新的環(huán)境實(shí)現(xiàn),支持在GPU虛擬環(huán)境下的深度學(xué)習(xí)框架的搭建和計(jì)算,是教育單位的人工智能實(shí)驗(yàn)室得以實(shí)現(xiàn)的重要技術(shù)平臺(tái)。
1.1 系統(tǒng)架構(gòu)
1.1.1 系統(tǒng)架構(gòu)
1.1.2 vGPU架構(gòu)
1.2 產(chǎn)品說(shuō)明
1.2.1 NVIDIA GPU
通過(guò)服務(wù)器虛擬化平臺(tái),把GPU計(jì)算資源進(jìn)行切割,按需求進(jìn)行分配,依托DOCK技術(shù)快速部署各種深度學(xué)習(xí)實(shí)踐環(huán)境,用戶通過(guò)云終端、筆記本、PC、智能終端,通過(guò)瀏覽器訪問(wèn)部署在校內(nèi)的云端人工智能實(shí)驗(yàn)室門戶網(wǎng)址,進(jìn)行AI實(shí)驗(yàn)、模型實(shí)踐和推演產(chǎn)品的互動(dòng)體驗(yàn)。
1.2.2 深度學(xué)習(xí)框架
1.2.3 英偉達(dá)深度學(xué)習(xí)學(xué)院
英偉達(dá)人工智能實(shí)驗(yàn)室解決方案依托英偉達(dá)深度學(xué)習(xí)學(xué)院的課程進(jìn)行打造。在原汁原味還原國(guó)際課程的同時(shí)加入符合中國(guó)教育的內(nèi)容和元素,幫助老師和學(xué)生更好的教授、體驗(yàn)和學(xué)習(xí)人工智能方面的知識(shí)。
NVIDIA 深度學(xué)習(xí)學(xué)院 (DLI) 針對(duì)AI 和加速計(jì)算提供實(shí)踐操作培訓(xùn),旨在解決現(xiàn)實(shí)問(wèn)題。DLI 為開發(fā)人員、數(shù)據(jù)科學(xué)家和研究人員度身打造課程,您可通過(guò)以下三種方式學(xué)習(xí):
1.2.3.1 在線主題課程
每個(gè)主題課程含八小時(shí)課時(shí),學(xué)習(xí)如何實(shí)施和部署端到端的項(xiàng)目。您可以隨時(shí)隨地使用云端完全配置的 GPU 加速工作站開始在線學(xué)習(xí)。
1.2.3.2 在線選修課程
每個(gè)選修課程含兩小時(shí)課時(shí),探索如何應(yīng)用特定技術(shù)或開發(fā)技術(shù)。您可以隨時(shí)隨地使用云端完全配置的 GPU 加速工作站開始在線學(xué)習(xí)。
1.2.3.3 講師指導(dǎo)的培訓(xùn)班
面對(duì)面培訓(xùn)班含八小時(shí)主題課程,學(xué)習(xí)如何實(shí)施和部署端到端的項(xiàng)目。由 DLI 認(rèn)證講師授課,并使用云端完全配置的 GPU 加速工作站實(shí)踐操作。您可以申請(qǐng)?jiān)谧约旱慕M織機(jī)構(gòu)內(nèi)、大學(xué)校園和大型相關(guān)會(huì)議上舉辦培訓(xùn)。
1.2.3.4 認(rèn)證證書
參與者可以獲得認(rèn)證證書,以證明在相關(guān)領(lǐng)域的能力,為自身的職業(yè)發(fā)展提供支持。您可以在部分在線課程和講師指導(dǎo)的培訓(xùn)班獲得認(rèn)證證書。
1.2.4 英偉達(dá)人工智能實(shí)驗(yàn)室平臺(tái)
1.2.4.1 界面
1.2.4.2 功能
1.2.4.3 使用方式
1.3 課程內(nèi)容
1.3.1 課程列表
1.3.2 人工智能標(biāo)注技術(shù)
1.3.3 人工智能應(yīng)用解析
1.3.4 Python可視化及其應(yīng)用
1.3.5 交互式Python編程
1.3.6 實(shí)驗(yàn)效果
2、 功能亮點(diǎn)
2.1 便捷管理
2.1.1 管理平臺(tái)
人工智能實(shí)驗(yàn)室系統(tǒng)的管理平臺(tái)采用B/S架構(gòu),簡(jiǎn)潔的全圖形化管理界面,用戶在任意聯(lián)網(wǎng)的終端上通過(guò)瀏覽器便可訪問(wèn)平臺(tái),平臺(tái)上可以實(shí)現(xiàn)服務(wù)器、用戶、桌面、場(chǎng)景、終端、存儲(chǔ)等的全面集中管理。
基于瀏覽器的web控制臺(tái)是整個(gè)自服務(wù)平臺(tái)的唯一管理入口,管理員可以坐在辦公桌面通過(guò)瀏覽器維護(hù)整個(gè)學(xué)校的GPU資源、云終端和基礎(chǔ)設(shè)施,無(wú)論是開機(jī)/關(guān)機(jī)/重啟,還是備份/還原,或是重置/升級(jí),都不要進(jìn)實(shí)驗(yàn)室或是到現(xiàn)場(chǎng),輕輕松松完成,工作效率提升十多倍。
2.1.2 軟硬件集中升級(jí)
人工智能實(shí)驗(yàn)室系統(tǒng)將硬件的計(jì)算性能的需求和本地終端解耦,所有GPU計(jì)算資源由云端的服務(wù)器提供,本地終端可以是普通電腦、一體機(jī)或瘦客戶機(jī)。
服務(wù)器虛擬化軟件除了管理云端資源外還可以提供云還原功能,確保課程結(jié)束后實(shí)驗(yàn)環(huán)境自動(dòng)恢復(fù)到預(yù)設(shè)狀態(tài)。同時(shí),基于模板和鏈接克隆技術(shù),服務(wù)器端集中部署桌面,只要對(duì)單個(gè)模板配置、修改、安裝升級(jí)軟件/虛擬機(jī)硬件,即可實(shí)現(xiàn)數(shù)百桌面的同步更新,幾分鐘時(shí)間管理員就能完成全部操作,不需要到用戶現(xiàn)場(chǎng)逐臺(tái)操作。
PC虛擬化包含電腦管理功能,負(fù)責(zé)虛擬系統(tǒng)模板的管理,電腦終端信息管理,接入控制,外設(shè)的管理,通過(guò)管理平臺(tái)統(tǒng)一推送及更新虛擬操作系統(tǒng)及應(yīng)用。
2.1.3 實(shí)驗(yàn)課程快速部署
利用管理平臺(tái)可以方便制作針對(duì)性NVIDIA DOCKER軟件環(huán)境模板,通過(guò)模板可以實(shí)現(xiàn)實(shí)驗(yàn)環(huán)境的批量創(chuàng)建、更新、分發(fā),數(shù)百臺(tái)終端瞬間即可使用相應(yīng)用戶操作環(huán)境,達(dá)到快速部署的目的。終端應(yīng)用軟件的安裝 及配置變化,均可以通過(guò)管理控制臺(tái)在服務(wù)器端集中操作,大大簡(jiǎn)化了用戶操作環(huán)境的配置和部署。
2.2 有效控制
2.2.1 教學(xué)管理端
針對(duì)管理權(quán)限,教育桌面為管理員和上課教師提供了不同的管理端,管理員登錄后臺(tái)軟件管理平臺(tái),來(lái)完成對(duì)所有用戶進(jìn)行管理以及系統(tǒng)維護(hù)的工作。教學(xué)管理端是為上課教師提供的管理軟件,可以選擇多種獨(dú)立的教學(xué)環(huán)境,并且可以一鍵切換教學(xué)環(huán)境,上課,下課統(tǒng)一開關(guān)機(jī)等功能,也可以讓學(xué)生自由選擇,無(wú)需登錄管理后臺(tái)進(jìn)行操作。
2.2.2 有效控制USB接口使用
基于USB接口重定向和穿透技術(shù),有效支撐教學(xué)實(shí)驗(yàn)中的各種USB設(shè)備,不限于USB存儲(chǔ)、打印機(jī)、掃描儀、智能卡、U-key、觸摸屏等。
同時(shí)針對(duì)USB存儲(chǔ)傳播的各種病毒,以及數(shù)據(jù)的安全保密規(guī)范,可以對(duì)各個(gè)用戶終端進(jìn)行USB接口限制,即使插上感染了病毒的移動(dòng)存儲(chǔ)設(shè)備,桌面內(nèi)也無(wú)法訪問(wèn)和存取,極大的保障了用戶桌面和數(shù)據(jù)的安全性。
2.2.3 完整的監(jiān)控功能
提供性能監(jiān)控功能,對(duì)服務(wù)器和終端桌面中GPU、CPU、網(wǎng)絡(luò)、磁盤、各個(gè)進(jìn)程資源使用率等指標(biāo)的實(shí)時(shí)數(shù)據(jù)統(tǒng)計(jì),并能反映目前物理機(jī)、虛擬機(jī)的資源瓶頸,同時(shí)管理人員還可以監(jiān)看客戶端接入桌面的操作情況,在必要時(shí)進(jìn)行截圖或錄像。
2.3 教師辦公
2.3.1 個(gè)性化DOCK環(huán)境快速交付
終端桌面架構(gòu)在后臺(tái)統(tǒng)一管理,快速交付各種教學(xué)應(yīng)用桌面,無(wú)需現(xiàn)場(chǎng)逐一安裝;系統(tǒng)選擇更“靈活”老師可以根據(jù)個(gè)人使用習(xí)慣靈活選擇多種NVIDIA DOCKER環(huán)境。
2.3.2 移動(dòng)授課辦公模式
移動(dòng)辦公包括校內(nèi)辦公和家庭辦公;移動(dòng)教學(xué)包括辦公室備課和教室上課。教師使用的桌面,是將各種教學(xué)軟件、辦公軟件內(nèi)置到云桌面中打包成各種標(biāo)準(zhǔn)桌面,按需配置,按需分發(fā),有網(wǎng)絡(luò)的地方,就能使用自己的個(gè)人桌面。但是登錄虛擬桌面對(duì)帶寬的依賴較高?,F(xiàn)在網(wǎng)絡(luò)發(fā)展高速,家庭帶寬都能保障二十兆完全可以支持家庭辦公的遠(yuǎn)程連接。同時(shí)教師使用其它移動(dòng)設(shè)備辦公,也要保證寬帶的要求,教師可以在學(xué)校任何地方,遠(yuǎn)程訪問(wèn)自己的桌面。
教師在辦公室備完課,準(zhǔn)備好PPT后僅僅需要來(lái)到教師,使用云終端,登錄自己的桌面,就可以直接完成教學(xué)。同時(shí)可以登錄時(shí)修改個(gè)人用戶密碼,保證了個(gè)人桌面的安全性。教師回到家中,也可以家庭辦公,可以遠(yuǎn)程登錄自己的桌面,使用各種軟件利用客戶端訪問(wèn)校內(nèi)資源。創(chuàng)建一種嶄新的教學(xué)與辦公模式,允許按需隨時(shí)學(xué)習(xí)、碎片學(xué)習(xí)、移動(dòng)辦公。
教師再也不用在辦公室、家庭和教室之間來(lái)來(lái)回回?cái)y帶筆記本電腦或U盤,輕松便捷,而且使用相同的個(gè)人桌面。
3、 方案價(jià)值
深度學(xué)習(xí)計(jì)算模型:Traing—>INFERENCE
3.1 人工智能應(yīng)用體驗(yàn)
未來(lái),隨著人臉識(shí)別、語(yǔ)音識(shí)別、語(yǔ)義理解、深度學(xué)習(xí)等技術(shù)深入發(fā)展,機(jī)器人將擁有類人的思考和交互能力,賦能經(jīng)濟(jì)生產(chǎn)和社會(huì)生活方方面面。學(xué)生在進(jìn)行人工智能相關(guān)的學(xué)習(xí)之前如果可以深刻體驗(yàn)科技帶來(lái)的神奇,對(duì)興趣的培養(yǎng)和后期的學(xué)習(xí)都大有幫助。
AI語(yǔ)文老師可以教你如何寫藏頭詩(shī),與AI數(shù)學(xué)老師一起猜數(shù)字,AI英語(yǔ)老師學(xué)英文單詞和發(fā)音,還可以和AI美術(shù)老師一起快速涂鴉,面對(duì)面請(qǐng)教AI老師許多有趣的問(wèn)題,再與AI體育老師來(lái)一場(chǎng)圍棋對(duì)戰(zhàn)……
未來(lái),隨著智能批改、智能陪練、語(yǔ)音測(cè)評(píng)、智能圖書館、咨詢管理等應(yīng)用的投入運(yùn)行,AI將滿足學(xué)生個(gè)性化需求,解決教師資源相對(duì)有限的問(wèn)題,同時(shí)將教育資源傳遞到更多有需要的地方,緩解教育資源不均衡的現(xiàn)狀。借助AI賦能,世界互通,人類將在共通的新水平線上學(xué)習(xí)發(fā)展。
3.2 多樣性AI學(xué)習(xí)環(huán)境—訓(xùn)練(AI Train)
基于NVDOCK技術(shù)可以打包多種深度學(xué)習(xí)環(huán)境,打包各種框架和驅(qū)動(dòng),實(shí)現(xiàn)在一個(gè)課堂內(nèi)的多種深度學(xué)習(xí)場(chǎng)景和個(gè)性化教學(xué)實(shí)驗(yàn)課堂。管理員只需要將不同的環(huán)境提供給學(xué)員即可,對(duì)于學(xué)生,桌面中不僅只有教學(xué)相關(guān)的軟件,提升桌面響應(yīng)速度,同時(shí)規(guī)范學(xué)生注意力,提高了教學(xué)質(zhì)量,還有不同的框架學(xué)習(xí)機(jī)會(huì),體驗(yàn)各種深度學(xué)習(xí)方法,對(duì)于高校AI實(shí)驗(yàn)室非常適合。
3.3 多樣性AI學(xué)習(xí)環(huán)境—推演(Inference)
深度學(xué)習(xí)實(shí)驗(yàn)室可以作為人工智能科普實(shí)驗(yàn)室來(lái)規(guī)劃設(shè)計(jì),可以將目前已有的Inference 模型進(jìn)行體驗(yàn)課堂,例如機(jī)器視覺,語(yǔ)音識(shí)別等人工智能應(yīng)用場(chǎng)景體驗(yàn)??梢酝ㄟ^(guò)“機(jī)器對(duì)弈”“視覺識(shí)別”等模型來(lái)體驗(yàn)AI課程。對(duì)于普教實(shí)驗(yàn)室非常適合。
3.4 AI專業(yè)教師資源培養(yǎng)
通過(guò)NVIDIA的深度學(xué)習(xí)學(xué)院,可以為學(xué)校培養(yǎng)AI專業(yè)教師,教師可以疊加人工智能概念及基本知識(shí)、深度學(xué)習(xí)的技術(shù)和算法等,架構(gòu)學(xué)校自身教學(xué)和實(shí)驗(yàn)內(nèi)容。學(xué)校建立系統(tǒng)的AI教學(xué)課程也得以實(shí)現(xiàn)。
3.5 云教學(xué)環(huán)境得以實(shí)現(xiàn)
由于采納了虛擬桌面技術(shù),可以將常用教學(xué)軟件、備課授課資源封裝到虛擬桌面中,通過(guò)網(wǎng)絡(luò)遠(yuǎn)程交付給學(xué)生使用,這樣既解決了學(xué)生對(duì)專業(yè)軟件安裝維護(hù)的問(wèn)題,又可以增加軟件、資源的利用率,分?jǐn)偛少?gòu)成本,同時(shí)也方便了師生在家中備課和教學(xué)實(shí)驗(yàn)的完成。
實(shí)驗(yàn)文檔和實(shí)驗(yàn)環(huán)境在同一個(gè)頁(yè)面,打造即學(xué)即練的實(shí)驗(yàn)體驗(yàn)
教師可自主制作實(shí)驗(yàn)文檔并部署實(shí)驗(yàn)環(huán)境,打造貼近本校真是需求的課程
3.6 計(jì)算資源的復(fù)用
由于Grid6.0的特性,可以使GPU的計(jì)算資源得以復(fù)用,既可以進(jìn)行虛擬切割實(shí)現(xiàn)深度學(xué)習(xí)實(shí)驗(yàn)課堂,進(jìn)行學(xué)生教學(xué)。同時(shí)又可以在閑時(shí)進(jìn)行大規(guī)模計(jì)算任務(wù)使用,例如晚上整合GPU進(jìn)行模型計(jì)算。
又由于基于虛擬桌面技術(shù),平臺(tái)可以提供重圖形圖像應(yīng)用環(huán)境,例如3Dmax、CATIA軟件的教學(xué)和實(shí)驗(yàn)云環(huán)境。還能為學(xué)校師生提供更多的云應(yīng)用資源服務(wù),為學(xué)校大大節(jié)省了投入成本。
方案詳細(xì)咨詢請(qǐng)撥打:4008-189-189