成人免费午夜在线观看,伊人久久精品,一区二区三区精品

時間來到2023年，學長負責的MindSpore NLP套件正處在項目初期的高速開發(fā)演進過程中，需要大量社區(qū)開發(fā)者投入其中。曾子瑄忙于學校大創(chuàng)項目結題和準備推免材料沒有參加，但他在校內組織的MindSpore開源實習宣傳吸引大量開發(fā)者加入。

隨著研究生推免的結束，曾子瑄可支配的靈活時間明顯比以前更多了，這時候恰好學長正在推廣昇思開源社區(qū)中“關于在MindSpore NLP套件中遷移模型、單卡微調模型和多卡微調模型”的任務，并且完成任務還能獲得報酬和獎勵，于是曾子瑄很快便接下了這個任務。

在這個過程中，曾子瑄作為MindSpore NLP SIG的核心成員，先后完成四個大模型的遷移工作，包括一個Falcon大模型微調案例開發(fā)。在富有挑戰(zhàn)性的算子開發(fā)領域，他申請了開源實習，完成了GPU后端的Flash Attention算子在MindSpore NLP的接入與調優(yōu)，實現(xiàn)了兩倍以上的推理速度提升。在當時，MindSpore NLP套件幾乎不支持任何量化方法，而在比開源實習更高階的開源之夏項目中，曾子瑄完成了基于MindSpore的BitsAndBytes量化庫實現(xiàn)，降低了模型推理對顯存的需求，提升了計算性能，增強了模型部署在端側的可行性。

這其中既有他自身的努力，也離不開昇思開源社區(qū)的助力。

“在開發(fā)中，MindSpore提供的函數(shù)式和對象式融合編程范式，使構建神經(jīng)網(wǎng)絡和訓練流程變得簡單，提供的API映射文檔也比較全面，大大降低了模型遷移的工作量。在自定義算子方面，MindSpore提供了Custom接口用于接入不同后端的算子，Custom接口會找到動態(tài)鏈接庫中相應的函數(shù)，只要按照接口規(guī)范定義算子，就能夠實現(xiàn)高效的運行時算子加載與運算?！痹蝇u對開發(fā)過程中MindSpore的技術優(yōu)勢印象頗深。

昇思將圍繞開發(fā)者真實訴求，持續(xù)升級框架架構，使能AI模型未來創(chuàng)新

除了框架本身的技術特性外，加入開源社區(qū)還有一個明顯的好處，就是當遇到難題時，有諸多技術大?？梢砸黄鹩懻摻鉀Q問題，曾子瑄對此也深有體會。

“在開源之夏的項目開發(fā)過程中，因為需要遷移的BitsAndBytes庫本身軟件耦合程度高，關于算子接入的問題剛開始一直沒找到合適的解決方案，后來摸清楚了項目本身的構建和執(zhí)行邏輯，再跟MindSpore布道師和負責MindSpore自定義算子接口的工程師一起討論，得出了基本解決方案，隨后順利地完成了程序中由上至下一條核心執(zhí)行線路的移植，奠定了項目完成的基礎。”他說道。

不難發(fā)現(xiàn)，正是在社區(qū)提供的諸多昇思MindSpore技術公開課、開源實習和活動比賽中，以曾子瑄為代表的年輕開發(fā)者獲得了學習、實踐和以練促學的機會，逐步成為AI領域中的新星。截至目前，昇思開源社區(qū)已提供30多個系列的AI主題課程，開展過600多場線上和線下的專題學習活動，并且已發(fā)布1100+開源實習任務，以及300+模型和算子任務，還舉辦過30多場大賽。

與昇思共成長，攜手托起中國AI的未來

回想起在昇思開源社區(qū)中成長的點點滴滴，曾子瑄坦言自己收獲頗多。