近日，人工智能領(lǐng)域知名國際雜志《IEEE智能系統(tǒng)》公布了2022年“AI's 10 to Watch”榜單。 “我們很自豪能夠發(fā)現(xiàn)人工智能領(lǐng)域年輕的后起之秀，并認可和宣傳他們的寶貴貢獻。當今快速發(fā)展的人工智能領(lǐng)域為年輕的專業(yè)人士和研究人員提供了更好的開發(fā)工具和有利的環(huán)境。很幸運能夠成為人工智能黃金時代的一部分，”IEEE 智能系統(tǒng)雜志主編（臨時）San Murugesan 向媒體表示。“他們有一個獨特的機會，可以通過將自己的努力引導到人工智能領(lǐng)域來產(chǎn)生有意義的影響。造福全人類的重要領(lǐng)域。他們應該利用自己的技能和專業(yè)知識來實現(xiàn)更大的利益，并將人工智能帶到最前沿，更好地塑造智能的未來?！彼a充道。本次AI 10 to Watch名單（按官網(wǎng)公布順序）包括伊利諾伊大學厄巴納-香檳分校（UIUC）計算機科學系助理教授、悉尼大學高級講師李波澳大利亞穆罕默德·本·扎耶德人工智能大學機器學習系客座副教授劉同亮，哈爾濱工業(yè)大學計算機科學與技術(shù)學院院長、教授聶立強，新加坡科技設(shè)計大學計算機科學系助理教授Soujanya Poria、美國谷歌高級研究員孫德慶、加州大學洛杉磯分校計算機科學系副教授孫一舟、唐吉良，密歇根州立大學校級教授，Atlas Wang，德克薩斯大學奧斯汀分校電氣與計算機工程系助理教授，尹洪志，昆士蘭大學副教授。據(jù)了解，自2006年起，IEEE智能系統(tǒng)雜志設(shè)立了AI’s 10 to Watch，旨在每兩年在全球范圍內(nèi)評選出10名從事人工智能領(lǐng)域研究的杰出青年學者。

圖片|李波（來源：李波個人主頁）

其中，李波團隊重點研究為可信的機器學習系統(tǒng)提供理論保障，包括魯棒性、隱私性、泛化性、公平性等。官網(wǎng)介紹，李波通過將領(lǐng)域知識和邏輯推理能力融入到數(shù)據(jù)驅(qū)動的統(tǒng)計機器學習模型中，提高了有保障的學習魯棒性。此外，她還為高維數(shù)據(jù)設(shè)計了一個可擴展的隱私保護數(shù)據(jù)生成框架。她的研究為機器學習系統(tǒng)的可信度提供了嚴格的保證。值得注意的是，該技術(shù)已在相關(guān)工業(yè)應用中得到應用。在此之前，李博因其在對抗性機器學習方面的研究而成為2020年《麻省理工科技評論》“35歲以下技術(shù)創(chuàng)新”（MITTR 35）全球提名者之一。她被選中是因為通過設(shè)計新的方法來“愚弄”人工智能，從而使人工智能變得更安全。此外，她最近獲得的獎項包括2022 年斯隆研究獎、IJCAI 計算機與思想獎、UIUC 教師研究卓越獎和C.W. Gear 杰出青年教師獎。除了學術(shù)榮譽外，她還獲得了Meta、亞馬遜、英特爾等各大科技公司的獎項。而且，她的成果多次獲得頂級會議最佳論文獎。近期，李波團隊取得了一系列成果。例如，他們制作了一系列學習推理框架來支持純數(shù)據(jù)驅(qū)動模型的知識邏輯推理部分。這允許將領(lǐng)域知識或人類指令顯式集成到模型中[1]。 “我們的NeurIPS 論文Learning Inference 首先提供了這樣一個框架，并提出了如何為該框架提供穩(wěn)健的驗證?！崩畈ㄕf道。在隨后的ICML（國際機器學習會議）研究中，她和她的團隊證明了這樣的框架一定比單一模型（例如全連接的神經(jīng)網(wǎng)絡(luò)）更加穩(wěn)健[2]。近日，李博團隊在IEEE安全與隱私研討會（IEEESP）上報告了一種認證魯棒性方法的分類系統(tǒng)，并提供了統(tǒng)一的工具箱，可以輕松實現(xiàn)不同的認證。和羽扇豆訓練方法。另外，他們還提供排名，方便用戶比較不同的方法等。李博認為，可信機器學習提供理論保證非常重要，否則如果未來沒有實證的穩(wěn)健性或確定性，人們就不會能夠阻止新的自適應攻擊者。其團隊目前專注于自動駕駛和大型模型的可信學習，目標是為自動駕駛和大型模型提供標準化的可信驗證。例如，在團隊最近的一項研究中，針對GPT-4 和GPT-3.5，從魯棒性、分布外（ODE）、隱私、人工智能倫理、公平性、刻板印象偏見等不同角度進行可信度評估。此前，他們針對自動駕駛測試的安全關(guān)鍵場景生成做了一系列工作，希望能夠幫助提升自動駕駛安全性。未來，李博和團隊將繼續(xù)致力于解決機器學習模型的可信度問題，并為其提供理論保障。 “主要挑戰(zhàn)是如何為不同的機器學習模型和應用定義理論保證，并使理論保證可擴展并適用于不同的現(xiàn)實場景，”她說。

參考：https://www.computer.org/publications/tech-news/insider/2022-ais-top-10-to-watch1.https://arxiv.org/abs/2003.001202.https://arxiv.org/abs/2106.062353.https://arxiv.org/abs/2009.04131