红菊直播官方版-红菊直播免费版app下载-红菊直播永久免费版下载

CCAI 演講回顧|劉兵:終身學習\連續(xù)學習與元學習

更新時間:2024-08-06 16:07作者:小樂

中國人工智能大會是我國人工智能領域級別最高、規(guī)模最大、影響力最強的專業(yè)會議。時隔一年回顧CCAI 2018大會,我們不難確認,演講者提出的很多想法和展望正在逐漸變?yōu)楝F(xiàn)實,他們的寶貴經驗引領了產學研等領域的發(fā)展方向。

CCAI 2018 《終身學習、連續(xù)學習與元學習》 主題演講節(jié)選

劉兵教授伊利諾伊大學芝加哥分校杰出教授、AAAI/ACM/IEEE Fellow

1、從自動駕駛的角度來看,我們知道,如果一個人在學開車,教練會告訴他一些關于駕駛的基本知識,讓他練習,比如嘗試剎車等等。然后,經過一段時間的路上學習,這個人就可以獲得駕駛執(zhí)照并開始駕駛。但要讓機器自動駕駛確實很難。谷歌的自動駕駛汽車已經行駛了800 萬英里,但仍然無法達到道路上的安全水平。為什么人們不用花太多時間就能開好車?因為我們在學開車之前就知道很多事情。我們可能騎過自行車或摩托車,都知道交通安全的重要性。

另外,一個人即使拿到了駕照,他在開車的時候也會不斷學習,并且開得越來越好。這是真正的智慧。機器學習本質上是一個優(yōu)化問題,但人類基本上沒有優(yōu)化的能力。例如,沒有人可以在給定一些數(shù)據(jù)的情況下建立模型。當然,如果你花很多時間,你可能會發(fā)現(xiàn)一些規(guī)律。這是一個簡單的分類問題。單純提供數(shù)據(jù)的人很難解決,但如果提供一些先驗知識,問題就可能得到解決。雖然人們可以從數(shù)據(jù)中學習,但人類的學習一直在構建自己的知識庫。人類的學習可能更多地基于知識。我們從小就開始做加法和減法。如果不學習這些基礎知識,就不可能直接學習求解微分方程。應該有一個知識積累的過程。 AlphaGo可以擊敗人類最優(yōu)秀的棋手,但它能走到賽場嗎?它能用手下棋嗎?如果贏了會高興嗎?理論上是可以的,但是幾百個工程師要做到這一點是非常困難的。

2019年4月

斯坦福大學的研究人員開發(fā)了一種控制自動駕駛汽車的新方法,該方法集成了以前的駕駛經驗——該系統(tǒng)將幫助汽車在極端和未知的情況下更安全地行駛。他們使用兩種不同的模型測試了賽道上的摩擦極限,系統(tǒng)的運行方式與使用現(xiàn)有自動控制系統(tǒng)的經驗豐富的賽車手一樣。

因此,目前的機器學習模型基本上都是單任務學習,即提供一些人工標記的數(shù)據(jù),使用機器學習算法構建模型,然后在實際應用中使用這個模型。人與上面的學習模式有什么區(qū)別呢?目前的算法不具備像人類一樣的知識積累,需要大量的標記數(shù)據(jù),尤其是在進行實際應用時。使用算法來完成一項任務是可能的,但不可能包攬世界上的所有事情。即使你可以做所有事情,明天也會有新的事情需要考慮。手動注釋永遠不會結束。

人可以學得越來越廣,學得越多就越容易學,但機器現(xiàn)在做不到這一點。終身機器學習正在努力做到這一點。這件事很難,但是非常有必要去研究,因為每個任務都學一遍太復雜了。我們應該像孩子一樣學習。這句話很有哲理,start like ababy。

2.終身學習終身學習是一個非常大的領域,有很多問題需要解決。它還有很多名字,比如終身學習、持續(xù)學習、持續(xù)學習、元學習、永無止境的學習等。他們都在努力解決終身學習的不同方面。一般來說,終身學習意味著你可以積累所學的知識,然后在以后的學習中運用它。對于終身學習來說,世界是開放的。算法需要發(fā)現(xiàn)和解決新問題,而不僅僅是解決給定的問題。它學到的知識不局限于現(xiàn)有領域,而是可以應用到新的領域。終身學習首先需要一個持續(xù)學習的過程;此外,知識必須不斷積累。終身學習還應包括應用知識和適應新場景的能力。它還需要在開放領域學習。它可以識別以前從未學過的東西并學習它們,這樣積累的知識就會變得越來越多。另外,我們要在工作中學習,即工作后要繼續(xù)學習,要邊工作邊學習。目前還沒有一種算法能夠真正實現(xiàn)終身學習。目前的算法都是試圖完成這個任務的某一部分。目前還沒有人能夠將所有功能集成到一個系統(tǒng)中。

2019年3月

美國國防高級研究計劃局(DARPA)“終身學習機器”(L2M)項目的研究人員在期刊《自然·機器智能》上發(fā)表了人工智能算法的研究成果,介紹了一種由類似動物肌腱驅動的人工智能控制的機器人。四肢,標志著項目取得重大進展。當前的機器學習系統(tǒng)無法持續(xù)學習或適應新情況。系統(tǒng)程序經過訓練后就固化了,無法應對系統(tǒng)部署后新的、不可預見的情況,通過添加新信息來修改程序缺陷會覆蓋現(xiàn)有的訓練集。在當前技術下,解決這個問題需要使系統(tǒng)離線并使用包含新信息的數(shù)據(jù)集重新訓練機器系統(tǒng)。為了應對上述挑戰(zhàn),DARPA啟動了“終身學習機器”項目,旨在開發(fā)能夠在執(zhí)行任務過程中不斷學習并變得越來越專業(yè)的系統(tǒng),同時將以前的技能和知識應用到新的情況中。你會忘記以前學過的東西。

終身學習領域存在很多基本挑戰(zhàn):例如,第一,所學到的知識無法判斷對錯,不知道對錯的知識不能用于持續(xù)學習?,F(xiàn)在機器學習不太重視這個東西,但其實需要認真對待;第二,過去積累的知識是否適用于新的領域;第三,如何表示積累的知識;第四,如何將機器學習與人工智能的其他方面結合起來。將它們連接在一起以形成一個稍微更完整的系統(tǒng)。這些問題需要解決,也是很多人的研究方向。

這些挑戰(zhàn)在許多應用中都很明顯,例如自動駕駛汽車、聊天機器人和機器翻譯。它們都非常困難,因為你在學習或應用過程中總會遇到一些你從未見過的東西。遇到這種情況,系統(tǒng)總會出現(xiàn)狀況和問題。盡管現(xiàn)在有一些公司吹噓自己的自動駕駛技術有多成熟,以及他們的機器翻譯系統(tǒng)如何解決了翻譯問題,但事實并非如此。世界非常復雜且不斷變化。如果數(shù)據(jù)總是需要人工標注和人工翻譯,這是不可靠的,經濟成本也會很高。綜上所述,機器仍然需要具備自主學習和持續(xù)學習的能力。如果沒有的話,未來就沒有希望了。

2018年12月

亞特曼推出醫(yī)療亞特曼AI翻譯解決方案,深度融合亞特曼醫(yī)療機器翻譯和全棧語言智能技術。醫(yī)學機器翻譯模型可以終身不斷升級和學習,還可以與用戶現(xiàn)有的翻譯項目管理系統(tǒng)無縫連接。 Atman可以在需求方內部進行醫(yī)療機器翻譯的私有部署。所有模型和數(shù)據(jù)均存儲在需求方內部網(wǎng)絡,保證數(shù)據(jù)安全。然后,需求方可以使用該系統(tǒng)進行翻譯,然后在內部進行譯后編輯。

最后,我想提一下持續(xù)學習和元學習。近年來很多人都在做相關的研究。持續(xù)學習主要試圖解決神經網(wǎng)絡在學習一系列任務時的災難遺忘問題。元學習(也稱為學習學習)的關鍵點是使用許多任務作為訓練數(shù)據(jù)來訓練元模型。然后可以使用該元模型來學習新任務。這個新任務不需要太多的數(shù)據(jù),你會學得更快。

2018年10月

IBM 研究人員發(fā)表了論文《Learning to Learn without Forgetting by Maximizing Transfer and Minimizing Interference》,提出了一種持續(xù)學習建議的方法,允許實現(xiàn)可以構建增量知識的神經網(wǎng)絡。 IBM創(chuàng)建了一個新的學習框架MER,它結合了元學習和經驗回放技術,以達到持續(xù)學習的效果。

三、總結對于終身學習來說,掌握的知識越多,學習起來就越容易,學習的質量也就越好。該領域還需要進一步發(fā)展,目前的算法只能解決相對單一的問題。知識的正確性、適用性以及知識的整合性等都是很大的挑戰(zhàn)?,F(xiàn)在就看誰聰明,能夠解決這些任務了。那么我們也許能夠實現(xiàn)通用人工智能。

為您推薦

去泰國留學,不可錯過的泰國第一名校(泰國留學大學排名一覽表)

朱拉隆功大學(泰語:?????????????????????;英語:Chulalongkorn University),是泰國最古老的大學,被尊為"全國最有威望的大學",環(huán)太平洋大學聯(lián)盟和21世紀學術聯(lián)盟成員。該校擁有19個學院、2個研究

2024-08-06 16:10

去泰國旅游,你一定要知道泰國的這幾大世界之“最”

1.世界最大寺院——法身寺法身寺不僅是泰國最大寺院,更是世界上最大的寺院。作為一個佛教國家,泰國的僧眾眾多。法身寺位于曼谷20公里,占地一千畝。寺內有一百萬多尊法身佛像,在大法身舍利塔廣場的面積足夠一百萬人同時靜坐,禪修。2.世界最大的臥佛

2024-08-06 16:10

朱拉隆功大學申請難度太大了?看完秒懂,朱拉隆功大學知乎

朱拉隆功大學(泰語:?????????????????????,英語:ChulalongkornUniversity)是泰國最古老的大學,被尊為“全國最有威望的大學”。大學擁有19個學院、2個研究生學校、1個分校、11個研究所、2個教育中心

2024-08-06 16:09

聚焦——數(shù)字?互聯(lián)?智造,CCMT2024新聞發(fā)布會在滬舉行

3月13日,第十三屆中國數(shù)控機床展覽會在上海舉行了新聞發(fā)布會,吸引了來自全國各大新聞媒體單位的70余名記者。中國機床工具工業(yè)協(xié)會領導及上海市國際貿易促進委員會代表出席了此次發(fā)布會。 CCMT2024由中國機床工具工業(yè)協(xié)會主辦,并與上海市國際

2024-08-06 16:09

貿易展|中國(廈門)國際投資貿易洽談會-投洽會CIFIT(2021廈門國際投資貿易洽談會)

中國(廈門)國際投資貿易洽談會-投洽會CIFIT展會時間2022-09-08 ~ 09-11展會行業(yè):貿易舉辦周期:一年一屆舉辦地點:中國-福建- 廈門國際會展中心主辦單位:中華人民共和國商務部(MOFCOM)展會規(guī)模: 110000平方米

2024-08-06 16:08

2023CCTI中國研發(fā)管理峰會:從創(chuàng)新驅動到賦能增效帶你看見新趨勢!,中國研發(fā)中心

科創(chuàng)時代,越來越多企業(yè)更加重視研發(fā)和創(chuàng)新,持續(xù)增加研發(fā)投入,而研發(fā)管理作為降本增效,推動項目落地的有效手段,其價值和重要性愈發(fā)凸顯。為搭建研發(fā)管理交流共享平臺,共同探討研發(fā)管理的價值與最佳實踐,尋求變革與突破,多角度賦能研發(fā)管理在企業(yè)的升級

2024-08-06 16:08

加載中...