第348期:李飛飛,從移民到 AI 明星
大家知道李飛飛吧,AI 的明星教授。她在斯坦福大學任教,是美國國家工程院等三院院士,擔任過斯坦福 AI 實驗室主任,以及谷歌雲 AI 首席科學家。她1976年出生於北京,在成都長大,16歲全家移民美國。我一直好奇,她怎麼走上 AI 這條路,從移民變成學術明星?這幾天,我讀完她的自傳《我看見的世界》(中信出版集團,2024),才發現她的人生很有戲劇性,每當重要關頭,都有幸運的事情發生。(1)高中階段
她出生於一個普通家庭,中學階段並無過人之處。我們家位於成都當時的外環路旁邊,小區由三棟一模一樣的塔樓組成,我家住在四樓。這個環路是不斷擴張的城市邊緣,一側是工廠,另一側是農田。我進入了一所吸引全市優秀學生的中學。在那幾年裏,對女孩的預設和偏見讓我越來越不耐煩,這種情緒已經超出了課業的範圍。在同齡人中,我已經有“假小子”的稱號。
1992年,移民美國後,她家的生活頓時變得困難。一家三口擠在新澤西鄉下一間一居室公寓,她睡客廳,牀就放在餐桌旁邊。父親在一家華人商店修理舊相機,後來被辭退,從此失業。母親做雜貨店營業員,後因風溼性心臟病,回家休養。李飛飛下課後,就要去打工,有時在中餐館端盤子12個小時,每小時2美元。最後,實在走投無路,她們家決定買下社區的一家乾洗店,靠洗衣爲生。買下乾洗店需要10萬美元,全家僅有2萬美元儲蓄,其餘8萬美元都是借的。(2)大學階段
1997年,李飛飛中學畢業,要申請大學了。一開始,我的目標大學主要是州立大學和社區大學,而不是常春藤學校。但我一直對一所頂級高校念念不忘,那就是普林斯頓大學。我們是一個靠從車庫市場淘來的舊貨才能勉強度日的家庭,連我用的計算器都是壞的,我們怎麼可能負擔得起常春藤學校的學費呢?儘管如此,我還是無法抑制內心的衝動,提交了申請。就算只是象徵性地申請一下,我也感覺具有特殊意義。她申請了普林斯頓大學,結果好夢成真,普林斯頓給了全額獎學金。
如果沒有全獎,以她家的經濟狀況,負擔不了學費。如果不去普林斯頓大學,她就不太可能走上學術道路了,更不要說後面的成就了。(3)博士階段大學畢業後,李飛飛原想去華爾街工作,解決家庭的經濟問題。母親鼓勵她,繼續追求自己的夢想。於是,她選擇去加州理工學院讀研究生,方向是視覺識別機制。2004年,李飛飛爲了寫博士論文,需要圖片材料,來訓練算法。她找了9000張圖片,組成了一個圖片集,手工對每張圖片進行分類標註,一共分成101類。
這個圖片集叫做 Caltech 101,算法經過訓練,就能從新圖片識別出這101類物品。她因此順利拿到了博士學位。(4)助教階段博士畢業後,李飛飛先去伊利諾伊大學,後去普林斯頓大學,都是擔任計算機科學的助教。她繼續探索視覺識別,想找到一種通用算法,能夠識別所有種類的物品,而不是 Caltech 101 那樣,只能識別出101類物品。這意味着她需要一個超大的圖片訓練集,能夠包含了世界上所有物品。這可太難了,所有人都反對這件事。
我們都是年輕的助理教授,所處的院系競爭激烈,在事業起步的那幾年裏,我們都面臨着“要麼發表論文,要麼完蛋走人”的局面。壓力之下,我們必須馬不停蹄、保質保量地完成工作,因爲我們知道,稍有懈怠就可能與終身教授的職位說再見,一同失去的還有獲得穩定生計的最佳機會。我聽到的勸阻之聲已經多得夠我用一輩子了(可能下輩子也夠了).有上萬個類別的數據集有什麼用?大部分模型連一兩個類別都識別不準!
你知道用這麼多圖像訓練一個模型要花多長時間嗎?這個時間可是用“年”來計算的。別人要怎麼下載呢?你這個圖像總量比大多數硬盤的存儲量還要大。具體怎麼做,你有計劃了嗎?幾百萬張圖誰來做標註?要花多長時間?怎麼驗證所有內容的準確性呢?(5)ImageNet李飛飛堅持要做,這個通用圖片集起名爲 ImageNet。那時是2006年。
她想到一個思路,英語詞典有一些基本名詞,用來解釋其他所有物品。只要統計一下,基本名詞有多少個,每一個又有多少變體,那就得到了所有物品的基本類別。統計結果是3萬類。因此,李飛飛估計,ImageNet 將有3萬個類別,總共包含2000萬張圖片,每張圖片都要有分類和標註,需要從幾億張圖片裏面篩選出來。
我們發出了郵件,招募願意幫忙從網上下載和標註圖片的本科生,工作時間靈活,每小時10美元。我們招募到一些學生,但是按照這樣的進度,完成整個項目需要19年。這太慢了,項目方法做了改進,用腳本自動去谷歌搜索圖片,然後抓取。但是這樣也需要人工覈對和篩選,只把19年的時間縮短到18年。
幸運的是,亞馬遜剛剛發佈了衆包平臺“土耳其機器人”(Amazon Mechanical Turk,AMT)。在這個平臺上,你可以出錢,通過互聯網,把任務分包給世界各地接活的人。他們通過這個平臺,將 ImageNet 分包出去,投入的人數一下子擴展到幾千人,而人均費用只是原來的幾十分之一。
2009年6月,ImageNet 的初始版本終於完成了。我們成功達成了目標:收集了1500萬張圖片,涵蓋了2.2萬個不同類別。這些圖片篩選自近10億張候選圖片,並由來自167個國家的4.8萬多名全球貢獻者進行了標註。(6)ILSVRC 算法競賽ImageNet 雖然完成了,但在學術界毫無反響,沒有太多人關注。我們遇到了第一個也是最嚴重的挫折:在當年的“計算機視覺與模式識別大會”上,ImageNet 被降級爲“海報展示”。
來源|阮一峯科技愛好者週刊第 348 期,
評論(0)
暫無評論,來搶第一條。