第一百二十六章 老不正經傑姆斯?
在蘇飛盯著這個海報左看右看的時候,攤主也是看到了他。
「嘿,ro!你也是搞注意力機制這塊的么?」
這位亞洲人長相的小哥如沐春風地笑著,對蘇飛熱情地打著招呼。
「華國人?」
蘇飛試探性地問道。
「大韓民國。」小哥操著一口流利的英語,拉著蘇飛介紹著自己的成果:「ro,你的眼光真不錯,這可是基於注意力機制的預訓練模型,我這還是獨一家!」
蘇飛被這位小哥熱情似火的態度搞的猝不及防,道:「e…的確是很震撼的研究,變形金剛發表才半個月您就把預訓練模型完善好了,您對注意力機制的理解應該很透徹。」
「no,no,no,兄弟,我們大韓民國早就提出了變形金剛這個模型了,只不過是被華國的那位本科生捷足先登罷了。」
f?
我把別人的成果捷足先登了?
而且你們早就提出了變形金剛的模型?那為什麼不發表論文?
「ro,我知道你不理解,但我們大韓民國高麗大學的金博士和漢城大學的閩博士很早就提出了應對注意力機制信息無序問題和信息狹隘問題,只不過沒有人發現罷了,這說明大韓民國早就有了變形金剛的雛形,只差一個人整合兩位博士的想法,我敢打包票,變形金剛的那位作者絕對看過金博士和閩博士的論文!」
「變形金剛這個跨世紀的研究本應該是大韓民國的產物。」
蘇飛很想說,作為變形金剛原作者,我看過華美英三國的演算法文獻,還真就沒看過大韓民國的文獻。
「額,但是,你說的兩位博士我都沒怎麼聽過,而且聽你話的意思,兩人只是各解決了一個難點罷了,不還是沒寫出變形金剛么?」
小哥搖了搖頭:「你沒聽過金博士和閩博士只能說明你學的還太少、接觸得太淺顯,這兩位當年可是差點提出了glove……」
「等等,glove不是曼寧教授的成果么?」
glove這篇論文是曼寧對自然語言處理領域的一個巨大貢獻,2014年的時候提出,八年過去了,現在還被業內奉為經典。
「所以說是差點,ro,別這麼激動,或許我的話讓你有些不爽,但當你看了金博士和閩博士的論文後就明白了,變形金剛和glove的核心想法都來源於大韓民國。」
蘇飛:「……」
我的變形金剛就算了,怎麼連曼寧教授的瓷都碰……都是我們的思密達?
「我沒有不爽,能快點進入正題么?讓我看看您的變形金剛預訓練模型。」蘇飛頗為無語地說道。
「okok,別著急,先自我介紹一下,我是高麗大學的碩士生,師從金恩熙金教授,就是之前跟你說的那個金博士。」
金恩熙?
看到這小哥一臉驕傲的模樣,蘇飛表示完全沒聽過,但他還是耐著性子微笑著示意對方接著說。
「然後,我提出的論文還有參考的資料在這。」小哥掏出一疊厚厚的紙,隨後又掏出一根黑色記號筆,說道:「但我還是推薦在白板上給你畫一個模型圖,我的想法非常簡單,你看一眼就會明白,但我相信你會大受震撼!」
「額,這是您的論文,不是金教授的論文?」
蘇飛瞪大了眼睛,一個碩士生能在變形金剛論文入庫僅半個月就推導出預訓練模型?
好吧,作為本科生就提出變形金剛的作者本人來說,的確有這麼個可能,難道這個小哥也開掛了?
「ro,這也是我瞞著我們金教授來參加這次學會的原因,金教授覺得我的成果有待商榷,他們就是做事太謹慎,不懂得搶得先機的重要性。」小哥說得眉飛色舞,頗有一種獨自一人遠征美國的豪邁之氣:「而我,要在這裡,在斯坦福,在l向他們說明我們大韓民國的真正實力!」
好吧,蘇飛總算知道這個有著重大成果的海報卻無人問津的原因了,敢情您這是瞞著導師來的?
偷了他邀請函進來的么?
「稍等一會兒,馬上就好。」
小哥拿著黑色記號筆在白板上寫寫畫畫,
這位小哥的言行吸引到了不少人的目光,他那自信且流暢的書寫動作,讓蘇飛也覺得是不是真是一個特立獨行的天才。
懷著一絲期待和一絲好奇,蘇飛認真地看著這位小哥的模型結構和證明過程。
簡而言之就是瘋狂做減法。
變形金剛由六個編碼器和六個解碼器組成,每個編碼器和解碼器里又分為多頭注意力層、歸一化層和線性層等等,這位小哥直接把六個解碼器全砍了,編碼器也砍了五個,剩餘的一編碼器里把裡邊各層也砍了好幾個……
e……雖然你說你的想法很簡單,但這也簡單得太過分了……
蘇飛終於忍不住了:「冒昧地問一句,你做過實驗么?」
「實驗?噢,ro,為了趕這次ao的確也是瘋狂做減法,但el模型和注意力機制有個毛線關係?
敢情這位就是把el模型抄一半,再把變形金剛抄一半,組合成自己的論文?
特么的!抄的左一篇右一篇全是我的論文!
「或許你不了解變形金剛的設計意義,之所以這樣重複性地疊加編碼器和解碼器是為了獲取更高層次的特徵,這個是由作者本人多次實踐得出的結論,大幅度削減這些結構會讓訓練結果非常不穩定,el的單層結構是因為作者在建模之初只有一個命名體識別任務,不需要提取更高級的特徵向量……」
換而言之,這倆模型一人一半的結果就和大量水遇上活潑金屬直接劇烈爆炸一樣。
圍著這位小哥的懂行的學者也不禁點了點頭,蘇飛說的也是把變形金剛預訓練化的難點,當然,大部分不做這一塊的學者或者一些純粹跟著導師來參觀的路人就不太理解了。
「ro,你的說法太武斷了,el沒有這麼脆弱,變形金剛也沒有那麼複雜。」小哥眉頭一挑,說道:「在我看來,沒有什麼比el和變形金剛更合適的了,這一點連創造他們的作者本人都沒有理解透徹,只能為他感到多麼遺憾。」
蘇飛聳了聳肩,行吧,你說啥就是啥,俺也懶得反駁了,純屬浪費時間。
正當蘇飛想要隨意敷衍兩句就走人的時候,一個本來在圍觀的白人老外走到了自己面前,一臉驚異地看著自己。
「feisu?」
嗯?
蘇飛疑惑地看著眼前的這個一身休閑服的老外,大約四五十歲的年紀,頭髮卻是一個爆炸頭,看上去有些老不正經。
「您好?」
蘇飛禮貌地打著招呼。
「我之前有看過參會者的照片……你是那個變形金剛和el的原作者,蘇飛?」
這看上去老不正經教授的一句話讓台上正津津樂道的韓國小哥動作一僵,直接凝固在當場。
隨後,蘇飛輕輕的點頭承認,更是讓韓國小哥一哆嗦,記號筆直接掉到了地上。
圍觀學者們眼神一亮,他們有些興奮,變形金剛的貢獻有目共睹,而創造這個模型的更是一個傳奇——一個小小的本科生,親眼見到這位天才,讓學者們多少有些雀躍。
而且,如果能和這位天才好好交流交流,說不定就能抓住一縷不錯的靈感。
「傑姆斯教授,您怎麼在這?」
一個華裔青年迅速小跑過來,氣喘吁吁的。
傑姆斯?
卧槽,蘇飛心裡一驚。
這位就是那個敢和曼寧教授一較高下的羅切斯特大學的傑姆斯?
但怎麼看著不像呢……一頭爆炸頭,配上有點非主流的休閑服,如果別上一個電子吉他,都能直接去做搖滾了啊。
傳聞羅切斯特大學計算機系人人聞風喪膽的傑姆斯,怎麼是一個這麼不正經的老頭。
蘇飛感覺自己的三觀崩塌了。
大老的畫風怎麼是這樣?
「傑姆斯教授,久仰大名。」
蘇飛小心翼翼地伸出手。
傑姆斯笑了笑,一把握住蘇飛的手,握了握。
「啊?蘇飛?」
那華裔青年明顯驚訝到了。
「您是?」
「你好你好,我叫李思邁,是傑姆斯教授的學生!」李思邁興奮地和蘇飛打著招呼。
e…我好像不認識你吧?為啥這麼激動?
「蘇,不要驚訝,李蹭了你的el,順利通過了羅切斯特大學的博士審查,他非常感謝和欽佩你的el對自然語言處理領域的貢獻。」
噢,蘇飛這下明白了,原來是靠著自己的el水了一篇博士畢業論文吶。
蘇飛謙虛道:「哪裡哪裡,我也只是做了自己該做的。」
「蘇神,我在羅切斯特聽過你的大名無數次了,一直想著見一面,想不到這麼快就實現了!」李思邁頗為自來熟地握了握蘇飛的手,頗為不好意思地道:「說來這次我能來aissli的發音好像是有點像。
李思邁靦腆地笑了笑:「當時我也只是力所能及地幫一幫蘇神,力量有限,在那個時候也沒能起到多大的作用。」
蘇飛笑了笑:「不論有沒有作用,都非常感謝那時候的仗義相助。」
「好了,孩子們,你們的敘舊也差不多了,先把這邊的事情解決了。」
傑姆斯看著和蘇飛熟絡起來的李思邁,心中不禁感嘆運氣這玩意還是真是神奇,去年還在自己手底下準備延畢的李思邁,今年不但順利畢業還蹭上了l,甚至他的論文被選入了優秀論文集。
這李思邁怕是撩到了幸運女神吧,總是能乘著蘇飛的東風,第一時間蹭上他的論文。
所以說,運氣有時候真的很重要。
「這位韓國的小哥。」傑姆斯看著台上僵得一動不動的韓國小哥,出聲道:「我剛才旁聽了你和蘇飛同學的……嗯,學術交流。」
韓國小哥緊張地看著傑姆斯,在這位大老面前他可不敢繼續吹牛逼了,他現在只希望這位大老別批評的太狠。
「老實說,我也有過你這樣初出茅廬的時期,天不怕地不怕,一心想要一鳴驚人,但你得知道,孩子,天才永遠是少數的,多數人還是得腳踏實地,有時候,你不得不承認,人與人之間天賦的差距會大到讓你難以想象。」
「至於glove和變形金剛,母庸置疑,這是屬於蘇飛和曼寧那個臭老頭的成果,雖然我很不願意承認,但曼寧依然是自然語言處理的天花板,金恩熙教授或許也有一些成果,但和皇帝陛下比還是得謙虛一些。」
傑姆斯教授的話已經非***婉了,簡單點就是說,你不是天才,也別和蘇飛比,你導師或許有點能耐,但比不上曼寧。
「孩子,如果是自費來的斯坦福,你回去的機票我委託主辦方給你報銷了,以後還請腳踏實地一些。」
韓國小哥被傑姆斯教授的一番話說得面紅耳赤,恨不得找個地縫鑽進去。
他扭捏了半天,牙縫裡蹦出幾個字:「好,那麻煩傑姆斯教授了。」
說完這句話,他就把海報摘下,一熘煙跑了。
「蘇飛,也別介意或者生氣,你在l的這幾天,這種事情還會遇到不少,他們只是太想做出成果了,有句華國的話怎麼說的來著?」傑姆斯看了看李思邁。
後者想了想,道:「心比天高,命比紙薄?」
蘇飛倒是絲毫沒生氣,海報交流本來就是開盲盒,出乎他意料的是,感覺傑姆斯教授意外地溫和,沒有傳言中這麼嚴厲。