最新一期的 Nature 封面，AI 再度來到舞臺(tái)中央，這一次是在破譯古文字方面立功了這是一種基于 Transformer 架構(gòu)的方法，由 DeepMind，谷歌，牛津大學(xué)等多家研究機(jī)構(gòu)聯(lián)合開發(fā)
在單獨(dú)修復(fù)受損文本時(shí)，這種方法能達(dá)到 62% 的準(zhǔn)確率在實(shí)際應(yīng)用中，歷史學(xué)家單獨(dú)破譯某塊古希臘石碑的準(zhǔn)確率本來只有 25%，但在使用這一方法后一舉提升了近乎 3 倍，達(dá)到了 72%
不僅能修復(fù)文字，這一方法在地理歸屬的任務(wù)上也有 71% 的準(zhǔn)確率，還能將古文字的書寫日期精確到 30 年以內(nèi)。目前，這一方法已經(jīng)引起了不小的討論熱度:
現(xiàn)在已經(jīng)有可以在線解析古希臘文字的網(wǎng)頁版，架構(gòu)方法也已開源。
Transformer 破譯古文字
這是一個(gè)叫做 Ithaca 的架構(gòu)，以荷馬史詩《奧德賽》中的希臘島嶼命名Ithaca 架構(gòu)中的注意力機(jī)制能夠通過串聯(lián)輸入的單個(gè)字符，完整單詞的表征與順序位置來了解輸入文本的每一部分的位置，最終權(quán)衡不同的輸入對模型決策過程的影響
完整架構(gòu)由多個(gè) Transformer 塊組成，每個(gè) Transformer 塊都輸出一個(gè)經(jīng)過處理的表征序列，其長度即輸入字符的數(shù)量其輸入隨后被傳遞給三個(gè)分別負(fù)責(zé)文字修復(fù)，地理歸屬，時(shí)間歸屬的任務(wù)頭，每個(gè)頭都由一個(gè)前饋的神經(jīng)網(wǎng)絡(luò)組成，專門負(fù)責(zé)各自任務(wù)的訓(xùn)練
在文字修復(fù)任務(wù)中，Ithaca 會(huì)提供 20 個(gè)按概率排列的解析結(jié)果預(yù)測:
地理歸屬的確定上，則會(huì)依據(jù)古歷史學(xué)中的 84 個(gè)區(qū)域中對輸入文本進(jìn)行分類，將可能的區(qū)域預(yù)測類別通過地圖和柱狀圖展現(xiàn):
日期歸屬任務(wù)同樣也通過分布預(yù)測的柱狀圖來展示。論文標(biāo)題分別為《Superconductivityinrhombohedraltrilayergraphene》(菱面體三層石墨烯中的超導(dǎo)性)，以及《halfandquartermetalsinrhombohedraltrilayergraphene》(菱面體三層石墨烯中的半金屬和四價(jià)金屬)。如下圖所示，公元前 300—250 年的日期 10 年一組，被表示為 5 個(gè)概率相同的范圍，而公元前 305 年的銘文將以 100% 的概率被分配到公元前 300—310 年的十年組:
歷史學(xué)家的 AI 助手
研究人員分別將 Ithaca 與歷史學(xué)家，同類 AI 方法 Pythia，以及 Ithaca 與歷史學(xué)家合作等不同破解古文字的方法做了對比。
字錯(cuò)率總是越低越好，在文字修復(fù)任務(wù)上，Ithaca 的字錯(cuò)率和準(zhǔn)確率都最好，如果與歷史學(xué)家合作時(shí)，效果還將再次提升。
在論文的最后，研究人員表示，研究方法適用于手稿學(xué)，錢幣學(xué)和紙草學(xué)等所有與古代文本相關(guān)的學(xué)科，也適用于古代，現(xiàn)代的任何語言。這兩篇論文報(bào)告在菱面三層石墨烯發(fā)現(xiàn)的超導(dǎo)最新突破。
目前，這一方法已經(jīng)投入了實(shí)際使用，比如在雅典時(shí)期頒布的某個(gè)重要法令的碑文的日期確認(rèn)上，歷史學(xué)家們之前認(rèn)為是在公元前 446/5 年之前書寫的。。而 Ithaca 與歷史學(xué)家一起，將這一日期更新到了公元前 424/3 年:
每次查詢最多可以預(yù)測 10 個(gè)連續(xù)或非連續(xù)的問號(hào)，點(diǎn)擊查詢后將在下方顯示文本缺失的字符，并將其歸屬到原來的地點(diǎn)和時(shí)間:
研究由 DeepMind，威尼斯卡福斯卡里大學(xué)，哈佛大學(xué)，雅典經(jīng)商大學(xué)，谷歌幾家 AI 團(tuán)隊(duì)合作開發(fā)。
論文有兩位共同一作，其中 annis Assael 為 DeepMind 的 AI 部門的研究員，碩博都畢業(yè)于牛津大學(xué)，同時(shí)也是福布斯30 歲以下 30 名歐洲杰出科學(xué)家之一:
共同一作 Thea Sommerschield 則是一位歷史學(xué)家，目前任威尼斯佛斯卡里大學(xué)的人文科學(xué)院，以及哈佛大學(xué)希臘研究中心的研究員，主要研究領(lǐng)域是將機(jī)器學(xué)習(xí)應(yīng)用于研究古代地中海的書面文化。
論文:
開源鏈接:
在線試用:
。鄭重聲明：此文內(nèi)容為本網(wǎng)站轉(zhuǎn)載企業(yè)宣傳資訊，目的在于傳播更多信息，與本站立場無關(guān)。僅供讀者參考，并請自行核實(shí)相關(guān)內(nèi)容。
|
