，美國麻省理工學(xué)院的研究團隊近日發(fā)表論文指出，現(xiàn)有的第三方推特(Twitter)機器人賬戶自動檢測工具并不準確，因為其數(shù)據(jù)集過于簡單，缺乏泛用性。
此前有消息稱，機器人賬戶過多是阻止馬斯克收購?fù)铺氐脑蛑弧Ｍ铺禺敃r聲稱其日活躍用戶中有 5% 是機器人賬戶，但馬斯克表示這個數(shù)字要比 5% 高得多。
推特有自己的機器人賬戶識別系統(tǒng)，但并未公開。因此，對于普通公眾而言，第三方工具是較為可行的檢測方法。這些第三方工具使用從推特收集的數(shù)據(jù)集和機器學(xué)習(xí)模型來檢測機器人的可疑跡象，許多工具和模型已被用于研究社交媒體上的機器人活動，相關(guān)論文甚至已達數(shù)千篇。
用于推特機器人檢測的公開基準數(shù)據(jù)集
這些論文中的大多數(shù)基準數(shù)據(jù)集都是在不同推文中收集的數(shù)據(jù)集合，其中許多都是在特定推文中收集的，每條都由人類手動標記為機器人或人類。然而這種經(jīng)過專門訓(xùn)練的機器人檢測模型在該專業(yè)領(lǐng)域表現(xiàn)出色，卻并沒有涵蓋全部領(lǐng)域，并且嚴重依賴于特定數(shù)據(jù)，而不是機器人和人類之間的根本差異。
當這些模型在其他領(lǐng)域的數(shù)據(jù)集上進行測試時，它們的準確性很差，幾乎與隨機預(yù)測水平相當。同時，在許多數(shù)據(jù)集上，即使是相對簡單的模型也與最先進的機器學(xué)習(xí)模型準確率相當。
簡單模型與 SOTA 模型在基礎(chǔ)數(shù)據(jù)集上的性能比較
換言之，在一個數(shù)據(jù)集上訓(xùn)練的模型不能推廣到其他數(shù)據(jù)集，現(xiàn)有的機器人檢測數(shù)據(jù)集由于數(shù)據(jù)收集簡單而通用性較低。
最后，研究人員警告說，當使用現(xiàn)有的機器人檢測數(shù)據(jù)集時，用戶應(yīng)該仔細考慮可能存在哪些類型的偏差。研究人員認為，一個根本的解決方案是推特等社交媒體本身就應(yīng)該為研究人員提供豐富、可靠的數(shù)據(jù)以及高質(zhì)量的真實標簽。
IT之家附上論文地址:點此前往
鄭重聲明：此文內(nèi)容為本網(wǎng)站轉(zhuǎn)載企業(yè)宣傳資訊，目的在于傳播更多信息，與本站立場無關(guān)。僅供讀者參考，并請自行核實相關(guān)內(nèi)容。
|
