透過注意力機制優化電話號碼的潛在向量用於預測通話中的人物身分關聯

Abstract

社群網路在現今生活當中扮演了相當重要的環節，而「網絡表示學習」或稱「圖嵌入」這類的演算法與模型，更在近年的研究中被廣泛地用來學習並抽取網絡中使用者的「特徵」，並成就了許多令人驚艷的結果。在該問題中，「使用者」被視為「圖論」中的「節點」，而他們之間的「互動」則被視為「邊」。一般來說，社群網絡中的互動可以有相當多種的形式，包含了文字訊息、交友邀請甚至是參與共同社團。在本文中，我們嘗試著手面對的目標相當特別，它是所謂的「電話通訊網絡」。更精確一點來說明的話，這個資料集包含了許多的電話號碼（也就是使用者），這些號碼之間彼此會有一些電話的通聯紀錄，除此之外，對於每一通電話，我們亦可擷取出一些對應的特徵，例如通話時長、來電方向以及來電的時間點。 除了資料集的獨特性之外，本文也致力於闡述「一人多態」的實用性以及必要性。簡言之，我們希望模型能夠根據不一樣的「情境」，給予「同一個」使用者不一樣的「潛在向量」。這個概念與文本中的「一詞多義」很相似，不過在「通訊網絡」中我們能夠更具體、直白地點出「情境」的差異。透過「分群」與「注意力機制」結合「深度學習」的架構，我們準確預測了兩個通話中使用者的身分關聯，並藉此展示該模型的潛力以及實際的應用。

Social network plays an important role in our real lives. Graph embedding mechanism has been adopted to model the structure in such problem and achieves remarkable success. Users are considered as nodes, while the interactions are the links of the graph. In general, interactions may have different forms, including text messages and common preferences between users. In this paper, we are dealing with a special network – log of phone calls. More precisely, the dataset consists of many users (numbers) making phone calls to each other and a call itself carries some useful features: call time, call duration, etc. In addition to the distinctness of the data, we want to show that it is realistic to represent a user variously under different scenario. The concept is similar to polysemy in word-embedding. However, call behaviors have much more features than context in documents. By showing how clustering and attention net help to predict the pairwise relationships in phone calls, we demonstrate the power of attentive representation and its applications.