03.29 面试 + 03.31 HR面 字节跳动 机器学习实习生(反作弊)面经(04.02 OC)
(AAAI2022) Deformable Graph Convolutional Networks
提出在多个潜在空间上进行卷积并根据relation动态调整卷积的方法,并提出了在学习node representation基础上同时学习node positional embeddings的框架。
(ACL 2021) PairRE- Knowledge Graph Embeddings via Paired Relation Vectors
来自蚂蚁,认为现有方法无法同时解决N-to-N问题和关系模式多样性问题,提出了将关系表示为两个向量的PairRE模型。
论文地址:https://aclanthology.org/2021.acl-long.336/
代码:(尚未开源):https://github.com/alipay/KnowledgeGraphEmbeddingsViaPairedRelationVectors
Stanford-CS224n
Perceiver IO- A General Architecturefor Structured Inputs & Outputs
(AAAI2022) When Shift Operation Meets Vision Transformer- An Extremely Simple Alternative to Attention Mechanism
MicroSoft 在AAAI2022的一篇文章,将ViT中的attention机制替换为无参数的shift操作,在几个主流任务中也取得了相当好的结果——attention机制或许并非ViT成功的关键因素。
论文地址:https://arxiv.org/pdf/2201.10801.pdf
开源代码:https://github.com/microsoft/SPACH
Reread Attention Is All You Need
跟李沐再读Attention Is All You Need。
视频链接:https://www.bilibili.com/video/BV1pu411o7BE?spm_id_from=333.999.0.0
(EMNLP2021) A Semantic Filter Based on Relations for Knowledge Graph Completion
来自国防科技大学,针对关系和头尾实体的联系,提出应该为每个关系r定义一个对头尾实体的滤波器。
论文地址:https://aclanthology.org/2021.emnlp-main.625.pdf
(EMNLP2021) Hierarchical Heterogeneous Graph Representation Learning for Short Text Classification
(EMNLP2019) Heterogeneous Graph Attention Networks for Semi-supervised Short Text Classification
来自北邮团队,提出了可以集成多种额外信息的HIN和dual-level的GAT,利用附加信息帮助半监督STC。在AGNews上由TextGCN的67.67涨到72.10。