2021年10月7日上午,宫叶云博士应伟德BETVlCTOR1946邀请,为公司师生做了题为“自然语言生成在搜索与广告中的应用”的学术讲座,讲座由伟德BETVlCTOR1946副经理王喆教授主持。
宫叶云博士目前就职于微软亚洲研究院,担任主管研究员职位。获批美国专利6项。在国际学术期刊和会议(ICML,ACL,EMNLP,NAACL,IJCAI,AAAI,CIKM,COLING等)上发表论文40余篇,其中,在EMNLP2020上发表的论文ProphetNet获得EMNLP2020高引论文前10,以ProphetNet作为核心技术的Microsoft Quiz项目在Microsoft Hackathon中世界知识领域获得最佳技术奖。
在本次讲座中,宫博士从七篇论文出发,详细介绍了在自然语言生成领域取得的进展与成果。包括:基于预训练的ProphetNet生成模型;向生成模型中加入多样性;向生成模型引入外部知识;面对实时性的需求,在Autoregressive与Non-autoregessive之间进行权衡的BANG模型;高效建模长文本的输入,从而降低生成模型的时间复杂度;为Mask Attention Network增加了动态性;为自然语言生成领域提出了一个新的数据集。报告涉及的方向广,内容深。在讲座后的问答环节,公司师生积极提问,宫博士一一悉心回答。本次讲座受到了广大师生的热烈响应。