feedly标志

bob体育买球NLP早餐5:分层多任务学习(HMTL)bob体育客户端

欢迎来到Feedly NLP早餐的第五版,这是一个在线会议,讨论关于NLPbob体育买球的一切。

对于这个版本,我们非常感谢维克多山的一位研究科学家HuggingFace在AAAI 2019上发表论文:一种从语义任务中学习嵌入的分层多任务方法bob体育客户端,与托马斯•沃尔夫塞巴斯蒂安•罗德

文摘:

在评估是否可以利用多任务学习来学习可用于各种自然语言处理(NLP)下游应用程序的丰富表示方面,已经投入了大量的工作。bob体育客户端然而,对于多任务学习在何种情况下具有显著的效果,目前还缺乏认识。bob体育客户端在这项工作中,我们引入了一个层次模型训练在多任务学习设置上精心选择的语义任务。bob体育客户端模型以分层方式训练,通过监督模型底层的一组低级任务和模型顶层的一组更复杂的任务,引入归纳偏差。bob电子竞技平台该模型在许多任务上实现了最先进的结果,即命名实体识别,实体提及检测和关系提取,而不需要手工设计的功能或外部NLP工具,如语法分析器。层次训练监督在模型的较低层次上引入了一组共享的语义表示。我们表明,当我们从模型的底层移动到顶层时,层的隐藏状态倾向于表示更复杂的语义信息。bob电子竞技平台

什么时候?

周四,4月14日上午9:30 PDT

在哪里?

加入Feedly社区

与Feedly团队直接合作,因为我们建立了更好的方法来治疗信息过载。