学术活动

文本情感分析

发布日期:2024-05-10

  时间:5月9日(周三)

  地点:教13(302)

  参训人员:21智能本1班

  专家简介:

  李红梅,402永利官方网址大数据与人工智能学院副教授,主持和参与多项教科研项目。

  内容概要:

  受到计算机视觉领域采用 ImageNet 对模型进行一次预训练,使得模型可以通过海量图像充分学习如何提取特征,然后再根据任务目标进行模型精调的范式影响,自然语言处理领域基于预训练语言模型的方法也逐渐成为主流。以 ELMo为代表的动态词向量模型开启了语言模型预训练的大门,此后以 GPT和 BERT为代表的基于 Transformer 模型的大规模预训练语言模型的出现,使得自然语言处理全面进入了预训练微调范式新时代。

  本次报告分两个部分:

  1.介绍语言模型的概念,发展历程,构建流程;

  2.对语言模型中的训练数据的分类和处理过程进行了分析。