首页 >新闻 > 科技 > 内容

微软的Icecaps工具包可通过多任务学习实现多角色对话式AI

科技 2019-11-03 16:37:25

Icecaps是Microsoft Research提供的用于神经对话网络的开源工具包,于今天首次亮相。Icecaps是“智能对话引擎:代码和预训练系统”的首字母缩写,它使用多任务学习来完成诸如赋予对话AI系统多个不同角色的任务。

个性嵌入和单词嵌入的结合是Icecaps个性化角色的能力的关键。使用这种方法,人工智能助手可以根据与他们交谈的人或与特定情况相匹配的方式以不同的方式讲话。

这些工具中的几个是由Microsoft Research在这里所做的最新工作所推动的,其中包括个性化嵌入,最大程度的基于互信息的解码,知识基础以及一种在共享特征表示上强制采用更多结构以鼓励做出更多不同和相关响应的方法,”微软研究员Vighnesh Leonardo Shiv今天在博客中表示。

将在未来几个月内发布供开发人员使用或立即使用的预训练模型,首先是随机答案网络和个性化转换器。

“我们曾希望在发布时将这些系统与Icecaps结合在一起。但是,鉴于这些系统在某些情况下可能会产生毒性反应,因此我们决定在向公众发布这些模型之前探索改进的内容过滤技术。” Icecaps GitHub页面中写道。

Icecaps库使用TensorFlow机器学习框架和SpaceFusion,这是一种将正则化注入多任务学习环境并提高效率的方法。

一群Microsoft Research成员今天在ACL上发表了一篇论文,其中详细介绍了Icecaps的制造。

今年5月,微软还使用多任务学习来创建MT-DNN,这是一种从Google的BERT衍生而来的NLP模型,目前在GLUE语言理解基准排行榜上排名第三,仅次于Facebook的RoBERTa和Google的XLNet。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时候联系我们修改或删除,多谢。