当前位置: 开发笔记 > 编程语言 > 正文

腾讯AI2019这一年

作者：学海无涯 | 来源：互联网 | 2023-07-28 10:04

所有参与投票的CSDN用户都参加抽奖活动群内公布奖项，还有更多福利赠送近日，腾讯AI实验室总结了2019年其取得重大进展的两大研究方向，推

所有参与投票的 CSDN 用户都参加抽奖活动

群内公布奖项&＃xff0c;还有更多福利赠送

近日&＃xff0c;腾讯AI实验室总结了 2019 年其取得重大进展的两大研究方向&＃xff0c;推动实现的行业应用以及前沿研究探索方面的成果。

一、两大难题攻坚&＃xff1a;

通用人工智能与数字人

用游戏仿真世界探索通用人工智能

很多游戏任务具有与现实任务相似的复杂性&＃xff0c;同时游戏环境又是结构化的&＃xff0c;能够为通用决策智能体的训练提供绝佳的训练环境。腾讯 AI Lab 立足于围棋、《王者荣耀》和《星际争霸 2》等游戏&＃xff0c;在过去的一年里取得了一些成绩&＃xff1a;

2019 年 8 月 2 日&＃xff0c;在吉隆坡举办的《王者荣耀》世界冠军杯&＃xff08;该竞技游戏最高规格赛事&＃xff09;半决赛的特设环节中&＃xff0c;腾讯 AI Lab 策略协作型 AI 「绝悟」在与职业选手赛区联队的 5v5 竞技中获胜。

即时策略&＃43;团队协作&＃xff1a;在赛区联队全队覆灭后&＃xff0c; 「绝悟」的兵线尚未到达&＃xff0c;下路高地塔还有过半血量&＃xff0c;「绝悟」果断选择四人轮流抗塔&＃xff0c;无兵线强拆塔。* 注&＃xff1a;赛事尾声&＃xff0c;赛区联队团灭后&＃xff0c;「绝悟」未直接推水晶&＃xff0c;而是计算整体收益后&＃xff0c;选择先推最后一个高地塔&＃xff0c;再推水晶直至胜利。

同一时段&＃xff0c;「绝悟」的 1v1 版本「SUPEX 战队」还在国际数码互动娱乐展览会 China Joy 上亮相&＃xff0c;在 2100 多场顶级业余玩家体验测试中胜率达到 99.8%。此版本相关的技术论文被顶级学术会议 AAAI 2020 接收。

8 月 25 日&＃xff0c;腾讯 AI Lab 开发的、目前担任中国国家围棋队的训练专用围棋 AI 的「绝艺」斩获世界智能围棋公开赛冠军&＃xff0c;这是它在问世三年以来&＃xff0c;第四次夺得国际赛事冠军。

绝悟和绝艺都用到了一种名为「强化学习」的技术&＃xff0c;其思想源自心理学中的行为主义理论&＃xff0c;因此这种学习方法与人类学习新知识的方式存在一些共通之处。而游戏作为真实世界的模拟与仿真&＃xff0c;一直是检验和提升 AI 能力的试金石&＃xff0c;复杂游戏更被业界认为是攻克 AI 终极难题——通用人工智能&＃xff08;AGI&＃xff09;的关键一步。如果在模拟真实世界的虚拟游戏中&＃xff0c;AI 学会跟人一样快速分析、决策与行动&＃xff0c;就能执行更困难复杂的任务并发挥更大作用。

腾讯也在积极建设相关的产学研生态。8 月 18 日&＃xff0c;腾讯 AI Lab 与《王者荣耀》开发工作室宣布将共建 AI&＃43;游戏开放平台「开悟」。开悟平台将开放《王者荣耀》的游戏数据和游戏核心集群&＃xff08;Game Core&＃xff09;&＃xff0c;及腾讯 AI Lab 的强化学习和模仿学习能力与计算平台。我们希望能立足这一平台&＃xff0c;促进和深化与高校和研究机构的合作&＃xff0c;通过产学研结合的方式加速对 AI 的前沿研究探索和技术应用。12 月「开悟」开始在首批 4 所高校内测&＃xff0c;开放范围还将在新的一年里进一步扩大。

用数字人探索多模态研究难题

多模态机器学习是一个热门的多学科研究领域&＃xff0c;其研究的主题是通过整合和建模多种信息模态&＃xff08;比如语言、声音和视觉信息&＃xff09;来解决某些 AI 任务。腾讯自 2018 年 2 月就开始关注多模态方向的研究&＃xff0c;并于 2018 年 11 月宣布探索下一代人机交互方式&＃xff1a;多模态智能。

2019 年&＃xff0c;我们继续探索如何整合计算机视觉、自然语言处理和理解、语音技术的多模态研究&＃xff0c;并在原创研究和实际应用上都取得了进展。在 6 月 20 日举办的「2019 全球电竞运动领袖峰会暨腾讯电竞年度发布会」上&＃xff0c;腾讯 AI Lab 正式发布了首个电竞虚拟人「T.E.G&＃xff08;天鹅静&＃xff09;」。她是腾讯 AI Lab 所研发的数字人中的一员&＃xff0c;有自然且感情充沛的声音&＃xff0c;并且搭配有生动活力的唇形和表情。

腾讯AI Lab首个电竞虚拟人「T.E.G&＃xff08;天鹅静&＃xff09;」

数字人不仅可以担任游戏解说&＃xff0c;而且还能成为虚拟歌手、虚拟主播、虚拟教师、新闻主持和智能助手。我们正以个性化、成长性、互动性为核心探索数字人在更多不同场景中的应用。

腾讯AI Lab神经网络渲染数字人

不同于以前依靠昂贵的电影工业级扫描设备和复杂的后期制作实现的数字人生成&＃xff0c;腾讯开发的数字人诞生于对前沿 AI 技术的整合&＃xff0c;包括 3D 人脸和人体重建、文本/语音/口型驱动和神经网络渲染等技术。此类技术虽然在探索期&＃xff0c;拟人性和实际效果还不尽如人意&＃xff0c;但长期看能降低个性化内容录制和制作的时间、人力和金钱成本。而且基于 AI 的数字人还有望实现与人类的实时动态交互&＃xff0c;从而更好地融入人们的日常生活。

数字人的基础能力和相关技术示意图

具体来说&＃xff0c;为了生成看起来真实自然的数字人形象&＃xff0c;我们使用了基于深度神经网络的 3D 人脸人体重建、文本/语音/口型驱动和神经网络渲染等技术&＃xff0c;使所生成的数字人能具备丰富的姿态和表情。这个技术流程分为三个阶段&＃xff1a;1&＃xff09;DurIAN 模型生成同步音频和表情口型信息&＃xff1b;2&＃xff09;基于此信息由 3D 动画技术生成人脸动画&＃xff1b;3&＃xff09;卡通形象交给游戏引擎渲染&＃xff0c;真人形象交给神经网络渲染。

数字人声音的 AI 合成及转换则采用了腾讯 AI Lab 今年研发的多模态语音合成算法DurIAN。该算法发布于 2019 年 9 月与顶级刊物 Nature 合办的世界首届「Nature Conference - AI & Robotics」大会。

该算法的实现使用了基于神经网络的自回归生成模型&＃xff0c;并使用了诸如信号能量归一化、人声增强等信号预处理和后处理的模块处理低质量数据。在模型训练过程中&＃xff0c;我们还使用了迁移学习方法&＃xff0c;可以在只有少量目标说话人数据的情况下提升语音合成以及歌唱合成的效果。DurIAN 在自然度、鲁棒性、可控性、泛化能力以及实时性都取得了显著进步&＃xff0c;能够在保证端到端语音合成模型高自然度的同时又完全杜绝漏字、重复等问题&＃xff0c;解决了一直困扰业界的端到端系统的稳定性和可控性问题。

我们研发的数字人还能实现说话转唱歌&＃xff0c;所用技术是自创的 DurIAN-4S 的升级算法&＃xff0c;可将说话数据和唱歌数据放在一个训练/生成框架下&＃xff0c;从样本歌声提取基频和每一帧能量信息&＃xff0c;在歌声生成时输入这些信息&＃xff0c;可让 AI 自动学会样本歌声的唱歌方式和技巧。最终&＃xff0c;我们实现了合成歌声、合成 Rap 和普通话转粤语歌的效果。

数字人的舞蹈动作生成还可以使用我们研发的生成对抗网络&＃xff08;Liquid Warping GAN&＃xff09;[1]来自动生成&＃xff0c;并参考了三维人体重建的信息来完成相应舞蹈动作迁移。为保留迁移后的人体相关信息&＃xff08;如衣服纹理和颜色等&＃xff09;&＃xff0c;AI 会从特征和图像的层面将静态图片里的人体信息不断融合到生成的目标视频中。同时为了进一步保持静态图片里面的人体信息&＃xff0c;我们使用了三维人体重建技术来同时建模人体关键点信息和人体身材信息。

综合起来&＃xff0c;数字人形象的 AI 生成与实时驱动首先是训练一个动态信息预测器&＃xff0c;学习文本/语音到三维特征数据&＃xff08;包括口型、表情、肢体动作&＃xff09;的映射关系&＃xff0c;并综合文本、声音、视觉等多模态信息&＃xff1b;然后再训练一个神经网络渲染器&＃xff0c;学习目标人物的三维特征数据到最终视频画面的映射关系。我们采用了共享隐空间的方式来综合多种不同数据源信息。

二、行业应用&＃xff0c;科技向善

AI&＃43;医疗

腾讯 AI Lab 一直以来都在拓展 AI 技术在医疗领域的应用。2019 年&＃xff0c;我们在医疗领域取得了一些重要的研究成果&＃xff1a;

2019 年 10 月&＃xff0c;腾讯 AI Lab 四篇论文入选顶级医学影像会议 MICCAI&＃xff0c;涉及病理癌症图像分类、医学影像分割、CT病灶检测等。
在全球医学影像学最顶级的会议 RSNA 上&＃xff0c; 腾讯 AI Lab 的「SeuTao」采用多模型、多阶段、多信息融合的方法&＃xff0c;通过添加 CT 图像的空间信息&＃xff0c;融合医学图像病变的关联性以及有效的数据采样算法&＃xff0c;短时间内从超过一百万幅脑部 CT 图像中找到了颅内出血的病变规律&＃xff0c;从 1300 多支队伍中脱颖而出&＃xff0c;取得了 Stage1 和 Stage2 双榜第一的成绩。

应用方面&＃xff0c;我们为腾讯的国家级影像产品「腾讯觅影」与辅诊导诊产品医疗科普平台「腾讯医典」提供了支持。智能病理显微镜也不断迭代&＃xff0c;提升用户体验。

AI&＃43;农业

腾讯智慧农业解决方案&＃xff1a;iGrow AIoT温室

过去的一年里&＃xff0c;通过与国内外的大学与机构合作&＃xff0c;我们在农业科技的前沿探索与社区建设方面都做出了重要贡献&＃xff1a;

腾讯 AI Lab 与农科院信息所成立联合实验室&＃xff1a;借助信息所在农业领域深厚的积累整合腾讯在 AI 等前沿科技的实力&＃xff0c;我们成立了智慧农业联合实验室&＃xff0c;探索前沿科技和农业的跨领域研究&＃xff0c;共同助力产业升级。
与荷兰瓦赫宁根大学联合举办第二届人工智能温室种植大赛&＃xff1a;我们和瓦赫宁根大学一起打造自动化温室的算法控制平台&＃xff0c;挖掘高效的人工智能种植策略。今年 9 月 12 日预赛结束&＃xff0c;从全球来自于 26 个国家的 200 名专家与学生所组成的 21 支队伍中&＃xff0c;来自三星电子、中国农科院、先正达&＃xff08;全球第一大农药、第三大种子农化公司&＃xff09;及首尔大学等的 5 支国际队伍脱颖而出&＃xff0c;将在下一阶段挑战用 AI 和物联网技术等前沿技术远程控制温室种植番茄。我们将从五个方面&＃xff1a;作物品质好、产量高、温室能耗少、操控自动化、技术可迁移&＃xff0c;探索未来智慧农业的更大技术可能。
打造中国方案&＃xff1a;基于在国际温室种植大赛不断累计的算法与研究基础上&＃xff0c;我们搭建了可落地的中国智慧方案——iGrow AIoT 温室&＃xff0c;目前已经启动线下试点。

将 AI 应用于农业是腾讯 AI Lab 发起的「AI&＃43;FEW」项目的一部分&＃xff0c;即将人工智能应用于食物、能源和水资源&＃xff08;FEW&＃xff09;&＃xff0c;致力于解决人类所面临的重大挑战。

AI&＃43;工业

2019 年 8 月在上海举办的「2019 世界人工智能大会」上&＃xff0c;腾讯 Robotics X 机器人实验室与腾讯 AI Lab 等多个部门协作研究项目「腾讯工业智能巡检操作机器人」首次展出&＃xff0c;这是业界首次探索在常规巡检技术上增加远程实时的灵巧操控技术&＃xff0c;可让机器人在石油化工等特种行业的极端环境下发挥更大作用。

在工作流程上&＃xff0c;该机器人能利用 AI 视觉技术自主读取多种工业仪表&＃xff0c;能辨识各类管道泄漏情况并检测物体姿态&＃xff0c;还能实时监测物料摆放位置及监控区域人员违规行为。监测到特殊情况时&＃xff0c;机器人会启动响应模式&＃xff0c;自动规划路线移到事故区域。工作人员可使用自主或远程的智能遥操作&＃xff0c;指挥机械臂对阀门或开关进行灵活抓取与操控。

该方案使用了腾讯云「云智天枢平台」机器人设备管理、云边端连接和调度能力&＃xff0c;及面向能源化工行业的智能大数据可视化解决方案。后端处理上方案整合了公司的边缘计算能力&＃xff0c;如TencentOS link的边缘视频处理、AI计算和数据上云。搭载5G能力时&＃xff0c;该方案还可利用腾讯智能边缘计算网络平台TSEC&＃xff08;Tencent Smart Edge Connector&＃xff09;&＃xff0c;以更先进的网络服务提供高带宽、低延时的快捷稳定体验。

AI&＃43;内容

从个性化内容推荐到内容的自动生成&＃xff0c;AI 与数字化内容有着天然的亲和性。依托于其庞大的内容相关业务&＃xff08;比如腾讯看点的整体日活跃用户量达 1.85 亿&＃xff09;&＃xff0c;腾讯公司一直以来都致力于推进智能技术在搜索和推荐等方面的应用。过去一年中&＃xff0c;腾讯 AI Lab 与腾讯多个业务部门共同打造或继续改进基于机器学习的推荐引擎&＃xff0c;并将其成功部署到了腾讯看点&＃xff08;看点快报、QQ看点&＃xff09;等重要业务中。相比于传统的基于规则的引擎&＃xff0c;机器学习推荐引擎能够基于不同的用户画像&＃xff08;包含年龄、性别、地域等属性与阅读、评论、转发等行为&＃xff09;精准地为不同用户群体提供个性化的推荐服务。

尤其值得一提的是我们在 2019 年实现了视频内容推荐的实际应用部署。我们的方法可以通过分析视频内容和封面图来自动创建视频标签&＃xff0c;然后根据用户的个性化模型做出视频推荐。这类技术在火热发展的短视频内容领域具有尤其重要的价值。

在内容搜索方面&＃xff0c;我们打造了新一代海量数据搜索引擎 TurboSearch[1] 。其是我们对已有搜索系统的整体重构和优化&＃xff0c;是一种大规模、轻量级、松耦合、可裁剪、低运营成本的完整解决方案。该引擎无缝对接了腾讯 AI Lab 的各项 NLP 能力&＃xff0c;涵盖 Query 分析及排序等多个领域及丰富的应用场景。我们将逐步开源开放整个引擎&＃xff0c;并构建协同开发生态系统。

三、前沿研究进展

2019 年&＃xff0c;腾讯 AI Lab 在通用人工智能探索、机器学习研究、计算机视觉和自然语言处理等更细分领域的技术研发方面都做出了业界领先的贡献。通过学术会议和开放平台&＃xff0c;我们也一直在积极与 AI 社区分享我们的成果和思考。

自 2016 年腾讯 AI Lab 成立以来腾讯在 AI 领域的论文发表情况。可以看出&＃xff0c;腾讯在 AI 方面的研究引领国内企业&＃xff0c;2018 和 2019 年的论文发表数量增长尤其显著。&＃xff08;截图来自上海交通大学 Acemap&＃xff1a;https://www.acemap.info/ranking&＃xff09;

下面将分主题概括性地介绍腾讯 AI Lab 在 2019 年所取得的前沿探索成果。

多模态研究

现实世界的问题往往复杂而多变&＃xff0c;仅靠单一一类技术有时候无法找到合适的解决方案。这时候&＃xff0c;整合不同领域内的技术就显得尤其有价值了。腾讯 AI Lab 一直在积极拓展融合多个方向的技术&＃xff0c;并已经与合作团队一起成功开发了多种现实应用。比如结合计算机视觉和自然语言处理&＃xff0c;我们研发了使用自注意力和交互注意力模型的视频问答技术[1]&＃xff1b;我们还提出了多种通过自然语言来描述视觉内容的新方法[2][3]以及一种基于自然语言定位视频中内容的新机制 SCDM[4]。

前文提到的数字人就是一项典型的综合多类信息和技术的多模态研究&＃xff0c;涉及计算机视觉、语音技术和自然语言处理等不同领域。

机器学习

机器学习&＃xff08;尤其是深度学习&＃xff09;是催生了近年来人工智能发展热潮的最重要的技术&＃xff0c;这类技术最核心的意义是能让机器具备自动发现模式和寻找解决方案的能力。腾讯 AI Lab 在机器学习方面的研究主题包括强化学习、自动机器学习、深度图学习、小样本学习等。

强化学习

强化学习是近年来大放异彩的机器学习技术之一&＃xff0c;基于这种技术开发的人工智能模型已经在围棋、扑克、视频游戏和机器人等领域取得了非常多的里程碑式的进步。我们在强化学习方面的研究大都立足于游戏环境&＃xff0c;包括围棋以及视频游戏《王者荣耀》和《星际争霸》。

前文已经提到&＃xff0c;我们开发的强化学习智能体绝艺和绝悟已经取得很多重大的突破&＃xff0c;并且通过与顶级人类玩家比拼的方式取得了多个亮眼的里程碑。2019 年我们在强化学习领域的前沿探索还包括&＃xff1a;

为多智能体强化学习环境提出了一种新的元学习方法 LIIR [1]&＃xff0c;能够通过优化各个智能体的内在奖励值来实现对总体目标的整体优化&＃xff0c;这种方法可以激励不同智能体采取多样化的有利于团队的行为。我们用这种方法让《星际争霸 2》智能体学会了更多样化的决策策略。
提出了一种散度增强的策略优化算法 [2]&＃xff0c;能在重复使用离线数据时实现对策略优化训练的稳定化。这种方法有利于在数据不足的环境中进行学习。
提出了一种针对训练数据选择方法的强化学习框架 [3]&＃xff0c;可以很好地处理数据的领域迁移任务。
提出了一种基于强化学习的端到端主动目标跟踪方法&＃xff0c;通过自定义奖赏函数和环境增强技术在虚拟环境中训练得到鲁棒的主动跟踪器&＃xff0c;并在真实场景中对模型的泛化能力进行了进一步的验证。

自动机器学习

如今的机器学习模型有往越来越大、越来越深发展的趋势&＃xff0c;也因此通过人工方法来设计模型和配置超参数的思路越来越捉襟见肘。因此&＃xff0c;通过自动化的方式来设计/搜索模型架构和超参数的方法正受到越来越多的研究关注和应用。

在架构搜索和优化方面&＃xff0c;我们提出了一种神经网络架构变形器 NAT [1]&＃xff0c;其可以将冗余操作替换为计算效率更高的操作&＃xff0c;从而获得精确且紧凑型架构。而在超参数优化方面&＃xff0c;我们提出了一种基于分布的贝叶斯优化算法 DistBO [2]&＃xff0c;它可以迁移历史任务超参数优化的知识&＃xff0c;进而对新任务上的超参数优化起到热启动的效果。

我们也研究了通过迁移学习来简化模型的学习过程&＃xff0c;比如通过迁移来自真实图像的知识来引导素描图片识别网络的学习过程[3]&＃xff1b;我们还提出了一种基于渐进式特征对齐的无监督域自适应方法[4]&＃xff0c;其中包含一种由易到难的迁移策略&＃xff08;EHTS&＃xff09;和一个自适应中心向量对齐步骤&＃xff08;APA&＃xff09;&＃xff0c;可以迭代并交替地训练域适应网络&＃xff1b;另外我们还提出了一种无标签领域自适应算法[5]&＃xff0c;可用以辅助癌症诊断任务的病理图像分类学习。另外值得一提出的是我们还在一项研究[6]中探索了组合使用迁移学习、多任务学习和半监督学习的方法&＃xff0c;并研究了如何通过组合方法来提升医学分类模型的准确率。

另外&＃xff0c;为了保证机器学习模型能在现实生活中得到应用&＃xff0c;很多时候还需要对模型进行压缩处理&＃xff0c;以便在尽可能保证模型优良表现的同时提升模型的执行效率。我们提出了一种名为「协同通道剪枝&＃xff08;Collaborative Channel Pruning &＃xff09;」[7]的模型压缩算法&＃xff0c;可以保证在准确度无损的前提下有效降低模型的计算成本&＃xff0c;从而可让深度学习模型在移动设备等更多场景中得到应用。我们还提出了一种用于压缩卷积神经网络&＃xff08;CNN&＃xff09;[8]的方法&＃xff0c;这种方法基于我们定义的一种可分解卷积滤波器&＃xff0c;可以实现非常优良的模型压缩效果。

其他机器学习方法

除此之外&＃xff0c;腾讯 AI Lab 也在探索其它形式的机器学习方法&＃xff0c;比如结合图学习与深度学习的深度图学习、小样本学习、和多模态学习等方向。

深度图学习是我们的一个非常重要的研究方向&＃xff0c;可以帮助我们理解大型信息和知识网络&＃xff08;比如社交网络&＃xff0c;这是腾讯的核心业务之一&＃xff09;中的关系信息。在深度图学习方面&＃xff0c;我们专注于解决「深度」和「广度」这两个具有深度图学习中具有挑战性的问题。在「深度」方面&＃xff0c;我们提出的 DropEdge 方法[1]可让我们更好地学习超深层图神经网络&＃xff0c;得到表现显著更佳的结果。在「广度」方面&＃xff0c;我们基于自主研发的图采样算法AS-GCN[2]&＃xff0c;即自适应结构采样图卷积神经网络&＃xff0c;开发了可以分布式学习超大规模图数据的图学习系统——在亿级别的超大规模图数据上&＃xff0c;我们可以在不到5分钟内完成单次训练迭代。同时&＃xff0c;我们也将深度扩图学习算法成功应用到不同领域&＃xff0c;如复杂社交网络[3]&＃xff0c;谣言检测&＃xff0c;对抗攻击[4]等。

小样本学习在实际应用中也具有极其重要的价值&＃xff0c;毕竟不是每一种应用场景都存在可以轻松收集或标注的数据集。针对这一任务&＃xff0c;我们提出了一种基于层次任务结构的元学习算法&＃xff08;HSML&＃xff09;[5]&＃xff0c;该方法可以迅速找到与新任务最相关的聚类&＃xff0c;然后从该聚类的任务中迁移和泛化知识。

腾讯的业务中包含许多需要处理多模态数据的场景&＃xff0c;比如通过分析视频内容与用户弹幕来理解用户观看节目时的情绪。针对多模态数据&＃xff0c;我们提出了一种高效的特征提取方法[6]&＃xff0c;该方法可以学习到更有信息量的特征映射&＃xff0c;同时优化过程也更为高效。另外我们还提出了一种使用对抗样本的跨模态学习方法&＃xff08;CMLA&＃xff09;[7]&＃xff0c;该方法创造的对抗样本能快速地骗过一个目标跨模态哈希网络&＃xff0c;另一方面也能通过对抗训练提升该目标跨模态哈希网络的鲁棒性。

除此之外&＃xff0c;腾讯 AI Lab 在机器学习方面还有一些更多的研究探索&＃xff0c;并提出了一些可能具备进一步研究潜力的新方法改进&＃xff0c;此处不再一一赘述。

计算机视觉

计算机视觉的重要意义是让机器具备看懂世界的眼睛。腾讯在计算机视觉方面具备业界领先的研发实力&＃xff0c;在计算机视觉领域顶级会议 CVPR 2019 上&＃xff0c;腾讯共有 58 篇论文入选&＃xff0c;其中 33 篇&＃xff08;含 8 篇 Oral 展示论文&＃xff09;来自腾讯 AI Lab。这些研究成果涵盖视频理解、人脸识别、计算机视觉模型对抗攻击、视觉-语言描述等多个重要方向&＃xff0c;详情参阅《CVPR 2019 | 腾讯AI Lab解读六大前沿方向及33篇入选论文》。

我们的很多研究工作集中在数字人的多模态课题中。除此之外&＃xff0c;我们也持续关注视频理解方向&＃xff0c;并在顶级期刊和会议发表论文 14 篇。我们聚焦视频的分类、表示、检索、缩略和生成等技术&＃xff0c;相关能力已落地在微信的搜一搜和看一看等功能。我们还提出了无监督跟踪、语句引导的描述生成、基于内容的视频片段检索定位等新的视觉任务&＃xff0c;深化此类研究。

语音

语音识别是人工智能领域一个已经得到高度发展的研究方向&＃xff0c;现在的基于深度学习的模型已经能够很好地处理多种不同场景中的语音识别任务&＃xff1b;但在语音合成方面还有很大的进步空间。2019 年&＃xff0c;我们提出了一种全新的端到端合成建模方案 DurIAN [1]&＃xff0c;其合作结果的质量和自然度能与真人发音相媲美&＃xff0c;而且还具备丰富的发音风格与强大的韵律表现力。我们期望这一方案能帮助实现更加自然亲切的人机交互体验。

我们还开展了大量算法研究和改进工作&＃xff0c;以提升核心的基础技术的覆盖范围和性能。包括

重新架构了麦克风阵列前处理系统的算法和代码实现&＃xff0c;使之变得更通用化和模块化&＃xff1b;
改进了传统的 AEC&＃xff08;回声消除&＃xff09;算法&＃xff0c;提升双工性能&＃xff0c;这项技术在语音交互应用&＃xff08;比如智能音箱&＃xff09;中有重要应用价值&＃xff1b;
研发了自定义唤醒词检测系统&＃xff0c;实现了从唤醒词文本到唤醒词检测模型的直接映射&＃xff0c;达到了和之前固定唤醒词系统相近的唤醒性能。

我们的部分研究成果已经成功整合到了我们的语音解决方案中&＃xff0c;同时我们也在拓展更多的落地场景&＃xff0c;辅助其它伙伴的业务&＃xff0c;目前已全面覆盖了智能电视、车载、智能音箱等产品。

智能语音交互系统工作过程示意图以及使用了该系统的腾讯产品

自然语言处理

自然语言处理&＃xff08;NLP&＃xff09;的终极目的是让机器有能力通过自然语言与人类进行流畅自然地交互。在 2019 年自然语言处理领域顶级会议 ACL 上&＃xff0c;腾讯 AI Lab 有 20 篇论文被接收&＃xff0c;详见解读文章《ACL 2019 | 腾讯AI Lab解读三大前沿方向及20篇入选论文》。

NLP 领域的任务主要分为两大类&＃xff1a;自然语言理解&＃xff08;NLU&＃xff09;和自然语言生成&＃xff08;NLG&＃xff09;。如下图所示&＃xff0c;腾讯 AI Lab 的研究方向囊括了从自然语言理解到生成的整个链条。

腾讯 AI Lab 在 NLP 领域的研究方向

在自然语言理解方面&＃xff0c;2019 年我们继续发力&＃xff0c;在文本表征、实体分析、语义理解和语义关系图学习方面都进行了一些前沿探索。

在人机对话与文本生成方面&＃xff0c;我们提出了多种对话生成新框架&＃xff0c;包括结合检索和生成技术的骨架生成技术[1]&＃xff1b;一种可用于提升对话多样性的回复生成模型的离散型变分自编码器&＃xff08;Discrete CVAE&＃xff09;[2]&＃xff1b;一个大规模预训练语言模型[3]&＃xff0c;可应用于对话生成来获得更流畅更多样的回复。另外&＃xff0c;我们还发布了多个对话数据集&＃xff1a;带有对话句子功能标注的单轮对话数据集[4]、用于多轮对话理解的数据集[5]、用于检索加生成技术研究的数据集[6]等。我们也在继续改进我们的开放域对话系统&＃xff0c;该系统已经在腾讯云、腾讯叮当平台、腾讯 AI 开放平台等平台&＃xff0c;以及企鹅电视盒子、《我的起源》等终端产品中得到了应用。

在机器翻译研究方面&＃xff0c;我们继续探索主流翻译模型中的自注意力模型改进[7]和篇章翻译[8]。同时&＃xff0c;我们尝试打开神经网络翻译模型的黑盒子&＃xff0c;解释其中核心问题的运行机制&＃xff0c;比如自注意力模型的词序学习能力[9]和多层翻译模型中的词对齐[10]等。我们也在努力将我们的前沿探索成果应用于实际产品&＃xff1a;2019 年我们对 2018 年发布的 AI 辅助翻译产品「腾讯辅助翻译&＃xff08;TranSmart&＃xff09;」进行了进一步的改进和提升。TranSmart 是国内大中型互联网公司的翻译系统中唯一具备人机交互翻译功能的&＃xff0c;此外系统的自动翻译&＃xff08;中英和英中&＃xff09;准确度居于国内前列。

相关链接&＃xff08;含论文地址&＃xff09;&＃xff1a;

数字人研究

[1] 生成对抗网络&＃xff08;Liquid Warping GAN&＃xff09;

https://arxiv.org/abs/1909.12224

行业报告

[1] 《AI与机器人的 42 个大问题》

https://share.weiyun.com/5IM4LFU

[2] 《智能时代的技术伦理观——重塑数字社会的信任》

http://www.cbdio.com/image/site2/20190729/f42853157e261ea8a87f55.pdf

AI&＃43;内容

[1] 新一代海量数据搜索引擎 TurboSearch

https://cloud.tencent.com/developer/article/1548031

多模态研究

[1] 使用自注意力和交互注意力模型的视频问答技术

https://www.aaai.org/ojs/index.php/AAAI/article/view/4887

多种通过自然语言来描述视觉内容的新方法&＃xff1a;

[2] https://arxiv.org/abs/1805.12589

[3] https://arxiv.org/abs/1811.10787

[4] 一种基于自然语言定位视频中内容的新机制 SCDM

https://papers.nips.cc/paper/8344-semantic-conditioned-dynamic-modulation-for-temporal-sentence-grounding-in-videos

强化学习

[1] 元学习方法 LIIR

https://papers.nips.cc/paper/8691-liir-learning-individual-intrinsic-reward-in-multi-agent-reinforcement-learning

[2] 散度增强的策略优化算法

https://papers.nips.cc/paper/8842-divergence-augmented-policy-optimization

[3] 针对训练数据选择方法的强化学习框架

https://www.aclweb.org/anthology/P19-1189/

自动机器学习

[1]神经网络架构变形器 NAT

https://nips.cc/Conferences/2019/Schedule?showEvent&＃61;13305

[2]基于分布的贝叶斯优化算法 DistBO

https://papers.nips.cc/paper/8905-hyperparameter-learning-via-distributional-transfer

[3]通过迁移来自真实图像的知识来引导素描图片识别网络的学习过程

https://www.aaai.org/ojs/index.php/AAAI/article/view/4955

[4]基于渐进式特征对齐的无监督域自适应方法

https://arxiv.org/abs/1811.08585

[5]无标签领域自适应算法

https://link.springer.com/chapter/10.1007/978-3-030-32239-7_40

[6]https://link.springer.com/chapter/10.1007/978-3-030-32254-0_48

[7]协同通道剪枝&＃xff08;Collaborative Channel Pruning &＃xff09;

http://proceedings.mlr.press/v97/peng19c/peng19c.pdf

[8]用于压缩卷积神经网络&＃xff08;CNN&＃xff09;的方法

http://openaccess.thecvf.com/content_CVPR_2019/papers/Li_Compressing_Convolutional_Neural_Networks_via_Factorized_Convolutional_Filters_CVPR_2019_paper.pdf

其他机器学习方法

[1]DropEdge 方法

https://arxiv.org/abs/1907.10903

[2]图采样算法AS-GCN

https://arxiv.org/abs/1904.12659

[3]复杂社交网络

https://arxiv.org/abs/1904.05003

[4]对抗攻击

https://arxiv.org/abs/1908.01297

[5]元学习算法&＃xff08;HSML&＃xff09;

http://proceedings.mlr.press/v97/yao19b/yao19b.pdf

[6]一种高效的特征提取方法

https://arxiv.org/abs/1811.08979

[7]使用对抗样本的跨模态学习方法&＃xff08;CMLA&＃xff09;

https://papers.nips.cc/paper/9262-cross-modal-learning-with-adversarial-samples

语音

[1]端到端合成建模方案 DurIAN

https://arxiv.org/abs/1909.01700

自然语言处理

[1]结合检索和生成技术的骨架生成技术

https://ai.tencent.com/ailab/nlp/dialogue/papers/EMNLP2019_cd.pdf

[2]离散型变分自编码器&＃xff08;Discrete CVAE&＃xff09;

https://ai.tencent.com/ailab/nlp/dialogue/papers/EMNLP2019_jungao.pdf

[3]一个大规模预训练语言模型

http://arxiv.org/abs/1911.11489

[4]单轮对话数据集

https://arxiv.org/abs/1907.10302

[5]用于多轮对话理解的数据集

https://ai.tencent.com/ailab/nlp/dialogue/papers/EMNLP_zhufengpan.pdf

[6]用于检索加生成技术研究的数据集

https://ai.tencent.com/ailab/nlp/dialogue/papers/EMNLP2019_cd.pdf

[7]自注意力模型改进

https://arxiv.org/abs/1909.02222

[8]篇章翻译

https://arxiv.org/abs/1909.00369

[9]自注意力模型的词序学习能力

https://www.aclweb.org/anthology/P19-1354

[10]多层翻译模型中的词对齐

https://www.aclweb.org/anthology/P19-1124

◆

精彩推荐

◆

2020年&＃xff0c;由 CSDN 主办的「Python开发者日」活动&＃xff08;Python Day&＃xff09;正式启动。我们将与 PyCon 官方授权的 PyCon中国社区合作&＃xff0c;联手顶尖企业、行业与技术专家&＃xff0c;通过精彩的技术干货内容、有趣多元化的活动等诸多体验&＃xff0c;共同为中国 IT 技术开发者搭建专业、开放的技术交流与成长的家园。未来&＃xff0c;我们和中国万千开发者一起分享技术、践行技术&＃xff0c;铸就中国原创技术力量。