近期,特斯联宣布任命IEEE Fellow、国家科技重大专项『新一代宽带无线移动通信网』总体组专家、科技部创新人才推进计划『宽带无线传感网』创新团队负责人杨旸博士为集团首席科学家,并对外公布了杨旸博士与团队在IEEE国际学术期刊和国际顶级会议上发表的智能物联网技术(AIoT)领域的最新科研成果:

智能物联网的能耗、时延与交互

随着5G移动通信系统的广泛商用,越来越多的物联网应用选择了支持海量机器通信场景的NB-IoT(窄带物联网)技术。但是由于蜂窝移动通信系统基础设施的封闭性,以及缺乏有效的现场测量工具,NB-IoT网络的许多重要指标一直以来都没有被深入地研究,例如:无线接入性能和能耗等。杨旸博士与团队针对智慧城市中大量部署的室内外定位传感器、门禁传感器、水务传感器和烟雾传感器等,研发了精密融合功率测量和协议跟踪能力的硬件设备,对部署在四个应用场景、1200多个位置的传感器节点进行了为期三个月时间的大量现场测量,收集了49GB的各种传感器节点的能耗状态和过程数据。通过全面深入的数据归类和分析研究,团队发现实际物联网应用场景中的传感器节点能耗差异可以达到惊人的75倍,这会严重影响电池寿命,导致频繁的网络分区等问题。团队认为造成这些节点能耗性能巨大差异的主要原因在于:无线网络的覆盖质量参差不齐、功率消耗的长尾特征、以及过度重复的控制消息。基于这项在实际应用场景中完成的扎实研究工作,团队进一步给出了提升智能物联网技术规范和芯片设计方向的优化建议。这项科研成果名为《A First Look at Energy Consumption of NB-IoT in the Wild: Tools and Large-Scale Measurement》(《自然环境窄带物联网能耗初探:工具及大规模测量》),已发表在网络领域的国际顶级期刊IEEE/ACM Transactions on Networking。

图1:不同无线接入方式和增强覆盖水平情况下的物联网应用能耗分析

在工业物联网的应用场景中,无线传感器设备无需铺设专门的有线网络,具有灵活性和可扩展等优势。但是,工业生产环境中复杂时变的无线衰落信道会导致无法预测的随机服务时延和时延抖动,严重降低了工业生产闭环反馈控制系统的性能和稳定性,这是无线传感器设备和无线通信技术应用于高精度、高可靠的自动化工业生产系统的最主要技术挑战。针对工业物联网应用场景中的严苛时延要求,杨旸博士及团队提出了在无线多径衰落信道中对时延分布进行塑形的新方法,通过对原始最优化函数的解耦分析,设计了“双层闭式反馈控制算法(TACAN)”,实现了时延分布方差的最小化,从而显著提高了工业物联网系统的可靠性和稳定性。团队分别采用经典的莱斯分布(Rician)信道模型和真实工业应用场景中测量的无线衰落信道响应来有效验证了所提出的新方法和TACAN新算法。这项科研成果名为《TACAN: the Shaping of Delay Distribution under Multi-path Fading Channel for Industrial IoT Systems》(《双层闭式反馈控制算法:工业物联网系统多径衰落信道下的时延分布塑形》),已发表在物联网领域的国际顶级期刊IEEE Internet of Things Journal。

图2:双层闭式反馈控制算法(TACAN)在莱斯分布信道模型(左)和真实工业应用场景(右)中都能够有效降低平均服务时延和时延方差

作为智能物联网应用中最重要和最自然的人机交互方式,语音合成技术赋能物联网终端自主生成真实、可信和富有表现力的类人语音。然而,现有的端到端文本转语音(TTS)算法所合成的机器语音在表现力上仍然与人类语音有很大的差距,难以在高标准、高频率的复杂应用场景中实现高可靠商用。杨旸博士与团队从语音表现力的语言学本质再出发,深入研究和分析了人类语音复杂的韵律变化和生成规律,提出了“跨语句的条件变分自动编码器文本转语音算法”(CUC-VAE),它通过从现有文本前后语句中提取上下文相关的韵律特征,并有效整合当前文本信息和说话人状态,实现了对每个音素韵律变化的后验概率分布的准确估计和利用。相比于传统的VAE和CVAE算法从标准高斯分布中采样,新算法是在前后语句信息为条件的韵律特征先验分布中进行采样,所生成的韵律变化与上下文相关,这更接近于人类自然生成韵律的方式,因此显著提升了用户在智能物联网应用场景中的语音交互体验。这项科研成果名为《Cross-Utterance Conditioned VAE for Non-Autoregressive Text-to-Speech》(《跨语句的条件变分自动编码器非自回归文本转语音算法》),已发表在自然语言处理领域的国际顶级会议ACL。

图3:文本转语音新算法CUC-VAE生成的“Mary asked the time”的能量分布和音高升降曲线,更自然地区分出不同的前后语句环境

算力网络的资源管理和任务调度

在智能物联网的应用场景中,边缘计算资源的广泛部署可以及时有效地满足终端用户的低时延、强计算、快响应等服务需求,例如:基于多维度计算机视觉的3D同步定位和建图技术。异构的边缘计算设备有着不同的硬件资源(如CPU和GPU)和运行环境,它们能为终端用户运行和完成各种任务,并产生不同的资源占用成本和服务质量。然而,如何合理区分各种计算任务,并把它们高效地分配给最适合的异构边缘计算节点,是一个极具挑战的学术问题。针对这些边缘计算硬件设备的异构性,以及用户任务服务质量需求的多样性,杨旸博士及团队提出了服务编排和任务调度的新思路和新方法,在满足各类用户的服务等级协议的同时,有效降低系统资源占用的总成本。以计算机视觉应用为例,作者们设计了名为“边缘视觉”(EDGEVISION)的系统服务架构,在异构的边缘计算设备上实现了多种计算机视觉应用的高效任务区分和服务编排。这项科研成果名为《Task Partitioning and Orchestration on Heterogenous Edge Platforms:The Case of Vision Applications》(《异构边缘平台上的任务划分及编排:以视觉应用为例》),已发表在物联网领域的国际顶级期刊IEEE Internet of Things Journal。

图4:任务调度新算法MLTS/MCTS(蓝色)有效降低了系统总成本和边缘服务时延

针对复杂多变的无线信道环境和多层次的移动通信网络架构,杨旸博士与团队提出了基于大规模多天线中继节点辅助的多层次算力系统,来增强复杂用户任务的计算能力和效率。在这个方案中,多种类型的用户把它们的计算任务卸载给附近由大规模多天线中继节点所构成的计算和缓存资源,或者分配给由雾接入网络所链接的云计算资源。然而,如何综合考虑任务调度、服务缓存和功率分配等不同需求,实现多用户任务调度的总体时延最小化,是一个很有挑战性的学术问题。团队分析了无线信道状态信息不完备的负面影响,将其建模为一个强健的非凸优化理论问题,并提出了一个有效的替代优化算法。首先,针对给定的任务分配和服务缓存结果,该算法通过将非凸功率分配优化问题转化为一个简单的线性优化问题来解决。其次,采用经典的拉格朗日(Lagrange)部分松弛方法将任务分配和服务缓存的限制条件放松,构建和解决了相应的对偶问题,获得任务分配和软件缓存结果。最后,基于这些初步结果,团队提出了一个迭代优化算法来找到任务调度、服务缓存和功率分配的联合优化结果。仿真结果显示,新算法的总体性能优于传统的标准方法,即采用等效信干噪比(SINR)来渐进式控制功率分配。这项科研成果名为《Joint Task Offloading and Caching for Massive MIMO-Aided Multi-Tier Computing Networks》(《大规模MIMO辅助多层次算力网络的联合任务调度与缓存》),已发表在通信领域的国际顶级期刊IEEE Transactions on Communications。

图5:新算法(最下方曲线)在不同系统参数和应用场景下都能够有效降低服务时延

多智体反馈神经网络框架和应用

深度神经网络在计算机视觉、自然语音处理、语音合成、人工智能游戏等领域取得了突破性的进展,但现有的大部分神经网络框架只支持单向的数据流动和处理。受到灵长类动物大脑中存在信号反馈机制的启发,杨旸博士及团队提出了“多智体反馈神经网络”(MAFENN)框架,包含三个充分合作的智能体,其中的反馈智能体模拟了灵长类动物大脑中的信号反馈和错误纠正机制,有效提升了神经网络训练过程中的反馈学习能力、特征提取能力、噪声和干扰消除能力。在理论分析方面,团队创新地将MAFENN框架建模成三个玩家的反馈斯塔尔伯格博弈(feedback Stackelberg game),理论证明了其可以确定收敛到博弈均衡点。这项科研成果名为《Multi-Agent Feedback Enabled Neural Networks for Intelligent Communications》(面向智能通信的多智体反馈神经网络),已发表在无线通信领域的国际顶级期刊IEEE Transactions on Wireless Communications。

图6:多智体反馈神经网络(MAFENN)的框架和三个玩家的反馈斯塔尔伯格博弈建模

在跨领域应用方面,MAFENN框架首先被用于设计基于深度学习的无线信道智能均衡器,其中内生的反馈纠错机制有效减轻和消除了无线信号传输中的码间干扰、噪声、以及非线性失真等问题。与传统的无线信道均衡器相比,基于MAFENN框架的智能均衡器在复杂多变的线性和非线性无线多径信道情况下,都能够显著提升信道的均衡效果,有效降低了系统的符号误码率。其次,针对无线视频信号在传播过程中极易受到多径效应、大气损耗、雨衰、材料穿透阻挡等环境因素的严重干扰,团队提出了基于MAFENN框架的视频接收端无线干扰消除算法,其中内生的反馈纠错机制能够高效准确地修复和分类受损严重的无线视频帧,新算法不仅显著提高了海量视频信号在无线多径衰落信道中的实时传输质量和服务性能可靠性,而且有效增强了各种类型视频帧分类和识别的精准性和实用性。这些相关的跨领域应用研究成果已发表在通信领域的两大旗舰会议:ICC和GLOBECOM。

图7:基于MAFENN框架的智能均衡器(黑色)在线性(左)和非线性(右)无线信道情况下都能够有效降低系统的符号误码率

图8:基于MAFENN框架的视频接收端无线干扰消除算法能够高效准确地修复和分类受损严重的无线视频帧,CIFAR-10数据集