当采用Serverless架构部署边缘智能应用时,面临冷启动时间长、资源利用率低的问题,需要设计高效的边缘服务部署机制,以降低冷启动延迟并提升资源利用率。
资源受限的边缘场景中的持续学习面临内存开销激增和数据、模型争用问题,本研究旨在有限内存下实现动态模型扩展和合理数据分配,以支撑高效、长期的持续学习。
主要包含面向异构处理器的并行推理和基于DVFS的高效节能推理,分别从推理延迟和推理能耗研究,提高移动端端侧模型推理的性能。
高效自适应轻量化模型部署旨在面对应用、需求、软件框架和硬件设备纷繁多样的边缘环境,提高模型适应效率
使用 FPGA 的硬件可重构能力,在硬件层面完成软件算法的优化,以实现高吞吐量和出色性能功耗比,满足实时应用的低延迟需求。
边缘数据与模型的协同缓存及查询策略,旨在降低延迟、缓解拥塞,并提升边缘服务器的资源利用率与系统整体效能。
Satellite Edge Computing,即卫星边缘计算,它将计算能力下沉至卫星端,就近处理数据,减少传输延迟,提升星地协同效率与数据处理时效性。
Super Resolution(超分辨率)是一种图像 / 视频处理技术,通过算法从低分辨率数据重建出高分辨率内容,提升画面清晰度与细节。
MoT 即多目标跟踪(Multiple Object Tracking),是对视频场景中多个目标的运动轨迹进行实时跟踪的技术,助力动态场景分析与决策。
作为一种深度神经网络架构,Multi-exit DNN 通过设置多个中间输出出口,根据任务需求灵活选择退出,实现效率与精度的平衡。