基本信息:
- 专利标题： 面向生成式人工智能服务的边缘协同推理优化方法
- 申请号：CN202510072299.X 申请日：2025-01-17
- 公开(公告)号：CN119473640A 公开(公告)日：2025-02-18
- 发明人： 冯为嘉 , 张偌嘉 , 朱逸宸 , 左心宇 , 王晨阳
- 申请人： 天津师范大学
- 申请人地址： 天津市西青区宾水西道393号
- 专利权人： 天津师范大学
- 当前专利权人： 天津师范大学
- 当前专利权人地址： 天津市西青区宾水西道393号
- 代理机构： 天津朗熠知识产权代理事务所(普通合伙)
- 代理人： 何延如
- 主分类号： G06F9/50
- IPC分类号： G06F9/50 ; G06N5/04 ; G06N3/0455 ; G06N3/0464
摘要：
本发明提供了一种面向生成式人工智能服务的边缘协同推理优化方法，涉及分布式计算技术领域，包括：客户端向边缘服务器发送模型请求以及文本描述；边缘服务器根据文本描述以及生成式人工智能模型生成初始噪声图像，并将生成式人工智能模型与初始噪声图像发送至客户端；客户端根据生成式人工智能模型以及初始噪声图像执行多轮推理过程，生成客户端噪声图像；边缘服务器基于客户端噪声图像继续执行剩余的推理过程，生成完成推理的噪声图片，通过变分自编码器对完成推理的噪声图片进行转换，得到生成图片。本发明有助于在有限的计算资源和网络带宽条件下保持服务的高质量表现，并显著提升了用户体验的稳定性与安全性。
IPC结构图谱:
| G | 物理 |
| --G06 | 计算；推算；计数 |
| ----G06F | 电数字数据处理 |
| ------G06F9/00 | 电数字数据处理的控制单元 |
| --------G06F9/06 | .应用存入的程序的，即应用处理设备的内部存储来接收程序并保持程序的 |
| ----------G06F9/22 | ..微控制或微程序装置 |
| ------------G06F9/50 | ...资源分配，例如，中央处理单元（CPU）的 |