头条推荐
一 |

二 | AI也需要路由 目前,在人工智能领域中,“路由”一词在被越来越多提及的同时,还在不同的讨论场景下,加上了相应的前缀,但总体原理上不尽相同,均在于面对不同需求,对于算力的智能分配。据伊朗国家电视台描述,事发地点位于伊朗首都德黑兰西北约600公里的阿塞拜疆边境城市乔尔法(Jolfa)附近。 “算力路由”在算力感知网络中用来支撑“最优路径+最佳算力”的分配逻辑,将业务流量动态调度至算力资源的最优节点。

三 | 此前,IETF还正式成立了算力路由工作组,来推进在通信协议中,使用“路由”来对算力流量进行优化分配。 “模型路由”则在消费电子领域中,用来形容端侧与云端模型算力的智能切换。智能路由机制会将复杂的任务拆解为子任务,通过决策器判断该子任务是留在本地(端侧)执行以保护隐私并节省成本,还是脱敏后发往云端执行以利用更强大算力。 与此同时,现代负载均衡器已演变为“智能请求路由”系统,它们不再将请求视为可互换的单位,而是根据模型的复杂度、数据的本地性以及硬件的亲和性来导向流量。该水坝是两国在阿拉斯河上修建的第三座水坝。这种“路由”将不仅看脸结束,还会监控CPU、GPU使用率和队列深度,以实现多维度的资源优化。

四 | 如果子任务与本地AI能力的匹配度高,则被判定为“简单任务”,路由至本地小参数量模型执行。若本地无法胜任,则路由至云端API。 该功能还能同时提供保护敏感数据的能力,例如目前很多公司在内部,均开始限制公司资料上传至云端AI的权限,甚至使用专用的浏览器,来对数据进行水印添加、拦截上传等操作。而通过路由机制,可以进行隐私脱敏处理,在调度过程中,所有必须发往云端的数据都会先在本地进行脱敏处理,保护敏感信息。同时,路由并不盲目信任端侧结果。在端侧执行完成后,系统会进行质量校验。若结果不达标,会将其脱敏后重新提交至云端执行,并最终完成结果拼装。 路由机制也具备与AI一样的学习能力,能从过往的调度错误中积累经验,不断优化子任务的切割方式和分类器的准确度,使其越来越贴合用户习惯。 这种路由原理,在更广的终端范围内同样适用,例如在智能手表、XR眼镜、手机、边缘算力与云端,路由机制在未来同样可以完成对于任务复杂度的调度。如调整设置、快速检索、优化照片这样的简单任务可以由本地2B小模型处理。而当可穿戴设备侧算力不足时,调度平台会将任务分流到与其连接的手机、PC或专用计算单元,通过7B-10B参数的模型进行处理,而针对极其复杂的重负载任务或需要海量数据支撑的请求,系统会通过调制解调器将任务发送至云端处理。

五 | 不过,对于个人用户的隐私保护而言,一旦涉及设备迁移,个性化数据则需要经过加密处理的云端服务来完成,以便用户购买新设备时,这些模型和数据会从云端无缝流转回新的端侧设备,避免了重新训练和磨合的周期。 以往在家庭网络中被人熟悉的路由概念,如今正准备开始指挥一场关于算力的交通。而在对不同任务需求再拆分再分配的背后,用户端不仅将保持无感的体验,还将获得时延更低的反馈,以及更好的数据保护,甚至是深度用户对于Token费用的节省。
Current article:http://www.deshabisaoguonouzuo.cfd/list_f8ia/3k2k.htm
Published on:20:45:32