湖北日报全媒记者 王艳华 汪子轶 通讯员 王政
上班创作“高峰期”用AI生成视频或生成图片,你是不是也遇到过AI龟速反应的情况?眼见视频生成1%、10%……99%,就是不到100%,人只能干着急。这主要是因为,这会用的人实在太多,超过了AI算力和系统的承载极限,导致任务需要排队等待。
这时候,如果把办公电脑带进智算中心。在智算中心里剪视频,会比在办公室剪得更快吗?
答案是,可能不会。
一位普通市民在一个普通的工作日,打开AI应用对话框,发送一条“生成主题是XX的10秒视频,动画风格”的请求,这条请求不会直接到达智算中心,而是由背后的AI调度平台决定你的指令要发到哪里去计算。
调度平台实时监控分布全国的各个智算中心的节点状态,并综合评估延迟与地理位置、成本、当前负载与服务等级协议、各中心的模型能力等,根据这些因素智能地将你的请求分配到最适合的节点。所以,“距离你最近的智算中心”很可能因为拥塞、成本高或无法服务,而最终没有被选中。
中国移动智算中心(武汉)的液冷机房里,工作人员正在进行操作。
但是,如果AI调度平台把你的请求分配到了距离你最近的本地智算中心,那会不会快一点呢?
理论上确实是的,但是影响微乎其微。
AI调度平台把你的需求发送到最优的智算中心之后,就开始进行推理、生成视频。视频生成好之后,再通过CDN(内容分发网络)缓存到距离你最近的边缘节点,等待你的下载。可以理解为:在离你最近的地方,设立一个视频存储“前置仓库”,让视频“取货”能够更快完成。
所以,视频生成的速度,更核心的还是由视频本身难度、AI模型的复杂性、智算中心GPU算力、集群优化和当前负载、网络的“稳和快”等因素共同决定的。比如,如果你的网络很差,半天发不出指令,或者智算中心不给力,那你只能多等一会了。
而物理距离的影响有多大?要看光在光纤里跑的时间。按照光纤传输每1000公里约10毫秒的往返时延来看,哪怕从北京到上海,时延也不过10毫秒左右——不到一眨眼的时间。
就拿湖北来说,目前湖北形成了以武汉为中心的“1-5-7-10毫秒”超低时延圈(同城1毫秒、省内5毫秒、长江经济带7毫秒、全国八大枢纽10毫秒)。一个宜昌发到武汉的指令,距离导致的时延更是可以忽略不计了。
这么看来,与其把工位搬到智算中心去,不如给AI一点耐心——毕竟,光跑得再快,也架不住“算力堵车”。下次再看到进度条卡在99%,不妨放松心情,毕竟你的视频正和全国用户一起,在智算中心门口排队。
元鼎证券提示:文章来自网络,不代表本站观点。