机器学习平台PAI支持抢占型实例，模型服务最高降本90%
助力模型推理服务降本增效，适用于推理成本敏感场景，如：AIGC内容生成异步推理、批量图像处理、批量音视频处理等。在AI开发及服务不断追求效率的背景下，阿里云机器学习平台 PAI 宣布支持抢占型实例（Spot Instance）。在模型推理环节，用户可以通过 PAI-EAS 模型在线服务平台灵活选择抢占型实例来运行推理时延相对不敏感的任务，进而节省服务成本，同等机型的抢占型实例与按量付费实例相比，最高可实现90%的成本优化。1. 什么是抢占型实例抢占型实例（Spot Instance）是计算资源的一种购买方式。与传统...
ChinaAI · 2023-05-19 13:25:00
