技术
亚马逊CEO贾西：AI推理成本威胁企业广泛采用
亚马逊CEO安迪·贾西周四表示，AI推理计算的高昂成本可能限制人工智能在企业中的更广泛采用。贾西在亚马逊第三季度财报电话会议上指出，推理成本和熟练员工短缺是障碍，并强调需要降低推理成本。他指出，推理已占AWS AI收入的远超过一半，亚马逊正在开发Trainium芯片等定制芯片以降低成本。Gartner预测，到2026年，推理将占全球AI优化基础设施即服务支出的55%，达到233亿美元。亚马逊公布第三季度净销售额为2019亿美元，同比增长12%，AWS收入增长39.3%至460亿美元，但其第四季度收入预测略低于华尔街预期。
深度简报：
- 亚马逊CEO安迪·贾西周四表示，使用人工智能模型的高昂成本可能会限制企业对这项技术的广泛采用。
- 贾西特别提到了与AI推理计算相关的成本，即训练好的模型生成响应、分析信息或执行任务的过程。
- “如果我们都希望企业能够如大家所预期的那样使用推理，我们就必须继续努力降低推理成本，”贾西在亚马逊第三季度财报电话会议上表示。他指出，具备运营AI系统和微调模型专业技能的员工短缺，以及推理成本，是阻碍更广泛采用的障碍。
深度洞察：
这些言论发表之际，推理正日益成为AI基础设施 支出的重要组成部分 。Gartner预测，2026年推理将占全球AI优化基础设施即服务支出的55%，达到233亿美元，而训练支出为190亿美元。
根据亚马逊2月份发表的一篇文章，推理发生在 每次使用模型时，而训练则发生在模型开发阶段。随着企业扩大AI的使用，推理所需的反复计算成为一项持续性成本。
在去年 致股东的信 中，贾西表示推理将占未来AI成本的“绝大多数”，因为客户定期训练模型，但在大规模应用中不断产生推理。他称芯片是AI高昂成本的“最大罪魁祸首”，但也指出模型蒸馏、提示缓存、计算基础设施和模型架构方面的进步是提高推理效率的途径。
贾西写道，降低单位AI成本将“释放AI按客户期望的规模被广泛使用”，并带来更多的总体支出。
周四，贾西表示推理已占AWS AI收入的远超过一半。财富500强企业在亚马逊的AI模型服务Amazon Bedrock上的支出比一年前增加了近七倍，而该服务的总token量增长了近17倍。
亚马逊公布第三季度 净销售额为2019亿美元，同比增长12%，而AWS收入增长39.3%至460亿美元，为近五年来最快增速。
贾西表示，降低推理成本仍是AWS的主要关注点。他提到该公司开发定制芯片作为降低模型运行成本的一种方式。
“让客户能够以更具成本效益的方式使用推理，这一点至关重要，”他说。