苹果评估AI模型压缩技术：270亿参数大模型可直接运行于iPhone，为Siri ...

苹果正与初创公司PrismML展开早期洽谈，后者周二发布压缩模型，将54GB大模型压缩至不足4GB，令270亿参数大模型可以直接跑在iPhone 15或更新机型上。本地处理意味着更低延迟、更强隐私保护，以及潜在的更低授权和云计算成本。