很抱歉,当前没有启用javascript,网站无法正常访问。请开启以便继续访问。幻方量化旗下大模型厂商启用硬盘缓存技术 大模型价格再降一个数量级
2024年08月02日 21:00:39
【幻方量化旗下大模型厂商启用硬盘缓存技术 大模型价格再降一个数量级】 《科创板日报》2日讯,私募巨头幻方量化官微宣布,其探索AGI(通用人工智能)的新组织“深度求索(DeepSeek)”启用上下文硬盘缓存技术,把预计未来会重复使用的内容,缓存在分布式的硬盘阵列中。在大模型API的使用场景中,如果输入存在重复,则重复的部分只需要从缓存读取,无需计算。缓存命中的部分,DeepSeek费用为0.1元每百万tokens。
9.16W+特别声明:文章内容仅供参考,不构成投资建议。投资者据此操作风险自担。