谷歌开源 TorchTPU,挑战英伟达 AI 生态主导地位
谷歌开源 TorchTPU,意在挑战英伟达在 AI 生态中的主导地位。
谷歌开源 TorchTPU,意在挑战英伟达在 AI 生态中的主导地位。
美国国土安全部禁止联邦民事机构使用中国实验室Deepseek的AI技术。
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源,目标是实现大模型普惠。
谷歌开源 TorchTPU,为 TPU 提供原生 PyTorch 后端支持,开发者可直接在 TPU 上运行 PyTorch 模型。
Deepseek开源其V4.1-Flash模型背后的DeepInfer推理框架;该框架基于vLLM,可降低算力成本与能耗,并给OpenAI、Anthropic等西方厂商带来更大定价压力。
A high-throughput and memory-efficient inference and serving engine for LLMs