← 返回信息流
行业 B站AI视频 · 量子菠萝_ 2026-11-01 22:30 🔥 热度 9

用Wi-Fi共享RTX 5090?32GB显存硬跑7500亿参数本地 大模型 | NetworkChuck

Wi-Fi共享RTX 5090跑7500亿参数本地模型

仅靠32GB显存与Wi-Fi连接,竟能流畅运行需500GB内存的7500亿参数本地大模型? 本期视频揭秘 WiCi One 的突破性架构:将高端GPU(如RTX 5090)转化为全屋设备共享的“无线算力中心”。 📡 协议重构:打破Wi-Fi高延迟瓶颈,通过定制协议压缩指令与数据,实现媲美PCIe直连的流畅表现。 🧠 显存越级:结合 InferSSD 引擎与 MoE(混合专家)架构特性,将模型权重分块对齐,让SSD读取速度逼近内存极限。 ⚡ 智能调度:首创模型“口袋化”缓存机制,多应用并发切换时免去完整

🎬 视频链接

https://www.bilibili.com/video/BV1Avx16TEdT
查看原文 ↗ 硬件算力

📌 相关阅读

Agent改写算力账本,CPU不再是AI服务器的配角? 热度 23 Agent改写算力账本,CPU不再是AI服务器的配角? 热度 22 钉钉talka1智能AI录音卡会议纪要同声传译录音笔翻译转文字D 热度 21 世界模型首次指导设计芯片!超大核NPU700TOPS,99%算力可用 热度 13 AMD福利 开放18个免费 模型 调用,包含 DeepSeek、GLM 等最新 模型 热度 9