• 🔥 讚數: 1213 | 📂 討論板: LocalLLaMA
  • 🔗 原文連結: 點擊這裡

這篇文章提出了一個令人振奮的預測：根據目前的技術發展趨勢，預計在未來兩年內，目前僅限於頂級超級電腦或雲端數據中心的 “Mythos 級別” AI 能力，將能夠在消費者市場的高階硬體（如高端顯示卡或個人電腦）上運行。這意味著普通用戶即將能體驗到過去只有專業機構才能擁有的強大 AI 效能，標誌著本地部署大語言模型邁向另一個重要里程碑。

Qwen & Gemma on deadlock situation (For Benchmarks Numbers)?

  • 🔥 讚數: 435 | 📂 討論板: LocalLLaMA
  • 🔗 原文連結: 點擊這裡

討論聚焦於 Qwen 與 Gemma 這兩款熱門開源模型在基準測試中出現的 “僵局” 現象。作者透過數據圖表展示了兩者在不同指標下的表現，指出它們在某些任務上互有勝負，難以明確分出高下。這引發了社群對於如何客觀評估本地模型效能的討論，也反映了這兩款模型在開源生態系中強大的競爭力與接近的性能水平。

New open model from Tencent Hy: Hy3 (295B total 21B active - apache 2.0)

  • 🔥 讚數: 371 | 📂 討論板: LocalLLaMA
  • 🔗 原文連結: 點擊這裡

騰訊推出了全新的開源模型 Hy3，採用令人驚豔的 MoE（混合專家）架構，總參數高達 2950 億，但僅有 210 億參數在每次推理時活躍。這種設計旨在兼顧極高的模型容量與快速的運行速度。該模型採用寬鬆的 Apache 2.0 授權，對於希望在本地硬體上部署強大模型且不受許可證限制的開發者來說，這是一個極具吸引力的新選擇。

So… anyone copped one of these?

  • 🔥 讚數: 367 | 📂 討論板: LocalLLaMA
  • 🔗 原文連結: 點擊這裡

這張貼文展示了一款引人注目的硬體設備（可能是用於本地運行 AI 的專用主機或加速卡），並詢問社群中是否有人已經購買並實際使用。這類討論通常會引發關於性價比、安裝難度、散熱表現以及實際推理速度的熱烈交流，反映了 LocalLLaMA 社群對於提升本地 AI 運算體驗的濃厚興趣與硬體實戰精神。

New model: GigaChat3.5-432B-A28B (with day-0 GGUF support!)

  • 🔥 讚數: 206 | 📂 討論板: LocalLLaMA
  • 🔗 原文連結: 點擊這裡

來自 GigaChat 的最新模型 GigaChat3.5 正式亮相，擁有 4320 億總參數和 280 億活躍參數。該貼文的最大亮點在於它提供了 “Day-0 GGUF 支援”，這意味著模型發布當天，使用者即可在 Llama.cpp 等本地推理工具中直接加載運行，無需等待社群轉換格式。對於擁有多張顯卡並希望運行超大型 MoE 模型的用戶來說，這是一個非常實用且高效的更新。

Kyutai’s Pocket TTS clones a voice from 5 seconds of audio, on CPU, under MIT. Benchmarked against Kokoro, Supertonic, and Inflect-Nano for Eng. TTS

  • 🔥 讚數: 156 | 📂 討論板: LocalLLaMA
  • 🔗 原文連結: 點擊這裡

Kyutai 發布了一款名為 Pocket TTS 的開源語音合成工具，其最驚人的特點是僅需 5 秒鐘的音頻即可克隆聲音，並且能在 CPU 上運行，完全不需要顯卡加速。該模型採用 MIT 授權，並在性能基準測試中與 Kokoro、Supertonic 等知名模型進行了對比。這項技術對於希望在家中電腦上快速、低成本地生成高品質語音的開發者和創作者來說，提供了極大的便利與靈活性。