Anthropic is calling for a ban on open-weights models by proposing mandatory requirements they will probably never be able to meet

  • 🔥 讚數: 1038 | 📂 討論板: r/LocalLLaMA
  • 🔗 原文連結: 點擊這裡

Anthropic 最近提出了一項針對開放權重（open-weights）模型的新監管要求，主張這些模型必須滿足某些嚴格條件才能被視為真正的「開放」。社群認為這些標準過於苛刻，幾乎是專門為了讓現有開源模型無法通過而設計。這被廣泛解讀為 Anthropic 試圖透過規則壁垒來保護其閉源模型的市場地位，引發了當地 LLM 開發者與愛好者的熱烈討論與批評。

A user has managed to run Kimi K3 on 80xRTX 5090, via 25GbE Ethernet.

  • 🔥 讚數: 715 | 📂 討論板: r/LocalLLaMA
  • 🔗 原文連結: 點擊這裡

一位熱情的用戶成功在由 80 張 RTX 5090 顯卡組成的強大集群上運行 Kimi K3 模型。為了克服單張顯卡的記憶體限制，該方案透過 25GbE 乙太網路將各節點連接起來進行分散式運算。這項成就不僅展示了硬體堆疊的潛力，也證明了透過高效能網路互連，個人或小型團隊也能挑戰極大型語言模型的本地部署，為開源 AI 的邊緣運算帶來了新希望。

First evidence of a pending qwen3.7 open weights release. Qwen3.7-flash is on open router. They referred to Qwen3.6-35b-a3b as Qwen3.6 flash so this is likely a small MoE. The prices are substantially cheaper than 3.6 flash with a native 1M context window.

  • 🔥 讚數: 573 | 📂 討論板: r/LocalLLaMA
  • 🔗 原文連結: 點擊這裡

社群發現 Qwen3.7-Flash 已上線 OpenRouter，推測這將是即將發布的 Qwen3.7 開源版本的前奏。鑑於前代產品的命名習慣，新版很可能採用小型混合專家（MoE）架構。令人興奮的是，該模型原生支援高達 100 萬 tokens 的上下文視窗，且定價遠低於 Qwen3.6 Flash。這標誌著阿里通義千問在長上下文處理與性價比上的重大突破，預示著開源模型將進一步拉近與頂尖閉源模型的差距。

Sorry, but did Dario just say that closed-weights, in-secret models are worse than open-weights ones?

  • 🔥 讚數: 547 | 📂 討論板: r/LocalLLaMA
  • 🔗 原文連結: 點擊這裡

Anthropic 執行長 Dario Amodei 近期的一番言論引發了社群的注意與解讀，他似乎暗示閉源且隱藏權重的模型在整體表現或透明度上不如開放權重模型。這句話被視為對自家競爭策略的一次微妙承認，也反映了業界對於「黑盒」AI 信任度的擔憂。網友們紛紛討論這是否意味著 Anthropic 正轉向更強調可解釋性與開源生態的戰略方向。

Our position on open-weights models

  • 🔥 讚數: 494 | 📂 討論板: r/LocalLLaMA
  • 🔗 原文連結: 點擊這裡

Anthropic 官方發布了一篇詳細闡述其對開放權重模型立場的文章。文中不僅提出了新的分級標準，還解釋了為何某些符合傳統定義的開源模型未能達到他們的期望。這篇文章是引發近期社群熱議的核心文獻，被視為 Anthropic 試圖重新定義「開源」邊界、以保護其商業護城河的重要一步。讀者們仔細分析了文中的條款，尋找對未來開發者生態系的潛在影響。

Gemini Distillation Service

  • 🔥 讚數: 462 | 📂 討論板: r/LocalLLaMA
  • 🔗 原文連結: 點擊這裡

Google Cloud 推出了 Gemini 蒸餾服務（Distillation Service），允許開發者利用強大的 Gemini 模型來訓練更小、更高效的本地模型。這項服務旨在降低使用頂尖 AI 能力的門檻，讓企業能將大模型的知識遷移到成本更低、延遲更小的端側設備上。對於 LocalLLaMA 社群而言，這提供了一條新的途徑，可以獲得經過 Google 頂級模型微調的高品質開源替代品。

Dario still afraid of Chinese Open weight models

  • 🔥 讚數: 271 | 📂 討論板: r/LocalLLaMA
  • 🔗 原文連結: 點擊這裡

結合 Anthropic 最新發布的開源模型政策，社群指出 Dario Amodei 對中國開源模型（如 Qwen、DeepSeek 系列）的快速崛起感到擔憂。這些來自中國的團隊不斷推出性能卓越且成本低廉的開源架構，直接挑戰了美國科技巨頭的市場優勢。文章認為 Anthropic 提出的嚴格標準，很大程度上是為了限制這些新興競爭對手在國際市場的擴張速度與影響力。

DeepSeek V4 Flash, up to 32 tok/s on AMD Ryzen AI MAX+ 395

  • 🔥 讚數: 263 | 📂 討論板: r/LocalLLaMA
  • 🔗 原文連結: 點擊這裡

DeepSeek V4 Flash 模型在 AMD Ryzen AI MAX+ 395 處理器上展現了驚人的效能，每秒可生成高達 32 個 tokens。這項測試證明了新興的 AMD NPU 硬體在運行高效開源模型時的潛力，特別適合筆記型電腦與便攜式設備。對於尋求離線、隱私保護且低延遲 AI 體驗的使用者來說，這是一個令人振奮的消息，標誌著本地部署不再僅限於昂貴的高階顯卡玩家。

Should we be calling Elon a liar?

  • 🔥 讚數: 252 | 📂 討論板: r/LocalLLaMA
  • 🔗 原文連結: 點擊這裡

社群針對 Elon Musk（Elon）關於 AI 模型效能或 xAI 產品進展的某些聲明展開了辯論。部分用戶認為實際測試結果與他之前的承諾存在落差，因此質疑其誠信；另一派則認為技術迭代迅速，早期宣傳略顯樂觀是正常現象。這場討論反映了社群對於科技公司領袖過度行銷（Hype）的審視態度，以及對 AI 真實發展速度的理性探討。