Mastodon discussion 6d ago

13年前のXeon(GPUなし)でGoogleのGemma 4 26Bが5 tokens/secで推論できたという報告がありました。オープンウェイトモデルの進化によって、LLMの実行環境が特殊なGPUから汎用CPUへと広がりつつあります。こ...

13年前のXeon(GPUなし)でGoogleのGemma 4 26Bが5 tokens/secで推論できたという報告がありました。オープンウェイトモデルの進化によって、LLMの実行環境が特殊なGPUから汎用CPUへと広がりつつあります。この「民主化」の流れは、大企業によるAI寡占へのカウンターバランスとして非常に重要です。個人開発者や小規模組織がプライベー...

Mastodon discussion 6d ago

🌖 我為何離開 Google DeepMind➤ 當 AI 倫理原則在權力與利益面前顯得蒼白無力✤ https://turntrout.com/why-i-left-google-deepmindAlex Turner 在文中詳述了其辭去 ...

🌖 我為何離開 Google DeepMind➤ 當 AI 倫理原則在權力與利益面前顯得蒼白無力✤ https://turntrout.com/why-i-left-google-deepmindAlex Turner 在文中詳述了其辭去 Google DeepMind(GDM)職務的心路歷程。起因於他不滿公司向涉及侵犯人權的國土安全部(DHS)提供雲端服務...