新闻中心News Center
作者／ 手哥 HANDBRO
-
2024 年 02 月 20 日先有泛用運算的 CPU，再有專為圖形處理而生的 GPU，現在又有專為語言模型而生的 LPU (Language Process Unit) 誕生了！
由新創公司 Groq 開發的語言模型處理器 (LPU) 是專為運行語言模型而生，透過更為精簡的 tensor streaming architecture 晶片架構、更高速的記憶體 (使用 SRAM)、更大的記憶體頻寬，讓處理器可以大幅提升語言模型的處理效率。
因為硬體架構上的優化，Groq 的 LPU 每秒鐘可以產生高達 500 個 token，相較於 Gemini Pro、GPT-3.5 Turbo 每秒 30~50 個 token 的速度，提升了將近 17 倍。
因此，也意味著 LPU 能夠大幅降低語言模型的運算成本。
Groq 的處理器支援如 PyTorch、TensorFlow、ONNX 等機器學習框架進行推理，不過目前還不支援語言模型的訓練工作。
試試看 Groq 有多快 https://groq.com/
ℹ️關注最新 AI 應用、新品開箱
歡迎追蹤我，或訂閱《手哥科科》YouTube 頻道
https://cclick.vip/handbrosub
筆電就能跑：Google Gemma 4 12B 登場，效能直追 26B 模型
AI 服務紅利期進入尾聲：運算成本飆升，Claude、Google、X.AI 陸續收緊使用限制
AI國際AI工具進台灣卡在發票 歐買尬出手
AI國際AI工具進台灣卡在發票 歐買尬出手
AIAI 變身最強駭客？Anthropic 發表未公開模型 Claude Mythos，找到 27 年未被發現的漏洞
AI影片生成「白菜價」時代來臨！Google 推 Veo 3.1 Lite 影片生成模型，每秒只要 0.05 美元
AIClaude Code 原始碼外洩，究竟 Anthropic 是如何實現 Harness，讓 coding agent 可以穩定長時間運作？
AI別只寫 Prompt！先工程化你的 AI 協作系統
AIGoogle 推出 Agent Skills，讓 Gemini 3.1 Pro 開發成功率上升至 96.6%
AIOpenAI Codex App 與 CLI 全面支援 Subagent，一鍵打造你的 AI 開發團隊
手哥 HANDBRO 硬是要學共同創辦人兼職打雜編輯，熱愛網路、熱愛 3C！腦袋是個不定時炸彈，隨時會炸出新玩意兒！如有開箱、評測或各種合作需求，請洽：contact@soft4fun.net。 YouTube 頻道：手哥科科 《手哥科科》YouTube 頻道 從電視的大螢幕到手機的小螢幕，要維持一致的顯示色彩也是不容易的事情，三星這個 Demo 讓大家知道它們做得到 #computex2026 00:22 HKC 在 #Computex 上推出的全球首款 83.4 吋 12K 超寬曲面螢幕，這款螢幕的寬度寬到兩邊都還要用支撐架來輔助穩定。但這個體驗真的相當讚，臨場感滿分。 00:19 不用一直盯小孩！SpotCam BabyCam Pro 實測：AI 偵測、5 吋螢幕、24 小時雲端錄影一次看 12:36 過年春節拍照手機空間不夠？ 用這招讓你不會錯失任何一個珍貴畫面！#pCloud 春節42折優惠 03:56 比架 NAS 還划算！pCloud 雲端硬碟，付一次費終身使用！雙11限定38折！ 05:58在我的瀏覽器中保存我的姓名，電子郵件和網站，以便下次評論。
新文章使用電子郵件通知我。
