Latest

24 小時的團隊 AI Agent:GIGABYTE AI TOP / vLLM + 地端開源多模態模型 + Hermes Agent 部署攻略

技嘉AITOP

24 小時的團隊 AI Agent:GIGABYTE AI TOP / vLLM + 地端開源多模態模型 + Hermes Agent 部署攻略

DeepSeek 把 API 價格砍到 25 折,OpenRouter 上一堆模型也跟著殺價,一堆免費額度都等著你來用。但問題是:便宜的 API 解決得了「這次對話花多少錢」,卻解決不了「這些資料跟經驗,最後留在誰手上」。 想清楚這件事,我決定把整套 AI workflow 搬到地端,自己搞清楚模型、Agent、串接全部留在自己手上到底跑不跑得起來。第一步是找一台扛得住大型語言模型、也撐得住團隊多人同時請求的地端主機。 這篇不只是開箱文,是我把 vLLM、開源量化模型跟 Hermes Agent 兜起來、串進公司 Slack 的第一手部署紀錄,中間卡關卡到想放棄不只一次。這篇文章會老實告訴你:我們團隊測試出來的幾個心得、Agent 怎麼設計才不會炸 context、還有卡最久的報錯怎麼解。 這篇文章會依序談到: * 一、為什麼選擇地端——人力資本與代幣資本的框架,以及整套系統的架構總覽 * 二、

Spotify 開始跟你對話!Talk to Spotify 成為你的音樂助理

AI郵報

Spotify 開始跟你對話!Talk to Spotify 成為你的音樂助理

Spotify 於 7 月 14 日宣布推出「Talk to Spotify」測試版,讓 Premium 用戶可以在 App 的首頁和「正在播放」介面,透過語音或文字與 Spotify 進行對話式互動,功能包含控制播放內容、了解歌曲和藝人背景、探索個人聆聽歷史等。 目前以測試版形式向美國、愛爾蘭和瑞典的 18 歲以上 Premium 用戶開放,支援 iOS 和 Android,僅限英語。