home.social

#市場動態 — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #市場動態, aggregated by home.social.

  1. $2 H100s: How the GPU Bubble Burst - by Eugene Cheah

    Link
    📌 Summary:
    H100顯卡的市場從缺貨狀態(每小時$8)迅速轉變為過剩(每小時不足$2),這一變化主要受到預留計算資源轉售、開源模型微調以及新創公司數量減少的影響。隨著GPU需求的急劇下降,H100的租金大幅降價,造成了相關經濟模型失去吸引力。許多企業現在轉向租賃H100而非購買,以降低不必要的開支。在這一背景下,Eugene Cheah提供了有關GPU經濟學的深入見解,指出新H100的購買風險,強調租賃與良好開源模型的潛力。

    🎯 Key Points:
    - H100顯卡的租金從每小時$8降至$2,市場供應過剩。
    - 投資者和創業者因對H100的需求激增而投入巨資,但目前大多數小型和中型創建者轉向微調現有開源模型。
    - 租賃H100變得更具經濟效益,尤其在市場價格低於$2.85的情況下。
    - 觀察到的市場動態包括大公司自建數據中心,導致對公共雲平台的需求減少。
    - 開源模型的崛起提供了靈活性和安全性,並推動了該市場的發展。

    🔖 Keywords:
    #H100 #GPU #開源模型 #租賃 #市場動態