Beta9 是一個開源平台,用於直接從 Python 運行遠端容器。 它支援 GPU/CUDA 加速,讓您可以將任意 Python 程式碼擴展到數百台機器,輕鬆部署功能和任務佇列,以及跨各種雲端提供者(包括裸機提供者)分配工作負載。
特徵:
- 將工作負載擴展到數百台機器(有 GPU 支援!)
- 直接從 Python 解釋器即時運行遠端容器
- 在多個雲端提供者之間分配工作負載
- 使用簡單的 Python 抽象輕鬆部署任務佇列和函數
我們在 Beam 內部使用 beta9 為使用者大規模運行 AI 應用程式。
開始使用 Beam 最快、最可靠的方法是免費註冊 Beam Cloud。 前 10 小時免費使用,之後依使用情況付費。
k3d 用於本地開發。 您需要 Docker 和 Make 才能開始。
要使用我們的全自動設置,請執行“setup”make 目標。
Note
這將覆蓋您可能已經安裝的一些工具。 查看 setup.sh 以了解更多資訊。
make setup
SDK 是用 Python 寫的。 您需要 Python 3.8 或更高版本。 使用 setup-sdk
make 目標開始。
Note
這將安裝 Poetry 套件管理器。
make setup-sdk
設定伺服器和 SDK 後,請查看 SDK 自述文件 此處。
from beta9 import function
@function(cpu=8)
def square(i: int):
return i**2
def main():
numbers = list(range(10))
squared = []
# 為清單中的每個項目執行遠端容器
for result in square.map(numbers):
squared.append(result)
Beta9 旨在快速啟動遠端無伺服器容器。 有幾件事使這一切成為可能:
- 由 S3/FUSE 支援的自訂延遲載入影像格式 (CLIP)
- 快速的、基於 redis 的容器調度引擎
- 用於快取映像和檔案的內容尋址存儲
- 自訂 runc 容器運行時
我們歡迎貢獻,無論大小! 這些是對我們最有幫助的事:
- 在我們的路線圖中對功能進行排名
- 開啟 PR
- 提交功能請求
我們的使命是簡化雲端的複雜性。 為此,我們建立了一個 Python-first 抽象,用於在 GPU 上啟動無伺服器容器。
我們認為,現有的雲端供應商提供的工具過於臃腫和複雜,開發人員無法快速迭代。
Beam 是設定 Kubernetes 叢集或啟動雲端虛擬機器的替代方案。
Beam 為您提供了在雲端 GPU 上運行程式碼、在 API 後面公開程式碼以及在應用程式上快速迭代所需的所有工具。
如果您需要支持,可以透過以下任一管道聯繫: