Skip to content

Latest commit

 

History

History
143 lines (92 loc) · 5.02 KB

README.md

File metadata and controls

143 lines (92 loc) · 5.02 KB

Beta9

Beta9 是一个开源平台,用于直接从 Python 运行远程容器。 它支持 GPU/CUDA 加速,允许您将任意 Python 代码扩展到数百台机器,轻松部署功能和任务队列,以及跨各种云提供商(包括裸机提供商)分配工作负载。

特征:

  • 将工作负载扩展到数百台机器(有 GPU 支持!)
  • 直接从 Python 解释器即时运行远程容器
  • 在多个云提供商之间分配工作负载
  • 使用简单的 Python 抽象轻松部署任务队列和函数

我们在 Beam 内部使用 beta9 为用户大规模运行 AI 应用程序。

开始吧

束云(推荐)

开始使用 Beam 最快、最可靠的方法是免费注册 Beam Cloud。 前 10 小时免费使用,之后根据使用情况付费。

开源部署(高级)

设置服务器

k3d 用于本地开发。 您需要 Docker 和 Make 才能开始。

要使用我们的全自动设置,请运行“setup”make 目标。

Note

这将覆盖您可能已经安装的一些工具。 查看 setup.sh 以了解更多信息。

make setup

设置 SDK

SDK 是用 Python 编写的。 您需要 Python 3.8 或更高版本。 使用 setup-sdk make 目标开始。

Note

这将安装 Poetry 包管理器。

make setup-sdk

使用 SDK

设置服务器和 SDK 后,请查看 SDK 自述文件 此处

示例应用程序

from beta9 import function


@function(cpu=8)
def square(i: int):
    return i**2


def main():
    numbers = list(range(10))
    squared = []

     # 为列表中的每个项目运行远程容器
    for result in square.map(numbers):
        squared.append(result)

怎么运行的

Beta9 旨在快速启动远程无服务器容器。 有几件事使这成为可能:

  • 由 S3/FUSE 支持的自定义延迟加载图像格式 (CLIP)
  • 快速的、基于 redis 的容器调度引擎
  • 用于缓存图像和文件的内容寻址存储
  • 自定义 runc 容器运行时

演示 gif

贡献

我们欢迎贡献,无论大小! 这些是对我们最有帮助的事情:

  • 在我们的路线图中对功能进行排名
  • 开启 PR
  • 提交功能请求

哲学

我们的使命是简化云的复杂性。 为此,我们构建了一个 Python-first 抽象,用于在 GPU 上启动无服务器容器。

我们认为,现有的云提供商提供的工具过于臃肿和复杂,开发人员无法快速迭代。

Beam 是设置 Kubernetes 集群或启动云虚拟机的替代方案。

Beam 为您提供了在云 GPU 上运行代码、在 API 后面公开该代码以及在应用程序上快速迭代所需的所有工具。

社区与支持

如果您需要支持,可以通过以下任一渠道联系:

  • Slack (与我们的工程团队实时聊天)
  • GitHub 问题 \(错误报告、功能请求和任何与路线图相关的内容)
  • Twitter \(版本更新)

感谢我们的贡献者