寻找软件套件将CPU密集型任务委托给EC2按需实例

我正在寻找一个简化脚本执行的EC2按需实例pipe理的项目。 这是我的情况。

  • 脚本等待新的工作
  • 我的脚本读取执行参数
  • 它执行外部python脚本进行长期处理
  • 脚本处理python脚本的输出
  • 循环到开始(转到10)

而不是在同一台服务器上执行cpu密集型python脚本,我想委托它到一个按需EC2实例。 我正在寻找一个项目来帮助我以下几点:

  1. 提供build立在ec2之上的脚本来进行实例pipe理
  2. 我想,一旦实例启动,可能会进入并build立必要的环境,比如上传数据文件
  3. 在这个新实例中执行应用程序执行
  4. 收集结果表单实例并终止实例

我知道这可以通过一些疯狂的脚本来完成,但我更愿意使用现有的软件。 请build议我可以使用的软件包/库或工具。

有几种库可用于不同的编程语言,可以帮助您与AWS进行交互:

  • 博托 (Python)
  • right_aws (ruby)
  • (ruby)

HTH

我使用boto (一个Python的AWS控制库)为这种事情运气好。

作为一个构build模块,请查看AWS SQS队列系统。 您的脚本可以添加“作业”,您的EC2实例将从那里读取它。