web-dev-qa-db-ja.com

AWS LambdaのGPUベースのアルゴリズム

いくつかの数学演算を実行する機能があり、16GBのGPUシステムが必要ですが、この機能は常にトリガーされず、残りの時間はシステムが使用されません。 AWS Lambdaについて知りました。 LambdaでGPUベースのアルゴリズムを実行できますか?そのため、GPUが必要なときはいつでも、システムをクラウドに配置します。それについて少し説明が必要です。

10
Amar Malik

AWS Lambda関数のランタイム環境を指定することはできないため、GPUの存在を要求することはできません(実際、AWSがLambdaプールに配置することを選択した物理マシンは、ほぼ確実にない持っている)。

あなたの最善の策は、pタイプのインスタンスを使用するように構成された計算クラスターで、バッチジョブとしてGPUを必要とする関数を実行することです。ガイド ここ が役立つかもしれません。

6
Stephen

現在ラムダにはGPUがありません。

ただし、推論を行う必要がある場合は、 CPU経由のエミュレーションはAWSラムダで正常に動作します。詳細は次のとおりです。

https://aws.Amazon.com/blogs/machine-learning/how-to-deploy-deep-learning-models-with-aws-lambda-and-tensorflow/

1
Neil

バッチは、特定のタイプのワークロードに適したソリューションです。別のオプションは ECS上のGP で、GPUを利用して頻繁にタスクを実行するために使用できます。

0
Matt D