EMRクラスターを作成していて、jupyterノートブックを使用していくつかのsparkタスクを実行しています。約1時間の実行後にタスクが停止し、エラーは次のようになります。
An error was encountered:
Invalid status code '400' from https://xxx.xx.x.xxx:18888/sessions/0/statements/20 with error payload: "requirement failed: Session isn't active."
私の理解は、それがLivyの構成に関連しているということですlivy.server.session.timeout
、しかし私はそれをクラスターのbootstrapに設定する方法がわかりません(bootstrap sshアクセスなしで作成されます)
よろしくお願いします
Livyセッションをまったくダウンさせたくない場合は、livy.server.session.timeout-check
のプロパティ/etc/livy/conf/livy.conf
をfalse
に設定します。