web-dev-qa-db-ja.com

EMRクラスターブートストラップにlivy.server.session.timeoutを設定する方法

EMRクラスターを作成していて、jupyterノートブックを使用していくつかのsparkタスクを実行しています。約1時間の実行後にタスクが停止し、エラーは次のようになります。

An error was encountered:
Invalid status code '400' from https://xxx.xx.x.xxx:18888/sessions/0/statements/20 with error payload: "requirement failed: Session isn't active."

私の理解は、それがLivyの構成に関連しているということですlivy.server.session.timeout、しかし私はそれをクラスターのbootstrapに設定する方法がわかりません(bootstrap sshアクセスなしで作成されます)

よろしくお願いします

6
bill

Livyセッションをまったくダウンさせたくない場合は、livy.server.session.timeout-checkのプロパティ/etc/livy/conf/livy.conffalseに設定します。

0
amruth