web-dev-qa-db-ja.com

RuntimeError：非推奨のため、JVMを起動できません：convertStrings

Amazon Athena Tablesを更新する自動化されたpythonジョブをEMRクラスターで実行します。

（python 2.7と3.7で）数日前まで問題なく動作していました。スクリプトは次のとおりです。

from pyathenajdbc import connect
import yaml

config = yaml.load(open('athena-config.yaml', 'r'))
statements = config['statements']
staging_dir = config['staging_dir']

conn = connect(s3_staging_dir=staging_dir, region_name='eu-west-1')

try:
    with conn.cursor() as cursor:
        for statement in statements:
            cursor.execute(statement)
finally:
    conn.close()

Athena-config.yamlにはステージングディレクトリといくつかのAthenaステートメントがあります。

ここにエラーがあります：

You are using pip version 9.0.3, however version 19.1.1 is available.
You should consider upgrading via the 'pip install --upgrade pip' command.
Unrecognized option: -server
create_tables.py:5: YAMLLoadWarning: calling yaml.load() without Loader=... is deprecated, as the default Loader is unsafe. Please read https://msg.pyyaml.org/load for full details.
  config = yaml.load(open('athena-config.yaml', 'r'))
/mnt/conda/lib/python3.7/site-packages/jpype/_core.py:210: UserWarning: 
-------------------------------------------------------------------------------
Deprecated: convertStrings was not specified when starting the JVM. The default
behavior in JPype will be False starting in JPype 0.8. The recommended setting
for new code is convertStrings=False.  The legacy value of True was assumed for
this session. If you are a user of an application that reported this warning,
please file a ticket with the developer.
-------------------------------------------------------------------------------

  """)
Traceback (most recent call last):
  File "create_tables.py", line 10, in <module>
    region_name='eu-west-1')
  File "/mnt/conda/lib/python3.7/site-packages/pyathenajdbc/__init__.py", line 69, in connect
    driver_path, log4j_conf, **kwargs)
  File "/mnt/conda/lib/python3.7/site-packages/pyathenajdbc/connection.py", line 68, in __init__
    self._start_jvm(jvm_path, jvm_options, driver_path, log4j_conf)
  File "/mnt/conda/lib/python3.7/site-packages/pyathenajdbc/util.py", line 25, in _wrapper
    return wrapped(*args, **kwargs)
  File "/mnt/conda/lib/python3.7/site-packages/pyathenajdbc/connection.py", line 97, in _start_jvm
    jpype.startJVM(jvm_path, *args)
  File "/mnt/conda/lib/python3.7/site-packages/jpype/_core.py", line 219, in startJVM
    _jpype.startup(jvmpath, Tuple(args), ignoreUnrecognized, convertStrings)
RuntimeError: Unable to start JVM
    at loadJVM(native/common/jp_env.cpp:169)
    at loadJVM(native/common/jp_env.cpp:179)
    at startup(native/python/pyjp_module.cpp:159)

私が理解している限り、廃止予定のconvertStringsの問題。誰かがそれを解決するのを手伝ってくれる？なぜかわかりません""")はトレースバックの前にあり、過去数日間でコードを壊すために何が変更されたか。ありがとう！

python-3.xpython-2.7amazon-athenapyathena
3
Inna

問題は、パッケージが認識されない引数-serverでJVMを呼び出していることです。以前のバージョンでは、処理を続行できるような種類のエラーは無視されていました。 0.7.0で同じ動作を得るには、フラグignoreUnrecognizedをTrueに設定する必要があります。おそらく、これをpyathenajdbcに送信して、最初のstartJVMに偽の引数を配置するという欠陥を修正する必要があります。

ソースを見ると、-serverがモジュールにハードコードされています。

if not jpype.isJVMStarted():
            _logger.debug('JVM path: %s', jvm_path)
            args = [
                '-server',
                '-Djava.class.path={0}'.format(driver_path),
                '-Dlog4j.configuration=file:{0}'.format(log4j_conf)
            ]
            if jvm_options:
                args.extend(jvm_options)
            _logger.debug('JVM args: %s', args)
            jpype.startJVM(jvm_path, *args)
            cls.class_loader = jpype.Java.lang.Thread.currentThread().getContextClassLoader()

-serverを引数として受け入れる特定のJVMを想定しています。

0
Karl Nelson