web-dev-qa-db-ja.com

pysparkで科学的記数法をオフにする方法は?

いくつかの集計の結果として、私は次のsparkdataframeを思い付きます:

 ------------+-----------------+-----------------+
|sale_user_id|gross_profit     |total_sale_volume|
+------------+-----------------+-----------------+
|       20569|       -3322960.0|     2.12569482E8|
|       24269|       -1876253.0|      8.6424626E7|
|        9583|              0.0|       1.282272E7|
|       11722|          18229.0|        5653149.0|
|       37982|           6077.0|        1181243.0|
|       20428|           1665.0|        7011588.0|
|       41157|          73227.0|        1.18631E7|
|        9993|              0.0|        1481437.0|
|        9030|           8865.0|      4.4133791E7|
|         829|              0.0|          11355.0|
+------------+-----------------+-----------------+

データフレームのスキーマは次のとおりです。

root
 |-- sale_user_id: string (nullable = true)
 |-- tapp_gross_profit: double (nullable = true)
 |-- total_sale_volume: double (nullable = true)

gross_profit列とtotal_sale_volume列のそれぞれで科学的記数法を無効にするにはどうすればよいですか?

9
chessosapiens

最も簡単な方法は、2列を10進数にキャストし、適切な 精度とスケール を与えることです。

df.withColumn('total_sale_volume', df.total_sale_volume.cast(DecimalType(18, 2)))
12
Mariusz