web-dev-qa-db-ja.com

PandasまたはStatsmodelsの効果を修正

PandasまたはStatsmodelsから固定効果（一方向または双方向）を推定する既存の関数はありますか？.

Statsmodelsには以前は関数がありましたが、廃止されたようです。 Pandasにはplmと呼ばれるものがありますが、pd.plm()を使用してインポートまたは実行することはできません。

pythonpandasregressionstatsmodels
16
user3576212

コメントに記載されているように、PanelOLSはバージョン0.20.0からPandasから削除されました。したがって、実際には3つのオプションがあります。

  1. Python 3を使用する場合、より最近の回答で指定されているようにlinearmodelsを使用できます： https://stackoverflow.com/a/44836199/343518 =

  2. statsmodels仕様でさまざまなダミーを指定するだけです。 pd.get_dummies を使用します。固定効果の数が多い場合、実行できない場合があります。

  3. または、groupbyベースのdemeaningを実行してから、statsmodelsを使用します（これは、多くの固定効果を推定している場合に機能します）。これは、一方向の固定効果に対して実行できることの最小限のバージョンです。

    def areg(formula,data=None,absorb=None,cluster=None): 

    y,X = patsy.dmatrices(formula,data,return_type='dataframe')

    ybar = y.mean()
    y = y -  y.groupby(data[absorb]).transform('mean') + ybar

    Xbar = X.mean()
    X = X - X.groupby(data[absorb]).transform('mean') + Xbar

    reg = sm.OLS(y,X)
    # Account for df loss from FE transform
    reg.df_resid -= (data[absorb].nunique() - 1)

    return reg.fit(cov_type='cluster',cov_kwds={'groups':data[cluster].values})

そして、古いバージョンのPandasを使用している場合にできることは次のとおりです。

パンダのPanelOLSを使用した時間固定効果の例（plmモジュールにあります）。 PanelOLSのインポートに注意してください：

>>> from pandas.stats.plm import PanelOLS
>>> df

                y    x
date       id
2012-01-01 1   0.1  0.2
           2   0.3  0.5
           3   0.4  0.8
           4   0.0  0.2
2012-02-01 1   0.2  0.7 
           2   0.4  0.5
           3   0.2  0.3
           4   0.1  0.1
2012-03-01 1   0.6  0.9
           2   0.7  0.5
           3   0.9  0.6
           4   0.4  0.5

データフレームにはmultindexセットが必要であることに注意してください。 panelOLSは、インデックスに基づいてtimeおよびentity効果を決定します。

>>> reg  = PanelOLS(y=df['y'],x=df[['x']],time_effects=True)
>>> reg

-------------------------Summary of Regression Analysis-------------------------

Formula: Y ~ <x>

Number of Observations:         12
Number of Degrees of Freedom:   4

R-squared:         0.2729
Adj R-squared:     0.0002

Rmse:              0.1588

F-stat (1, 8):     1.0007, p-value:     0.3464

Degrees of Freedom: model 3, resid 8

-----------------------Summary of Estimated Coefficients------------------------
      Variable       Coef    Std Err     t-stat    p-value    CI 2.5%   CI 97.5%
--------------------------------------------------------------------------------
             x     0.3694     0.2132       1.73     0.1214    -0.0485     0.7872
---------------------------------End of Summary---------------------------------

Docstring：

PanelOLS(self, y, x, weights = None, intercept = True, nw_lags = None,
entity_effects = False, time_effects = False, x_effects = None,
cluster = None, dropped_dummies = None, verbose = False,
nw_overlap = False)

Implements panel OLS.

See ols function docs

これは別の関数（fama_macbethなど）で、この機能をstatsmodelsに移動する計画だと思います。

16
Karl D.

linearmodels（ https://pypi.org/project/linearmodels/ ）というパッケージには、クラスター化された標準エラーを含むかなり完全な固定効果とランダム効果の実装があります。高次元のOLSを使用して影響を排除しないため、大きなデータセットで使用できます。

# Outer is entity, inner is time
entity = list(map(chr,range(65,91)))
time = list(pd.date_range('1-1-2014',freq='A', periods=4))
index = pd.MultiIndex.from_product([entity, time])
df = pd.DataFrame(np.random.randn(26*4, 2),index=index, columns=['y','x'])

from linearmodels.panel import PanelOLS
mod = PanelOLS(df.y, df.x, entity_effects=True)
res = mod.fit(cov_type='clustered', cluster_entity=True)
print(res)

これにより、次の出力が生成されます。

                          PanelOLS Estimation Summary                           
================================================================================
Dep. Variable:                      y   R-squared:                        0.0029
Estimator:                   PanelOLS   R-squared (Between):             -0.0109
No. Observations:                 104   R-squared (Within):               0.0029
Date:                Thu, Jun 29 2017   R-squared (Overall):             -0.0007
Time:                        23:52:28   Log-likelihood                   -125.69
Cov. Estimator:             Clustered                                           
                                        F-statistic:                      0.2256
Entities:                          26   P-value                           0.6362
Avg Obs:                       4.0000   Distribution:                    F(1,77)
Min Obs:                       4.0000                                           
Max Obs:                       4.0000   F-statistic (robust):             0.1784
                                        P-value                           0.6739
Time periods:                       4   Distribution:                    F(1,77)
Avg Obs:                       26.000                                           
Min Obs:                       26.000                                           
Max Obs:                       26.000                                           

                             Parameter Estimates                              
==============================================================================
            Parameter  Std. Err.     T-stat    P-value    Lower CI    Upper CI
------------------------------------------------------------------------------
x              0.0573     0.1356     0.4224     0.6739     -0.2127      0.3273
==============================================================================

F-test for Poolability: 1.0903
P-value: 0.3739
Distribution: F(25,77)

Included effects: Entity

また、statsmodelsに似た数式インターフェースもあり、

mod = PanelOLS.from_formula('y ~ x + EntityEffects', df)
14
Kevin S