sklearn: Input contains NaN, infinity or a value too large for dtype('float32')のエラーが出る

Question

はじめてKaggleに登録して、titanicの生存者予測タスクにあたって、次のようなコードを書いてみました。

import lightgbm as lgbm
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score
import pandas as pd
import pandas_profiling as pdp
import numpy as np
import os
from sklearn.linear_model import LogisticRegression
from sklearn.ensemble import RandomForestClassifier
train = pd.read_csv('../input/titanic/train.csv')
test = pd.read_csv('../input/titanic/test.csv')
train.head()
# print('fuck')
train= pd.get_dummies(train, columns=['Sex', 'Embarked'])
test = pd.get_dummies(test, columns=['Sex', 'Embarked'])

# train.head()
train = train.drop(['PassengerId', 'Name', 'Cabin', 'Ticket'], axis=1)
test = test.drop(['PassengerId', 'Name', 'Cabin', 'Ticket'], axis=1)

x_train = train.drop(['Survived','Age'], axis=1)
x_train = x_train.drop(x_train.columns[np.isnan(x_train).any()], axis=1)
x_test = x_test.drop(x_test.columns[np.isnan(x_test).any()], axis=1)

y_train = train['Survived']
x_test = train.drop('Survived', axis=1)

model = RandomForestClassifier()
model.fit(x_train, y_train)
y_pred = model.predict(x_test)

logreg.socre(x_train, y_train)

そうすると、以下のエラーメッセージがでます。下のコードでNANを削除しているのですが、
x_train = x_train.drop(x_train.columns[np.isnan(x_train).any()], axis=1)

---------------------------------------------------------------------------
ValueError                                Traceback (most recent call last)
<ipython-input-18-b40df7e0435a> in <module>
     31 x_test = train.drop('Survived', axis=1)
     32 model.fit(x_train, y_train)
---> 33 y_pred = model.predict(x_test)
     34 
     35 logreg.socre(x_train, y_train)

/opt/conda/lib/python3.6/site-packages/sklearn/ensemble/forest.py in predict(self, X)
    543             The predicted classes.
    544         """
--> 545         proba = self.predict_proba(X)
    546 
    547         if self.n_outputs_ == 1:

/opt/conda/lib/python3.6/site-packages/sklearn/ensemble/forest.py in predict_proba(self, X)
    586         check_is_fitted(self, 'estimators_')
    587         # Check data
--> 588         X = self._validate_X_predict(X)
    589 
    590         # Assign chunk of trees to jobs

/opt/conda/lib/python3.6/site-packages/sklearn/ensemble/forest.py in _validate_X_predict(self, X)
    357                                  "call `fit` before exploiting the model.")
    358 
--> 359         return self.estimators_[0]._validate_X_predict(X, check_input=True)
    360 
    361     @property

/opt/conda/lib/python3.6/site-packages/sklearn/tree/tree.py in _validate_X_predict(self, X, check_input)
    389         """Validate X whenever one tries to predict, apply, predict_proba"""
    390         if check_input:
--> 391             X = check_array(X, dtype=DTYPE, accept_sparse="csr")
    392             if issparse(X) and (X.indices.dtype != np.intc or
    393                                 X.indptr.dtype != np.intc):

/opt/conda/lib/python3.6/site-packages/sklearn/utils/validation.py in check_array(array, accept_sparse, accept_large_sparse, dtype, order, copy, force_all_finite, ensure_2d, allow_nd, ensure_min_samples, ensure_min_features, warn_on_dtype, estimator)
    540         if force_all_finite:
    541             _assert_all_finite(array,
--> 542                                allow_nan=force_all_finite == 'allow-nan')
    543 
    544     if ensure_min_samples > 0:

/opt/conda/lib/python3.6/site-packages/sklearn/utils/validation.py in _assert_all_finite(X, allow_nan)
     54                 not allow_nan and not np.isfinite(X).all()):
     55             type_err = 'infinity' if allow_nan else 'NaN, infinity'
---> 56             raise ValueError(msg_err.format(type_err, X.dtype))
     57     # for object dtype data, we only check for NaNs (GH-13254)
     58     elif X.dtype == np.dtype('object') and not allow_nan:

ValueError: Input contains NaN, infinity or a value too large for dtype('float32').

どうしたらよいでしょうか。

Comments

[meg_]

x_train = x_train.drop(x_train.columns[np.isnan(x_train).any()], axis=1)
上記コードの後でx_trainの中身は確認しましたか？

Answer 1

どんなデータか分かりませんが
Nanを削除するのは

x_train = x_train.dropna()

dropna()を使います

このエラーは多分ですけどデータを削除したときに、
データの長さが合わなかったりするとその空いているところをnanで埋められるようになっているのでそれで、でているような気がします。

そのようなところがあったらデータの長さをdropしたりして合わせてあげたり、reindex()でインデックスを合わせてあげたりしてください。
reindex()などでまたnanが入ってしまうことがあるのでそうしたらshift(-1)をしてずらしたりしてください

どういうデータかとか分からないので回答になっていなかったらすいません