質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.50%
Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

pandas

Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

Q&A

解決済

1回答

2623閲覧

Pandasで特定のインデックス(DatetimeIndex)を抽出したいのですが

rneko

総合スコア18

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

pandas

Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

0グッド

1クリップ

投稿2019/03/12 21:20

前提・実現したいこと

PythonはPandasで時系列データの整理を行っております.
現在,一応付け焼き刃の手段でうまくは行っているのですが,ループを回すため処理が重たく,もっとスマートな書き方があるのでは無いかと思い質問させて頂きました.

現在**整理するために扱っているデータフレーム(以降df_01とします)**は以下の通りです.
df_01のインデックスは,「年月日時分秒」です.

Dataframe

1 1 hours prediction \ 22016-01-01 00:00:00 1429.476695 32016-01-01 01:00:00 1229.455257 42016-01-01 02:00:00 1429.212263 52016-01-01 03:00:00 1529.511699 6... 72017-01-01 04:00:00 1629.509232 82017-01-01 05:00:00 1729.304866 92017-01-01 06:00:00 1229.530628 102017-01-01 07:00:00 1329.877418 112017-01-01 08:00:00 1430.108962 122017-01-01 09:00:00 1530.085283 132017-01-01 10:00:00 1630.443224 14 15一部のみ記載しています

この時,df_01から時刻を指定し値を取得するために**別の配列(下に示し,以降df_02とします)**でデータを整理していました.

df_02のインデックスは,「年月日」までであり,「時分秒」は入っておりません.

Dataframe

1 data 22016-01-06 NaN 32016-01-11 NaN 42016-01-17 25.5 52016-01-18 9.0 62016-01-19 NaN 72016-01-23 7.0 82016-01-24 NaN 9一部のみ記載しています

さて,今回私が実現したいのは,df_02のインデックスをdf_01の抽出に使いたいということです.
具体的に,望まれる結果は以下のようになります.

Dataframe

1 1 hours prediction \ 22016-01-06 00:00:00 1429.476695 32016-01-06 01:00:00 1229.455257 42016-01-06 02:00:00 1429.212263 52016-01-06 03:00:00 1529.511699 6... 72016-01-11 04:00:00 1629.509232 82016-01-11 05:00:00 1729.304866 92016-01-11 06:00:00 1229.530628 102016-01-11 07:00:00 1329.877418 112016-01-11 08:00:00 1430.108962 122016-01-11 09:00:00 1530.085283 132016-01-11 10:00:00 1630.443224 14一部のみ記載しています

df_02で日付をみつけて,df_01でその日の24時間分のデータを抽出したいという考えです.
ところがこれがうまくいかず(重い処理しか思いつかず),「発生している問題」で表記しているようなことになってしまいます.

また,「試したこと欄」には試行錯誤の一部を記載しております.

望まれる結果を達成するために,どのような処理をすればいいでしょうか.
教えて頂ければ幸いです.

よろしくお願いいたします.

発生している問題

抽出される結果が以下のようになります.

Dataframe

1 1 hours prediction \ 22016-01-06 1429.476695 ``` 3... 4一部のみ記載しています

このように,各日の0時0分0秒のデータしか抽出されず,目的のデータフレームの全てを得られておりません.

該当のソースコード・試したこと

python

1df_01.loc[df_02.index, :]

と書きますと,上述のような結果となりました.
また,

python

1df_01.loc["2016-01-06", :]

と文字列で入力しますと,一日分のデータのみですが24時間分の出力が得られます.

そこで,現在の付け焼き刃の方法では以下のようなことをしています.

python

1SAMPLES = df_02.index.strftime('%Y-%m-%d') 2df_ans = pd.DataFrame([]) 3for idx in range(len(SAMPLES)): 4 df_ans = pd.concat([df_ans, df_01.loc[SAMPLES[idx], :]], axis=0) 5# ↑私のMarkdownの書き方が間違っているのかうまくインデントが入りません.見づらいのはご容赦ください.

これは時間が掛かり,この処理があと100回程度残っているためどうしようかなと困っております.

使用しているPython,pandasのバージョン

zsh

1% python --version 2Python 3.6.1 :: Anaconda 4.4.0 (x86_64)

python

1import pandas as pd 2print(pd.__version__) # '0.24.1'

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

t_obara

2019/03/13 00:59

groupbyのご利用は検討されましたか?
rneko

2019/03/16 23:10

t_obaraさま お世話様です.返信が大変遅くなり,申し訳ありません. groupbyの検討は行いませんでした.試したわけではありませんが,確かに抽出する方法はありそうな感じもします.あくまで感覚ですが・・・・・・検討してみたいと思います.
guest

回答1

0

ベストアンサー

1行で行うなら numpy.isin()を使ってこんな感じで書けます。

Python

1df_01[np.isin(df_01.index.date, df_02.index.date)]

numpyを使わないのであれば、一度 **'date'**カラムを生成して

Python

1df_01['date'] = df_01.index.date 2df_01[df_01.date.isin(df_02.index.date)]

でも良いかもしれません。

以下は動作サンプル

Python

1import pandas as pd 2import numpy as np 3N = 1000 4df_01 = pd.DataFrame( 5 {'1 hours prediction':np.random.uniform(1400.,1700, N)}, 6 index=pd.date_range('2016/01/01 00:00', freq='1h', periods=N)) 7 8df_02 = pd.DataFrame( 9 {'data': [np.nan,np.nan,25.5,9.0,np.nan,7.0,np.nan]}, 10 index=['2016-01-06','2016-01-11','2016-01-17','2016-01-18','2016-01-19','2016-01-23','2016-01-24']) 11df_02.index = pd.to_datetime(df_02.index) 12 13print(df_01[np.isin(df_01.index.date, df_02.index.date)])

投稿2019/03/12 23:35

magichan

総合スコア15898

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

rneko

2019/03/16 23:15

magichanさま おせわさまです.早く返信頂いたのに,返信が遅くなりまして,大変申し訳ありません。 おかげさまで非常に綺麗に書けるし,早く回る良いプログラムが書けるようになりました.恥ずかしながら,isinの存在を存じ上げず,まさに目からうろこでした. 動作サンプルまで頂き,ありがとうございます. 頂いた情報をしっかりと参考にし,今後も勉強して参りたいと思います.
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.50%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問