データフレームの指定行にデータを挿入したい

Question

下記データフレームdftの指定した行の下にデータを追加したいのですが。

.. Store Dept Date Weekly_Sales IsHoliday Type Size Temperature
0 1 1 2010-02-05 24924.5 False 　　　A 151315 42.31
1 1 1 2010-02-12 46039.4 True 　　　A 151315 38.51
2 1 1 2010-02-19 41595.5 False 　　　A 151315 39.93
3 1 1 2010-02-26 19403.5 False 　　　A 151315 46.63

Store列は1-45まで、Dept列は1-99まであります。Store番号毎にDeptが基本1-99まであるのですが、欠番となっているStore-Deptがあるため、該当の行を作りたい(たとえばStoreが5でDeptが99の列がない場合、Store=5、Dept=98の最下行(Store=5、Dept=98に該当するものは複数行ある場合あり)に新たな行Store=5、Dept=99を作り、残りの列は前行の値を使う)と考えています。

挿入すべき行が20ぐらいあるため、できれば簡潔に挿入する方法をご教示いただけませんでしょうか。

よろしくお願いいたします。

Answer 1

とりあえず、

dummy_df = pd.DataFrame(list(itertools.product(range(1,46),range(1,100))),
                        columns=['Store','Dept'])

のようにして、予め StoreとDept Columnのデータを全て埋めた DataFrame を作成しておき、この DataFrame に元のDataFrameを merge() し、最後にデータが入らなかった箇所をfillna()で埋めるとよいのではないでしょうか。

以下は動作確認のコードです。
(Store:1～3, Dept:1～3 の範囲のデータで確認しております)

import itertools
import pandas as pd
import numpy as np

# 適当なサンプルデータ
df = pd.DataFrame({'Store':[1,1,2,2,3,3],
                   'Dept':[1,2,2,3,1,3],
                   'Date': pd.date_range('2010-02-05',periods=6, freq='10d'),
                   'Weekly_Sales':np.random.rand(6)})

dummy_df = pd.DataFrame(list(itertools.product(range(1,4),range(1,4))),
                        columns=['Store','Dept'])

new_df = pd.merge(dummy_df, df, on=['Store', 'Dept'], how='left').fillna(method='ffill')
print(new_df)

Comments

[jun.k]

いつもありがとうございます。動き方が欲分からない箇所があるのですが、とりあえずコードをそのまま適用して見たところ、確かにすべて埋まりました! ただなくても良いStore Deptがあるのでこれを消すにはdropで個別にやるしか思い当たらないのですが、件数が膨大で・・・・ほかに方法はありますでしょうか。ちなみにデータを差し込みたいStore-Deptの組み合わせは下記の通り分かっております。
5-99,9-99,10-99,18-43,24-43,25-99,34-39,36-30,37-30,42-30,45-39

[jun.k]

すみません。単にlist(iterの部分を[[5,99],[9,99]・・・・]に変えて、mergeのhowをouterにすればよいのでしょうか。これであっていそうでしたが

[magichan]

既知のデータを何個か追加したいのであれば、その方法でもよいかもしれません。
ただ、その場合は順番が崩れますので、sort_values(['Store', 'Dept']) した後に fillna() をする必要がありますね。（reset_index() もしたほうがよいかも）

new_df = pd.merge(dummy_df, df, on=['Store', 'Dept'], how='outer')
new_df = new_df.sort_values(['Store', 'Dept']).reset_index(drop=True).fillna(method='ffill')

[jun.k]

ありがとうございます。ご指摘の方法でうまくいきました!!!

Answer 2

既に解決済みでが
1)pd.concatで追加したいデータを縦連結
2).sort_valus(['Store','Dept'])で並び替え
3).reset_index()でインデックスの付け替え
というのもありました。なんのひねりも工夫もありませんね。しかもあらかじめ、StoreとDeptを決める必要があって複雑そうです

Comments

[jun.k]

ありがとうございます!! でも今回の場合はこれで解決できる問題でした。初級者なのでなかなか思いつかずいろんな方法が分かることは非常に勉強になります。