Python Dataframeで重複する列の削除

Question

Pandasで以下のようなデータフレームがあります。

特徴としては、
・カラム名に一部重複がある
・重複の個数はわからない
・データの個数はばらばら

例えば

価格1	価格A	価格3
100	200	NaN
100	NaN	NaN
300	100	NaN

こういったデータに関して、正規表現でカラム名に価格が含まれるものを取得し、
最もデータ数が多い列のみ残すのによい方法はありませんか？

以下のような感じで正規表現にマッチするデータを取得したのですが、
これをカラム名を取得してループで確かめていくしかないでしょうか？
df.loc[df.columns.str.match(r'(.?)価格'(.?))]

よろしくお願いいたします。

Answer 1

正規表現にてカラム名に**"価格"**を含む列の抽出までできているのであれば、あとはループを使うまでもなく、

target = df.loc[:, df.columns.str.match(r'(.*)価格(.*)')].count().idxmax()

で**『一番データ数が多い』**カラム名を取得できます。
ちなみに、カラム名に"価格"を含む列の抽出は、Series.str.match()で正規表現を使うのではなく、単にSeries.str.contains() でも十分かと思います。

target = df.loc[:, df.columns.str.contains('価格')].count().idxmax()

反対に**『削除対象のカラム名』**を取得するには、全ての"価格"を含むカラムから上記の『一番データ数の多いカラム名』を削除するだけです。
方法はいろいろありそうですが、内包表記での例を上げると以下のようになります。

delete_target = [c for c in df.columns[df.columns.str.contains('価格')] if c != target]

Answer 2

特定の列の中で最もNaNが少ない列を残したいということでしょうか？

質問の答えずばりではないですが、以前作成した関数を貼り付けています。
データフレームオブジェクトを渡すと動きます。
余計なコードが入っていますが、各列の欠損値割合を確認できます。
一部、流用すれば欠損値割合の少ない列が判定できると思います。

def describe_add_isnull(df):
  mis_val = df.isnull().sum()
  mis_val_percent = 100 * mis_val / len(df)
  mis_val_table = pd.DataFrame(mis_val_percent)
  mis_val_table_ren_columns = mis_val_table.rename(columns={0:"Missing % of Total Values"})
  return pd.concat([df.describe(include='all'),mis_val_table_ren_columns.T])