🎄teratailクリスマスプレゼントキャンペーン2024🎄』開催中!

\teratail特別グッズやAmazonギフトカード最大2,000円分が当たる!/

詳細はこちら
CSV

CSV(Comma-Separated Values)はコンマで区切られた明白なテキスト値のリストです。もしくは、そのフォーマットでひとつ以上のリストを含むファイルを指します。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

pandas

Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

自然言語処理

自然言語処理は、日常的に使用される自然言語をコンピューターに処理させる技術やソフトウェアの総称です。

Q&A

解決済

1回答

937閲覧

テキストデータを時間準拠で分割する方法について

mi2

総合スコア63

CSV

CSV(Comma-Separated Values)はコンマで区切られた明白なテキスト値のリストです。もしくは、そのフォーマットでひとつ以上のリストを含むファイルを指します。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Python

Pythonは、コードの読みやすさが特徴的なプログラミング言語の1つです。 強い型付け、動的型付けに対応しており、後方互換性がないバージョン2系とバージョン3系が使用されています。 商用製品の開発にも無料で使用でき、OSだけでなく仮想環境にも対応。Unicodeによる文字列操作をサポートしているため、日本語処理も標準で可能です。

pandas

Pandasは、PythonでRにおけるデータフレームに似た型を持たせることができるライブラリです。 行列計算の負担が大幅に軽減されるため、Rで行っていた集計作業をPythonでも比較的簡単に行えます。 データ構造を変更したりデータ分析したりするときにも便利です。

自然言語処理

自然言語処理は、日常的に使用される自然言語をコンピューターに処理させる技術やソフトウェアの総称です。

0グッド

0クリップ

投稿2021/02/08 16:35

<やりたいこと>
pandas.DataFrameのmeeting_noカラムの全長を計算した上で、
ミーティングごとに区分する数に基づいてテキストファイルを分割して書き出したいと考えております。

<想定されるインプットデータフレーム>

df = |meeting_no|start_second|text| |1|1.0|こんにちは |1|2.2|おはようございます |1|3.3|今日はいい天気ですね |1|4.4|ご飯を食べました |1|5.1|朝は気温が低いため、外出する際は防寒が必要であると思われます |1|8.0|ご飯を食べました |1|9.0|昼は気温が高いため、洗濯物日和です |1|10.0|眠いです |1|11.0|おやつの時間です |1|12.0|おやつを食べました |2|・・ |2|・・ :

<作成したいアウトプットテキストファイル>

meeting1_text1_0.0-2.4.txt:こんにちは\nおはようございます meeting1_text2_2.4-4.8.txt:今日はいい天気ですね\nご飯を食べました meeting1_text3_4.8-7.2.txt:朝は気温が低いため、外出する際は防寒が必要であると思われます meeting1_text4_7.2-9.6.txt:ご飯を食べました\n昼は気温が高いため、洗濯物日和です meeting1_text5_9.6-12.0.txt:眠いです\nおやつの時間です\nおやつを食べました入力

上記のように、time_lengthを求めた上でテキストデータを分割(結合)したいと考えております。

<考えたこと>
・meeting_idごとにgroupby
・time_length = start_secondの最大値をもとに12を自動算出
・split_num = splitしたい任意の数
・split_time = 2.4を自動算出

上記を計算した上で、start_secondのカラムに対してmeeting_id毎にsplit_timeに当てればよいと思いますが、
いまいち想定通りの結果を出力できず、textをうまく結合することができず困っております。

お手数を掛けしますが、上記をうまく実装する方法についてお知恵を拝借できますと幸いです。
何卒よろしくお願い申し上げます。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

ppaul

2021/02/08 22:46

time_length が12で、split_numが7のとき、分割の範囲は、0.0-1.7142857142857142のようにしたいのでしょうか? また、start_secondが0.0ということはありますか?
mi2

2021/02/09 01:52

ppaul様 ご質問いただきありがとうございます。 > 分割の範囲は、0.0-1.7142857142857142のようにしたい はい、その通りでございます。 > start_secondが0 はい、ありうるという認識です。
ppaul

2021/02/09 02:08 編集

start_secondが0もある場合、以下の点が問題になります。 split_timeが2.4の行があったとき、それは、 meeting1_text1_0.0-2.4.txt meeting1_text2_2.4-4.8.txt のどちらに入れたいのでしょう。 meeting1_text1_0.0-2.4.txtの方にいれるのなら、 0.0|はじめます、はmeeting1_text1_マイナス2.4-0.0とでも言うところに入れないと、一貫性がありません。 meeting1_text1_0.0-2.4.txtの方にいれるのなら、 12.0|おやつを食べました、はmeeting1_text1_12.0-14.4 に入れないと一貫性がありません。 つまり、 split_time*n < x <= split_time*(n+1) なのか、 split_time*n <= x < split_time*(n+1) なのか、どちらにしたいですか?
mi2

2021/02/09 02:20

ppaul様 FB頂きましてありがとうございます。 0はほぼ存在しない認識なので、例外的に一番目のグループに入れて結合したいと思いました。 time_lengthは12になるので、2.4刻みの5グループを作成した上で、 start_secondが0.0はグループmeeting1_text1グループに入れたいと考えております。
ppaul

2021/02/09 02:27

確認ですが、start_secondが0.0の列はグループmeeting1_text1_0.0-2.4.txtのところという意味ですね。
mi2

2021/02/09 02:39

ppaul様 FB頂きありがとうございます。 そうですね、start_secondが0.0の列はグループmeeting1_text1_0.0-2.4.txtという意味です。 もしtime_length = 12, split_num = 6の場合、start_secondが0.0の列はグループmeeting1_text1_0.0-2.0.txtに入ることを想定しております。
ppaul

2021/02/09 02:46

あと、split_timeはmeeting_idごとに異なるということでいいですね。
mi2

2021/02/09 02:54 編集

ppaul様 ありがとうございます。 はい、そうですね。meeting_id毎に可変になるので、meeting_id毎に計算されることになります。
guest

回答1

0

ベストアンサー

短時間で作ったので、出来は良くありませんが、一応動いています。

python

1import pandas as pd 2import io 3import math 4 5indata = '''meeting_no|start_second|text 61|1.0|こんにちは 71|2.2|おはようございます 81|3.3|今日はいい天気ですね 91|4.4|ご飯を食べました 101|5.1|朝は気温が低いため、外出する際は防寒が必要であると思われます 111|8.0|ご飯を食べました 121|9.0|昼は気温が高いため、洗濯物日和です 131|10.0|眠いです 141|11.0|おやつの時間です 151|12.0|おやつを食べました 162|0.0|はじめます 172|3.0|元気ですか 182|8.0|今日は寒いです 19''' 20 21with io.StringIO(indata) as f: 22 df = pd.read_csv(f, sep='|') 23 24split_num = 7 25 26def split_time(x): 27 return x['start_second'].max() / split_num 28 29df_temp = pd.DataFrame(df.groupby('meeting_no').apply(split_time), columns=['split_time']) 30 31df2 = pd.merge(df, df_temp, on ='meeting_no') 32 33def make_range(row): 34 if row['start_second'] == 0.0: 35 return 0.0 36 else: 37 return (math.ceil(row['start_second']/row['split_time']) - 1) * row['split_time'] 38 39df2['range_start'] = df2.apply(make_range, axis=1) 40 41def make_record(row): 42 return 'meeting%d_%f-%f.txt1:%s' % (row['meeting_no'].iloc[0], row['range_start'].iloc[0], row['range_start'].iloc[0]+row['split_time'].iloc[0], '\n'.join(row['text'])) 43 44df3 = df2.groupby(['meeting_no', 'range_start']).apply(make_record) 45 46with open('output.txt', 'w') as f: 47 f.write('\n'.join(df3))

実行の結果のoutput.txtは以下です。

text

1meeting1_0.000000-1.714286.txt1:こんにちは 2meeting1_1.714286-3.428571.txt1:おはようございます\n今日はいい天気ですね 3meeting1_3.428571-5.142857.txt1:ご飯を食べました\n朝は気温が低いため、外出する際は防寒が必要であると思われます 4meeting1_6.857143-8.571429.txt1:ご飯を食べました 5meeting1_8.571429-10.285714.txt1:昼は気温が高いため、洗濯物日和です\n眠いです 6meeting1_10.285714-12.000000.txt1:おやつの時間です\nおやつを食べました 7meeting2_0.000000-1.142857.txt1:はじめます 8meeting2_2.285714-3.428571.txt1:元気ですか 9meeting2_6.857143-8.000000.txt1:今日は寒いです

投稿2021/02/09 03:23

編集2021/02/09 03:53
ppaul

総合スコア24670

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

ppaul

2021/02/09 03:54

わざわざ、事前に質問したのに、そこのところで間違えていました。ダメダメですね。
mi2

2021/02/09 05:08 編集

ppaul 様 ありがとうございます。pandasで進める処理のイメージができ助かりました。いろいろやり取りさせていただきありがとうございました。 この処理をSQLでやったほうが良いことがわかり、少し考えてみましたがイメージわかないので、別途相談させて下さいmm
guest

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.36%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問