質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.39%
Google Cloud Platform

Google Cloud Platformは、Google社がクラウド上で提供しているサービス郡の総称です。エンドユーザー向けサービスと同様のインフラストラクチャーで運営されており、Webサイト開発から複雑なアプリ開発まで対応可能です。

Google Cloud Storage

Google Cloud Storageは、グーグル社が提供しているクラウドベースのデベロッパー・企業向けストレージサービス。可用性に優れ、APIで操作可能なため、データのアーカイブ保存やアプリケーションのコンテンツ提供など様々な用途に活用できます。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

Q&A

解決済

1回答

5516閲覧

GCSでのファイル解凍について

seak

総合スコア14

Google Cloud Platform

Google Cloud Platformは、Google社がクラウド上で提供しているサービス郡の総称です。エンドユーザー向けサービスと同様のインフラストラクチャーで運営されており、Webサイト開発から複雑なアプリ開発まで対応可能です。

Google Cloud Storage

Google Cloud Storageは、グーグル社が提供しているクラウドベースのデベロッパー・企業向けストレージサービス。可用性に優れ、APIで操作可能なため、データのアーカイブ保存やアプリケーションのコンテンツ提供など様々な用途に活用できます。

Python 3.x

Python 3はPythonプログラミング言語の最新バージョンであり、2008年12月3日にリリースされました。

0グッド

1クリップ

投稿2021/07/16 02:47

GoogleCloudStrage(以下GCS)にて、ローカルからtar.gz形式でアップロードしたフォルダをGCS上で解凍したいです。
ファイル容量としては6~8GB程度(圧縮前)なのでCloudFunctionsで解凍するのは現実的に難しいかなと考えています。
(CloudFunctionsの場合ファイルをDLする場合メモリ領域を保存領域として扱うため)

Python37

1 def open_targz(self): 2 with tarfile.open(str(self.targetfolder)+'.tar.gz') as targz: 3 targz.extractall()

ローカルから未圧縮のフォルダ送信は帯域的な問題上叶いませんでした。
帯域負荷かけずにGCP上で完結して解凍する方法ありませんでしょうか。

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

guest

回答1

0

ベストアンサー

GCS にあるオブジェクトを展開して GCS に配置する、はおそらくできないと思います (そういう API はないはず)。

ダウンロード時に展開できればよいなら下記など。
https://cloud.google.com/storage/docs/transcoding

ファイル容量としては6~8GB程度(圧縮前)なのでCloudFunctionsで解凍するのは現実的に難しいかなと考えています。

Cloud Shell で下記を実行したところ 3分程度でした。foo.gz: 750MB、foo: 5.3GB でした。

gsutil cp gs://mybucket/foo.gz - | gzip -d | gsutil cp - gs://mybucket/foo

sliced_object_download_max_components や parallel_composite_upload_threshold などのオプションをつければさらに速くなるかもしれません (ならないかも)。

投稿2021/07/16 12:34

68user

総合スコア2016

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.39%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問