外部サービスとのデータの整合性でこのような場合どう対処しますか？

Question

長年以下のようなことで困っており、かつ、最善の答えを見つけれずにいます。

例えば、S3にファイルを保存し、その保存したURLをデータベースへ保存する処理を考えます。

save(File file){
  var url = S3.putObject(file) // ①:S3へファイルを保存する処理
  database.profile.save(url)   // ②:プロフィールテーブルへurlを保存する処理
}

上記のようなコードが仮にあったとして、S3の処理は成功したが、何らかの事象で②の処理が失敗した場合、
S3の状態とデータベースの状態が不一致となってしまいます。
なので、

save(File file){
  var url = S3.putObject(file) // ①:S3へファイルを保存する処理
  try {
    database.profile.save(url)   // ②:プロフィールテーブルへurlを保存する処理
  } catch(e){
    var url = S3.deleteObject(url)  // ③:②が失敗した場合、S3のデータを削除する
  }
}

みたいな処理を考えてみますが、これだと、③が失敗した場合、同じくデータベースとS3の状態が不一致となってしまいます。

このような外部サービスとの連携で、外部サービスとデータベースの整合性を確実に取るパターンはあったりしますか？
今回はS3を例としているので、S3にゴミファイルが増えることを許容すればOKですが、これが認証系の外部サービスとデータベースだった場合、
確実に整合性を取りたいです。
何か良い方法やこういった時の考え方、ヒントなど知っている方がいれば教えていただけるとありがたいです。

[今まで考えたこと]
・S3とデータベースに不整合が発生した場合、定期バッチで結果整合を行う。
・sagaパターンを利用する。→完全に理解できていませんが、活用すれば改善するかもと思ってます。
・仮に②の処理で失敗し、データ不整合が発生してもサービスとしては問題ないように設計する(今回のようにS3にゴミファイルができるだけで、システムとしては影響がないように)

Answer 1

要件次第ではありますが、確実性を求めるのであれば

1. S3へのファイル保存を試みる
2. 失敗した場合は例外を投げてその場で処理を終了する or 成功するまでリトライを繰り返し、成功したら3に進む、失敗したら1に戻る or 何回かリトライを繰り返し、3か1に遷移。上限回数を超えたら諦める
3. S3への保存が成功した時はURLをDBに保存を試みる
4. 3が失敗したら1で取得済みのs3のURLを確実に確実度の高い方法と保存先で失敗リストに追加しておいて後で消す（その場で消す必要があるのであれば、3と同様に何度もリトライ）

と言うのが素直な実装だと思います。

Comments

[gaku3601]

ご回答ありがとうございます！
なるほど、リトライ処理でなんとか完了させる→それでも失敗する時はあきらめるということですね。
(最悪ログを残せば手動で対応できますし。
参考にさせていただきます！