質問をすることでしか得られない、回答やアドバイスがある。

15分調べてもわからないことは、質問しよう!

新規登録して質問してみよう
ただいま回答率
85.43%
AWS Glue

AWS Glueは、分析のためのデータの抽出や変換、ロードを簡単にするフルマネージド型のサービスです。データ処理の自動化の他、データ収集やETL処理も自動化・サーバレス化することが可能。AWSに保存したデータを指定すると、AWS Glueでデータ検索することもできます。

Q&A

解決済

1回答

99閲覧

AWSGlue to AWSRDS(postgre) データカタログのクローラーエラーについて

y.c.0524

総合スコア5

AWS Glue

AWS Glueは、分析のためのデータの抽出や変換、ロードを簡単にするフルマネージド型のサービスです。データ処理の自動化の他、データ収集やETL処理も自動化・サーバレス化することが可能。AWSに保存したデータを指定すると、AWS Glueでデータ検索することもできます。

0グッド

0クリップ

投稿2024/06/28 07:00

実現したいこと

Glueでデータカタログ作成のためにクローラーを走らせたい。

発生している問題・分からないこと

Glueでデータカタログ作成のためにクローラーを走らせると、ただ、IAMの権限の部分でエラーは起きてしまう。

ログを見るとおそらくS3に配置しているJDBCドライバーのところでエラーが権限のエラーが起きている模様。Glueには、RDS S3のフルアクセス AWSGlueコンソールのフルアクセス AWSGlueサービスロールと、JDBC用のインライン用ポリシーを付与しています。

対象のS3にもVPCエンドポイントを開けてアクセスできるようにしています。バケットポリシーにも一応、Glueからのアクセスの許可をしています。

ただ、なにを変更してもずっと同じところで止まるエラーがでてしまいます。

知見のある方、ご教授をお願いいたします。

該当のソースコード

特になし

試したこと・調べたこと

  • teratailやGoogle等で検索した
  • ソースコードを自分なりに変更した
  • 知人に聞いた
  • その他
上記の詳細・結果

ネットに記載のあるインラインポリシーを記入したがダメだった。

補足

特になし

気になる質問をクリップする

クリップした質問は、後からいつでもMYページで確認できます。

またクリップした質問に回答があった際、通知やメールを受け取ることができます。

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

mike2mike4

2024/06/28 09:59

エラーメッセージをお願いします。
y.c.0524

2024/06/28 11:21

ありがとうございます。エラーメッセージはこちらになります。 何卒よろしくお願いいたします。 ERROR : Crawler service is not granted iam permissions required Please provide the necessary policies for AWS Glue Jobs: https://docs.aws.amazon.com/glue/latest/dg/console-connections-jdbc-drivers.html. (Service: null; Status Code: 0; Error Code: null; Request ID: null; Proxy: null). For more information, see Setting up IAM Permissions in the Developer Guide (http://docs.aws.amazon.com/glue/latest/dg/getting-started-access.html).
mike2mike4

2024/06/28 11:27

いつもの方が来るまで私がお相手しますね。 iam:PassRoleが付いたポリシーになってますか?
y.c.0524

2024/06/28 13:14

ご対応誠にありがとうございます。 ポリシーに関しまして、 Glueには AmazonRDSFullAccess AmazonS3FullAccess AWSGlueConsoleFullAccess AWSGlueServiceRole これにプラスして、JDBCに関する インラインポリシー { "Version": "2012-10-17", "Statement": [ { "Sid": "VisualEditor0", "Effect": "Allow", "Action": [ "s3:PutObject", "s3:GetObject", "s3:ListBucket", "s3:DeleteObject" ], "Resource": [ "arn:aws:s3:::bucket_name/postgresql-42.7.3.jar", "arn:aws:s3:::stg-bucket_name-glue/*" ] } ] } をつけています。 これだと「iam:PassRole」はついていないのでしょうか?
mike2mike4

2024/06/28 13:44

AWSに元からある管理ポリシーにはiam:PassRoleは付いてないので付ける必要があります。 以下を参考に、Resource部分を修正してアタッチしてみてください。 ロール名はアタッチするロールの名前です。 { "Version": "2012-10-17", "Statement": [ { "Sid": "VisualEditor0", "Effect": "Allow", "Action": [ "s3:PutObject", "s3:GetObject", "s3:ListBucket", "s3:DeleteObject" ], "Resource": [ "arn:aws:s3:::bucket_name/postgresql-42.7.3.jar", "arn:aws:s3:::stg-bucket_name-glue/*" ] }, { "Sid": "PassRole", "Effect": "Allow", "Action": "iam:PassRole", "Resource": "arn:aws:iam::account-id:role/role-name" } ] }
y.c.0524

2024/06/29 01:53

誠にありがとうございます、ご指摘いただいた修正を実行したところ無事にその部分のエラーが解消されました。大変助かりました。 ベストアンサーとさせていただきたいと思います。 その部分のエラーは通ったのですが、またさきほどとは別のエラーが発生してしまいました笑 また解決できない場合、質問の投稿をさせていただきたいと思います。その際はまた何卒よろしくお願いいたします。
y.c.0524

2024/06/29 01:55

ベストアンサーに選びたいので同じ内容を回答欄に投稿いただけますでしょうか?
guest

回答1

0

ベストアンサー

BAがほしいと言う訳ではないですが、質問者さんのお手を煩わせるのも何だなと思い回答します。
お役に立てて良かったです。

AWSに元からある管理ポリシーにはiam:PassRoleは付いてないので付ける必要があります。
以下を参考に、Resource部分を修正してアタッチしてみてください。
ロール名はアタッチするロールの名前です。

{ "Version": "2012-10-17", "Statement": [ { "Sid": "VisualEditor0", "Effect": "Allow", "Action": [ "s3:PutObject", "s3:GetObject", "s3:ListBucket", "s3:DeleteObject" ], "Resource": [ "arn:aws:s3:::bucket_name/postgresql-42.7.3.jar", "arn:aws:s3:::stg-bucket_name-glue/*" ] }, { "Sid": "PassRole", "Effect": "Allow", "Action": "iam:PassRole", "Resource": "arn:aws:iam::123456789012:role/YourRoleName" } ] }

投稿2024/06/29 02:29

mike2mike4

総合スコア910

バッドをするには、ログインかつ

こちらの条件を満たす必要があります。

あなたの回答

tips

太字

斜体

打ち消し線

見出し

引用テキストの挿入

コードの挿入

リンクの挿入

リストの挿入

番号リストの挿入

表の挿入

水平線の挿入

プレビュー

15分調べてもわからないことは
teratailで質問しよう!

ただいまの回答率
85.43%

質問をまとめることで
思考を整理して素早く解決

テンプレート機能で
簡単に質問をまとめる

質問する

関連した質問