こちらの公式ドキュメントを参考にGCEにMySQLをインストールし、Hostが内部IPのユーザーを作成しました。
Compute Engine 上で MySQL へのリモート アクセスをセットアップする方法
ただし、公式とは違い、別のVMインスタンスからではなく、自分のPCのローカル環境や別プラットフォームのサーバーからアクセスすることを想定しています。
よって、例えば自分のローカル環境で mysql -u TESTUSER -h [内部IP] -P 3306 -p
のようなコマンドを実行しても Can't connect to MySQL server on '内部IP'
となってしまいました。(sshログインした状態では実行できました)
また、Hostが外部IPのユーザーも作成してみましたが、同様のエラーでアクセスできませんでした。(こちらはsshログインした状態でもエラーとなりました)
公式の高度なネットワーキングの留意点
に書いてあるように、ファイアーウォールルールも設定してみたのですが、変化はありませんでした。
何が抜けている設定などがあれば教えていただけると助かります。