リファクタリングは、小さく改善してテストの繰り返しが原則です。
その積み重ねで見違えるようになっていきます。
一気にやろうとすると、簡単なものでも動かなくなる可能性があります。
ですので、まず最初にクラスかメソッドごとにJunitなどで単体テストのコード(できれば自動)を書いてください。
こちらがリファクタリングがうまくいったか(もとのまま動くか)の指標になります。
次に大きなメソッドを小さなメソッドに分けてそのたびテストを実行してください。
そうしているうちに、クラス(ファイル)を分割できるぐらいほぐれてきます。
リファクタリングの具体的な手法は、
Martin Fowlerの本"リファクタリング 既存のコードを安全に改善する”
に詳しいです。
この本を読むとリファクタリングだけでなく、
オブジェクト指向プログラミングへの理解が大変深まるのでおすすめです。
2016/02/20 追記
この質問への回答の範囲を超えるのですが、ほかの人がポリシーについて答えられているので追記いたします。
リファクタリングをすべきか、すべきならどの程度やるべきかは
対象のコードの性質によります。
もし機能追加や改修、不具合修正が頻繁にあり、かつ長期に渡って使われるプロダクトやサービスならば
少しずつでもリファクタリングをしていくといいと思います。
それほど変更がないものなら、リファクタリングのコストがメリットを上回る可能性があります。
あと正直、業界や会社にもよりますね。
先輩社員にリファクタリングをやっているか、まず訊いてみるといいでしょう。