何も排他制御をしていなければ開発者や利用者の指示通りのタイミングで動くでしょうから、意識して同時に動かそうとすれば、同時に動く可能性も高いと思います。
同時だったとしても、ファイルに対してロックをかけず読み込みを行うだけであれば、普通のファイルシステムならば同時アクセスでも問題なく処理できるはずです。しかし、ファイルに対して書込やロックをかけるのであれば処理中に2つ目のアクセスが発生した時点で Java は例外を吐くでしょう。
Java で明示的に待ち状態なりの排他制御を行いたければ synchronized を使ってメソッドなり該当処理をブロック化しておけば言語レベルで同時実行から保護できます。
今回の場合であればファイルを開いてから閉じる処理なり、その処理を含むメソッドなりを synchronized で対処しておけば(実行している Java 環境に限れば)同時実行された場合でも必ず1つずつ動くことが保証されます。質問にコードは含まれていないため、検索すれば山程サンプルも出てきますし、書き方は割愛します。
少々脱線しますが、synchronized は実行環境となる JVM (Java 環境) だけの話ですので、それ以外の世界には影響力はありません。全体設計の領域の話にはなりますが、Java と無関係なプログラムやシステムから該当ファイルに対して書込やロックが行われる場合、適切なタイミングやフロー制御といった互いの考慮が無ければ、片方の処理系でロックしたために(考えなしに書込を行っていた)周辺のシステムが適切に動かなくなる。という状況も起こり得ます。
条件次第にはなるでしょうが、アクセスしてくる規模が大きいあるいは頻度が高く、ファイルサイズが手頃で、頻繁に内容は変わらず、読込だけ。という条件の場合、読める時にキャッシュとして文字列なりハッシュマップなり処理しやすいオブジェクトとして確保しておき、あとは最終更新日時を随時確認しながら適時リフレッシュを行う形にすれば、コネクションと絡んでいたファイルアクセス自体の問題を分離できます。環境設定ファイルやらが典型ですが、システムによっては実行開始直後に1回読めば事足りるパターンもあるのではないでしょうか?
以上、ご参考になれば幸いです。