言葉の意味としては、事業の間接経費(役員の報酬とか、本社部門などの人件費とか、家賃とか、OA用コストとか)です(英単語の意味としては文字通りの「頭の上」など他にもあります)。
通信に於いては、本来通信したいデータ以外の制御用のデータがオーバーヘッドの1つです。
仮に制御データがが10%だとすると、1GbpsのLANでも0.9Gbpsでしかデータをやりとり出来ないことになります。実際には遅延による待ちがあるのでもっと減ります。また、伝送エラーが発生するとそれを検知して送り直すので、それもオーバーヘッドになります。
文脈によっては、遅延やエラーの再送はオーバーヘッドに含まないかも知れません。