利用するストレージエンジン(おそらくinnodb)想定されるサービスの規模や内容、サーバーの構成やスペックがわからないと回答が難しいのですが、googleでmy.cnfで検索してチューニング例を見てみる(その際MySQLのバージョンに注意すること)、そのmy.cnfがどのような性能(CPUやメモリ、ストレージ)なのか、ご自身が使うサーバーと比較されると良いでしょう。
またMySQLをインストールするとサンプルのmy.cnfもインストールされます。まずそのファイルを使って見ると良いと思います。githubでmy.cnfのサンプルを公開しているリポジトリもあるのでそれも参考になりそうです。またmysqltunerなどあくまで目安ですがmy.cnfの内容をチェックするツールもあります。
いきなり全ての項目を理解しようとすると大変なので、サーバーのCPUのコアの数とメモリのサイズを見て、Innodb Buffer Poolの値を調べて見るところからはじめることをお勧めします。