C++で定数を宣言するときの方法について

実装ファイルの上の方にconst修飾子をつけて定数を宣言していましたが、本当にこれで良いのでしょうか？

const std::string CONST_STR("const_string");
const int CONST_NUM = 100;

大きく間違ってはいませんが、他の実装ファイルにたまたま同名の定数が存在すると、リンク時にエラーが発生するはずです（「同名エンティティが重複して存在する」といったニュアンスのメッセージになります）。

ある実装ファイル内部でしかその定数を使わないのであれば、定数宣言時にstatic修飾を行うか、無名名前空間に配置するか、あるいはその両方を行って下さい。

static const int CONST_NUM = 100;
// または
namespace {
const int CONST_NUM = 100;
}

以下のようにヘッダに宣言を書いて（中略）実装ファイルに実体と初期値を定義するとあるのですが、 
この方法は最初の方法となにが違うのでしょうか？他のクラスから参照できるかどうかということでしょうか？ 

大きな違いは「コンパイル時定数か？」という点です。具体例の一つとして「配列の要素数として指定できるか否か」という違いがあります。前者CONST_NUMはint a[CONST_NUM]のように使えますが、後者はヘッダファイルをincludeしただけの実装ファイルでint b[CConstParam::RETCODE_WARN]としてもコンパイルエラーとなるはずです。

（注：その定数値が配列の要素数として意味があるかという観点は無視してください。あくまでもコンパイル定数の例示としてそのまま変数名を拝借しているだけです。）

ファイル内でしか使わない定数であれば、前者の方法にさらにstaticを冠して、static const int ...のように定義しましょう。

staticがない場合、別なファイルに同じ定数があると衝突してしまいます。

あと、constexprの使えるコンパイラであれば、後者のようなクラス定数をconstexprとすることで、クラス内で定義してしまえます（参考）。

クラス/構造体の内側に定数を置くかグローバルな定義として置くかは定数定義の性質次第かと思います。

値定義を宣言と同時にするか宣言と定義を分離するかについては・・・

参考にされたページには「ヘッダーに直接定数を書くとそのヘッダーを修正して定数を変更すると参照しているヘッダーをincludeしているソースを全部コンパイルしなおさないといけない」と書いてあります。

開発中に調整したいような定数の場合はそうしたことを意識して定数の定義をソースファイルへ置いておくとコンパイル範囲を制限できるので便利といえるでしょう。ではヘッダーへ定数を書くとよくないかというと利点はあると思います。それはヘッダーに書いた定数はソースをコンパイルした時点で確定しているため値を参照した際にコンパイラーが最適化してくれると期待できるからです。

例えば以下のようなソースをコンパイルしてみると・・・

---a.h---
class A {
public:
  static const int N;
  static const int M = 10;
}

--a.cpp--
const int A::N = 10;

--main.cpp--
#include "a.h"
...
int v1 = A::N;
int v2 = A::M;

$ g++ -g -S main.cpp
-- main.s --
    ...
    ;以下の3行がv1への代入
    .loc 1 9 0
    movq    .refptr._ZN1A1NE(%rip), %rax ; Nのアドレスをraxへ入れ
    movl    (%rax), %eax                 ; raxの中身をeaxへ入れ
    movl    %eax, -20(%rbp)              ; eaxの中身をローカル変数v1へ設定
    ;以下の1行がv2への代入
    .loc 1 10 0
    movl    $10, -24(%rbp)               ; 値10を直接ローカル変数v2へ設定

のようにNは実際に定数値が入っている変数Nの中身を参照するコードが生成されるのに対してMは定義した値10がそのままリテラルとしてコンパイルされていることが伺えます。