[Python] C++からpython関数を呼び出すソフトの配布方法について

Windowsパソコンにて、C++のプログラムから、PythonのC APIを介して、Python3.4を実行するプログラムを作成しています。
Cコードのメイン関数からPy_Initialize()を実施した後、Pythonで記載した関数を呼び出しています。

Pythonがインストールされているパソコンでは正常作動することを確認できているのですが、最終的には他人への配布を考えており、Pythonがインストールされていない環境でも動くパッケージで配布したいと考えております。

Pythonのみで書かれたコードであれば、py2exeでexe化できることを理解しているのですが、C++を介したソフトでの実現手段が分かりません。

[実際に試してみたこと]
①Python3.4がインストールされているパソコンでコンパイル
⇒ exe形式の実行ファイルが完成
②上記exeファイルと、呼び出しているPythonのスクリプト、python34.dllをまとめて、Pythonがインストールされていないパソコンにコピー
③exeファイルを実行しても何も動かない (エラーメッセージもでない)

[開発環境]
Windows7
VS2010 Express
Python3.4

[ソースコード]
test.cpp

int main(int argc, char *argv[])
{
Py_Initialize();

/* Python関数を用いた計算

Py_Finalize();

return( 0 );
}

数日いろいろ試して、未だにいい方法が見つかりません。
アドバイスの程、よろしくお願いします。