PHPを実行するにはPHPが動作しているサーバーのドキュメントルート配下にPHPファイルを置き、
ブラウザからhttp://~の形式でアクセスしなければなりません。
でないとファイルに書かれているPHPコードを正しく解釈できません。
「サーバーサイドの言語」については基本的にサーバー配下で動作させる必要があります。
それ以外でブラウザで直接開こうとしても「単なるテキストファイル」としか認識しないため、
どんなにPHPコードを書いても文字情報として認識されそのまま出力されるわけです。
ご提示の情報から、ローカルPCで動作させているようなので、
xamppのドキュメントルート配下(ドキュメントルートがどこかは{xamppインストールディレクトリ}/apache/conf/httpd.conf の「DocumentRoot」に書いてあります)
にphpファイルを置き、http://localhost/ で始まるURLをそのドキュメントルート以下からのパスでアクセスするとPHPが動作します(Apacheは起動しておくこと)
まずはコメントでいただいた「php_lesson/index.php」を
ドキュメントルート配下に置きます。
例:
/xampp/htdocs/php_lesson/index.php
ドキュメントルートが「~~xampp/htdocs/」となっているとすると、
ブラウザでhttp://localhost/php_lesson/index.php
にアクセスすると、
ご提示のPHPが正しく実行されるはずです。
追記:
この手の問題は結構昔から悩んでいる人が多いみたいで「php ソースコードが表示される」で検索すると結構たくさん出てきます。