あるバイト数の文字について

1バイト、2バイト、3バイト、4バイト・・・nバイト
の文字の出し方を教えていただきたいです。

また、具体的に1バイト、2バイト、3バイト、4バイトの文字にはどのようなものがありますか？

otn

2016/11/05 00:44

質問の背景は何でしょうか？

行動規範の内容に同意します

回答3件

バイト数と主な文字コードを記載します。名称はIANAのCharacter Setsを参照しています。n: nバイトのみ、n-m: nからmバイト、n,m: nバイトまたはmバイト、の意味です。文字コードによっては、1つの文字が1バイトであったり、2バイトであったり、文字によってバイトが異なる場合がありますので、ご注意ください。

1: ASCII, JIS_X0201, ISO-8859-1, IBM037
1-2: Shift_JIS, Windows-31J, EUC-JP, ISO-2022-JP, Big5, GB2312, EUC-KR
1-4: UTF-8
2: UCS-2
2,4: UTF-16(BE/LE)
4: UTF-32(BE/LE), UCS-4

※ JIS_X0201はShift_JISの半角部分(1バイト)のみの所だけのコード。Shfit_JISはJIS_X0201を拡張しているとも言える。
※ IBM037はEBCDICを使ったIBMのコードページ037。 ISO-8859-1を網羅しているらしい。
※ Windows-31JはShift_JISの亜種。別名CP932、MS932。日本語版WindowsのコードはこのWindows-31J。
※ Big5, GB2312, EUC-KRあたりはあやしい。
※ ISO-8859-1は別名Latin-1。ASCIIにヨーロッパ諸国の装飾されたラテン文字を足したもの。çとか。
※ UCS-4はUTF-32と互換性があるが、UCS-2はUTF-16よりも表現が小さい。
※ UTF-x、UCS-xが対象としている符号化文字集合はUnicodeですが、Unicodeでは1コード(その中の番号)が1グリフ(文字)とは限りません。例えば「ば」は「ば」と同じに見えます(Unicode対応が不完全な環境では見えません)が、「は」(U+306F)と「゙」(U+3099)であり、「ば」(U+3070)とは異なります。つまり、この「ば」はUTF-32ですと8バイトで表現されています。このような結合文字は他にもあり、複雑になるため、今回のリストでは考慮していません。

対応する文字コードは言語やライブラリによって異なります。その文字コードに対応しており、文字コードを正しく指定すれば、入力や出力が可能です。具体的な方法は、言語やライブラリ、また、何をするのか(ファイルを読みたいとか、違う文字コードに変換したいとか、標準出力に表示したいとか)によって全く異なるため、示すことができません。具体的にどのようなものをどのような環境でどのようにしたいのかを示してください。

投稿2016/11/05 00:58

raccy

総合スコア21735

文字コードは文字ではない

「文字コード」と言った場合、符号化文字集合と文字符号化方式という大きくふたつの意味があります。まず、これらについて説明します。

符号化文字集合としての文字コードとは、文字のうち使いたいものを集めて、ひとつひとつを符号と対応づけたものです。コンピュータでは内部的にすべてを数で扱いますから、符号も数で表されます。

符号化文字集合での符号は単なる番号ですから、バイト数などは決まっていません。コンピュータごとのアーキテクチャに応じて、内部的に扱いやすい大きさのデータとして処理されるでしょう。物理的な大きさを決めなければならないのは、外部記憶装置への保存や通信回線による伝送などの場合です。文字符号化方式は、符号化文字集合の要素を、媒体で扱うための符号と対応づけます。

「符号」が二種類でてきてまぎらわしいのですが、両者は異なるものです (JISの用語で言うと、前者は「ビット組み合わせ」、後者は「符号化表現」に相当します)。

いずれにせよ、コンピュータで扱われるのは、文字を文字コード (符号化文字集合と文字符号化方式) によって符号で表したものであって、文字そのものではありません。実際、コンピュータで扱える文字は符号化文字集合に入っている文字だけで、入っていない文字はまったく扱うことができません。

恒等な符号化

符号化文字集合の大きさを媒体の基本的な記録単位で表せる大きさにとどめ、文字符号化方式としては内部的な符号をそのまま用いる方法を考えてみます。今日のコンピュータでの基本的な記録単位は多くの場合8ビットを1バイトとして用いるもの (オクテット) ですので、扱う文字を256種以内とし、1文字に1オクテットの符号を対応させると、もっとも単純な文字コードが出来上がります。

このような文字コードで表せる文字は「1バイトの文字」だと言えるでしょう。

1968年に制定されて現在も使われているASCIIが有名ですが、公的規格やまったくの私的な用途も含め、さまざまな符号化文字集合が定義されています (ISOの例)。

マルチバイト文字集合

日本、韓国、中国などで使われる言語に対応しようとすると、扱う文字が256種を超えることは明らかです。そこで、一文字の符号 (ビット組み合わせ) を複数のオクテットで表す文字符号化方式を採用することで、符号化文字集合を大きくすることが考えられました。符号化文字集合の大きさは文字符号化方式が採用するオクテット数で決まります。

マルチバイト文字集合の多くは、2オクテットの符号化を前提としたものです (ISOの例)。このような文字集合で扱える文字は「2バイトの文字」だと言えるでしょう。またごくわずかながら3オクテットの符号化を前提としたものもあるので、そのようなもので扱える文字は「3バイトの文字」だと言えるでしょう。

同じ文字が異なる文字コードで扱える可能性もありますが、何バイトの文字であるかは文字コードに依存します。

符号拡張法

データ交換の際に当事者同士が同じ文字コードを使っていれば問題はないのですが、各国・地域の公的規格・ベンダ規格が乱立するようになるとそうもいきません。そこで、複数の符号化文字集合を切り替えて使う仕組みが考えられました (詳細はウィキペディアのISO/IEC 2022を参照)。東アジアでよく使われるのは、ASCIIやISO646とマルチバイト文字集合 (や追加の文字集合) とを切り替えて使う文字コードで、ISO-2022-JPやEUC-JPなどがあります。

また、文字符号化方式を工夫することでマルチバイト文字集合とASCIIなどをひとつのテキストデータに混在させられる文字コードもあります。Shift_JIS、Big5、GBKといったものがあります。

これらの文字コードで符号化すると、テキストデータ中にマルチバイト文字集合の符号とそうでない符号が混在します。またISO/IEC 2022の方式では文字を表さない制御機能の情報も挿入されます。ですから特定の文字の符号化表現を取り出して「○バイトの文字」という言い方はできないのではないでしょうか。

ユニコード

ユニコードは、それまで主に国・地域別に制定されていた文字コード規格とは別の文字コード規格です。多くの従来文字コードの符号化文字集合を取り込んでいますが、全体として文字と符号の対応付けなどに従来文字コードとの互換性はありません。

符号化文字集合としてのユニコードは、文字のひとつひとつに重複しない整数を対応付けています (ユニコードスカラ値と呼びます)。たとえばU+5B57は16進数の5B57が対応付けられた文字である「字」を指します。この文字は日本・韓国・北朝鮮・中国本土・香港・台湾・ベトナムの文字コード規格に共通して含まれますが、符号に共通性はありません。ユニコードスカラ値はU+0000からU+10FFFFまでが許されているため、ユニコードに収録されたすべての文字を扱うには内部的にすくなくとも21ビットのデータサイズが必要です。

一方、ユニコードの文字符号化方式としてはUTF-16、UTF-32、UTF-7、UTF-8などがあります (UCS-2やUCS-4は文字符号化方式ではなく符号化文字集合の内部表現と考えるべきです)。このうちよく使われるのがUTF-8とUTF-16です。

UTF-8ではユニコードスカラ値をその大きさに応じて1オクテットから4オクテットまでのバイト列で表します。詳しくは上のリンク先のウィキペディアの解説を見ていただくとして簡単に言うと、U+0000からU+007Fまでが「1バイトの文字」、U+0080からU+07FFまでが「2バイトの文字」、U+0800からU+FFFFまでが「3バイトの文字」、U+10000からU+10FFFFまでが「4バイトの文字」と言えるでしょう。

UTF-16では基本的に2オクテット (16ビット) で符号化しますが、ユニコードスカラ値がU+10000以上の符号については代用対 (サロゲートペア) という2つの符号の組で表します。U+0000からU+FFFFまで (代用対に使うU+D800 - U+DFFFを除く) が「2バイトの文字」、U+10000からU+10FFFFまでが「4バイトの文字」ということになります。

文字の具体例は、ユニコードのコード表をご覧ください。

「文字」は文字ではない

ここまで、文字コードで文字をひとつひとつ符号に対応付けているのだと説明してきましたが、これは厳密には正しくありません。コンピュータ上では複数の「文字」として扱われるのに、人間にとっては一つの文字とみなされる場合があります。

素朴な例はダイアクリティカルマークです。異なるマークがつけば異なる文字とみなされますが、それらにひとつひとつ符号を対応づけていくと符号化文字集合が大きくなりすぎます (実際にベトナム語の文字コードのVISCIIなどはそうした結果、256文字の上限近くの数の文字を含みます)。そこで、ダイアクリティカルマークに独立した符号を与え、ほかの文字と組み合わせて一文字とみなすという処理をすることにします。

こうなると、文字のバイト数は「基底文字の分とダイアクリティカルマークの分の合計」ということにことになります。たとえばŸという文字をユニコードを使って、Yとダイアクリティカルマークで表すと、UTF-8では1オクテットと2オクテットで「3バイトの文字」、UTF-16では2オクテット2つで「4バイトの文字」ということになります (これらは偶然、上述の説明と同じバイト数になっていますが、理由はまったく異なります)。

さらには、もっと複雑な複数のパーツが組み合わさることで一つの文字が構成されるという考えを採る文字体系もあります。インド系の文字体系にそういうものが多いです。甚だしい例としてよく挙げられるのは、インドで現在も使われる文字体系であるデーヴァナーガリでのद्ध्र्य (ddhrya)という文字です (正しい表示はこちら)。これは द् ध् र् य という4つの文字を組み合わせてできるひとつの文字です。ユニコードを使うとすると、最初の3つはそれぞれが2「文字」になる (「ヴィラーマ」というダイアクリティカルマークの一種がついているためです) ので、ユニコードでは合計7「文字」です。UTF-8で符号化すると、それぞれの「文字」が3オクテットで符号化されるため「21バイトの文字」であることになります。同様に、UTF-16では「14バイトの文字」であることになります。

投稿2016/11/06 04:42

編集2016/11/06 04:47