UTF-8/ko

UTF-8은 가변 길이 문자 인코딩이며, 심볼당 1바이트에서 4바이트를 사용합니다. 따라서 첫번째 UTF-8 바이트는 ASCII에 대한 이전 호환성을 완전히 갖춘 문자 세트를 제공하는 ASCII 인코딩 용도로 사용합니다. UTF-8은 ASCII와 라틴 문자를 데이터의 크기를 크게 변화하지 않고도 상호 표현이 가능함을 의미하는데, 첫 번째 바이트만 활용하기 때문입니다. 상위 바이트 범위를 할당 받아 만족하지 않는 일본어권 사용자 같은 동방 문자 사용자들에게는 최대 50%의 데이터 중복을 취하게 되었습니다.

문자 인코딩이란 무엇인가요?
컴퓨터는 자체적으로 텍스트를 이해하지 못합니다. 대신 모든 문자를 숫자로 표현합니다. 옛부터 각 숫자 모음은 알파벳과 문자를 표현하는데 사용했습니다(코딩 시스템, 인코딩, 문자세트로 알려져왔습니다)만 컴퓨터 하드웨어의 제한으로, 크기의 제한을 받았습니다.

문자 인코딩 역사
가장 일반적(또는 최소한 광범위하게 수용해온) 문자세트는 ASCII(정보 교환용 미 표준 코드)였습니다. 지금껏 소프트웨어 표준에 있어 가장 성공적으로 이끌어온 ASCII야 말로 광범위하게 사용되었ㅅ브니다. 최신 ASCII는 1986년도에 미 국립 표준 협회에서 표준으로 제정(ANSI X3.4, RFC 20, ISO/IEC 646:1991, ECMA-6) 했습니다.

ASCII는 7비트로 엄격하게 제한되었으며, 표현 가능한 7개의 이진수로 비트 패턴을 사용함을 의미하는데, 10진수로는 0부터 127까지의 범위를 제공합니다. 여기에는 32개의 보이지 않는 제어 문자가 있는데, 0부터 31까지의 범위에 있으며, 마지막 제어 문자는 DEL또는 delete이며, 이 제어문자는 127번에 할당되어 있습니다. 32번 부터 126번 까지는 공백 문자, 문장 부호, 라틴 문자, 숫자와 같은 눈에 보이는 문자로 구성되어 있습니다.

ASCII의 8번째 비트는 본디 오류 검출을 위한 패리티 비트로 활용했습니다. 용도를 고려하지 않으면 0으로 그대로 내버려두었습니다. ASCII에서 각 문자를 단일 바이트로 표현했음을 의미합니다.

ASCII를 최근의 영문 의사소통을 하는데는 충분했었지만, 강세부호가 들어간 문자가 있는 다른 유럽어권의 문자에 대해서는 그렇지 않았습니다. 이런 필요성 때문에 ISO 8859 표준을 개발했습니다. ASCII와의 이전 호환성을 유지했지만 8번째 비트를 빈 채로 내버려두는 대신에 각 인코딩 주소에 다른 127개의 문자를 넣도록 했습니다. ISO 8859의 한계는 곧 다가왔고, 현재 ISO 8859 표준의 15가지 변형 표준이 있습니다. 이러한 문자 세트의 ASCII 호환 바이트 범위밖에서는 각 바이트로 표현하는 문자간의 충돌이 종종 일어났습니다. 문자 인코딩간 상호 처리를 좀 더 복잡하게 처리하기 위해 일부 마이크로소프트 윈도우 버전에서는 서유럽어권에 대해 Windows-1252 표준을 사용했습니다. 이 표준은 ISO-8859-1의 상위 집합이지만 여러모로 다른 점이 있었습니다. 그러나 이러한 세트는 ASCII 호환성을 유지했습니다.

일본어와 한국어 같은 언어를 대상으로 사용하는 EUC(확장 유닉스 코딩)와 같은 비 라틴어 계열 문자를 대상한 완전히 다른 단일 바이트 인코딩의 개발 필요성은, 이미 다른 운영체제에서 동일한 언어에 대해 Shift-JIS, ISO-2022-JP와 같은 다른 문자셋을 이미 사용하고 있는 상황에서 더욱 혼동감을 가져왔습니다. 키릴 자모를 보려는 사용자는 러시아와 불가리아에서 사용하는 KOI8-R, 우크라이나에서 사용하는 KOI8-U, 온전치 못한 ISO 8859-5, 보통 사용하던 Windows-1251 세트 중 하나를 선택해야 했습니다. 이들 대부분의 모든 문자세트는 ASCII와의 호환성을 깨뜨렸습니다(비록 KOI8 인코딩은 라틴 문자 숫서대로 키릴 문자를 배치했지만, 이 경우 8번째 비트는 제거되었으며, 텍스트는 대소문자가 뒤집힌 음역 상태로 ASCII 터미널에서 해석 가능했습니다).

이러한 판단 추세가 혼동을 가져왔으며, 다중 언어 의사 소통에 있어 거의 완전하게 불가능했고, 특히 다른 문자에 대해서도 불가능했습니다. 이제 유니코드로 들어가보도록 하겠습니다.

유니코드가 무엇인가요?
유니코드는 기존 문자세트의 단일 비트 제한을 깨버렸습니다. 최대 1,114,112 문자를 표현하기 위해, 65536 코드 포인트의 17가지 "영역"을 활용합니다. "기본 다중 언어 영역" 또는 BMP로 알려진 첫 번째 영역에서는 지금껏 여전히 사용해온 모든 문자를 담고 있는데, 유니코드가 16비트 문자 세트였다는 잘못된 가정을 낳았습니다.

유니코드는 여러가지 다른 방식으로 댕으을 수행하지만, 주로 가장 많이 사용하는 방식은 UTF(유니코드 변환 형식)와 UCS(유니버설 문자 세트) 방식입니다. UTF 다음의 숫자는, 하나의 유닛에 들어가는 비트 수를 나타내며, UCS 다음에 나타나는 숫자는 총 바이트 수를 나타냅니다. 가장 널리 활용하게 된 UTF-8 은 유니코드 내용을 있는 그대로의 8비트로 표현하며, 이 문서의 제목이기도 함을 의미합니다.

UTF-8이 처리할 수 있는 것
UTF-8은 표준 호환과 전세계적으로 통용되는 다중 언어 환경을 살려 작업할 수 있도록 하며 데이터 중복성을 비교적 최소화 합니다. UTF-8은 비 ASCII 문자를 인터넷으로, 전자 메일 또는 IRC로 전송할 때 알맞은 방법입니다. 이럼에도 불구하고, 대부분의 사용자는 온라인 소통에 대해 UTF-8 사용을 모욕적인 행위로 여기기도 합니다. 비 ASCII UTF-8 을 사용하기 전에 일부 채널, 메일링 리스트, 유즈넷 그룹에서의 UTF-8에 대한 인식은 매우 긍정적입니다.

UTF-8 로캘 찾기 또는 만들기
이제 유니코드의 이론을 이해했으며 시스템에 UTF-8을 활용할 준비를 마쳤습니다.

UTF-8을 활용할 때 우선 필요한 사항은 국제 언어를 지원하는 glibc 버전을 가지고 있어야 합니다. 이를 진행하는 의미의 추천 요소는 파일입니다. 이 파일을 활용하는 방법의 설명은 이 안내서의 범위를 벗어납니다. 젠투 지역화 안내서에 설명했습니다.

다음, UTF-8 로케일이 이미 사용할 언어에 대해 준비되어 있는지 새로 언어 지원 항목을 만들어야 하는지 파악해야 합니다.

이 명령행의 출력에서 보시듯, 와 같은 접미부가 나타나야 합니다. 접미부와 유사한 결과가 나타나지 않는다면 UTF-8 호환 로캘을 만들어야 합니다.

"en_GB"를 결정한 로캘 설정으로 바꾸십시오:

다른 방법으로 UTF-8 로캘을 포함하려면 파일에 추가하고   명령으로 필요한 로캘을 생성하십시오.

Line in /etc/locale.gen

로캘 설정
새 UTF-8 로캘을 사용하려고 설정해야 할 환경 변수가 하나 있습니다. (또는 시스템 언어도 바꾸려면 추가적으로 도 설정합니다)이 바로 그 변수입니다. 로캘을 설정하는 여러가지 방법이 있습니다. 어떤 사람은 일부 사용자에게만 UTF-8 환경을 맞춰주는데, 이 경우 각 사용자에게 ( 를 사용하는 경우) 파일, ( 를 사용할 경우)  또는 를 사용합니다. 더 자세한 내용과 가장 적합한 실제 사용 예는 지역화 안내서에서 찾아보실 수 있습니다.

로캘을 설정하는 다른 선호 방식은 전체적으로 설정하는 방법입니다. 를 사용 할 때와 같은 특정 환경의 경우 작성자에게 부분적으로 추천하는데, 초기화 스크립트가 앞서 언급한 쉘 시작 파일을 source로 등록하기 전에 디스플레이 관리자와 데스크톱을 시작하므로 그 이전에 일부 변수를 환경에 저장하기 때문입니다.

파일을 사용하면 전체적인 로캘 설정을 할 수 있습니다. 이 파일의 내용은 다음과 같아야 합니다:

Demonstration /etc/env.d/02locale

다음, 바뀐 내용으로 환경을 업데이트해야 합니다.

이제 어떠한 매개 변수 값도 설정하지 말고 를 실행하여 환경에 올바른 값을 주었는지 확인하십시오:

Alternatively, using eselect to set locales
Although it is good to maintain the system as described above, it is possible to verify the correct locale configured using the eselect utility.

Use eselect to list the available locales on the system:

Using eselect setting the locale is as simple as listing them. Once the correct locale has been determined invoke:

Running the following command will update the variables in the shell:

That is everything. The system is now using UTF-8 locales. The next hurdle is the configuration of the applications used from day to day.

프로그램 지원
소프트웨어 세계에서 처음 유니코드를 도입할 즈음엔, 멀티바이트 문자 세트는 수많은 사람이 쓰려고 작성하는데 쓰는 C와 같은 언어에 잘 맞지 않았습니다. 하지만 최근에는 일부 프로그램만 UTF-8을 적절하게 처리하지 못합니다. 다행스럽게도, 대부분의 프로그램에서 UTF-8 처리가 가능합니다!

파일 이름, NTFS, FAT
리눅스 커널 설정 메뉴에 다양한 NLS 옵션이 있지만, 혼동하지 말아야 합니다! 대부분의 경우 UTF-8 NLS 지원을 커널에 넣어 기본 NLS 옵션을 utf8로 바꾸면 됩니다.

NTFS 파티션을 마운트한다면, 마운트시  옵션을 지정해야합니다. FAT 파티션을 마운트한다면,  옵션을 지정해야합니다. 추가적으로, 커널 설정에서 FAT의 기본 코드 페이지를 지정할 수 있습니다. 마운트시 옵션 설정은 커널 설정을 덮어쓸 수 있다는 점을 참고하십시오.

설정을 UTF-8로 지정하는건 추천하지 않으므로 피해야 합니다. 대신 FAT 파티션을 마운트할 때 utf8=true 옵션을 전달할 수 있습니다. 더 많은 정보는 와 의 커널 문서를 살펴보십시오.

파일 이름 인코딩을 바꾸려면 패키지를 사용할 수 있습니다.

명령의 형식은 다음과 같습니다:

iso-8859-1 대신 바꾸고자 하는 문자 세트 이름을 넣으십시오:

파일의 내용을 바꾸려면, 에 있는   유틸리티를 사용하십시오. iso-8859-1 대신 바꾸고자 하는 문자 세트 이름을 넣고, 출력 결과가 온전히 나왔는지 확인하십시오:

파일을 변환하려면 다른 파일을 만들어야 합니다:

이 목적으로 패키지도 사용할 수 있습니다.

시스템 콘솔
UTF-8을 콘솔에서 사용하려면, 를 편집하고, 를 설정해야 하며 파일의 주석을 읽어보아야합니다. 대부분의 유니코드 문자 범위를 감당하는, 바람직한 범위의 문자를 보유한 서체를 보유하는 것이 중요합니다. 이렇게 동작하게 하려면 적절하게 만든 유니코드 로케일을 확인하십시오.

에 설정한  변수에서, Unicode 키 맵을 지정해야합니다.

Example /etc/conf.d/keymaps snippet

ncueses 와 slang
에 를 전역 USE 플래그로 추가하는 것이 좋으며, 원할 경우 와 을 다시 이머지하는 것이 좋습니다. 포티지는 시스템을 업데이트할 때 자동으로 처리합니다:

이들 설정을 연결하려 꾸러미를 다시 빌드해야 하므로 이제 바꾼 USE 설정을 적용하겠습니다. 우리가 사용할 도구는 꾸러미에 있습니다.

KDE, 그놈, Xfce
모든 주요 데스크톱 환경은 완전한 유니코드 지원 기능을 제공하며, 이 안내서에서 이미 다룬 더 이상의 설정이 필요하지 않습니다. 왜냐면 근본적인 그래픽 툴-키트(Qt 또는 GTK+2)는 UTF-8을 인식하기 떄문입니다. 그 다음에는 이 툴키트 위에서 동작하는 모든 프로그램은 특별히 UTF-8을 인지해야 합니다.

Xlib와 GTK+1 활용시 별도의 고려사항이 있습니다. GTK+1에서는 ~/.gtkrc에 iso-10646-1 FontSpec이 필요한데, 를 예로 들 수 있습니다. 또한 Xlib나 Xaw를 활용하는 프로그램은 동일한 FontSpec이 필요한데, 이 요건을 충족하지 않으면 동작하지 않습니다.

Example ~/.gtkrc (for GTK+1) that defines a Unicode compatible font

프로그램에서 Qt와 GTK+2 GUI를 지원한다면, 보통 GTK+2 GUI가 유니코드를 더 잘 지원합니다.

X11과 글꼴
유니코드 체계에서 명백히 모든 단일 글리프를 서체에 만들어놓진 않지만, 트루타입 서체는 유니코드를 지원하며, Xorg에 인상적인 문자를 지원하는 대부분의 서체가 트루타입입니다. X에서 동아시아 문자를 지원하는 서체를 만들려면(Bitstream Vera set 포함)  USE 플래그를 설정했는지 확인하십시오. 이 플래그를 통해 수많은 프로그램에 적용되므로 이 플래그를 완전히 추가해둘 가치가 있습니다.

또한 포티지의 다양한 서체 꾸러미는 유니코드 기반입니다.

창 관리자와 터미널 에뮬레이터
창 관리자는 유니코드를 상당히 잘 지원하는 GTK+나 Qt로 보통 빌드하지 않고, 보통 글꼴을 처리할 때 Xft 라이브러리를 사용합니다. 창 관리자가 글꼴을 처리할 때 Xft를 사용하지 않는다면, 이전에 어급한 FontSpec을 유니코드 폰트에 사용할 수 있습니다.

Xft를 사용하며 유니코드를 지원하는 터미널 에뮬레이터는 좀처럼 찾아보기 쉽지 않습니다. Konsole과 gnome-terminal 이외에 포티지에서 선택할 수 있는 최상의 선택지는,, , , , 또는   USE 플래그를 사용할 때 uxterm으로 실행하는  입니다.에서는   또는 에 다음 명령을 넣었을 때 UTF-8을 지원합니다:

~/.screenrc for UTF-8

Vim, Emacs, Xemacs, Nano
Vim은 UTF-8을 완전히 지원하며, UTF-8 파일을 자체적으로 감지합니다. Vim에 대한 더 많은 정보는  명령으로 알아보십시오.

GNU Emacsen 은 버전 23부터, XEmacsen 은 버전 21.5부터 UTF-8을 완벽하게 지원합니다. GNU Emacs 24 에서도 양방향성 텍스트 편집을 지원합니다:

nano는 1.3.6부터 UTF-8을 완벽하게 지원합니다.

쉘
현재, 에서는 GNU readline 바이너리를 통해 유니코드를 완벽하게 지원합니다. Z 쉘에서는  USE 플래그로 유니코드를 지원합니다.

The C 쉘 와  는 UTF-8 지원을 완전히 지원하지 않습니다.

Irssi
Irssi는 사용자가 옵션을 별도로 설정해야 하지만 UTF-8을 완벽하게 지원합니다.

비 UTF-8 문자 세트로 비 ASCII 문자를 자주 주고받는 채널이라면, 문자를 변환할때  명령을 사용하십시오. 더 많은 내용은 를 입력하십시오.

Mutt
Mutt 메일 사용자 에이전트는 유니코드를 상당히 잘 지원합니다. Mutt에서 UTF-8을 사용하려면 설정 파일에 무언가를 설정할 필요가 없습니다. Mutt는 모든 설정 파일(서명 포함)을 UTF-8로 인코딩했다면 별도의 수정 없이 유니코드 환경에서 동작합니다.

더 많은 내용은 Mutt 위키en 에 있습니다.

Man
맨 페이지는 리눅스 머신의 통합 부분입니다. 맨 페이지 읽기 프로그램이 유니코드를 제대로 지원하는지 확인하려면 를 편집하여 다음 줄의 내용을 바꾸십시오.

man.conf changes for Unicode support

elinks와 links
일반적으로 사용하는 텍스트 기반 브라우저에서 어떻게 UTF-8 지원 기능을 사용하는지 살펴보도록 하겠습니다. 와 에서는 두가지 방법이 있는데, 브라우저 안에서 설정 옵션을 사용하는 방법이 있고, 설정 파일을 편집하는 방법이 있습니다. 브라우저에서 옵션을 설정하려면  또는  에서 사이트를 열고  + 를 눌러 설정 메뉴로 들어간 다음 터미널 옵션을 선택하거나 를 누르십시오. 스크롤을 내린 후 마지막 옵션 을 를 눌러 선택하십시오. 저장하고 메뉴를 빠져나오십시오. 에서는 +  를 반복해서 누른 후 를 눌러 저장하십시오. 설정 파일 옵션은 아래에 있습니다.

Samba
삼바는 Mac, 리눅스, FreeBSD와 같은 UNIX 시스템에서 SMB(서버 메시지 블록) 프로토콜을 구현한 소프트웨어 모음입니다. 이 프로토콜은 일반 인터넷 파일 시스템(CIFS)처럼 참고하기도 합니다. 삼바에는 윈도우 네트워크 파일 공유에 사용하는 NetBIOS 시스템도 있습니다.

다음 내용을 [global] 섹션에 추가하십시오:

전체 시험하기
UTF-8을 시험해볼 수 있는 웹사이트는 여러군데에 있습니다. ,, , , 모질라 기반 브라우저(Firefox 포함)에서 UTF-8을 지원합니다. Konqueror 와 Opera도 역시 마찬가지로 UTF-8을 완벽하게 지원합니다.

텍스트 전용 웹 브라우저중 하나를 사용할 경우, 유니코드를 표시하는 터미널을 사용하는지 확실히 파악해두십시오.

몇가지 글자가 문자 또는 숫자 사이사이에 상자로 표시된다면, 사용하고 있는 글꼴에 UTF-8에서 요구하는 심볼 또는 글리프에 대한 문자가 없다는 이야기입니다. 따라서, 원래 문자 대신 UTF-8 심볼의 16진수 코드에 해당하는 박스를 표시합니다.


 * W3C UTF-8 시험 페이지
 * 프랑크푸르트 대학교 제공 UTF-8 시험 페이지

입력기
Dead keys may be used to input characters in X that are not included on your keyboard. These work by pressing your right key (or in some countries, ) and an optional key from the non-alphabetical section of the keyboard to the left of the return key at once, releasing them, and then pressing a letter. The dead key should modify it. Input can be further modified by using the key at the same time as pressing the  and modifier.

To enable dead keys in X, you need a layout that supports it. Most European layouts already have dead keys with the default variant. However, this is not true of North American layouts. Although there is a degree of inconsistency between layouts, the easiest solution seems to be to use a layout in the form "en_US" rather than "us", for example. The layout is set in like so:

/etc/X11/xorg.conf snippet

바꾼 설정값은 X 서버를 다시 시작했을때 적용됩니다. 바로 적용하려면  도구를 사용하십시오. 예를 들자면  입니다.

It is probably easiest to describe dead keys with examples. Although the results are locale dependent, the concepts should remain the same regardless of locale. The examples contain UTF-8, so to view them you need to either tell your browser to view the page as UTF-8, or have a UTF-8 locale already configured.

When I press and  at once, release them, and then press, 'ä' is produced. When I press and  at once, and then press, 'ë' is produced. When I press and  at once, and then press, 'á' is produced, and when I press  and  at once, release them, and then press , 'é' is produced.

By pressing, and  at once, releasing them, and then pressing , a Scandinavian 'å' is produced. Similarly, when I press, and  at once, release only the , and then press it again, '°' is produced. Although it looks like one, this (U+02DA) is not the same as a degree symbol (U+00B0).

can be used with alphabetical keys alone. For example, and, a Greek lower-case letter mu is produced. and produce a scharfes s or esszet, etc. As many European users would expect (because it is marked on their keyboard),  and  (or  depending on the keyboard layout) produces a Euro sign, '€'.

참고 자료

 * 위키피디아 유니코드 항목
 * 위키피디아 UTF-8 항목
 * Unicode.org
 * UTF-8.com
 * RFC 3629
 * RFC 2277
 * Characters vs. Bytes

시스템 설정 파일 (/etc)
과 같은 대부분의 시스템 설정 파일에서는 UTF-8을 지원하지 않습니다. 이 파일은 ASCII 문자 세트를 그대로 계속 사용하시는게 좋습니다.