UTF-8/es

UTF-8 es una codificación de caracteres de longitud variable, lo que implica que utiliza de 1 a 4 bytes para codificar cada símbolo. Por tanto, el primer byte UTF-8 se utiliza para codificar ASCII. UTF-8 significa que los caracteres ASCII y Latín se pueden intercambiar con un pequeño incremento en el tamaño de los datos, ya que únicamente se utiliza el primer byte. Los usuarios de alfabetos del este como el japonés, a los cuales se les ha asignado un rango más alto de los bytes no les gusta mucho esto, ya que esto implica un 50% mayor de redundancia en sus datos.

¿Qué es la codificación de caracteres?
Los ordenadores por si mismos no comprenden el texto impreso como haría un humano. En lugar de esto, cada carácter del texto se representa mediante un número. Tradicionalmente, cada conjunto de números se utilizó para representar alfabetos y caracteres (conocidos como sistema de codificación, codificación o conjunto de caracteres) estuvo limitado en el tamaño debido a limitaciones del hardware de los ordenadores.

La historia de los caracteres de codificación
El más común (o al menos el más aceptado) conjunto de caracteres es ASCII (Código Estándar Americano para el Intercambio de Información). Es ampliamente aceptado de que ASCII es el estándar de software más exitoso jamás creado. El ASCII actual se estandarizó en 1986 (ANSI X3.4, RFC 20, ISO/IEC 646:1991, ECMA-6) por el Instituto Nacional Americano de Estándares.

ASCII es una codificación estrictamente de siete bits, lo que significa que utiliza patrones representables con siete dígitos binarios, lo que proporciona una gama de 0 a 127 en decimal. Estos incluyen 32 caracteres de control no visibles, la mayoría entre 0 y 31, con el carácter de control final, DEL o de eliminación en el 127. Los caracteres del 32 al 126 son visibles: un espacio, marcas de puntuación, letras latinas y números.

El octavo bit en ASCII se utilizó originalmente como un bit de paridad para el control de errores. Si no se desea control de errores, se deja a 0. Esto significa que, con ASCII, cada carácter se representa mediante un único byte.

A pesar de que ASCII era suficiente para comunicarse en inglés moderno, las cosas no eran tan fáciles en otras lenguas europeas que incluyen caracteres acentuados. Los estándares ISO 8859 se desarrollaron para satisfacer estas necesidades. Estos estándares eran compatibles con ASCII, pero en lugar de dejar el octavo bit en blanco, lo utilizaron para permitir otros 127 caracteres en cada codificación. Las limitaciones de los estándares ISO 8859 aparecieron pronto y actualmente hay 15 variantes del estándar ISO 8859 (del 8859-1 al 8859-15). Fuera del rango de bytes compatible con ASCII de estos conjuntos de caracteres hay a menudo conflicto entre las letras representadas por cada byte. Para complicar aún más la interoperabilidad entre las codificaciones de caracteres, en algunas versiones de Windows de Microsoft se utiliza la codificación Windows-1252 en lugar de los idiomas de Europa del oeste. Esto es un superconjunto de la codificación ISO 8859-1. Sin embargo, es diferente en algunos aspectos, estos conjuntos no conservan completamente la compatibilidad con ASCII.

El desarrollo necesario de codificaciones de un solo byte completamente diferentes para alfabetos no latinos, como EUC (Codificación de Unix Extendido) que se utiliza para el japonés y el coreano (y en menor medida para el chino) creó aún más confusión. Otros sistemas operativos todavía utilizaban conjuntos de caracteres para los mismos idiomas, por ejemplo, Shift-JIS e ISO-2022-JP. Los usuarios que deseaban ver glifos cirílicos tenían que elegir entre KOI8-R para el ruso y el búlgaro o KOI8-U para el ucraniano, y así para las demás codificaciones cirílicas como el poco exitoso ISO 8859-5 o el común Windows-1251. Todos estos conjuntos de caracteres rompían en mayor o menor medida la compatibilidad con ASCII. Aunque se debe mencionar que las codificaciones KOI8 colocaban los caracteres cirílicos en el orden de los latinos, por lo que en el caso de que se eliminara el octavo bit, es texto se podía mostrar en un terminal ASCII a través de una transliteración inversa de mayúsculas.

Todo esto ha llevado a grandes confusiones y también a una discapacidad casi total para la comunicación multilingüe, especialmente entre alfabetos diferentes. Entramos en Unicode.

¿Qué es Unicode?
Unicode prescinde de utilizar un solo byte, el límite tradicional de los conjuntos de caracteres. Utiliza 17 "planos" de 65,536 puntos de código para describir un máximo de 1,114,112 caracteres. Como el primer plano, también conocido como "Plano Multilingüe Básico" o BMP, contiene prácticamente todos los caracteres que un usuario necesita. Mucha gente piensa erróneamente que Unicode es un conjunto de caracteres de 16 bits.

Unicode se ha mapeado de muchas formas diferentes, pero las dos más comunes son UTF (Formato de Transformación Unicode) y UCS (Conjunto Universal de Caracteres). El número a continuación de las siglas UTF indica el número de bits en una unidad, por el contrario, el número a continuación de las siglas UCS indica el número de bytes. UTF-8 ha sido la forma más extendida de intercambiar texto Unicode debido a su naturaleza limpia de ocho bits y por tanto es el objeto de este documento.

¿Qué puede hacer unicode?
UTF-8 permite trabajar a los usuarios en un entorno que cumple los estándares y que es aceptado internacionalmente, con una redundancia de datos relativamente baja. Es la forma preferida para transmitir caracteres que no son ASCII a través de Internet, mediante correo electrónico, IRC, o casi cualquier otro medio. A pesar de esto, mucha gente piensa que la comunicación en línea de UTF-8 es abusiva. Es mejor conocer la actitud hacia UTF-8 en un canal en particular, en una lista de correo, o en grupo Usenet antes de utilizar UTF-8 no ASCII.

Buscar o crear localizaciones UTF-8
Ahora que se han expuesto los principios detrás de Unicode, ¡Prepárese para comenzar a utilizar UTF-8 localmente!

Para aquéllos usuarios interesados en saber más, se pueden encontrar explicaciones más detalladas en la guía de localización de Gentoo.

A continuación, el usuario debe decidir si existe alguna localización UTF-8 para el idioma de su elección o si se necesita generar una nueva.

De la salida de la orden de arriba se busca un resultado con un sufijo similar a. Si no hay ningún resultado con un sufijo similar a UTF-8 se debe crear una localización compatible.

Reemplace "es_ES" por el ajuste de localización deseado:

Otra forma de incluir una localización UTF-8 es añadirla al fichero y generar las localizaciones necesarias mediante la orden. Las localizaciones se escribirán al archivo de localizaciones en.

Configurar la localización
Hay una variable de entorno que se debe definir para utilizar las nuevas localizaciones UTF-8: LC_CTYPE (opcionalmente también se puede modificar la variable LANG para cambiar el idioma del sistema). Existen igualmente varias formas diferentes de ajustarla: algunos administradores del sistema prefieren tener únicamente un entorno UTF-8 para un usuario en particular, en cuyo caso deben definirla en sus ( para los usuarios del intérprete de órdenes Bourne),  o  ( para usuarios del intérprete de órdenes Bourne Again). Se pueden encontrar más detalles y buenas prácticas en la guía de localización.

Aunque otros prefieren definir la localización de forma global. Una circunstancia específica en la que el autor recomienda hacer esto es cuando se utiliza ya que este guión inicio arranca el gestor de pantalla y el escritorio antes de que ninguno de los ficheros de inicio del intérprete de órdenes anteriormente citados se lancen. En otras palabras esto se realiza antes de que las variables estén definidas en el entorno.

La localización de forma global se debe definir utilizando el archivo. Este archivo debería tener un aspecto similar al siguiente:

A continuación se debe actualizar el entorno lanzando la siguiente orden:

Ahora lance sin argumentos para comprobar si se han cargado las variables correctas en el entorno:

Usar eselect de forma alternativa para definir localizaciones
Aunque es correcto realizar el mantenimiento del sistema tal y como se describe arriba, es posible verificar la localización correcta que se ha configurado mediante la utilidad.

Utilice para listar las localizaciones disponibles en el sistema:

Usar para ajustar la localización es tan simple como listarlas todas. Una vez que se ha determinado la localización, invoque:

Compruebe el resultado:

En el caso en que se prefiera tener con   en lugar de , lance la orden  apropiada:

Al lanzar la siguiente orden, se actualizarán las variables en el intérprete de órdenes:

Eso es todo. El sistema está ahora utilizando localizaciones UTF-8. El siguiente obstáculo es la configuración de las aplicaciones que se utilizan diariamente.

Soporte a aplicaciones
Cuando Unicode empezó a ganar adeptos en el mundo del software, los conjuntos de caracteres multibyte no estaban bien adaptados a lenguages como C, que es el lenguage base de la mayoría de los programas de uso cotidiano. Incluso hoy en día, algunos programas no pueden gestionar UTF-8 de forma correcta. Afortunadamente la mayoría de programas, especialmente los utilizados normalmente lo soportan.

Nombres de Ficheros, NTFS y FAT
Hay varias opciones NLS en el menú de configuración del núcleo Linux, pero es importante no confundirse. En la mayoría de las situaciones, lo único que se necesita es construir el soporte NLS UTF-8 en el núcleo y cambiar la opción NLS por defecto a utf8.

Cunado se planea montar particiones NTFS, los usuarios necesitan especificar una opción  con la orden mount. Cuando se planea montar particiones FAT, los usuarios pueden especificar una opción  con la orden mount. De forma opcional, los usuarios también pueden definir una página de códigos (codepage) para FAT por defecto en la configuración del núcleo.

Avoid setting  to UTF-8; it is not recommended. Instead, pass the  option when mounting FAT partitions. For further information or see the appropriate kernel documentation at

Para cambiar la codificación de los nombres de los ficheros, se puede utilizar.

A continuación se muestra el formato de la orden :

Sustituya iso-8859-1 por el conjunto de caracteres desde el que se está convirtiendo:

Para cambiar el contenido de ficheros, haga uso de la utilidad, viene integrada con y debería estar instalada en todos los sistemas Gentoo systems. Substituya iso-8859-1 por el juego de caracteres desde el que se quiere convertir. Después de lanzar la orden asegúrese de comprobar que la salida es limpia:

Para convertir un fichero, se deberá crear otro fichero:

El paquete recode se puede utilizar también para este propósito.

La consola del sistema
Para habilitar UTF-8 en la consola, debe editar. Definir, y también leer los comentarios en ese fichero. Es importante tener una tipografía que tenga un buen rango de caracteres para obtener el máximo de Unicode. Para que esto funcione, asegúrese de que se ha creado una localización Unicode correctamente.

La variable keymap definida en debería especificar un mapa de teclado Unicode.

Ncurses y Slang
Es sensato añadir a las opciones USE globales en, y hacer de nuevo emerge de  y de  si procede. Portage hará esto de forma automática cuando actualice su sistema si se utilizan las opciones  o. Lance la siguiente orden para obtener los paquetes:

También necesitamos reconstruir los paquetes que enlazan a éstos, ahora se han aplicado los cambios a USE. La herramienta que utilizamos es parte del paquete.

KDE, GNOME y Xfce
All of the major desktop environments have full Unicode support, and will require no further setup than what has already been covered in this guide. This is because the underlying graphical toolkits (Qt or GTK+ 2) are UTF-8 aware. Subsequently, all applications running on top of these toolkits should be UTF-8-aware out of the box.

The exceptions to this rule come in Xlib and GTK+ 1. GTK+ 1 requires a iso-10646-1 FontSpec in the, for example. Also, applications using Xlib or Xaw will need to be given a similar FontSpec, otherwise they will not work.

If an application has support for both a Qt and GTK+ 2 GUI, the GTK+ 2 GUI will generally give better results with Unicode.

X11 y tipografías
Las tipografías TrueType tienen soporte para Unicode, y la mayoría de las tipografías que se entregan con XorgShift tienen un soporte de carácter extensivo, aunque, obviamente, no todos los glifos disponibles en Unicode se han creado para todas las tipografías.

También, muchos paquetes de tipografías presentes en Portage están preparados para Unicode. Lea la página sobre Fontconfig para obtener más información sobre tipografías recomendadas y su configuración.

Gestores de ventanas y emuladores de terminal
Los gestores de ventanas que no se han construido con GTK+ o Qt generalmente tienen muy buen soporte para Unicode, ya que a menudo utilizan la biblioteca Xft para el manejo de tipografías. Si el gestor de ventanas no utiliza Xft para las tipografías, entonces todavía se puede utilizar el FontSpec mencionado en la sección anterior como una tipografía Unicode.

Los emuladores de terminal que utilicen Xft y tengan soporte unicode son más difíciles de encontrar. Aparte de Konsole y gnome-terminal, las mejores opciones en Portage son, , , , or plain  cuando se construye con la opción USE   y se invoca como. también ofrece soporte para UTF-8 cuando se invoca como o se incluye lo siguiente en el fichero  :

Vim, emacs, xemacs y nano
Vim ofrece soporte completo para UTF-8 y también la detección automática de ficheros codificados con UTF-8. Para más información, dentro de Vim, utilice.

GNU Emacs Desde la versión 23 y XEmacs desde la versión 21.5 tiene soporte completo para UTF-8. GNU Emacs 24 también tiene soporte para la edición de texto bidireccional.

Nano proporciona soporte UTF-8 completo desde la versión 1.3.6.

Intérpretes de Comandos
Actualmente ofrece soporte completi Unicode a través de la librería GNU readline. Z Shell ofrece soporte Unicode mediante la opción USE.

Los interpretes de comandos C, y  no ofrecen ningún tipo de soporte UTF-8.

Irssi
Irssi ofrece soporte completo de UTF-8, aunque requiere que el usuario active una opción.

Para canales en los que se intercambian con frecuencia caracteres que no son ASCII mediante conjuntos de caracteres que no son UTF-8, la orden se puede utilizar para convertir caracteres. Teclee para obtener más información.

Mutt
El agente de correo de usuario Mutt tiene muy buen soporte para Unicode. Para utilizar UTF-8 con Mutt, no se necesita poner nada en el fichero de configuración. Mutt funcionará en un entorno Unicode si ninguna modificación si todos los ficheros de configuración (incluida la firma) están codificados con UTF-8.

Further information is available from the Mutt Wiki.

Man
Las páginas del manual son una parte integral de cualquier máquina Linux. Para asegurarse de que cualquier unicode en las páginas del manual se muestra correctamente, se debe editar y cambiar la línea que se muestra abajo. Esto solo es necesario cuando se utiliza en lugar de.

links y elinks
Estos son navegadores en modo texto comúnmente usados, y debemos ver como podemos habilitar el soporte UTF-8 en ellos. En y, hay dos formas de hacer esto, una es utilizando la opción de configuración dentro del navegador y otra es editar el fichero de configuración. Para activar la opción dentro del navegador, abra un sitio con o  y presione  +  para entrar en le menú de configuración. A continuación seleccione las opciones del terminal, o presione. Desplácese hacia abajo y seleccione la última opción  presionando. Luego guarde y salga del menú. En puede que se que tenga que repetir  +  y luego presionar  para guardar. La opción del fichero de configuración se muestra abajo.

Samba
Samba es una suite de software que implementa el protocolo SMB (Bloque de Mensajes del Servidor) para sistemas UNIX como Macs, Linux y FreeBSD. A este protocolo también se le llama Sistema de Ficheros Común de Internet (CIFS). Samba también incluye el sistema NetBIOS, utilizado para compartir ficheros en redes con sistemas Windows.

Add the following lines under the  section:

Probarlo todo
Existen muchos sitios web para probar UTF-8 y la mayoría de los navegadores en Gentoo más populares ofrecen soporte para completo de UTF-8.

Cuándo se utiliza un navegador en modo texto, asegúrese bien de que lo está utilizando desde un terminal que es compatible con Unicode.

Si se observan ciertos caracteres con el aspecto de pequeñas cajas con letras o números dentro, entonces la tipografía actual no incluye un glifo para esos caracteres. En lugar de ello, se muestra una caja con el código hexadecimal del símbolo UTF-8.


 * unicode-table.com
 * A W3C UTF-8 Test Page
 * A UTF-8 test page provided by the University of Frankfurt

Ficheros de configuración del sistema (en /etc)
La mayoría de los ficheros de configuración del sistema (como ) no ofrecen soporte para UTF-8. Se recomienda ajustarse al conjunto de caracteres ASCII cuando se editen estos ficheros.

Recursos externos

 * The Wikipedia entry for Unicode
 * The Wikipedia entry for UTF-8
 * Unicode.org
 * UTF-8.com
 * RFC 3629
 * RFC 2277
 * Characters vs. Bytes
 * The GNU C Library: Locales and Internationalization
 * Unifoundry.com - Unicode Tutorial
 * unicode USE flag description