Wat betekent het om "Java Modified UTF-8 Encoding" te gebruiken?

Wat betekent het om "Java Modified UTF-8 Encoding" te gebruiken? Hoe verschilt dit van normale UTF-8-codering?

7
Java, wil altijd alles op zijn manier doen.
toegevoegd de auteur BoltClock, de bron
toegevoegd de auteur Tomasz Nurkiewicz, de bron
Waar zegt het dat?
toegevoegd de auteur millimoose, de bron
@BoltClock Geen erg constructieve opmerking. Het lijkt erop dat Java deze aangepaste codering alleen gebruikt in gevallen waarin de tekenreeks kan eindigen in een omgeving die 0x00 terminated Strings gebruikt.
toegevoegd de auteur Mark Rotteveel, de bron

3 antwoord

Dit wordt gedetailleerd beschreven in de javadoc van MATERIALEN :

Modified UTF-8

Implementations of the DataInput and DataOutput interfaces represent Unicode strings in a format that is a slight modification of UTF-8. (For information regarding the standard UTF-8 format, see section 3.9 Unicode Encoding Forms of The Unicode Standard, Version 4.0). Note that in the following tables, the most significant bit appears in the far left-hand column.

... (some tables, please click the javadoc link to see yourself) ...

The differences between this format and the standard UTF-8 format are the following:

  • The null byte '\u0000' is encoded in 2-byte format rather than 1-byte, so that the encoded strings never have embedded nulls.
  • Only the 1-byte, 2-byte, and 3-byte formats are used.
  • Supplementary characters are represented in the form of surrogate pairs.

Hoe het te lezen is in detail beschreven in de javadoc van MATERIALEN # readUTF() :

readUTF

String readUTF()
           throws IOException

Reads in a string that has been encoded using a modified UTF-8 format. The general contract of readUTF is that it reads a representation of a Unicode character string encoded in modified UTF-8 format; this string of characters is then returned as a String.

First, two bytes are read and used to construct an unsigned 16-bit integer in exactly the manner of the readUnsignedShort method . This integer value is called the UTF length and specifies the number of additional bytes to be read. These bytes are then converted to characters by considering them in groups. The length of each group is computed from the value of the first byte of the group. The byte following a group, if any, is the first byte of the next group.

If the first byte of a group matches the bit pattern 0xxxxxxx (where x means "may be 0 or 1"), then the group consists of just that byte. The byte is zero-extended to form a character.

If the first byte of a group matches the bit pattern 110xxxxx, then the group consists of that byte a and a second byte b. If there is no byte b (because byte a was the last of the bytes to be read), or if byte b does not match the bit pattern 10xxxxxx, then a UTFDataFormatException is thrown. Otherwise, the group is converted to the character:

(char)(((a& 0x1F) << 6) | (b & 0x3F))

If the first byte of a group matches the bit pattern 1110xxxx, then the group consists of that byte a and two more bytes b and c. If there is no byte c (because byte a was one of the last two of the bytes to be read), or either byte b or byte c does not match the bit pattern 10xxxxxx, then a UTFDataFormatException is thrown. Otherwise, the group is converted to the character:

(char)(((a & 0x0F) << 12) | ((b & 0x3F) << 6) | (c & 0x3F))

If the first byte of a group matches the pattern 1111xxxx or the pattern 10xxxxxx, then a UTFDataFormatException is thrown.

If end of file is encountered at any time during this entire process, then an EOFException is thrown.

After every group has been converted to a character by this process, the characters are gathered, in the same order in which their corresponding groups were read from the input stream, to form a String, which is returned.

The writeUTF method of interface DataOutput may be used to write data that is suitable for reading by this method.

8
toegevoegd
"De nulbyte is gecodeerd in een indeling van 2 bytes" - Betekent dit dat deze is gecodeerd als 11000000 10000000 ?
toegevoegd de auteur MC Emperor, de bron

De Java-programmeertaal, die UTF-16 gebruikt voor zijn interne tekstweergave, ondersteunt een niet-standaard modificatie van UTF-8 voor stringserialisatie. Deze codering wordt gemodificeerde UTF-8 genoemd. Er zijn twee verschillen tussen de gewijzigde en standaard UTF-8. Het eerste verschil is dat het nul-teken (U + 0000) is gecodeerd met twee bytes in plaats van één, specifiek als 11000000 10000000.

3
toegevoegd

Probably this: http://en.wikipedia.org/wiki/UTF-8#Modified_UTF-8

"Bij normaal gebruik ondersteunt de Java-programmeertaal standaard   UTF-8 bij het lezen en schrijven van strings via InputStreamReader en   OutputStreamWriter. Het maakt echter gebruik van Gemodificeerde UTF-8 voor object   serialisatie, voor de Java Native Interface en voor   insluiten van constante strings in klassebestanden. "

1
toegevoegd