Exemples :
— jetons
— caractères
— caractères par jeton
Découpage de GPT-4o et des modèles d'OpenAI qui l'ont suivi (vocabulaire o200k_base, environ 200 000 jetons), calculé dans votre navigateur par la bibliothèque libre gpt-tokenizer. Un point · marque une espace. Un jeton marqué en pointillé ne contient qu'un morceau de caractère : certains caractères, comme les lettres accentuées rares ou les émojis, occupent plusieurs octets, que le découpage peut séparer.