Découpage de GPT-4o et des modèles d'OpenAI qui l'ont suivi (vocabulaire o200k_base, environ 200 000 jetons), calculé
dans votre navigateur par la bibliothèque libre gpt-tokenizer. Un point · marque une espace.
Un jeton marqué en pointillé ne contient qu'un morceau de caractère :
certains caractères, comme les lettres accentuées rares ou les émojis, occupent plusieurs octets, que le découpage peut séparer.