Token em
computação é um segmento de texto ou símbolo que pode ser manipulado por um
parser, que fornece um significado ao texto; em outras palavras, é um conjunto de
caracteres (de um
alfabeto, por exemplo) com um significado coletivo.Tokens são os padrões que ocorrem em uma
string, por exemplo: em uma data, 29/03/1991, poderia utilizar dois tokens para dividir a string em três partes, utilizando a barra / como padrão. Desse modo, qualquer data que for inserida poderá ser dividida e analisada separadamente em dia, mês e ano. O mesmo pode ser feito com
expressões regulares, mas o método de tokens utiliza muito menos processamento, e, portanto, é mais rápido, apesar de não ser tão robusto.
Veja mais na Wikipédia.org...
[processamento de dados] s. indicação, f.; marca, f.; símbolo, m.; sinal, m.; unidade distinguível em uma seqüência de caracteres