Mostrar código-fonte de N-grama

[[Ficheiro:Six_n-grams_frequently_found_in_titles_of_publications_about_Coronavirus_disease_2019,_as_of_7_May_2020.svg|miniaturadaimagem|300x300px|Alguns n-gramas frequentemente encontrados em títulos em ingles de publicações sobre a [[COVID-19]].[[COVID-19|VID-19]]]]
Nos campos de [[linguística computacional]] e [[probabilidade]], um '''''n''-grama''' é uma sequência contígua de ''n'' itens de uma determinada [[Amostra (estatística)|amostra]] de texto ou fala. Os itens podem ser [[fonema]]s, [[sílaba]]s, [[letra]]s, [[palavra]]s ou [[Par de bases|pares de bases]] de acordo com a aplicação. Os ''n''-gramas normalmente são coletados de um ''corpus'' de [[Corpus linguístico|texto]] ou fala.<ref>{{Citar periódico |ultimo=Broder |primeiro=Andrei Z. |primeiro2=Steven C. |ultimo2=Glassman |primeiro3=Mark S. |ultimo3=Manasse |primeiro4=Geoffrey |ultimo4=Zweig |titulo=Syntactic clustering of the web |periódico=Computer Networks and ISDN Systems |volume=29 |ano=1997 |paginas=1157–1166 |doi=10.1016/s0169-7552(97)00031-7}}</ref>

Usando prefixos numéricos latinos, um ''n'' -grama de tamanho 1 é referido como um "unigrama"; o tamanho 2 é um " bigrama " (ou um "digrama"); o tamanho 3 é um " trigrama ". Os números cardinais  são às vezes usados, por exemplo, "quatro grama", "cinco grama" e assim por diante. Em biologia computacional, um [[polímero]] ou [[oligômero]] de tamanho conhecido é chamado ''k-mero'', em vez de ''n-grama'', com nomes específicos usando prefixos numéricos gregos, como "monômero", "dímero", "trímero", "tetrâmero", "pentamer".

== Aplicações ==
Um '''modelo de ''n''-grama''' é um tipo de modelo de linguagem probabilístico para prever o próximo item em tal sequência na forma de um [[Cadeias de Markov|modelo de Markov d]].<ref>https://www.coursera.org/learn/natural-language-processing/lecture/UnEHs/07-01-noisy-channel-model-8-33</ref> Modelos de  ''n''-grama são agora amplamente usados em [[probabilidade]], [[teoria da comunicação]], [[linguística computacional]] (por exemplo, [[Processamento de linguagem natural|processamento]] estatístico de [[Processamento de linguagem natural|linguagem natural]]), [[biologia computacional]] (por exemplo, análise de sequência biológica) e [[compressão de dados]]. Dois benefícios dos modelos de ''n''-grama (e algoritmos que os usam) são simplicidade e escalabilidade - com ''n'' maior, um modelo pode armazenar mais contexto com uma [[Trade-off Espaço-Tempo|compensação espaço-tempo]] bem compreendida, permitindo que pequenos experimentos sejam escalonados com eficiência.

== Exemplos ==
{| class="wikitable" style="font-size:85%;"
|+Figura 1 exemplos de  ''n'' -grama em várias disciplinas
! Campo
! Unidade
! Sequência de amostra
! Sequência de 1 grama
! Sequência de 2 gramas
! Sequência de 3 gramas
|-
! Nome vernáculo
!
!
! unigrama
! bigrama
! trigrama
|-
! Ordem do modelo de Markov resultante
!
!
! 0
! 1
! 2
|-
| [[Sequenciação de proteínas|Sequenciamento de proteínas]]
| [[aminoácido]]
| … Cys-Gly-Leu-Ser-Trp…
| ..., Cys, Gly, Leu, Ser, Trp, ...
| ..., Cys-Gly, Gly-Leu, Leu-Ser, Ser-Trp, ...
| …, Cys-Gly-Leu, Gly-Leu-Ser, Leu-Ser-Trp,…
|-
| [[Sequenciamento de DNA]]
| [[Par de bases|par de base]]
| ... AGCTTCGA ...
| ..., A, G, C, T, T, C, G, A, ...
| ..., AG, GC, CT, TT, TC, CG, GA, ...
| ..., AGC, GCT, CTT, TTC, TCG, CGA, ...
|-
| [[Linguística computacional|Lingüística computacional]]
| [[caractere]]
| …to_be_or_not_to_be…
| …, t, o, _, b, e, _, o, r, _, n, o, t, _, t, o, _, b, e, …
| …, To, o_, _b, be, e_, _o, or, r_, _n, no, ot, t_, _t, to, o_, _b, be, ...
| …, To_, o_b, _be, be_, e_o, _or, or_, r_n, _no, not, ot_, t_t, _to, to_, o_b, _be,…
|-
| [[Linguística computacional|Lingüística computacional]]
| [[palavra]]
| … Ser ou não ser …
| …, Ser ou não ser, …
| ..., ser ou, ou não, não ser,...
| ..., ser ou não, ou não ser ...
|}
A Figura 1 mostra várias sequências de exemplo e as sequências de 1 grama, 2 gramas e 3 gramas correspondentes.

Aqui estão outros exemplos; esses são 3 gramas e 4 gramas no nível da palavra (e contagens do número de vezes que apareceram) do ''corpus'' Google ''n''-gram (em inglês).<ref>{{Citar web |ultimo=Alex Franz and Thorsten Brants |url=http://googleresearch.blogspot.com/2006/08/all-our-n-gram-are-belong-to-you.html |titulo=All Our ''N''-gram are Belong to You |acessodata=2011-12-16 |website=Google Research Blog |ano=2006}}</ref>

3-gramas

* ''ceramics collectables collectibles'' (55)
* ''ceramics collectables fine'' (130)
* ''ceramics collected by'' (52)
* ''ceramics collectible pottery'' (50)
* ''ceramics collectibles cooking'' (45)

4-gramas

* ''serve as the incoming'' (92)
* ''serve as the incubator'' (99)
* ''serve as the independent'' (794)
* ''serve as the index'' (223)
* ''serve as the indication'' (72)
* ''serve as the indicator'' (120)

== Modelos de ''n''-grama ==
Um '''modelo de ''n''-grama''' modela sequências, principalmente linguagens naturais, usando as propriedades estatísticas de ''n''-gramas.

Essa ideia pode ser rastreada até um experimento do trabalho de [[Claude Shannon]] em [[teoria da informação]]. Shannon fez a pergunta: dada uma sequência de letras (por exemplo, a sequência "para ex"), qual é a [[Função de verossimilhança|probabilidade]] da próxima letra? A partir dos dados de treinamento, pode-se derivar uma [[distribuição de probabilidade]] para a próxima letra, dado um histórico de tamanho <math>n</math> : ''a'' = 0,4, ''b'' = 0,00001, ''c'' = 0, ....; onde as probabilidades de todas as "próximas letras" possíveis somam 1,0.

Mais concisamente, um modelo ''n'' -gram prevê <math>x_i</math> baseado em <math>x_{i-(n-1)}, \dots, x_{i-1}</math> . Em termos de probabilidade, isso é<math>P(x_i \mid x_{i-(n-1)}, \dots, x_{i-1})</math> . Quando usado para modelagem de linguagem, as suposições de independência são feitas de modo que cada palavra dependa apenas do último ''n''&nbsp;-&nbsp;1 palavras. Este modelo de Markov é usado como uma aproximação da verdadeira linguagem subjacente. Essa suposição é importante porque simplifica enormemente o problema de estimar o modelo de linguagem a partir dos dados. Além disso, devido à natureza aberta da linguagem, é comum agrupar palavras desconhecidas no modelo de linguagem.

Observe que em um modelo de linguagem simples de ''n-'' grama , a probabilidade de uma palavra, condicionada a algum número de palavras anteriores (uma palavra em um modelo de bigrama, duas palavras em um modelo de trigrama, etc.) pode ser descrita como seguindo uma distribuição categórica (muitas vezes chamada de forma imprecisa de "[[distribuição multinomial]]").

Na prática, as distribuições de probabilidade são suavizadas atribuindo probabilidades diferentes de zero a palavras não vistas ou ''n-''gramas; veja as [[N-grama|técnicas de suavização]] .

== Aplicações e considerações ==
Modelos de ''n'' -gram são amplamente usados no [[Processamento de linguagem natural|processamento]] estatístico de [[Processamento de linguagem natural|linguagem natural]]. No [[reconhecimento de fala]], os [[fonema]]s e sequências de fonemas são modelados usando uma distribuição de ''n''-grama. Para análise, as palavras são modeladas de forma que cada ''n''-grama seja composto por ''n'' palavras. Para a identificação da linguagem, sequências de [[caractere]]s / [[grafema]]s (''ppor exemplo'', [[Letra|letras do alfabeto]]) são modeladas para diferentes idiomas.<ref>{{Citar periódico |ultimo=Ted Dunning |ano=1994 |titulo=Statistical Identification of Language |publicado=New Mexico State University |periódico=Technical Report MCCS |paginas=94–273 |citeseerx=10.1.1.48.1958}}</ref> Para sequências de caracteres, os trigramas que podem ser gerados a partir de "bom dia" são "bom", "om ", "m d", " di" e "dia", contando o caractere de espaço como um grama (às vezes o início e o fim de um texto são modelados explicitamente, adicionando-se" _ ⁠_b "," _bo ","ia_ "e" a_ ⁠_ "). Para sequências de palavras, os trigramas que podem ser gerados a partir de "o cachorro cheirava a gambá" são "# o cachorro", "o cachorro cheirava", "cachorro cheirava a", "cheirava a gambá", e "a gambá# ".

''Os n''-gramas também podem ser usados para sequências de palavras ou quase qualquer tipo de dados. Por exemplo, eles têm sido usados para extrair recursos para agrupar grandes conjuntos de imagens terrestres de satélite e para determinar de que parte da Terra veio uma imagem específica.<ref>{{Citar livro|url=|título=Proceedings of the Fourth International Conference on Document Analysis and Recognition|ultimo=Soffer|primeiro=A|ano=1997|volume=1|capitulo=Image categorization using texture features|doi=10.1109/ICDAR.1997.619847|isbn=978-0-8186-7898-1}}</ref> Eles também tiveram muito sucesso como a primeira passagem na busca de sequências genéticas e na identificação das espécies das quais se originaram sequências curtas de DNA.<ref>{{Citar periódico |ultimo=Tomović |primeiro=Andrija |ultimo2=Janičić |primeiro2=Predrag |ultimo3=Kešelj'' |primeiro3=Vlado |ano=2006 |titulo=''n''-Gram-based classification and unsupervised hierarchical clustering of genome sequences |url= |periódico=Computer Methods and Programs in Biomedicine |volume=81 |paginas=137–153 |doi=10.1016/j.cmpb.2005.11.007 |pmid=16423423}}</ref>

''Os'' modelos de ''n''-grama são frequentemente criticados porque não possuem qualquer representação explícita da dependência de longo alcance. Isso ocorre porque o único intervalo de dependência explícito é (''n''&nbsp;-&nbsp;1) tokens para um modelo de ''n'' -grama, e uma vez que as linguagens naturais incorporam muitos casos de dependências ilimitadas (como o movimento-wh), isso significa que um modelo de ''n'' -grama não pode, em princípio, distinguir dependências de ruído (já que as correlações de longo alcance caem exponencialmente com a distância para qualquer modelo de Markov). Por esse motivo, os modelos de  ''n''-grama não causaram muito impacto na teoria lingüística, onde parte do objetivo explícito é modelar tais dependências.

Outra crítica que foi feita é que os modelos de linguagem de Markov, incluindo os modelos ''n'' -gram, não captam explicitamente a distinção desempenho / competência. Isso ocorre porque os modelos ''n'' -gram não são projetados para modelar o conhecimento linguístico como tal, e não reivindicam ser (mesmo potencialmente) modelos completos de conhecimento linguístico; em vez disso, eles são usados em aplicações práticas.

Na prática, modelos de ''n'' -grama têm se mostrado extremamente eficazes na modelagem de dados de linguagem, que é um componente central em aplicativos modernos de [[Processamento de linguagem natural|linguagem]] estatística.

A maioria das aplicações modernas baseadas  baseados em ''n''-grama, como parte da [[tradução automática]], não dependem exclusivamente de tais modelos; em vez disso, eles normalmente também incorporam a [[inferência bayesiana]]. Os modelos estatísticos modernos são normalmente compostos de duas partes, uma [[Probabilidade a priori|distribuição anterior]] (probabilidade a priori) que descreve a probabilidade inerente de um resultado possível e uma [[Função de verossimilhança|função de probabilidade]] usada para avaliar a compatibilidade de um resultado possível com os dados observados. Quando um modelo de linguagem é usado, ele é usado como parte da distribuição anterior (por exemplo, para avaliar a "bondade" inerente de uma possível tradução) e, mesmo assim, muitas vezes não é o único componente dessa distribuição.

=== Palavras fora do vocabulário ===
Um problema ao usar modelos de linguagem n-gram são palavras fora do vocabulário (do ingles, OOV, ''out-of-vocabulary''). Eles são encontrados em [[linguística computacional]] e [[processamento de linguagem natural]] quando os textos de entrada incluem palavras que não estavam presentes em um dicionário ou banco de dados do sistema durante sua preparação. Por padrão, quando um modelo de idioma é estimado, todo o vocabulário observado é usado. Em alguns casos, pode ser necessário estimar o modelo de linguagem com um vocabulário fixo específico. Nesse cenário, os n-gramas no [[Corpus linguístico|''corpus'']] que contêm uma palavra fora do vocabulário são ignorados. As probabilidades de n-gram são suavizadas em todas as palavras do vocabulário, mesmo que não tenham sido observadas.<ref>{{Citar periódico |ultimo=Wołk |primeiro=K. |ultimo2=Marasek |primeiro2=K. |ultimo3=Glinkowski |primeiro3=W. |ano=2015 |titulo=Telemedicine as a special case of Machine Translation |url= |periódico=Computerized Medical Imaging and Graphics |volume=46 Pt 2 |paginas=249–56 |doi=10.1016/j.compmedimag.2015.09.005 |pmid=26617328 |arxiv=1510.04600 |bibcode=2015arXiv151004600W}}</ref>

No entanto, em alguns casos é necessário modelar explicitamente a probabilidade de palavras fora do vocabulário através da introdução de um símbolo especial (por exemplo ''<unk>).'' Palavras fora do vocabulário no ''corpus'' são efetivamente substituídas por este token especial antes que as contagens de n-gramas sejam feitas. Com esta opção, é possível estimar as probabilidades de transição de n-gramas envolvendo palavras fora do vocabulário.<ref>{{Citar conferência |ultimo=Wołk K., Marasek K. |titulo=Polish-English Speech Statistical Machine Translation Systems for the IWSLT 2014 |ano=2014 |conferencia=Proceedings of the 11th International Workshop on Spoken Language Translation. Tahoe Lake, USA}}</ref>

== ''n''-gramas para correspondência aproximada ==
''n''-gramas também podem ser usados para correspondência aproximada eficiente. Ao converter uma sequência de itens em um conjunto de ''n-g''ramas, ela pode ser embutida em um [[espaço vetorial]], permitindo assim que a sequência seja comparada a outras sequências de maneira eficiente. Por exemplo, se convertermos strings com apenas letras do alfabeto inglês em um único caractere de 3 gramas, obteremos um espaço de <math>26^3</math> dimensões (a primeira dimensão mede o número de ocorrências de "aaa", a segunda "aab" e assim por diante para todas as combinações possíveis de três letras). Usando essa representação, perdemos informações sobre a string. Por exemplo, ambas as strings "abc" e "bca" dão origem exatamente aos mesmos 2 gramas "bc" (embora {"ab", "bc"} não seja o mesmo que {"bc", "ca" }). No entanto, sabemos empiricamente que se duas sequências de texto real têm uma representação vetorial semelhante (medida pela [[similaridade por cosseno]]), é provável que sejam semelhantes. Outras métricas também foram aplicadas a vetores de ''n'' -gramas com resultados variáveis, às vezes melhores. Por exemplo, os escores z já foram usados para comparar documentos examinando quantos desvios-padrão cada ''n'' -grama difere de sua ocorrência média em uma grande coleção, ou [[Corpus linguístico|''corpus'' de texto]], de documentos (que formam o vetor de "fundo").

Também é possível adotar uma abordagem   em princípios para as estatísticas de ''n''-gramas, modelando similaridade como a probabilidade de que duas strings tenham vindo da mesma fonte diretamente em termos de um problema na [[inferência bayesiana]] .

== Outras aplicações ==
''Os n''-gramas são usados em várias áreas da ciência da [[Linguística computacional|computação]], [[linguística computacional]] e matemática aplicada.

Eles já foram usados para:

* projetar ''kernels'' que permitem que algoritmos de [[aprendizado de máquina]], como [[Máquina de vetores de suporte|máquinas de vetores de suporte,]] aprendam a partir de dados de ''strings''
* encontrar candidatos para a grafia correta de uma palavra com grafia incorreta
* melhorar a compressão em [[Compressão de dados|algoritmos de compressão de dados]] onde uma pequena área de dados requer ''n''-gramas de maior comprimento
* avaliar a probabilidade de uma determinada sequência de palavras aparecer no texto de um idioma de interesse em sistemas de reconhecimento de padrões, [[Reconhecimento de fala|reconhecimento de voz]], OCR ([[Reconhecimento ótico de caracteres|reconhecimento óptico de caracteres]]), [[Reconhecimento inteligente de caracteres|ICR]] ([[Reconhecimento inteligente de caracteres]]), [[tradução automática]] e aplicações semelhantes
* melhorar a sistemas de [[recuperação de informação]] quando se espera encontrar "documentos" semelhantes dado um único documento de consulta e um banco de dados de documentos de referência
* melhorar o desempenho de recuperação na análise de sequência genética como na família de programas [[BLAST]]
* identificar o idioma de um texto, ou a espécie da qual uma pequena sequência de DNA foi retirada
* [[Criptoanálise|criptanálise]]

== Espaço necessário para um ''n-''grama ==
Considere um ''n''-grama onde as unidades são caracteres e um texto com ''t'' caracteres. O espaço que este ''n'' -gram requer é exponencial:

<math>n(t-2(n-1)) + \sum_{i=1}^{n-1}2i \qquad n,t \in \mathcal{N}</math>

Uma parábola pode ser ajustada através de cada ponto de dados discretos, obtendo três pares de coordenadas e resolvendo um sistema linear com três variáveis, o que leva à fórmula geral:

<math>-n^2 + (t+1)n</math>

== Compensação de viés versus variância ==
Para escolher um valor para ''n'' em um modelo de ''n'' -grama, é necessário encontrar o [[trade-off]] correto entre a estabilidade da estimativa e sua adequação. Isso significa que o trigrama é uma escolha comum com grandes [[Corpus linguístico|corpora]] de treinamento (milhões de palavras), enquanto um bigrama é frequentemente usado com os menores.

=== Técnicas de suavização ===
Existem problemas de equilíbrio de peso entre ''gramas pouco frequentes'' (por exemplo, um nome próprio que aparace nos dados de treino) e ''gramas frequentes''. Além disso, os itens não vistos nos dados de treinamento terão uma [[probabilidade]] de 0,0 caso não haja suavização. Para dados não vistos, mas plausíveis, de uma amostra, pode-se introduzir pseudocontas. As pseudocontas são geralmente motivadas por motivos bayesianos.

Na prática, é necessário ''suavizar'' as distribuições de probabilidade atribuindo também probabilidades diferentes de zero a palavras ou ''n-''gramas não- vistas. A razão é que para os modelos derivados diretamente do ''n'' -gram, contagens de freqüência têm problemas graves quando confrontado com qualquer ''n''-grams que explicitamente não foram vistas antes - [[Algoritmo de compressão PPM|o problema da frequência zero]]. Vários métodos de suavização são usados, desde a suavização simples "adicionar um" (suavização de Laplace, atribuir uma contagem de 1 a ''n''-gramas invisíveis) até modelos mais sofisticados, como modelos de [[Good–Turing frequency estimation|desconto]] [[Good–Turing frequency estimation|Good – Turing]] . Alguns desses métodos são equivalentes a atribuir uma [[Probabilidade a priori|distribuição anterior]] às probabilidades dos ''n''-gramas e usar a [[Inferência bayesiana|inferência Bayesiana]] para calcular as probabilidades [[Probabilidade a posteriori|posteriores de]] ''n''-gramas resultantes.

* [[Interpolação linear]] (por exemplo, tomando a [[Média aritmética ponderada|média ponderada]] do unigrama, bigrama e trigrama)
* Desconto de [[Good–Turing frequency estimation|Good–Turing]]
* Desconto de Witten-Bell
* Alisamento de Lidstone
* Modelo de recuo de Katz (trigrama)
* Alisamento Kneser-Ney

=== Skip-gram ===
No campo da [[linguística computacional]], em particular na modelagem de linguagem, '''skip-gramas,'''<ref>{{Citar periódico |titulo=The SPHINX-II Speech Recognition System: An Overview |ultimo4=Hwang |citeseerx=10.1.1.45.1629 |paginas=137–148 |volume=7 |data=1-01-1992 |ultimo5=Rosenfeld |primeiro5=Ronald |primeiro4=Mei-yuh |periódico=Computer Speech & Language |ultimo3=Hon |primeiro3=Hsiao-wuen |ultimo2=Alleva |primeiro2=Fileno |ultimo=Huang |primeiro=Xuedong |doi=10.1006/csla.1993.1007}}</ref> ou pulogramas, são uma generalização de ''n''-gramas em que os componentes (normalmente palavras) não precisam ser consecutivos, mas podem ter lacunas que são puladas (do ingles, ''skipped).''<ref>{{Citar web |ultimo=David Guthrie |url=http://homepages.inf.ed.ac.uk/ballison/pdf/lrec_skipgrams.pdf |titulo=A Closer Look at Skip-gram Modelling |data=2006 |acessodata=27-04-2014 |arquivourl=https://web.archive.org/web/20170517144625/http://homepages.inf.ed.ac.uk/ballison/pdf/lrec_skipgrams.pdf |arquivodata=17-05-2017 |numero-autores=etal}}</ref> Eles fornecem uma maneira de superar o problema de dispersão de dados encontrado com a análise convencional de ''n-''gramas.

Formalmente, um {{Mvar|n}}-grama é uma subsequência consecutiva de comprimento {{Mvar|n}} de alguma sequência de tokens {{Math|''w''<sub>1</sub> … ''w''<sub>''n''</sub>}}. Um {{Mvar|k}} -skip-{{Mvar|n}}-gram é uma subseqüência de comprimento-{{Mvar|n}} onde os componentes ocorrem a uma distância de no máximo {{Mvar|k}} entre si.

Por exemplo, no texto de entrada:

: ''a chuva na Espanha cai principalmente na planície''

o conjunto de 1-pulo-2-gramas inclui todos os bigramas (2-gramas) e, além das subsequências

: ''a'' ''na, chuva Espanha, na cai, Espanha principalmente,'' ''cai na'', e ''principalmente planície.''

== ''N''-gramas sintáticos ==
Os ''n''-gramas sintáticos são ''n''-gramas definidos por caminhos árvores de dependência sintática, em vez da estrutura linear do texto.<ref name="sng">{{Citar livro|título=Advances in Computational Intelligence|ultimo=Sidorov|primeiro=Grigori|ultimo2=Velasquez|primeiro2=Francisco|ultimo3=Stamatatos|primeiro3=Efstathios|ultimo4=Gelbukh|primeiro4=Alexander|ultimo5=Chanona-Hernández|primeiro5=Liliana|ano=2013|editor-sobrenome=Batyrshin|series=Lecture Notes in Computer Science|volume=7630|páginas=1–11|capitulo=Syntactic Dependency-Based N-grams as Classification Features|doi=10.1007/978-3-642-37798-3_1|isbn=978-3-642-37797-6|editor-sobrenome2=Mendoza}}</ref><ref>{{Citar periódico |ultimo=Sidorov |primeiro=Grigori |titulo=Syntactic Dependency-Based ''n''-grams in Rule Based Automatic English as Second Language Grammar Correction |periódico=International Journal of Computational Linguistics and Applications |data=2013 |volume=4 |paginas=169–188}}</ref><ref>{{Citar periódico |ultimo=Figueroa |primeiro=Alejandro |ultimo2=Atkinson |primeiro2=John |ano=2012 |titulo=Contextual Language Models For Ranking Answers To Natural Language Definition Questions |url=https://www.researchgate.net/publication/262176888 |periódico=Computational Intelligence |volume=28 |paginas=528–548 |doi=10.1111/j.1467-8640.2012.00426.x}}</ref> Por exemplo, a frase "notícias econômicas têm pouco efeito nos mercados financeiros" pode ser transformada em ''n''-gramas sintáticos seguindo a estrutura de árvore de suas relações de dependência: notícias-econômicas, pouco-efeito, efeito-nos-mercados-financeiros.

Os ''n''-gramas sintáticos destinam-se a refletir a estrutura sintática com mais fidelidade do que os ''n''-gramas lineares e têm muitas das mesmas aplicações, especialmente como recursos em um modelo de espaço vetorial. Os ''n''-gramas sintáticos para certas tarefas fornecem melhores resultados do que o uso de ''n''-gramas padrão, por exemplo, para atribuição de autoria.<ref>{{Citar periódico |ultimo=Sidorov |primeiro=Grigori |ultimo2=Velasquez |primeiro2=Francisco |ultimo3=Stamatatos |primeiro3=Efstathios |ultimo4=Gelbukh |primeiro4=Alexander |ultimo5=Chanona-Hernández |primeiro5=Liliana |titulo=Syntactic ''n''-Grams as Machine Learning Features for Natural Language Processing |periódico=Expert Systems with Applications |volume=41 |paginas=853–860 |doi=10.1016/j.eswa.2013.08.015 |ano=2014}}</ref>

Outro tipo de ''n''-gramas sintáticos são ''n''-gramas de classe gramatical, definidos como subseqüências sobrepostas contíguas de comprimento fixo que são extraídas de sequências gramaticais de texto. Os ''n-''gramas de parte da fala têm várias aplicações, mais comumente na recuperação de informações.<ref>{{Citar periódico |ultimo=Lioma |primeiro=C. |ultimo2=van Rijsbergen |primeiro2=C. J. K. |ano=2008 |titulo=Part of Speech n-Grams and Information Retrieval |url=http://main.cl-lab.dk/www/publications/2008/pdf/part-of-speech-n-grams-and-information-retrieval.pdf |periódico=French Review of Applied Linguistics |volume=XIII |paginas=9–22 |via=Cairn}}</ref>

== Ver também ==

* [[Colocação]]
* [[Modelo oculto de Markov|Modelo de Markov oculto]]
* [[Énuplo|n-tupla]]
* Kernel string
* MinHash
* [[Extração de características|Extração de recursos]]
* Problema comum de substring mais longo

{{Referências}}

== Leitura adicional ==

* Christopher D. Manning, Hinrich Schütze, ''Foundations of Statistical Natural Language Processing'', MIT Press: 1999.{{ISBN|0-262-13360-1}}[[ISBN (identifier)|ISBN]]&nbsp;[[Special:BookSources/0-262-13360-1|0-262-13360-1]] .
* {{Citar periódico |ultimo=White |primeiro6=Chris |pmid=8367301 |doi=10.1093/nar/21.16.3829 |paginas=3829–3838 |volume=21 |periódico=Nucleic Acids Research |url= |titulo=A quality control algorithm for dna sequencing projects |ano=1993 |ultimo6=Fields |primeiro=Owen |primeiro5=J.Craig |ultimo5=Venter |primeiro4=Mark |ultimo4=Adams |primeiro3=Granger |ultimo3=Sutton |primeiro2=Ted |ultimo2=Dunning |pmc=309901}}
* Frederick J. Damerau, ''Markov Models and Linguistic Theory'' . Mouton. Haia, 1971.
* {{Citar periódico |ultimo=Figueroa |primeiro=Alejandro |ultimo2=Atkinson |primeiro2=John |ano=2012 |titulo=Contextual Language Models For Ranking Answers To Natural Language Definition Questions |url=https://www.researchgate.net/publication/262176888 |periódico=Computational Intelligence |volume=28 |paginas=528–548 |doi=10.1111/j.1467-8640.2012.00426.x}}
* {{Citar conferência |ultimo=Brocardo |primeiro=Marcelo Luiz |ultimo2=Issa Traore |url=https://www.uvic.ca/engineering/ece/isot/assets/docs/Authorship_Verification_for_Short_Messages_using_Stylometry.pdf |titulo=Authorship Verification for Short Messages Using Stylometry |ano=2013 |conferencia=IEEE Intl. Conference on Computer, Information and Telecommunication Systems (CITS) |ultimo3=Sherif Saad |ultimo4=Isaac Woungang}}

== Ligações externas ==

* [https://books.google.com/ngrams Google Book do Google ''n'' -gram espectador] e [http://googleresearch.blogspot.com/2006/08/all-our-n-gram-are-belong-to-you.html banco de dados -grams Web ''n''] (Setembro de 2006)
* [https://www.microsoft.com/en-us/research/project/web-n-gram-services/ Serviço web ''n'' -grams da Microsoft]
* [http://data.statoperator.com/ STATOPERATOR N-gramas Projeto ponderada ''n'' espectador -gram para cada domínio em Alexa Top 1M]
* [http://www.ngrams.info/ 1.000.000 mais frequentes 2,3,4,5 gramas] do Corpus de inglês contemporâneo americano de 425 milhões de palavras
* [http://www.peachnote.com/ Visualizador de ngram de música do Peachnote]
* [http://www.w3.org/TR/ngram-spec/ Especificação de Modelos de Linguagem Estocástica ( ''n-'' Grama)] (W3C)
* [http://www.cs.columbia.edu/~mcollins/courses/nlp2011/notes/lm.pdf Notas de Michael Collins sobre modelos de linguagem ''n-'' grama]
* [https://github.com/OpenRefine/OpenRefine/wiki/Clustering-In-Depth/ OpenRefine: Clustering em profundidade]
[[Categoria:Linguística de corpus]]
[[Categoria:Linguística computacional]]
[[Categoria:Processamento de linguagem natural]]