Mostrar código-fonte de Aprendizado de máquina

O {{PBPE|aprendizado automático| '''a''' aprendizagem automática}} ou também {{PBPE|aprendizado de máquina|aprendizagem de máquina}} (em inglês: ''machine learning'') é um subcampo da Engenharia e da ciência da computação que evoluiu do estudo de [[reconhecimento de padrões]] e da [[teoria da aprendizagem computacional|teoria do aprendizado computacional]] em [[inteligência artificial]]<ref name=":0">{{citar web|url=https://www.britannica.com/technology/machine-learning|titulo=Definição: machine learning|data=|acessodata=|obra=Enciclopedia Britannica|publicado=|ultimo=|primeiro=|lingua=Inglês}}</ref>. Em 1959, [[Arthur Samuel]] definiu aprendizado de máquina como o "campo de estudo que dá aos computadores a habilidade de aprender sem serem explicitamente programados"<ref>{{citar livro|url=https://books.google.com.br/books?id=Dn-Gdoh66sgC&pg=PA89&redir_esc=y#v=onepage&q&f=false|titulo=Too Big to Ignore: The Business Case for Big Data|ultimo=Simon|primeiro=Phil|editora=Wiley|ano=2013|isbn=978-1-118-63817-0|local=|paginas=89|acessodata=}}</ref>(livre tradução).  O aprendizado automático explora o estudo e construção de [[algoritmo]]s que podem [[Aprendizagem|aprender]] de seus erros e fazer previsões sobre [[dados]]<ref>{{citar web|url=http://ai.stanford.edu/~ronnyk/glossary.html|titulo=Glossary of terms|data=|acessodata=|obra=Machine Learning 30: 271–274|publicado=|ultimo=Kohavi|primeiro=Ron|ultimo2=Provost|primeiro2=Foster|ano=1998}}</ref>. Tais algoritmos operam construindo um modelo a partir de inputs amostrais a fim de fazer previsões ou decisões guiadas pelos dados ao invés de simplesmente seguindo inflexíveis e estáticas [[Programação de computadores|instruções programadas]]. Enquanto que na inteligência artificial existem dois tipos de [[raciocínio]] (o indutivo, que extrai regras e padrões de grandes conjuntos de dados, e o [[Dedução|dedutivo]]), o aprendizado de máquina só se preocupa com o indutivo.

Algumas partes do aprendizado automático estão intimamente ligadas (e muitas vezes sobrepostas) à estatística computacional; uma disciplina que foca em como fazer previsões através do uso de computadores, com pesquisas focando nas propriedades dos métodos estatísticos e sua [[complexidade computacional]]. Ela tem fortes laços com a [[Otimização|otimização matemática]], que produz métodos, teoria e domínios de aplicação para este campo. O aprendizado automático é usado em uma variedade de tarefas computacionais onde criar e programar [[algoritmo]]s explícitos é impraticável. Exemplos de aplicações incluem filtragem de spam, [[reconhecimento ótico de caracteres]] (OCR)<ref>{{citar periódico|ultimo=Wernick, Yang, Brankov, Yourganov and Strother|primeiro=|data=Julho, 2010|titulo=Machine Learning in Medical Imaging|jornal=IEEE Signal Processing Magazine|volume=27|numero=4|paginas=25-38|doi=|url=|acessadoem=}}</ref>, [[processamento de linguagem natural]], [[Motor de busca|motores de busca]], [[Diagnóstico|diagnósticos médicos]], [[bioinformática]], [[reconhecimento de fala]], [[reconhecimento de escrita]], [[visão computacional]] e locomoção de [[robô]]s. O aprendizado de máquinas é às vezes confundido com [[mineração de dados]]<ref>{{citar periódico|ultimo=Mannila|primeiro=Heikki|ano=1996|titulo=Data mining: machine learning, statistics, and databases|jornal=Int'l Conf. Scientific e Statistical Database Management. IEEE Computer Society|doi=|url=|acessadoem=}}</ref>, que é um sub-campo que foca mais em análise exploratória de dados e é conhecido como aprendizado não supervisionado<ref>{{citar periódico|ultimo=Friedman|primeiro=Jerome H.|ano=1998|titulo=Data Mining and Statistics: What's the connection?|jornal=Computing Science and Statistics 29 (1): 3–9|volume=|doi=|url=|acessadoem=}}</ref><ref>{{citar web|url=https://openimob.com/blog/index.php/2018/08/13/o-que-e-machine-learning/|titulo=O que é Machine Learning?|data=|acessodata=|publicado=|ultimo=|primeiro=}}</ref>. No campo da [[análise de dados]], o aprendizado de máquinas é um método usado para planejar modelos complexos e algoritmos que prestam-se para fazer predições- no uso comercial, isso é conhecido como análise preditiva. Esses modelos analíticos permitem que pesquisadores, cientistas de dados, engenheiros, e analistas possam "produzir decisões e resultados confiáveis e repetitíveis" e descobrir os "insights escondidos" através do aprendizado das relações e tendências históricas nos dados.<ref>{{citar web|url=http://www.sas.com/it_it/insights/analytics/machine-learning.html|titulo=Machine Learning: What it is and why it matters|data=|acessodata=10-10-2016|obra=|publicado=SAS The Power to Know|ultimo=|primeiro=|lingua=en}}</ref>

As contribuições para a fundação da aprendizagem automática (aprendizado de máquina) feitas pelos cientistas [[John Hopfield]] e [[Geoffrey Hinton]] foram distinguidas em 2024 com o [[Prémio Nobel de Física]]. O Comité Nobel destacou os cientistas por "descobertas fundamentais e invenções que permitem aprendizagem automática com [[redes neuronais]] artificiais”.<ref>{{citar web |url=https://www.nobelprize.org/prizes/physics/2024/press-release/ |título=The Nobel Prize in Physics 2024 - press release |autor=Comité Nobel |site=nobel.se |publicado=8-10-2024 |acessodata=8-10-2024 |língua=en |arquivourl= |arquivodata= |urlmorta=}}</ref><ref>{{citar web |url=https://www.publico.pt/2024/10/08/ciencia/noticia/bases-inteligencia-artificial-vencem-premio-nobel-fisica-2024-2106946 |título=As bases para a inteligência artificial vencem o Prémio Nobel da Física de 2024 |autor=publico.pt |data= |website= |publicado=8-10-2024 |acessodata=8-10-2024 |língua=pt |arquivourl= |arquivodata= |urlmorta=}}</ref>

== Resumo ==
Tom M. Mitchell forneceu uma definição mais formal amplamente citada: "Diz-se que um programa de computador aprende pela experiência ''E,'' com respeito a algum tipo de tarefa ''T'' e performance ''P'', se sua performance ''P'' nas tarefas em ''T'', na forma medida por ''P'', melhoram com a experiência ''E''."<ref>{{citar livro|titulo=Machine Learning|ultimo=M. Mitchell|primeiro=Tom|editora=McGraw Hill|ano=1997|isbn=0-07-042807-7|local=|paginas=2|acessodata=}}</ref> Esta definição das tarefas envolvidas no aprendizado de máquina é dada de forma fundamentalmente operacional, ao invés de cognitiva, seguindo a proposta de [[Alan Turing]] em seu artigo "[[Computadores e inteligência]]", em que a pergunta "As máquinas são capazes de pensar?" seja substituída pela pergunta "As máquinas são capazes de fazer o que (nós como entidades pensantes) podemos fazer?"<ref>{{citar livro|url=http://eprints.soton.ac.uk/262954/|titulo=The Annotation Game: On Turing (1950) on Computing, Machinery, and Intelligence|ultimo=Harnad|primeiro=Steven|obra=in Epstein, Robert; Peters, Grace: Parsing the Turing Test: Philosophical and Methodological Issues in the Quest for the Thinking Computer|editora=Springer|ano=2008|paginas=23-66|lingua=en|acessodata=10-10-2016}}</ref>

=== Tipos de problemas e tarefas ===
As tarefas de aprendizado de máquina são tipicamente classificadas em três categorias amplas, de acordo com a natureza do "sinal" ou "feedback" de aprendizado disponível para um sistema de aprendizado. Essas categorias são:<ref name=":1">{{citar livro|url=https://drive.google.com/file/d/0ByctuzDL9lM9ZGFhNGQ1NjgtODAwOS00NDAyLWE3MDgtZWFjZTRhNDE4MGY5/view?hl=en_GB|titulo=Artificial Intelligence: A Modern Approach|ultimo=Russell|primeiro=Stuart|ultimo2=Norvig|primeiro2=Peter|editora=Prentice Hall|ano=2003|isbn=978-0137903955|edicao=2|local=|paginas=|lingua=en|acessodata=}}</ref>
* ''Aprendizado supervisionado'': São apresentadas ao computador exemplos de entradas e saídas desejadas, fornecidas por um "professor". O objetivo é aprender uma regra geral que [[Mapa (matemática)|mapeia]] as entradas para as saídas. 
* ''Aprendizado não supervisionado:'' Nenhum tipo de etiqueta é dado ao algoritmo de aprendizado, deixando-o sozinho para encontrar estrutura nas entradas fornecidas. O aprendizado não supervisionado pode ser um objetivo em si mesmo (descobrir novos padrões nos dados) ou um meio para atingir um fim. 
* ''Aprendizado por reforço'': Um programa de computador interage com um ambiente dinâmico, em que o programa deve desempenhar determinado objetivo (por exemplo, dirigir um veículo). É fornecido, ao programa, feedback quanto a premiações e punições, na medida em que é navegado o espaço do problema. Outro exemplo de aprendizado por reforço é aprender a jogar um determinado jogo apenas jogando contra um oponente. 
Entre o aprendizado supervisionado e o não supervisionado, está o aprendizado semi-supervisionado, em que o professor fornece um sinal de treinamento incompleto: um conjunto de dados de treinamento com algumas (muitas vezes várias) das saídas desejadas ausentes. A transdução é um caso especial deste princípio, em que o conjunto inteiro das instâncias do problema é conhecido no momento do aprendizado, mas com parte dos objetivos ausente.

Entre outras categorias de problemas de aprendizado de máquina, o meta-aprendizado aprende seu próprio viés indutivo com base em experiência prévias. A [[robótica epigenética]], elaborada para o aprendizado de robôs, gera suas próprias sequências de situações de aprendizado (também chamadas de 'currículo'), para adquirir cumulativamente repertórios de novas habilidades, através de uma auto-exploração autônoma e da interação social com professores humanos. Faz uso de técnicas como aprendizado ativo, maturação, sinergias motoras e imitação.

Outra categorização de tarefas de aprendizado de máquina surge quando se considera a saída desejada em um sistema de aprendizado de máquina:
* Em classificação, entradas são divididas em duas ou mais classes, e o aprendiz deve produzir um modelo que vincula entradas não vistas a uma ou mais dessas classes (classificação multi-etiquetada). Isso é tipicamente abordado de forma supervisionada. A filtragem de spam é um exemplo de classificação, em que as entradas são as mensagens de emails (ou outros) e as classes são "spam" ou "não spam".
* Em [[Regressão (estatística)|regressão]], também um problema supervisionado, as saídas são contínuas, em vez de discretas.
* Em [[clustering]], um conjunto de entradas é dividido em grupos. De maneira diferente da classificação, os grupos não são conhecidos previamente, tornando o clustering uma tarefa tipicamente não supervisionada<ref>{{Citar web |url=https://teachablemachine.withgoogle.com/ |titulo=Teachable Machine |acessodata=2021-05-07 |website=teachablemachine.withgoogle.com}}</ref>. 
* A [[wikipedia:Density_estimation|estimativa de densidades]] encontra a distribuição de entradas em algum espaço. 
* A redução dimensional simplifica as entradas ao mapeá-las para um espaço de menor dimensão. A modelagem de tópicos é um problema relacionado, em que é fornecida ao programa uma lista de documentos em [[Língua natural|linguagem natural]], solicitando que encontre documentos tratando de tópicos similares.

== História e relação com outros campos ==
Como um esforço científico, o aprendizado de máquina cresceu a partir da busca pela inteligência artificial. Ainda nos princípios da IA como disciplina acadêmica, alguns pesquisadores já se interessavam em fazer máquinas aprenderem a partir de dados. Eles tentaram abordar o problema desde vários métodos simbólicos, assim como com o que foi então nomeado de "[[rede neural artificial]]"; estes eram majoritariamente [[perceptron]]s e outros modelos que mais tardes foram entendidos como reinvenções de [[Modelo linear generalizado|modelos linear generalizados]] de estatística. A [[lógica probabilística]] também foi usada, especialmente em diagnósticos médicos automatizados.<ref name=":1" /><sup>:488</sup>

No entanto, uma crescente ênfase na abordagem lógica, baseada em conhecimento, causou uma brecha entre a IA e o aprendizado de máquina. Sistemas probabilísticos eram atormentados por problemas teoréticos e práticos de aquisição e representação de dados.<ref name=":1" /><sup>:488</sup> Em 1980, [[Sistema especialista|sistemas especialistas]] haviam dominado a IA, e a estatística estava fora de uso.<ref name=":2">{{citar periódico|ultimo=Langley|primeiro=Pat|ano=2011|titulo=The changing science of machine learning|jornal=Machine Learning|volume=82|numero=3|paginas=275–279|doi=10.1007/s10994-011-5242-y|url=http://link.springer.com/article/10.1007%2Fs10994-011-5242-y|acessadoem=10-10-2016|idioma=Inglês}}</ref> Trabalhos em aprendizado baseado em conhecimento/simbólico continuaram com a IA, levando até a programação lógica indutiva, mas agora as pesquisas mais voltadas para a estatística estavam fora do campo da IA, em [[reconhecimento de padrões]] e [[recuperação de informação]].<ref name=":1" /><sup>:708–710; 755</sup>  Pesquisas em redes neuronais haviam sido abandonadas pela IA e ciência computacional em torno do mesmo período. Essa linha, também, foi continuada forma dos campos da IA e da ciência da computação, como "conexionismos", por pesquisadores de outras disciplinas incluindo [[John Hopfield|Hopfield]], Rumelhart e Hinton. Seu sucesso principal veio em meados da década de 1980 com a reinvenção da propagação para trás.<ref name=":1" /><sup>:25</sup>

O aprendizado de máquina, reorganizado como um campo separado, começou a florescer na década de 1990. O campo mudou seu objetivo de alcançar a inteligência artificial para abordar problemas solucionáveis de natureza prática. Ele abandonou o foco em abordagens simbólicas que havia herdado da IA para métodos e modelos emprestados da estatística e da teoria da probabilidade.<ref name=":2" /> Ele também se beneficiou do crescente número de informação digitalizada disponível e a possibilidade de distribuir ela via [[internet]].

O aprendizado de máquina e a mineração de dados com freqüência fazem uso dos mesmos métodos e se sobrepõe significativamente, mas enquanto o aprendizado de máquina foca em fazer previsões, baseado em propriedades ''conhecidas'' aprendidas pelo dados de treinamento, a [[mineração de dados]] foca em descobrir as propriedades (previamente) ''desconhecidas'' nos dados (este é o passo dado na análise de [[extração de conhecimento]] na base de dados). A mineração de dados usa muitas métodos do aprendizado de máquina, mas com objetivos diferentes; por outro lado, o aprendizado de máquina também faz uso de métodos da mineração de dados como "aprendizado não supervisionado" ou como um passo de processamento para melhorar a precisão do aprendiz. Muita da confusão entre essas duas comunidades de pesquisa (que com freqüência tem conferências e periódicos separados, ECML PKDD sendo a grande exceção) vem da suposição básica com que eles trabalham: em aprendizado de máquina, a performance é normalmente avaliada com respeito a habilidade de reproduzir conhecimento ''conhecido'', enquanto que com a extração de conhecimento e mineração de dados (KDD) a tarefa chave é o descobrimento de conhecimento previamente ''desconhecido''. Avaliado com respeito ao conhecimento conhecido, um método uniforme (não supervisionado) será facilmente superado por outros métodos supervisionados, enquanto que em uma tarefa KDD típica, métodos supervisionados não podem ser usados devido a não disponibilidade de dados de treinamento.

O aprendizado de máquina também tem laços íntimos com a otimização: muitos dos problemas de aprendizado são formulados como minimização de algumas funções de perda em um conjunto exemplo de treinamentos. Funções de perda expressam a discrepância entre as previsões do modelo sendo treinado e as verdadeiras instâncias do problema (por exemplo, em classificação, o objetivo é designar etiquetas para instâncias, e modelos são treinados para predizer corretamente as etiquetas previamente designadas de um conjunto exemplo). A diferença entre os dois campos surge do objetivo da generalização: enquanto que o algoritmo de otimização pode minimizar a perda em um conjunto de treinamento, o aprendizado de máquina está preocupado com a minimização da perda de amostras não vistas.<ref>{{citar livro|titulo=Improving First and Second-Order Methods by Modeling Uncertainty  In Sra, Suvrit; Nowozin, Sebastian; Wright, Stephen J. Optimization for Machine Learning|ultimo=Le Roux|primeiro=Nicolas|ultimo2=Bengio|primeiro2=Yoshua|ultimo3=Fitzgibbon|primeiro3=Andrew|editora=MIT Press|ano=2012|local=|paginas=404|lingua=en|acessodata=}}</ref>

=== Relação com estatística ===
O aprendizado de máquina e a [[estatística]] são campos intimamente relacionados. De acordo com Michael I. Jordan, as ideias do aprendizado de máquina, dos princípios metodológicos às ferramentas teóricas, tem uma longa pré-história na estatística.<ref name=":3">{{citar web|url=https://www.reddit.com/r/MachineLearning/comments/2fxi6v/ama_michael_i_jordan/ckelmtt?context=3|titulo=Statistics and machine learning|data=09-10-2014|acessodata=11-10-2016|obra=|publicado=Reddit|ultimo=I. Jordan|primeiro=Michael|lingua=en}}</ref> Ele também sugeriu o termo [[ciência de dados]] como um substituto para chamar o campo como um todo.<ref name=":3" />

[[Leo Breiman]] distinguiu dois paradigmas da modelagem estatística: modelo de dados e modelo algorítmico,<ref>{{citar periódico|ultimo=Breiman|primeiro=Leo|ano=2001|titulo=Statistical Modeling: The Two Cultures (with comments and a rejoinder by the author)|jornal=Statistical Science|volume=16|numero=3|paginas=199-231|editora=The Institute of Mathematical Statistics|doi=|url=http://projecteuclid.org/euclid.ss/1009213726|acessadoem=|lingua=en}}</ref> onde "modelo algorítmico" significa mais ou menos os algoritmos do aprendizado de máquina como a Floresta aleatória.<ref>{{citar web|url=http://www.rizbicki.ufscar.br/sml/|titulo=Machine Learning sob a ótica estatística|data=2018|acessodata=23/08/2018|publicado=|ultimo=Izbicki, Santos|primeiro=}}</ref>

Alguns estatísticos tem adotado métodos do aprendizado de máquinas, levando ao campo combinado que eles chamam de ''aprendizado estatístico''.<ref>{{citar livro|url=http://www-bcf.usc.edu/~gareth/ISL/|titulo=An Introduction to Statistical Learning|ultimo=Gareth|primeiro=James|ultimo2=Witten|primeiro2=Daniela|ultimo3=Hastie|primeiro3=Trevor|ultimo4=Tibshirani|primeiro4=Robert|editora=Springer|ano=2013|local=|paginas=7|lingua=en|acessodata=}}</ref>

== Teoria ==
{{AP|Teoria da aprendizagem computacional}}

Um dos objetivos centrais de um aprendiz é generalizar a partir de suas experiências.<ref>{{citar livro|titulo=Pattern Recognition and Machine Learning|ultimo=Bishop|primeiro=Christopher|editora=Springer|ano=2006|isbn=0-387-31073-8|local=|paginas=|lingua=en|acessodata=}}</ref><ref>{{citar livro|titulo=Foundations of Machine Learning|ultimo=Mehryar|primeiro=Mohri|ultimo2=Rostamizadeh|primeiro2=Afshin|ultimo3=Talwalkar|primeiro3=Ameet|editora=MIT Press|ano=2012|isbn=978-0-262-01825-8|local=|paginas=|lingua=en|acessodata=}}</ref> Generalização neste contexto é a habilidade de uma máquina aprendiz de desempenhar com precisão em novos, não vistos, exemplos/tarefas depois de ter experimentado um conjunto de dados de aprendizado. Os exemplos de treinamento vem de algumas, geralmente desconhecidas, distribuições de probabilidade (consideradas representativas do espaço de ocorrência) e o aprendiz tem de construir um modelo geral sobre este espaço que o permita produzir previsões o suficientemente precisas em novos casos.

A análise computacional de algoritmos de aprendizado de máquina e sua performance é um ramo da [[ciência da computação teórica]] conhecida como [[teoria da aprendizagem computacional|teoria do aprendizado computacional]]. Porque os conjuntos de treinamento são finitos e o futuro é incerto, a teoria de aprendizado normalmente não guarda garantias para a performance dos algoritmos. Em vez disso,previsões probabilísticas para a performance são bastante comuns. O trade-off entre variância e viés é uma forma de qualificar o erro de generalização.

Para uma melhor performance no contexto de generalização, a complexidade da hipótese deveria combinar com a complexidade da função subjacente aos dados. Se a hipótese é menos complexa que a função, então o modelo sub-ajustou (''underfitting'') os dados. Se a complexidade do modelo é aumentada em resposta, então o erro de treinamento diminui. Mas se a hipótese é muito complexa, então o modelo foi [[Sobreajuste|sobreajustado]] (''overfitting''), e a generalização será mais pobre.<ref>{{citar livro|url=https://books.google.com/books?id=NP5bBAAAQBAJ&printsec=frontcover&dq=ethem+alpaydin&hl=tr&sa=X&redir_esc=y#v=onepage&q=ethem%20alpaydin&f=false|titulo=Introduction to Machine Learning|ultimo=Alpaydin|primeiro=Ethem|editora=MIT Press|ano=2010|local=|paginas=|lingua=en|acessodata=}}</ref>

Em adição aos limites da performance, teóricos do aprendizado computacional estudam a complexidade do tempo e a viabilidade do aprendizado. Na teoria do aprendizado computacional, uma computação é considerada viável se puder ser feita em [[Complexidade de Tempo|tempo polinomial]].  Há dois tipos de resultados de complexidade temporal. Resultados positivos mostram que uma certa classe de funções pode ser aprendida em tempo polinomial. Resultados negativos mostram que certas classes não podem ser aprendidas em tempo polinomial.

== Abordagens ==

=== Aprendizado/aprendizagem baseado em árvores de decisão ===
Aprendizado baseado em árvores de decisão usa a árvore de decisão como um modelo de previsão, o qual mapeia as observações sobre um item às conclusões sobre o valor do objetivo desse item.

=== Aprendizado/aprendizagem por regras de associação ===
{{AP|Regras de associação}}

Aprendizado por regras de associação é um método para descobrir relações interessantes entre variáveis em base de dados grandes.

=== Rede neural artificial ===
{{AP|Rede neural artificial}}

Um algoritmo de aprendizado de rede neural artificial (aprendizagem de rede neuronal artificial), normalmente chamado de "rede neural" ou "rede neuronal" (RN), é um algoritmo do tipo "machine learning" que é inspirado na estrutura e aspectos funcionais das [[redes neurais biológicas]].  Computações são estruturadas em termos de um grupo interconectado de [[Neurônio artificial|neurônios artificiais]], processando informação usando uma abordagem de conexionismo na [[computação]]. Redes neuronais modernas são ferramentas de [[modelagem de dados]] [[Estatística|estatísticos]] [[Sistema dinâmico não linear|não lineares]]. Normalmente eles são usados para modelar relações complexas entre entradas e saídas, para encontrar padrões nos dados, ou para capturar a estrutura estatística em uma [[distribuição de probabilidade conjunta]] desconhecida entre variáveis observáveis.

=== Aprendizado profundo (aprendizagem profunda) ===
{{AP|Deep Learning}}

Os preços mais baixos do hardware e o desenvolvimento de [[Unidade de processamento gráfico|GPUs]] para uso pessoal nos últimos anos contribuiu para o desenvolvimento do conceito de [[Deep Learning|aprendizado profundo]], que consiste em múltiplas camadas escondidas em uma rede neural artificial. Esta abordagem tenta modelar a forma com que o cérebro humano processa luz e som na visão e escuta. Alguns aplicações úteis do aprendizado profundo são [[visão computacional]] e [[reconhecimento de fala]].<ref>{{citar periódico|ultimo=Honglak Lee, Roger Grosse, Rajesh Ranganath, Andrew Y. Ng.|primeiro=|ano=2009|titulo=Convolutional Deep Belief Networks for Scalable Unsupervised Learning of Hierarchical Representations|jornal=|local=Proceedings of the 26th Annual International Conference on Machine Learning|doi=|url=http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.149.802&rep=rep1&type=pdf|acessadoem=|lingua=en}}</ref>

=== Lógica de programação indutiva ===
Lógica de programação indutiva (LPI) é uma abordagem que regra o aprendizado fazendo uso de programação lógica como uma representação uniforme para exemplos de inputs, conhecimento de pano de fundo, e hipóteses. Dada uma codificação do pano de fundo conhecido do conhecimento e um conjunto de exemplos representados como uma base de dados lógica de fatos, um sistema LPI derivará uma lógica hipotética que [[Consequência lógica|envolve]] todos os exemplos positivos e não negativos. A programação indutiva é um campo relacionado que considera qualquer tipo de linguagem de programação para representar hipóteses (e não apenas programações lógicas), tais como as [[Programação funcional|programações funcionais]].

=== Máquinas de vetores de suporte ===
{{AP|Máquina de vetores de suporte}}

Máquinas de vetores de suporte (MVSs) são um conjunto relacionado de métodos de aprendizado supervisionado usados para classificação e [[Regressão (estatística)|regressão]]. Dado um conjunto de exemplos de treinamento, cada um marcado como pertencente de uma ou duas categorias, um algoritmo de treino SVM constrói um modelo que prediz se um novo exemplo cai dentro de uma categoria ou outra.

=== Clustering ===
{{AP|Clustering}}

Análise de clusters é a atribuição de um conjunto de observações à subconjuntos (chamados clusters) de forma que as observações dentro de um mesmo cluster são similares de acordo com algum critério ou critérios pré-designados, enquanto que observações feitas em clusters diferentes não são similares. Diferentes técnicas de clustering fazem diferentes suposições sobre a estrutura dos dados, freqüentemente definida por algumas ''métricas de similaridade'' e avaliados, por exemplo, por ''compacidade interna'' (similaridade entre membros de um mesmo cluster) e ''separação'' entre clusters diferentes. Outros métodos são baseado em ''estimações de densidade'' e ''gráficos de conectividade''. Clustering é um método de aprendizado não supervisionado e uma técnica comum em análise de dados estatísticos.

=== Redes Bayesianas ===
{{AP|Rede bayesiana}}

Uma rede bayesiana, rede de opinião ou um modelo gráfico acíclico dirigido é um modelo gráfico probabilístico que representa um conjunto de [[Variável aleatória|variáveis aleatórias]] e suas independências condicionais via um [[Grafos acíclicos dirigidos|grafo acíclico dirigido]] (GAD). Por exemplo, uma rede bayesiana poderia representar as relações probabilísticas entre doenças e sintomas. Dado um sintoma, a rede pode ser usada para computar as probabilidades da presença de várias doenças. Existem algoritmos eficientes que desempenham [[inferência]] e aprendizado.

=== Aprendizado por reforço ===
O aprendizado por reforço se preocupa com o como um ''agente'' deve ''agir'' em um ''ambiente'' de forma que maximize alguma noção de ''recompensa'' a longo tempo. Os algoritmos de aprendizado por reforço tentam encontrar a ''política'' que mapeia os estados do mundo às ações que o agente deve ter nesses estados. Aprendizado por reforço se distingue do problema do aprendizado supervisionado no sentindo em que pares de input/output corretos nunca são apresentados, nem as ações sub-ótimas são explicitamente corrigidas.

=== Aprendizado por representação ===
Vários algoritmos de aprendizado, a maioria algoritmos de aprendizado não supervisionado, tem como objetivo descobrir melhores representações dos inputs que são dados durante o treinamento. Exemplos clássicos incluem [[análise de componentes principais]] e [[Clustering|análise de clusters]]. Os algoritmos de aprendizado por representação com freqüência tentam preservar a informação e seu input mas transformando-a de forma que a torne útil, frequentemente como um passo pré-processamento antes de desempenhar classificações ou previsões, permitindo a reconstrução dos inputs vindos de dados geradores de distribuição desconhecidos, enquanto não sendo necessariamente fiel à configurações que são implausíveis sob essa distribuição.

Algoritmos de aprendizado múltiplo tentam fazer isso sob a restrição de que a representação aprendida é de baixa dimensão. Algoritmos de código esparso tentam fazer isso sob a restrição de que a representação aprendida é espersa (tem muitos zeros). O algoritmo de aprendizado em subespaço multilinear tem como objetivo aprender representações de baixa dimensão diretamente das representações de [[tensor]]es para dados multidimensionais, sem os transformar em vetores de alta dimensão.<ref>{{citar periódico|ultimo=Lu|primeiro=Haiping|coautores=Plataniotis, K.N.; Venetsanopoulos, A.N.|ano=2011|titulo=A Survey of Multilinear Subspace Learning for Tensor Data|jornal=Pattern Recognition|volume=44|numero=7|paginas=1540–1551|doi=10.1016/j.patcog.2011.01.004|url=http://www.dsp.utoronto.ca/~haiping/Publication/SurveyMSL_PR2011.pdf|acessadoem=17-10-2016|lingua=en}}</ref> Algoritmos de aprendizado profundo descobrem múltiplos níveis de representação, ou uma hierarquia de características, com um nível mais alto, características mais abstratas definidas em termos de (ou geradas a partir de) características de nível mais baixo. Tem sido argumentado que uma máquina inteligente é aquela que aprende uma representação que desembaraça os fatores subjacentes de variação que explicam os dados observados.<ref>{{citar livro|url=https://books.google.com.br/books?id=cq5ewg7FniMC&pg=PA3&redir_esc=y#v=onepage&q&f=false|titulo=Learning Deep Architectures for AI|ultimo=Bengio|primeiro=Yoshua|editora=Now Publishers Inc|ano=2009|isbn=978-1-60198-294-0|local=|paginas=1-3|acessodata=}}</ref><nowiki/>

=== Aprendizado por similaridade e métrica ===
Neste problema, se dá a máquina aprendiz pares de exemplos que são considerados similares e pares de objetos menos similares. Então ela precisa aprender uma função de similaridade (ou uma função de distancia métrica) que possa predizer se novos objetos são similares. Isso é as vezes usado em [[Sistema de recomendação|sistemas de recomendação]].

=== Aprendizado por dicionário esparso ===
Neste método, um dado é representado como uma combinação de ligar funções bases, e os coeficientes são assumidos como esparsos. Deixe ''x'' ser uma dado ''d''-dimensional, ''D'' ser um ''d'' por ''n'' matrizes, onde cada coluna de ''D'' representa uma função base. ''r'' é o coeficiente para representar ''x'' usando ''D''. Matematicamente, aprendizado por dicionário esparso significa resolver  <math>x \approx D r</math>  onde ''r'' é esparso. Falando genericamente, se assume que ''n'' é maior que ''d'' para permitir a liberdade para uma representação esparsa.

Aprender um dicionário junto com representações esparsas é [[fortemente NP-completo]] e também difícil de resolver aproximadamente.<ref>{{citar periódico|ultimo=Tillmann|primeiro=Andreas M.|ano=2015|titulo=On the Computational Intractability of Exact and Approximate Dictionary Learning|jornal=IEEE Signal Processing Letters|volume=22|numero=1|paginas=45-49|doi=|url=|acessadoem=}}</ref> Um método heurístico popular para aprendizado por dicionário esparso é o K-SVD.

Aprendizado por dicionário esparso tem sido aplicado a vários contextos. Em classificação, o problema é determinar a quais classes um dado previamente não visto pertence. Suponha que um dicionário para cada classe já tenha sido construído. Então um novo dado é associado com a classe de forma que esteja o melhor esparcialmente representado pelo dicionário correspondente. Aprendizado por dicionário esparso também tem sido aplicado a suavização de imagem. A ideia chave é que um pedaço de imagem limpa pode ser representado esparcialmente por um dicionário de imagem, mas o ruído não.<ref>{{citar periódico|ultimo=Aharon|primeiro=Michael|coautores=M. Elad; A. Bruckstein|ano=2006|titulo=K-SVD: An Algorithm for Designing Overcomplete Dictionaries for Sparse Representation|jornal=IEEE Transactions on Signal Processing|volume=54|numero=11|paginas=4311-4322|doi=|url=|acessadoem=}}</ref>

=== Detecção de anomalias ===

Em [[mineração de dados]], a '''[[detecção de anomalias]]''' (também '''detecção de [[outliers]]''' <ref name="mineracao0">{{Citation|last=Zimek|first1=Arthur|title=Outlier Detection|date=2017|journal=Encyclopedia of Database Systems|pages=1–5|publisher=Springer New York|doi=10.1007/978-1-4899-7993-3_80719-1|isbn=9781489979933|last2=Schubert|first2=Erich}}</ref> ) é a identificação de itens, eventos ou observações raros que levantam suspeitas por serem significativamente diferentes da maioria dos dados. <ref name=":0" /> Normalmente, os itens anômalos se referem a algum tipo de problema, como [[Bank fraud|fraude bancária]], defeito estrutural, problemas médicos ou erros em um texto. Anomalias são também referidas como outliers, ruído, desvios e exceções. <ref>{{Citar periódico|titulo=A Survey of Outlier Detection Methodologies|url=http://eprints.whiterose.ac.uk/767/1/hodgevj4.pdf|jornal=Artificial Intelligence Review|volume=22|citeseerx=10.1.1.318.4023|doi=10.1007/s10462-004-4304-y|pmc=|pmid=}}</ref> 

=== Algoritmos genéticos ===
{{AP|Algoritmo genético}}

Um algoritmo genético (AG) é uma [[Algoritmo de busca|busca]] [[Heurística (computação)|heurística]] que imita o processo de [[seleção natural]] e usa métodos com mutação e [[Recombinação (computação evolutiva)|recombinação]] para gerar novos genotipos na esperança de encontrar boas soluções para um dado problema. Em aprendizado de máquinas, algoritmos genéticos encontraram alguma utilidade em 1980 e 1990.<ref>{{citar periódico|ultimo=Goldberg|primeiro=David E|coautores=Holland, John H.|ano=1988|titulo=Genetic algorithms and machine learning|jornal=Machine Learning|volume=3|numero=2|paginas=95–99|doi=10.1007/bf00113892|url=|acessadoem=|lingua=en}}</ref><ref>{{citar livro|url=http://www1.maths.leeds.ac.uk/~charles/statlog/|titulo=Machine Learning, Neural and Statistical Classification|ultimo=Michie|primeiro=Donald|ultimo2=Spiegelhalter|primeiro2=David|ultimo3=C.C.|primeiro3=Taylor|editora=Ellis Horwood|ano=1994|local=|paginas=|lingua=en|acessodata=}}</ref>  Vice versa, técnicas do aprendizado de máquina tem sido usadas para melhorar a performance de algoritmos genéticos e evolutivos.<ref>{{citar periódico|ultimo=Zhang|primeiro=Jun|coautores=Zhan, Zhi-hui; Lin, Ying; Chen, Ni; Gong, Yue-jiao; Zhong, Jing-hui; Chung, Henry S.H.; Li, Yun; Shi, Yu-hui|ano=2011|titulo=Evolutionary Computation Meets Machine Learning: A Survey|jornal=Computational Intelligence Magazine|volume=6|numero=4|paginas=68-75|doi=10.1109/mci.2011.942584|url=http://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=6052374|acessadoem=|lingua=en}}</ref>

== Aplicações ==
Aplicações para o aprendizado de máquina incluem:

{{div col}}
* Websites adaptativos 
* [[Computação afetiva]]
* [[Computação quântica]]<ref>{{Citar web|titulo=Improving quantum computation with classical machine learning|url=https://www.techexplorist.com/improving-quantum-computation-classical-machine-learning/26856/|obra=Tech Explorist|data=2019-10-04|acessodata=2019-10-07|lingua=en-US}}</ref>
* [[Bioinformática]]
* [[Interface cérebro-computador]] 
* [[Quimioinformática]]
* Classificação de [[Sequência de DNA|sequências de DNA]]
* Anatomia computacional
* [[Visão computacional]], incluindo reconhecimento de objetos 
* Detecção de fraude de cartão de crédito 
* [[Jogo de estratégia|Jogos de estratégia]]
* [[Recuperação de informação]] 
* Detecção de [[fraude virtual]] 
* [[Marketing]]
* Percepção de máquina 
* Diagnósticos médico
* [[Economia]]
* [[Processamento de linguagem natural]]
* Entendimento de linguagem natural 
* [[Otimização|matemática]] e [[meta-heurística]]
* [[Publicidade online]]
* [[Sistema de recomendação]]
* Locomoção de robôs
* Mecanismos de búsca
* Análise de sentimento ou mineração de opinião
* Mineração de padrões sequenciais
* [[Engenharia de software]]
* [[Reconhecimento de fala]] e reconhecimento de escrita
* Análises no [[mercado de ações]] 
* Monitoramento estrutural da saúde
* Reconhecimento de padrões sintáticos 
{{div col end}}Em 2006, a companhia de filmes online [[Netflix]] fez a primeira competição "Netflix Prize" para encontrar um programa que melhor prediria as performances dos usuários e melhoraria a precisão do algoritmo de recomendação Cinematch existente em ao menos 10%. Um time composto por pesquisadores da AT&T Labs em colaboração com o time Big Chaos e Pragmatic Theory construíram um modelo conjunto para ganhar o grande prêmio em 2009 de 1 milhão de dólares. Logo após os prêmio ser concedido, a Netflix se deu conta que as avaliações dos usuários não eram as melhores indicações de seus padrões de filmes e séries vistos ("tudo é recomendação") e mudaram seu motor de recomendação.<ref>{{citar web|url=http://techblog.netflix.com/2012/04/netflix-recommendations-beyond-5-stars.html|titulo=The Netflix Tech Blog: Netflix Recommendations: Beyond the 5 stars (Part 1)|data=|acessodata=17-10-2016|obra=|publicado=|ultimo=|primeiro=}}</ref>

Em 2010 o Periódico do Wall Street escreveu sobre a firma de gestão de dinheiro Rebellion Research que usava o aprendizado de máquina para predizer os movimentos econômicos. O artigo descrevia a previsão da Rebellion Research sobre a crise financeira e a recuperação econômica.<ref>{{citar web|url=http://www.wsj.com/news/articles/SB10001424052748703834604575365310813948080|titulo=Artificial Intelligence' Gains Fans Among Investors - WSJ|data=|acessodata=17-10-2016|obra=|publicado=|ultimo=|primeiro=|lingua=en}}</ref>

Em 2014 foi relatado que um algoritmo de aprendizado de máquina foi aplicado em Historia da Arte para estudar as pinturas de arte e que ele pode ter revelado influencias entre artistas previamente não reconhecidas.<ref>{{citar web|url=https://medium.com/the-physics-arxiv-blog/when-a-machine-learning-algorithm-studied-fine-art-paintings-it-saw-things-art-historians-had-never-b8e4e7bf7d3e#.xsd2hk26i|titulo=When A Machine Learning Algorithm Studied Fine Art Paintings, It Saw Things Art Historians Had Never Noticed|data=|acessodata=17-10-2016|obra=|publicado=|ultimo=|primeiro=|lingua=en}}</ref>

Em 2015, o serviço de streaming de música [[Spotify]] criou a playlist chamada Descobertas da Semana, que funciona como uma curadoria digital. O algoritmo responsável por esta playlist utiliza técnicas de Filtragem Colaborativa, Processamento de Linguagem Natural e Processamento de Sinais de Áudio através de [[Rede neural convolucional|Redes Neurais Convolucionais]] para compor a playlist semanalmente.<ref>{{Citar web|url=https://medium.com/s/story/spotifys-discover-weekly-how-machine-learning-finds-your-new-music-19a41ab76efe|titulo=How Does Spotify Know You So Well? – Member Feature Stories|acessodata=2018-12-03|obra=Medium|ultimo=Ciocca|primeiro=Sophia}}</ref>

== Avaliação de modelos ==
Modelos de classificação de aprendizado de máquina podem ser validados por técnicas como [[validação cruzada]], onde os dados são divididos em conjuntos de teste e treinamento e medidas apropriadas como precisão são calculadas para ambos os conjuntos de dados e comparadas. Para além da precisão, sensibilidade (Avaliação Positiva Verdadeira) e especificidade (Avaliação Negativa Verdadeira) podem prover modos de modelos de avaliação. De forma similar, Avaliações Positivas Falsas assim como Avaliações Negativas Falsas poder ser computadas. Curvas Receptoras de Operação (CRO) em conjunto com a Área em baixo da CRO (AUC) oferecem ferramentas adicionais para a classificação de modelos de avaliação. Graus maiores de AUC estão associados a um modelo de melhor performance.<ref>{{citar periódico|ultimo=Catal|primeiro=Cagatay|ano=2012|titulo=Performance Evaluation Metrics for Software Fault Prediction Studies|jornal=Acta Polytechnica Hungarica|volume=9|numero=4|doi=|url=http://www.uni-obuda.hu/journal/Catal_36.pdf|acessadoem=|lingua=en}}</ref>

== Software ==
Software suites contendo uma variedade de algoritmos de aprendizado de máquina incluem os seguintes:

=== Software de fonte aberta e gratuita  ===
{{Div col||15em}}
* caret
* dlib
* ELKI
* Encog
*[[GNU Octave]] 
* H2O
* Mahout
* Mallet (software project)
* mlpy
* MLPACK 
* MOA (Massive Online Analysis)
* ND4J with Deeplearning4j
* NuPIC
* [[OpenAI]]
* [[OpenCV]]
* [[OpenNN]]
* Orange 
* [[R (linguagem de programação)|R]]
* [[scikit-learn]]
* scikit-image
* Shogun
* [[TensorFlow]]
* Torch
* Spark
* Yooreeka
* Weka 
{{Div col end}}

=== Software particular com edições de fonte aberta e gratuita  ===
{{Div col||15em}}
* KNIME
* RapidMiner
{{Div col end}}

=== Software proprietário ===
{{Div col||15em}}
* Amazon Machine Learning
* Angoss KnowledgeSTUDIO
* Ayasdi
* BigML
* Databricks
* Google APIs|Google Prediction API
* IBM SPSS Modeler
* KXEN Modeler
* LIONsolve
* [[Mathematica]]
* [[MATLAB]]
* Microsoft Azure Machine Learning
* [[Neural Designer]]
* NeuroSolutions
* Oracle Data Mining
* RCASE
* SAS Enterprise Miner
* Splunk
* [[STATISTICA]] Data Miner
{{Div col end}}Veja também esta lista de pacotes em muitas linguagens de programação: [https://github.com/josephmisiti/awesome-machine-learning#awesome-machine-learning- Awesome Machine Learning].

== Periódicos ==
* ''[[Journal of Machine Learning Research]]''
* ''Machine Learning''
* ''Neural Computation''
* ''International Journal of Machine Learning and Cybernetics''

== Conferências ==
* Conference on Neural Information Processing Systems
* International Conference on Machine Learning

== Ver também ==
* [[Aprendizagem profunda]]
* [[Aprendizado por transferência]]
* [[Inteligência artificial]]
* [[Lista de projetos de inteligência artificial]]
* [[Redes Neurais]]
* [[Clustering]]
* [[Bioinformática]]
* [[Visão computacional]]
* [[Mineração de dados]]
* [[Reconhecimento de padrões]]
* [[Máquina de Vetores de Suporte]] 
* [[Big data]] 
* [[Ciência cognitiva]]
* [[Inteligência computacional]] 
* [[Neurociência computacional]]

== Ligações externas ==
* {{Link|2=http://dcm.ffclrp.usp.br/~augusto/publications/2003-sistemas-inteligentes-cap4.pdf |3=Conceitos sobre Aprendizado de Maquina}}
* [https://www.coursera.org/course/ml Curso online no Coursera], ministrado por [http://www.andrewng.org Andrew Ng]. Utiliza [[GNU Octave]]. O curso é uma versão livre do curso da [[Stanford University]] ministrado por Ng, cujas aulas também estão [https://see.stanford.edu/Course/CS229 disponíveis gratuitamente].
*Aula sobre [http://professor.ufabc.edu.br/~ronaldo.prati/InteligenciaArtificial/reinforcement-learning.pdf Aprendizagem por Reforço], ministrada pelo professor Ronaldo C. Prati, Professor Adjunto da UFABC

== Referências ==
<references />

== Para mais leituras ==
* Brocardo ML, Traore I, Woungang I, Obaidat MS. "[http://onlinelibrary.wiley.com/doi/10.1002/dac.3259/full Authorship verification using deep belief network systems]". Int J Commun Syst. 2017. doi:10.1002/dac.3259
* Trevor Hasti, Robert Tibshirani e Jerome H. Friedman (2001). ''[https://web.archive.org/web/20091110212529/http://www-stat.stanford.edu/~tibs/ElemStatLearn/ The Elements of Statistical Learning]'', Springer. ISBN 0-387-95284-5.
* Pedro Domingos (September 2015), The Master Algorithm, Basic Books, ISBN 978-0-465-06570-7
* Mehryar Mohri, Afshin Rostamizadeh, Ameet Talwalkar (2012). ''[http://www.cs.nyu.edu/~mohri/mlbook/ Foundations of Machine Learning]'', The MIT Press. ISBN 978-0-262-01825-8.
* Ian H. Witten and Eibe Frank (2011). ''Data Mining: Practical machine learning tools and techniques'' Morgan Kaufmann, 664pp., ISBN 978-0-12-374856-0.
* David J. C. MacKay. ''[http://www.inference.phy.cam.ac.uk/mackay/itila/book.html Information Theory, Inference, and Learning Algorithms]'' Cambridge: Cambridge University Press, 2003. ISBN 0-521-64298-1
* Richard O. Duda, Peter E. Hart,  David G. Stork (2001) ''Pattern classification'' (2nd edition), Wiley, New York, ISBN 0-471-05669-3.
* Christopher Bishop  (1995). ''Neural Networks for Pattern Recognition'', Oxford University Press. ISBN 0-19-853864-2.
* [[Vladimir Vapnik]] (1998). ''Statistical Learning Theory''. Wiley-Interscience, ISBN 0-471-03003-1.
* Ray Solomonoff, ''An Inductive Inference Machine'', IRE Convention Record, Section on Information Theory, Part 2, pp., 56-62, 1957.
* Ray Solomonoff,  "[http://world.std.com/~rjs/indinf56.pdf An Inductive Inference Machine]" Um relato privado que circulou na  Dartmouth Summer Research Conference sobre IA em 1956. 
{{Processos estocásticos}}

[[Categoria:Aprendizagem de máquina]]
[[Categoria:Informática]]
[[Categoria:Tecnologia da informação]]
{{Portal3|Robotica|Tecnologias de informação}}
[[Categoria:Engenharia robótica]]