Mês: Agosto 2016

Explicando overfitting com uma anedota

Uma anedota bem interessante foi sugerida por uma escritora do Quora chamada Divya Sharma:

O pequeno Bobby ama cookies. Sua mãe faz cookies de gotas de chocolate todos os domingos. Porém, o mundo não é o ideal e os cookies não possuem o mesmo sabor todo domingo. Alguns domingos eles estão mais saborosos, outros domingos eles não estão tão bons. Sendo o pequeno menino curioso que é, Bobby decide descobrir quando os cookies ficam mais saborosos e quando não ficam.

A primeira observação que ele faz é que o número de gotas de chocolate varia de cookie pra cookie e essa é praticamente a única coisa observável que varia entre os cookies.

Agora, Bobby começa a tomar notas todos os domingos.

Depois de sete domingos, as suas notas parecem com algo assim:

Domingo 1 – No. de Gotas de Chocolate: 7; Sabor: Ótimo
Domingo 2 – No. de Gotas de Chocolate: 4; Sabor: Bom
Domingo 3 – No. de Gotas de Chocolate: 2; Sabor: Ruim
Domingo 4 – No. de Gotas de Chocolate: 5; Sabor: Horrível
Domingo 5 – No. de Gotas de Chocolate: 3; Sabor: Mais ou menos
Domingo 6 – No. de Gotas de Chocolate: 6; Sabor: Horrível

Isso parece bem direto. Quanto maior o número de gotas de chocolates, mais saboroso o cookie, com exceção das anotações de domingo 4 e domingo 6, que contradizem esta hipótese. O que o pequeno Bobby não sabe é que sua mãe esqueceu de colocar açúcar nos cookies de domingo 4 e domingo 6.

Como Bobby é uma pequena criança inocente, ele não sabe que o mundo está longe do ideal e que coisas como aleatoriedade e ruído são parte integral dele. Ele também não sabe que há fatores que não são diretamente observáveis. Porém, eles afetam o resultado de nossos experimentos. Então, ele conclui que o cookies ficam mais gostosos na medida que o número de gotas de chocolate aumentam quando há menos que 5 gotas de chocolate e mais que 6, mas caem drasticamente quando o número de gotas de chocolate é 5 ou 6.

Ele levantou uma hipótese muito complexa, e, não vamos nos esquecer, incorreta, para explicar como o sabor dos cookies variam porque ele tentou explicar e justificar as anotações de cada um dos domingos. Isso é chamado sobreajuste. Tentar explicar/justificar o máximo de observações possíveis com uma hipótese extremamente complexa – e possivelmente incorreta.

Se ele tivesse escolhido tratar o domingo 4 e o domingo 6 como ruídos, a hipótese  dele teria sido mais simples e relativamente mais correta.

Traduzido de https://www.quora.com/What-is-an-intuitive-explanation-of-overfitting/answer/Divya-Sharma-2?srid=GcIk

Overfitting e Cross Validation

Um termo bem comum de se encontrar quando o assunto é modelagem é overfitting. É até bonito de se dizer. Overfitting ocorre quando o seu modelo se ajusta perfeitamente aos seus dados, ou seja, o modelo serve só para os dados da base que foi utilizada para a sua construção. O que ocorre é que nesse caso o modelo passa em diversos testes de precisão com o conjunto de dados utilizados, porém, não serve para predição. Em outras palavras, como alguns cientistas de dados costumam dizer, o seu modelo aprender os dados da base treino ao invés de aprender o todo e ser capaz de fazer previsões. A grosso modo, isso ocorre quando você possui uma alta complexidade e muitos parâmetros se comparado com a base de desenvolvimento. Nesse caso, o modelo serve somente para os dados utilizados no desenvolvimento e suas previsões serão fracas. Continuar a ler “Overfitting e Cross Validation”

Regressão a média e os feedbacks dos funcionários

Um fenômeno conhecido por muitos estatísticos, economistas e outros grupos de cientistas, e que deveria ser conhecido por todo mundo é a regressão à média. Nas palavras do Wikipedia “a regressão à média é o fenômeno que se apresenta quando uma variável extrema aparece na sua primeira medição, ela tenderá a ser mais próxima da média em sua segunda medição e, paradoxalmente, se é extrema na sua segunda medição, ela tenderá a ter sido mais próxima da média em sua primeira”.

Isso quer dizer que quando tivermos uma série de acontecimentos de um mesmo evento, embora os resultados variem ao longo do tempo, eles vão oscilar ao redor da média. Vamos pensar, por exemplo, em um trabalhador comum que exerce o trabalho da forma esperada em uma fábrica de sapatos. Ele não é o melhor trabalhador da fábrica, mas não é o pior. Dado que o normal é produzir 10 sapatos por dia, nós esperamos que ele produza 10 sapatos. Ou seja, se você tiver que adivinhar hoje como será o trabalho dele no dia seguinte, sem nenhuma informação adicional, é de se esperar que ele produza 10 sapatos. Você não chutaria que o trabalho dele seria muito bom nem muito ruim, afinal, a probabilidade desses eventos – “muito bom” ou “muito ruim” – ocorrerem é muito baixa. Se hoje ele produziu 15 sapatos, bem acima da sua média, isso não quer dizer que amanhã ele produzirá 15 sapatos novamente. Provavelmente a produção dele cairá e retornará para 10 sapatos.

Outro exemplo, citado no site explorable é o de medalhistas olímpicos que conquistam o ouro. Estes medalhistas tendem a ter uma queda na performance após os jogos. Do ponto de vista da regressão a média, o que ocorre é que estes medalhistas atingiram o seu pico de performance nos jogos olímpicos e, após isso, voltaram às suas atuações médias.

A regressão a média explica um fenômeno percebido por Daniel Kahneman, psicólogo ganhador do prêmio Nobel de economia em 2002. O psicólogo em uma de suas aulas relatou a alguns instrutores de voo que elogios seriam mais eficientes do que punição para o ensino. No entanto, foi questionado, pois o que os instrutores de voo observavam na prática era que um elogio era seguido de uma queda na qualidade e que a punição era seguida de uma melhora. Veja como isso é um exemplo prático de regressão à média. Vamos voltar ao nosso exemplo do trabalhador que produz 10 sapatos por dia. Se um dia ele produzir 15 sapatos, é provável que notem seu bom desempenho e ele seja elogiado. Porém, como já discutimos, no dia seguinte ele deve voltar a produzir 10 sapatos. Ou seja, o chefe dele vai observar um elogio seguido de uma queda de desempenho. O oposto também é verdade. Se um dia o trabalhador produzir 5 sapatos e receber uma punição, no dia seguinte ele voltará a produzir 10 sapatos não por conta da punição, e sim porque esse é o esperado independente dos fatores externos.

Para saber mais sobre o poder do acaso, leia O Andar do Bêbado