Take a photo of a barcode or cover
A review by oatila
Outnumbered: From Facebook and Google to Fake News and Filter-Bubbles - The Algorithms That Control Our Lives by David Sumpter
5.0
Entre os melhores livros que li este ano. Sumpter escreveu este livro pós Weapons of Math Destruction, pós o escândalo da Cambridge Analytica e pós eleições do Trump. E faz uma análise bem crítica e atual (em 2018, pelo menos) do que algoritmos têm feito e do que empresas são realmente capazes.
Ele quebra a situação da Cambridge em dois pedaços, o que os donos dizem que eram capazes de fazer e o que podemos realmente fazer. E mostra que tem um exagero dos dois lados, do que prometem e realmente podiam fazer. E da preocupação que temos com este tipo de influência em especial, quando outros pontos são mais preocupantes.
Uma das discussões que mais gostei no livro é do antagonismo entre acurácia e viés/preconceito. Ele dá um exemplo que dominou a discussão de análises, um algoritmo para predição de reincidência de crimes que errava mais frequentemente dizendo que negros podiam voltar a cometer crimes, por ser calibrado para ser preciso. Para em seguida mostrar que, baseado nos dados disponíveis (maior reincidência entre negros), um algoritmo que não errasse dessa forma teria que discriminar entre negros e brancos na hora de fazer a avaliação. E seria menos preciso. Sumpter não deu uma resposta definitiva nem disse o que era o certo nessa questão, só mostrou que o cenário maior precisa ser levado em conta quando fazemos análises.
Outra discussão muito boa foi como alguns tipos de otimização podem criar desigualdades, mesmo sem má intenção por trás. O que cheguei a discutir no IGTV, inclusive. Por exemplo, se alguém otimizar uma propaganda de uma vaga de emprego no Facebook para atingir mais pessoas com um certo gosto (quem assiste Nerdologia, por exemplo), pode acabar apresentando essa propaganda predominantemente para homens. E se estiver otimizando para economizar impressões, isso inclusive pode ser reforçado. Mas a consequência não intencional é que mulheres nem terão a chance de tentar esse emprego porque não verão a vaga.
No fim, achei uma ótima mistura entre conhecimento do assunto e análises de alguém que não está financeiramente envolvido na performance desses programas. Vale para se atualizar sobre o que estamos passando.
Ele quebra a situação da Cambridge em dois pedaços, o que os donos dizem que eram capazes de fazer e o que podemos realmente fazer. E mostra que tem um exagero dos dois lados, do que prometem e realmente podiam fazer. E da preocupação que temos com este tipo de influência em especial, quando outros pontos são mais preocupantes.
Uma das discussões que mais gostei no livro é do antagonismo entre acurácia e viés/preconceito. Ele dá um exemplo que dominou a discussão de análises, um algoritmo para predição de reincidência de crimes que errava mais frequentemente dizendo que negros podiam voltar a cometer crimes, por ser calibrado para ser preciso. Para em seguida mostrar que, baseado nos dados disponíveis (maior reincidência entre negros), um algoritmo que não errasse dessa forma teria que discriminar entre negros e brancos na hora de fazer a avaliação. E seria menos preciso. Sumpter não deu uma resposta definitiva nem disse o que era o certo nessa questão, só mostrou que o cenário maior precisa ser levado em conta quando fazemos análises.
Outra discussão muito boa foi como alguns tipos de otimização podem criar desigualdades, mesmo sem má intenção por trás. O que cheguei a discutir no IGTV, inclusive. Por exemplo, se alguém otimizar uma propaganda de uma vaga de emprego no Facebook para atingir mais pessoas com um certo gosto (quem assiste Nerdologia, por exemplo), pode acabar apresentando essa propaganda predominantemente para homens. E se estiver otimizando para economizar impressões, isso inclusive pode ser reforçado. Mas a consequência não intencional é que mulheres nem terão a chance de tentar esse emprego porque não verão a vaga.
No fim, achei uma ótima mistura entre conhecimento do assunto e análises de alguém que não está financeiramente envolvido na performance desses programas. Vale para se atualizar sobre o que estamos passando.