Take a photo of a barcode or cover
A review by oatila
Weapons of Math Destruction by Cathy O'Neil
4.0
Uma discussão muito boa e ponderada sobre o que acontece quando começamos a usar algoritmos para avaliar pessoas. A [a:Cathy O'Neil|6928121|Cathy O'Neil|https://s.gr-assets.com/assets/nophoto/user/u_50x66-632230dc9882b4352d753eedf9396530.png] passa por vários sistemas de avaliação automatizados e o tipo de viés que eles introduzem, quem fica de fora ou quem é mau avaliado. De sistemas de crédito a seguros, saúde, vagas de emprego e antecedentes criminais. Uma visão bastante importante do que está por vir com o dataísmo crescente (ver [b:Homo Deus: A Brief History of Tomorrow|31138556|Homo Deus A Brief History of Tomorrow|Yuval Noah Harari|https://images.gr-assets.com/books/1468760805s/31138556.jpg|45087110]).
Não que isso seja um problema novo. Preconceito, premissas erradas e mais uma série de falhas desfavorecem muita gente desde sempre. Mas agora que podemos automatizar essa avaliação, o que eram vários humanos errando em várias direções vira um algoritmo errando consistentemente da mesma forma. O que pode aumentar o estrago feito, mas também dá margem para um aprimoramento muito mais eficiente.
A mensagem mais importante do livro me parece ser que, já que o uso dos nossos dados para tudo é inevitável, pelo menos saber o que está sendo levado em conta quando somos avaliados ajuda muito a previnir erros com consequências graves.
Não que isso seja um problema novo. Preconceito, premissas erradas e mais uma série de falhas desfavorecem muita gente desde sempre. Mas agora que podemos automatizar essa avaliação, o que eram vários humanos errando em várias direções vira um algoritmo errando consistentemente da mesma forma. O que pode aumentar o estrago feito, mas também dá margem para um aprimoramento muito mais eficiente.
A mensagem mais importante do livro me parece ser que, já que o uso dos nossos dados para tudo é inevitável, pelo menos saber o que está sendo levado em conta quando somos avaliados ajuda muito a previnir erros com consequências graves.