Por mais de uma década, jornalistas e pesquisadores têm escrito sobre os perigos de depender de algoritmos para tomar decisões pesadas: quem é preso , quem consegue um emprego, quem consegue um empréstimo - mesmo quem tem prioridade para vacinas COVID-19.
(...) A grande questão desde então: como resolvemos esse problema? Legisladores e pesquisadores têm defendido auditorias algorítmicas, que dissecariam e testariam algoritmos para ver como eles funcionam e se estão cumprindo seus objetivos declarados ou produzindo resultados tendenciosos. E há um campo crescente de firmas de auditoria privadas que pretendem fazer exatamente isso. Cada vez mais, as empresas estão recorrendo a essas empresas para revisar seus algoritmos, principalmente quando enfrentam críticas por resultados tendenciosos, mas não está claro se essas auditorias estão realmente tornando os algoritmos menos tendenciosos - ou se são simplesmente boas relações públicas.
É uma discussão importante. Uma das profissionais citadas no texto é Cathy O ' Neil, autora de Algoritmos de Destruição em Massa. (Ela também foi palestrante TED)
Nenhum comentário:
Postar um comentário