Auditoria de algoritmo

Já sabemos que os algoritmos são construidos, em muitos casos, baseados na experiência prévia. Por este motivo, muitas vezes estão incorporados nas linhas de código preconceitos e falhas, o que pode levar a um aumento da desigualdade e, até, uma ameaça a democracia. O que ocorreu com as eleições dos Estados Unidos e o Facebook é um alerta desses problemas.

Uma solução para corrigir isto é um processo de auditoria. Neste caso, as empresas abrem sua tecnologia para avaliação. O lado negativo é revelar segredos existentes nos algoritmos. Mesmo assim,

as empresas estão começando a empregar auditorias algorítmicas para ajudá-las a pensar nesses sistemas (...) A Deloitte desenvolveuuma prática para ajudar as empresas a gerenciar o risco algorítmico, e a Accenture também relata aconselhando clientes sobre o tópico.

O´Neill, autora de Weapons of Math Destruction e do site Mathbabe, criou uma matriz ética que ajuda as empresas a pensarem nos efeitos dos algoritmos. A matriz olha aspectos como transparência e justiça presente nos algoritmos.