Como surgiu o radicalismo

Como surgiu o radicalismo 

Algoritmos podem deixar pessoas encurraladas em um canto do espectro ideológico

Fernando Reinach*, O Estado de S.Paulo
12 de outubro de 2019

Stuart Russell é um dos principais cientistas da área de Inteligência Artificial (IA). Seu livro sobre o tema é usado na maior parte das universidades. Enquanto todos se preocupam com o risco de os sistemas de IA substituírem seres humanos, ele aponta um muito maior: perdermos o controle sobre esses sistemas. E discute um exemplo real, dos algoritmos de IA que estão causando polarização política.



Enquanto programas de computação clássicos são uma sequência de instruções que chegam a um resultado, sempre com o mesmo procedimento, sistemas modernos de IA são poderosos porque não seguem procedimentos rígidos. Você determina o objetivo e o computador descobre a melhor maneira de atingi-lo.



Imagine um robô programado de forma clássica. Você pede a ele que te traga uma cerveja. Ele estará programado para abrir a geladeira, pegar a cerveja e te trazer. Se não encontrar, vai provavelmente te avisar que não tem cerveja na geladeira. Um hipotético robô contendo sistema de IA sofisticado não está programado para ir à geladeira, mas para resolver o problema - no caso, te conseguir uma cerveja - de forma independente. Ele vai à geladeira e não encontra a cerveja. Então, descobre um local onde pode encontrá-la, o bar da esquina. De maneira independente, se dirige ao bar. Ele tomou a decisão usando o que descobriu sobre o funcionamento do mercado de cerveja.

Mas imagine que acontece algo inesperado: o cartão de crédito que levou é recusado. Há duas possibilidades. O sistema de IA é suficientemente sofisticado para entender que esse é um obstáculo intransponível e volta sem a cerveja ou, por não ter acesso a leis e códigos morais da sociedade, decide que a melhor solução é matar o dono do bar e levar a cerveja. Como nenhuma dessas ações estava previamente programada, o fabricante só vai descobrir a besteira quando a polícia bater à porta.

O exemplo parece estapafúrdio, mas Russell, em um debate em Londres no lançamento do seu livro, explicou o que aconteceu com sistemas de IA do Google (YouTube) e Facebook. É uma história real. Algoritmos de IA dessas empresas foram construídos para aumentar o número de vezes que o usuário clica em outro link após ler o anterior - as empresas ganham mais quanto maior o número de visualizações.

Os programadores imaginavam que o sistema de IA descobriria o que a pessoa gostava de ler e apresentaria mais exemplos desse assunto. Mas o que aconteceu na prática não foi o previsto. O sistema de IA descobriu que a melhor maneira de aumentar a probabilidade de você clicar no próximo filme (ou post) não é sugerir o que aparentemente você gosta, mas aos poucos modificar sua preferência de modo a focar sua preferência em um ou poucos assuntos. O sistema de IA chegou sozinho a essa descoberta e, à medida que ela funcionou, aumentando o número de cliques, o algoritmo passou a adotar e refinar essa estratégia.

No caso de assuntos de política, se uma pessoa é de centro, pode preferir clicar em algo mais à esquerda ou à direita de sua posição, o que diminuía a probabilidade de a pessoa clicar novamente. Mas, se o algoritmo aos poucos levá-la aos extremos (esquerda ou direita), ao longo do tempo ela acaba encurralada em um dos cantos do espectro ideológico e então a probabilidade de clicar em algo parecido aumenta.

Russell contou que esse efeito foi descoberto por seus alunos (são eles que trabalham nessas empresas), mas a armadilha já estava montada. Voltar atrás diminuiria o número de cliques. Marqueteiros políticos também descobriram isso e passaram a produzir conteúdos que auxiliavam o algoritmo a segregar as pessoas em extremos. Exemplos citados na palestra são Estados Unidos, Inglaterra e Brasil.

É uma história impressionante. Russell sugere que isso é o início da perda de controle sobre sistemas de IA. E está ocorrendo com sistemas relativamente simples. A preocupação é o que pode ocorrer quando se tornarem mais poderosos, superando a inteligência humana. Mas isso é só o começo do livro. A maior parte descreve formas de garantir que mesmo usando sistemas mais inteligentes não venhamos a perder o controle sobre as máquinas. Vale a pena ler.

MAIS INFORMAÇÕES: HUMAN COMPATIBLE. AI AND THE PROBLEM OF CONTROL. STUART RUSSELL ED. ALLEN LANE PRESS (2019)

Sogra deve pagar dívida de genro

Segundo notícia do Valor Econômico, o TJ-SP condenou uma sogra a pagar dívida do ex-marido da filha.

O aspecto importante da questão é que o TJ-SP reconheceu que a informação declarada no imposto de renda tem valor legal. O genro tinha incluído na declaração de imposto de renda que existia este empréstimo e que não estava quitado.

Como não foram apresentadas provas do pagamento, os desembargadores, sem encontrar outros bens do devedor [o genro], responsabilizaram a sogra diretamente pela dívida dele (...)

Na decisão, o magistrado considerou que a devedora reconheceu expressamente no outro processo de execução, a existência dos empréstimos e que, apesar de afirmar que já efetuou os pagamentos, não possui comprovantes.

Mercado de trabalho em setembro

Este blog acompanha, mensalmente, os dados oficiais do governo sobre emprego formal. Interessa a posição dos profissionais em contabilidade. Para isto, consideramos os contadores e auditores, os escriturários e os técnicos em contabilidade. Mensalmente as empresas encaminham para o governo, anteriormente para o antigo Ministério do Trabalho e agora para o Ministério da Economia, a informação dos empregados, que inclui salário, gênero, idade, tempo de emprego etc

No final da semana passada foi disponibilizado o dado de setembro de 2019. Pela informação divulgada e considerando somente os profissionais contábeis, foram admitidos, no Brasil, 9.761 novos empregados. No mesmo período, foram demitidos 9.559. A diferença corresponde a criação ou destruição de vagas. Em setembro foram criadas 202 vagas, que corresponde a uma inversão dos quatro meses anteriores, onde ocorreram uma “destruição” de vagas.

O valor acumulado, de janeiro de 2014 a setembro de 2019, mostra que foram destruídas 43.727 vagas, segundo os dados do Caged. Como é praxe, o salário dos demitidos foi superior ao dos admitidos. Em setembro, o salário médio dos demitidos foi de R$2854,01 e dos admitidos foi de R$2420,74, uma diferença de 18%. Aqueles que foram demitidos tinham, em média, um tempo de emprego de 35,5 meses. Os admitidos tinha uma idade média de 30,89 anos, enquanto os demitidos apresentavam uma idade média de 32,98 anos.

Em setembro, as contratações premiaram os homens (saldo de +207, versus um saldo de -5 para as mulheres), os trabalhadores com ensino superior, completo ou incompleto. Entre aqueles que só possuíam o ensino médio, o saldo foi negativo em 296. De janeiro de 2014 até setembro de 2019 o saldo para aqueles com menor ensino formal foi de -21.595. Ou seja, o problema de emprego no setor parece ter atingido em especial aqueles com menor grau de instrução. Veja que neste longo período de tempo, aqueles com ensino superior tiveram um saldo positivo de 3.028.

Os valores de setembro só não foram melhores pois a economia teve um bom desempenho. E isto tem ocorrido nos períodos anteriores. O gráfico abaixo mostra a série histórica da economia e do setor contábil.

Rir é o melhor remédio

Valor dos serviços grátis da internet

Eis um texto um pouco confuso em alguns termos, mas que apresenta alguns pontos interessantes:

Quando perguntam “qual o valor da internet?”, muitos pensam no custo de conexão e quanto pagam à operadora pelo acesso. O Federal Reserve, Banco Central americano, quer ir além: o que cada site custa [1] para você, especificamente? 

A questão surge por conta da dicotomia na relação entre internet e a economia. Enquanto a conexão banda larga se expande de forma exponencial, o crescimento econômico no mesmo período se mantém tímido.

Segundo o presidente do Federal Reserve, Jerome Powell, a questão está em como esse crescimento é contabilizado. O Produto Interno Bruto de um país é calculado pelo valor de serviços e produtos vendidos e comprados no lugar. Mas boa parte dos maiores produtos na internet, em especial redes sociais, são gratuitos e não dependem de uma transação cliente-provedor de um comércio normal [2].

Alguns estudos tentam quantificar o valor real do serviço de um site gratuito para seu consumidor. No MIT, Erik Brynjolfsson, Avinash Collis e Felix Jeggers estudaram o valor monetário de Facebook, YouTube e outros serviços.

Segundo a pesquisa, um usuário médio do Facebook precisaria de US$48 para abdicar do serviço por mês (US$ 576 por ano) [3]. O YouTube é mais valorizado, valendo US$1.173 por ano. Mas nada é mais valioso que ferramentas de pesquisa como o Google: US$17.530 a cada ano.

Na Europa, uma pesquisa menor foi conduzida. O WhatsApp, pouco usado nos Estados Unidos, foi destaque: 536 euros.

Redes sociais não fazem mal, desde que não substituam atividades mais saudáveis, diz estudo

“Ao longo do tempo, estamos gastando cada vez mais de nosso tempo interagindo na internet ou usando serviços nos nossos smartphones,” disse Brynjolfsson à CNBC. “Uma grande parcela de nossa economia está sendo ignorada pelo PIB.”

O estudo do cientista do MIT afirma que o PIB deveria ser medido pensando nos benefícios de um serviço e não necessariamente do valor de troca. “Queremos saber do benefício que você recebeu, e não o quanto você pagou,” disse Brynjolfsson.

Powell também citou um estudo publicado pela própria Federal Reserve. Usando velocidade de conexão e quantidade de dados transferidos, a pesquisa acredita que o PIB norte-americano seria 0,5% maior em relação à década passada se o valor das redes digitais [4] tivesse sido incluído.

“Boas decisões necessitam de bons dados,” Powell disse. “Mas os dados que temos não tão bons quanto gostaríamos.”

[1] Há uma confusão entre o custo, preço e valor. O termo mais adequado aqui seria valor.

[2] Esta frase é controversa. Quando o Facebook não cobra nada para que as pessoas usem a rede social, a empresa consegue obter receita de outra forma. Por exemplo, através da venda de informações. Assim, o valor está aparecendo em outra transação: a venda de informação do Facebook para um cliente.

[3] É uma forma criativa de medir valor. Há uma pesquisa anterior a esta, de Corrigan et al, "How much is social media worth? Estimating the value of Facebook by paying users to stop using it" que apareceu no PLOS One em julho de 2018.

[4] Aqui o termo é redes digitais, que não é a mesma coisa que redes sociais.

Rir é o melhor remédio

Socorro. Não consegui traduzir o que significa "aprovar à tangente", manchete do Jornal Econômico.

Dois conselhos

Meu irmão mais velho, Colas - que é professor de filosofia na França e, apesar disso, uma das pessoas mais práticas que já conheci (pelo menos na academia) - me deu dois conselhos quando perguntei como começar a carreira como acadêmico.

A primeira foi "escreva uma página todos os dias". Foi assim que ele escreveu sua dissertação. Ele marcava os dias de folga de um calendário com uma cruz, de modo que escrever duas páginas em um determinado dia lhe daria uma trégua no dia seguinte. Mas o sistema significava que ele escreveria em média 365 páginas em um ano e, portanto, uma dissertação em duas. (As dissertações de filosofia francesa são longas!) É claro que o princípio precisa de algum ajuste quando aplicado à economia, uma vez que a escrita em si não é tão importante quanto o trabalho analítico que a precede. Mas o princípio subjacente é essencial: progresso lento e constante. Escrever uma página por dia deixa tempo de sobra para preparação, pesquisa primária ou reflexão sobre o plano geral do livro. Fornece uma estrutura para reforçar o progresso contínuo. Não se cria uma agenda de pesquisa esperando infinitamente até que a Grande Idéia chegue, mas começando a trabalhar em um tópico, aprendendo mais sobre o tópico (e os vizinhos no processo) e conectando progressivamente os pontos.

A segunda coisa que Colas disse foi: “Escreva o livro (ou o artigo) que você gostaria de ler, mas não conseguiu encontrar.” Isso pode parecer bastante óbvio, mas sempre me surpreendo com o fato de muitos jovens pesquisadores fazerem isso. parecem não saber por que estão pesquisando um tópico específico ou, quando sabem, parecem tê-lo escolhido pelo motivo errado. Eles simplesmente encontraram um conjunto de dados e, em seguida, procuraram por uma pergunta; eles queriam experimentar alguma técnica específica e isso parecia ser um cenário apropriado para isso; ou descartaram todas as perguntas que pensavam em responder porque pareciam muito "pequenas". Em geral, essa é uma receita para, na melhor das hipóteses, uma vida muito chata e, na pior, um desastre. Você logo descobrirá (se ainda não o fez) que trabalhar em sua pesquisa é a recompensa por todas as outras coisas que você deve fazer na vida (...) E o que é melhor do que ler um bom artigo ao mesmo tempo em que está trabalhando nele?

Esther Duflo, 2011