Especialista alerta para ameaça dos algoritmos

BBC - 23/08/2011

Serviços inteligentes

Um especialista em algoritmos alertou para as consequências da influência cada vez maior dos sistemas de códigos operacionais em diversos aspectos da vida das pessoas.

Em uma palestra durante a conferência TED no mês de julho, na Escócia, o americano Kevin Slavin disse que "a matemática que os computadores usam para decidir as coisas" está se infiltrando em diferentes áreas as nossas vidas.

Slavin disse que os "serviços inteligentes" oferecidos por lojas de internet - que calculam livros e filmes nos quais o cliente pode estar interessado -, por sites como o Facebook e pelos mecanismos de busca como o Google comprovam que operações computacionais complexas e invisíveis controlam cada vez mais a relação das pessoas com o mundo eletrônico.

Como exemplos, ele citou um "robô-faxineiro" que mapeia a melhor maneira de realizar os afazeres domésticos e os algoritmos que estão gradualmente controlando os negócios em Wall Street e o mercado financeiro.

"Estamos escrevendo coisas que não podemos mais ler", alertou o especialista. "Nós criamos algo ilegível e perdemos a noção do que realmente está acontecendo no mundo que criamos", disse ele.

Livro milionário

De acordo com Slavin, o caso recente de erro nos algoritmos usados pela livraria online Amazon é um dos principais exemplos do caos que pode ser instalado quando um código se torna inteligente o suficiente para operar sem a intervenção humana.

No início do ano, o algoritmo que regula os preços da loja de livros pareceu entrar em guerra consigo mesmo.

Os valores dos produtos começaram a aumentar em competição uns com os outros e um dos livros, The Making of a Fly (A construção de uma mosca, em tradução livre) - um livro sobre a biologia molecular de uma mosca - chegou a custar US$ 23,6 milhões (R$ 37,7 milhões).

Slavin afirma que, na medida que os códigos matemáticos se tornam mais sofisticados, eles se infiltram até mesmo em nossas preferências e decidem que produtos culturais estarão disponíveis para nós.

Decidindo as vidas virtuais

A empresa britânica Epagogix está levando este conceito a sua conclusão lógica e usando algoritmos para prever o que faz com que um filme seja um sucesso de bilheteria.

O sistema usa uma série de medidas - o roteiro, a trama, os atores, as locações - e os cruza com as bilheterias de outros filmes similares para prever quanto dinheiro o novo produto irá ganhar.

De acordo com o diretor-executivo da empresa, Nick Meaney, o código "ajudou estúdios a tomarem decisões sobre fazer ou não fazer um filme".

No caso de um dos projetos - para o qual foi estipulado um custo de produção de 180 milhões de libras (R$ 473 bilhões) - o algoritmo estimou que o filme ganharia somente cerca de 30 milhões de libras nas bilheterias, o que significava que não valia a pena fazê-lo.

No entanto, Meaney diz que o papel dos algoritmos na indústria cinematográfica não é tão grande.

"Filmes são feitos por diversas razões e dizer que nós ditamos que filmes são feitos nos dá mais influência do que temos", disse.

Negócios automáticos

De acordo com Kevin Slavin, até 70% das transações de Wall Street hoje são conduzidas por algoritmos, no que é chamado de "caixa-preta" ou "algo-negócio".

Isso significa que, além de negociantes especializados, banqueiros e corretores agora empregam também milhares de matemáticos e físicos.

Mas Slavin diz que, mesmo com o auxílio de técnicos e especialistas, um algoritmo fora de controle foi o responsável pela chamada "quebra-relâmpago" do dia 6 de maio de 2010, em que uma queda de cinco minutos nas bolsas de valores causou um caos momentâneo.

Um negociador que agiu de má-fé foi considerado o culpado pela queda de 10% no índice Dow Jones mas, na realidade, a culpa era do programa de computador que ele estava usando.

O algoritmo vendeu 75 mil ações com um valor de 2,6 bilhões de libras em somente 20 minutos, fazendo com que outros sistemas de negociação rápida fizessem o mesmo.

A partir deste episódio, os reguladores foram forçados a introduzir mecanismos que interrompem as negociações se as máquinas começarem a se comportar de modo incorreto.

Para Slavin, na medida que os algoritmos expandem sua influência para além das máquinas, é chegada a hora de saber exatamente o que eles sabem e se ainda há tempo de domá-los.

Mais tópicos