O episódio gerou prejuízos à imagem da empresa americana, cuja tripulação queria que Dao cedesse seu lugar a um funcionário para que ele fosse ao destino do voo, Louisville, para render a equipe local. Mas quase nenhuma das críticas tratou de um elemento crucial do ocorrido: a necessidade de retirar o médico do voo foi decidida por uma máquina, mais especificamente por um programa de computador.

É exemplo clássico de como esses programas, conhecidos como algorítimos, estão tomando decisões que afetam nossas vidas, muitas vezes sem que a gente sequer saiba disso.

Especialistas já manifestaram sua preocupação com a falta de transparência no uso de sistemas de inteligência artificial nesta tomada de decisões. Mesmo assim, seu uso está se popularizando: um algorítmo já pode decidir se você será escolhido para uma entrevista de emprego ou se conseguirá um empréstimo, com quem você se relacionará e até mesmo quanto tempo de prisão um criminoso "merece".

Reunimos a seguir alguns exemplos de como sua vida já pode estar sendo afetada por algorítimos.

1. O computador decide se você fará ou não uma entrevista de emprego

Currículos são cada vez mais descartados sem sequer passar por mãos humanas. Isso porque as empresas estão empregando sistemas automatizados em seus processos seletivos, principalmente na análise de centenas de milhares de inscrições.

Nos Estados Unidos, estima-se que mais de 70% dos candidatos sejam eliminados antes de serem avaliados por pessoas. Para as companhias, isso economiza dinheiro e tempo, mas alguns questionam a neutralidade dos algoritmos.

Em um artigo na revista Harvard Business Review, Gideon Mann e Cathy O'Neil argumentam que esses programas não são desprovidos de preconceitos humanos, então, isso pode levar a decisões tendenciosas por parte da inteligência artificial.

2. Quer dinheiro emprestado? Seu perfil na rede social pode afetar isso

Historicamente, quando alguém pede dinheiro a uma instituição financeira, a resposta vai depender da análise das chances do empréstimo ser pago, com base na proporção entre a dívida e a renda desta pessoa e seu histórico de crédito.

Não é mais assim: agora, algoritmos reúnem e analisam dados de múltiplas fontes, que vão desde padrões de compra a buscas na internet e sua atividade em redes sociais.

O problema é que esse método usa informações coletadas sem o conhecimento ou colaboração de quem pede o dinheiro. Também há uma questão em torno da transparência do código do algoritmo e seu comportamento tendencioso.

3. Um algoritmo pode te ajudar a achar um amor, mas pode não ser quem você espera

Não é uma surpresa que sites de namoro usam algoritmos para identificar duas pessoas compatíveis. É um dos seus principais apelos para o público, na verdade.

Mas a forma como isso é feito não é muito clara, especialmente após o eHarmony, um dos principais deste mercado, ter revelado no ano passado que fez ajustes na preferências de seus clientes para aumentar suas chances de encontrar um par ideal, algo que pode incomodar quem perdeu tempo para respoder às 400 perguntas necessárias para se ter um perfil no site.

Mas até mesmo em alternativas como o aplicativo Tinder, em que as variáveis são bem menos complexas (geografia, idade e orientação sexual), as combinações não são tão simples assim.

Quem usa o serviço recebe uma nota secreta sobre o quanto essa pessoa é "desejável", calculada para "permitir melhores combinações", segundo o Tinder. A fórmula é mantida em segredo, mas os executivos da empresa por trás do aplicativo já indicaram que o número de vezes que o perfil de alguém é curtido ou rejeitado tem um papel crucial sobre isso.

4. Um programa pode determinar se você é viciado em drogas e se conseguirá contratar um plano de saúde

O mal uso de medicamentos e drogas é a principal causa de mortes acidentais nos Estados Unidos, e especialistas com frequência se referem a esse problema como uma epidemia.

Para lidar com isso, cientistas e autoridades estão se unindo em projetos baseados em dados. Recentemente, no Estado do Tennessee, nos Estados Unidos, a operadora de planos de saúde Blue Cross e a empresa de tecnologia Fuzzy Logix anunciaram a criação de um algoritmo para analisar nada menos do que 742 variáveis e, assim, avaliar o risco de um comportamento abusivo com medicamentos.

Isso levantou uma questão ética: os dados analisados incluem o histórico médico e até mesmo o endereço residencial. O argumento a favor desse tipo de intervenção é que isso pode salvar vidas e mitigar prejuízos ao sistema de saúde - viciados em opióides têm, por exemplo, 59% mais chances de serem usuários de alto custo.

O mercado de inteligência artificial em saúde deve crescer de US$ 670 milhões (R$ 2,13 bilhões) em 2016 para quase US$ 8 bilhões (R$ 25,4 bilhões) até 2022, segundo um estudo feito pela consultoria MarketsandMarkets, e essa previsão foi feita antes do anúncio de que a gigante do varejo Amazon entrará neste mercado.

Acredita-se que o uso de algoritmos e da inteligência artificial nesta área deve tornar a tomada de decisões mais eficiente e reduzir o número de erros humanos.

5. Eles determinam até se um filme será feito

Essa não é a primeira vez que alguém dirá que Hollywood tem uma fórmula para produzir sucessos. Mas é diferente do processo baseado na experiência e instinto de produtores ao selecionar um roteiro ou elenco.

Algoritmos são usados para analisar não só as chances de um filme ir bem nas bilheterias, mas também quanto dinheiro ele fará. Esse serviço é oferecido por várias empresas, e Paramount, Universal e Warner Bros, alguns dos principais estúdios de Hollywood, contratam essas consultorias.

Além de comparar um novo filme com uma base de dados de produções passadas, esses serviços afirmam que podem detectar o impacto de mudanças na história e até mesmo entre os atores.

6. Algoritmos influenciam em quem você vota e quem será presidente

Em uma época em que dados tornaram-se mais importantes do que empatia e carisma no mundo da política, algoritmos são cruciais para candidatos em busca de votos.

Não foi só a retórica de Barack Obama que impressionou em sua ascensão rumo à indicação do Partido Democrata para disputar a Presidência dos Estados Unidos em 2008, mas também seu uso desta tecnologia.

A campanha de Obama mirou incessantemente nos eleitores indecisos, usando uma série de informações para individualizar ao máximo os perfis do eleitorado.

Quase dez anos depois, Emmanuel Macron conseguiu uma vitória inesperada na França com uma estratégia similar - algoritmos ajudaram a identificar distritos e bairros que eram os mais representativos do país como um todo. Isso ajudou a guiar sua equipe na realização de 25 mil entrevistas usadas para estabelecer as prioridades e estratégias de sua campanha.

7. A polícia usa algoritmos para prever se você será um criminoso

O sistema de vigilância da China sobre seus 1,3 bilhão de habitantes é bem conhecido, mas parece haver espaço para expandi-lo. O governo anunciou em 2015 o desenvolvimento de um sistema capaz de "prever crimes" com base em dados pessoais, como o histórico médico e entregas de compras.

Grupos de direitos humanos acusaram as autoridades chinesas de violar a privacidade dos cidadãos, dizendo que o real propósito do sistema é monitorar dissidentes.

A China não é, no entanto, o único país a usar algoritmos para prever crimes: o policiamento baseado em dados é aplicado nos Estados Unidos há mais de uma década, e algumas forças de segurança britânicas começaram em 2012 a usar softwares de mapeamento e previsão de crimes.

O programa é bem simples em comparação com algo como o mundo retratado pelo filme Minority Report (2002): dados sobre os tipos de crimes, sua localização, data e hora geram um mapa identificando as áreas onde eles provavelmente voltarão a ocorrer.

Segundo uma pesquisa do centro britânico Royal United Services Institute for Defence and Security Studies, algoritmos podem ter até dez vezes mais chances de prever a localização de um crime futuro em comparação com o policiamento comum.

No entanto, um destes sistemas, o PredPol, usado pela polícia da Grande Manchester, no Reino Unido, gerou uma polêmica. Pesquisas mostraram que ele criava uma distorção em que policiais eram enviados para os mesmos bairros repetidamente, independentemente das reais taxas de criminalidade nestas áreas.

8. Um computador pode te mandar para a prisão

Juízes em ao menos dez Estados americanos estão tomando decisões em casos criminais com a ajuda de um sistema automatizado chamado COMPAS, baseado em um algoritmo de análise de risco para prever a probabilidade de uma pessoa cometer um novo crime.

Um caso famoso nesse sentido ocorreu em 2013, quando um homem chamado Eric Loomis foi condenado a sete anos de prisão por fugir da polícia e dirigir um carro sem a permissão do dono no Estado de Wisconsin.

Antes de a sentença ser proferida, autoridades apresentaram uma avaliação, feita com base em uma entrevista com Loomis e informações fornecidas pelo algoritmo sobre sua probabilidade de reincidência - o resultado indicava que ele tinha um "alto risco de cometer novos crimes".

Seus advogados questionaram a condenação usando vários argumentos, entre eles que o COMPAS foi criado por uma empresa privada e que informações sobre o algoritmo não foram reveladas. Também afirmaram que os direitos de Loomis foram violados, porque a avaliação levava em conta fatores como gênero e raça.

De fato, uma análise de mais de 10 mil casos na Flórida ao longo de dois anos, publicado em 2016 pela ONG ProPublic, mostrou que a previsão de alto risco de reincidência era mais comum para negros do que para brancos.

9. Eles podem influenciar seu dinheiro

Esqueça as imagens de pessoas gritando na bolsa de valores com telefones nos ouvidos. Transações no mercado de ações estão se tornando cada vez mais um produto de cálculos feitos por algoritmos, que são mais rápidos do que qualquer humano e compram e vendem papéis em questão de segundos.

Defensores desta tecnologia afirmam que uma máquina é imune à volatilidade emocional do mercado e investe mais racionalmente. Isso, no entanto, foi questionado em 2010, quando algoritmos foram apontados como os culpados pelo crash que fez desaparecer temporariamente do mercado de ações americano US$ 1 trilhão.