O que é a lei das consequências imprevistas (e por que ela é tão importante agora)

Quando surgiram as primeiras redes sociais, seus pioneiros tinham a ilusão de que estavam criando um espaço para que as pessoas e as comunidades se conectassem.

Mas eles logo perceberam que nem todos os intercâmbios seriam de gentileza – o que não era totalmente inesperado, considerando a natureza humana.

O que eles dificilmente teriam previsto é que, em poucos anos, as redes sociais se tornariam ferramentas sofisticadas para conduzir o curso da democracia em direção a uma ou outra tendência.

Também não se previa que governantes poderiam usá-las como escudo, alegando que se comunicam diretamente com o público por esses meios, mas negando a eles o direito de questioná-los.

Toda inovação, em qualquer campo do conhecimento, traz consigo consequências imprevistas – algumas positivas, outras negativas e, muitas delas, surpreendentes.

Observadores sociais de diferentes especialidades vêm observando esse fenômeno desde a Antiguidade.

Na Grécia Antiga, por exemplo, o filósofo Platão apresentou uma bela ilustração no seu diálogo Fedro.

Nele, Sócrates conta que, quando o deus egípcio Toth – inventor da escrita, entre outras coisas – foi mostrar suas obras ao rei Tamuz, o soberano pediu que ele explicasse a utilidade de cada uma delas.

"Quando chegaram à escrita, Toth disse: 'oh, rei! Esta invenção tornará os egípcios mais sábios e auxiliará sua memória; descobri um remédio contra a dificuldade de aprender e memorizar.'"

O rei respondeu que o gênio inventor não era o melhor juiz. E, em relação à escrita, ele atribuía "exatamente o contrário dos seus verdadeiros efeitos".

"Ela só produzirá o esquecimento nas almas dos que a conhecerem, fazendo com que eles desprezem suas lembranças; eles confiarão nos escritos externos e não se recordarão por si próprios."

"O que você descobriu não é um auxílio para a memória, mas para a reminiscência; e não fornece aos seus discípulos a verdade, mas apenas a aparência da verdade. Eles serão ouvintes de muitas coisas e não terão aprendido nada; parecerão oniscientes e geralmente não saberão nada; serão uma companhia tediosa, com aparência de sabedoria, mas sem a realidade", concluiu o rei.

Para Platão, o verdadeiro saber é obtido pelo diálogo socrático – a busca de respostas pelo esforço de reflexão e raciocínio.

Você pode não concordar com a opinião do filósofo grego sobre a escrita, mas o relato demonstra como as tecnologias – até as mais reconhecidas – podem trazer consequências imprevistas.

Considerado o pai da economia moderna, o filósofo escocês Adam Smith (1723-1790) deu a uma das mais famosas dessas consequências o nome de "mão invisível".

Ele defendia que cada indivíduo que busca apenas o seu próprio benefício "é conduzido por uma mão invisível para promover um fim que não era parte da sua intenção", trazendo benefícios para todos.

Diversos pensadores escreveram sobre o que agora se conhece por "lei das consequências não antecipadas". Mas foi o sociólogo norte-americano Robert K. Merton (1910-2003) que publicou a primeira análise deste conceito, em 1936.

Da bicicleta até Karl Marx

No seu conceituado artigo The Unanticipated Consequences of Purposive Social Action ("As consequências imprevistas da ação social propositada", em tradução livre), Merton começa indicando que, até aquele momento, não existia nenhuma análise científica sistemática deste tema.

Ele imaginava que o motivo talvez fosse porque, durante a maior parte da história humana, o inesperado foi atribuído "aos deuses", "ao destino" ou à interferência divina. E que, com a chegada da Era da Razão, o ser humano começava a acreditar que poderia entender a vida.

Merton identificou no seu estudo cinco causas principais das consequências inesperadas. A primeira é o desconhecimento: como elas são imprevistas, por mais que se quisesse, teria sido muito difícil adivinhar, em alguns casos, o que aconteceria em seguida.

Os responsáveis pelo desenvolvimento da bicicleta moderna entre as décadas de 1880 e 1890, por exemplo, não planejavam criar um veículo de liberação feminina. E eles não só impulsionaram a adoção de "roupas racionais", como tiveram profundo impacto sobre os direitos e papéis das mulheres na sociedade.

"Deixe-me dizer a você o que penso sobre andar de bicicleta", disse a sufragista americana Susan B. Anthony (1820-1906), em 1896.

"Acredito que ela tenha feito mais pela emancipação das mulheres do que qualquer outra coisa do mundo. Ela fornece à mulher uma sensação de liberdade e autossuficiência. Faz com que ela se sinta como se fosse independente (...) e siga adiante, a imagem de uma feminilidade livre e sem restrições."

Diversos outros exemplos como este demonstram que "a limitação mais óbvia para a correta antecipação das consequências de uma ação é proporcionada pelo estado de conhecimento existente", como escreveu Merton.

Este e outros fatores, às vezes, levam algumas pessoas a "defender o argumento que diz 'se soubéssemos, teríamos sabido'", acrescentou ele.

A segunda causa principal é o erro. Às vezes, a análise falha – ou as pessoas repetem, em situações novas, ações que tiveram sucesso no passado, sem que elas sejam repensadas.

O terceiro motivo é o imperioso imediatismo do interesse, que leva as pessoas a desconsiderar as consequências de longo prazo. Sua preocupação primordial é com os efeitos imediatos previstos.

A quarta causa é "aparentemente similar ao fator do imediatismo", mas significativamente diferente. São os valores básicos, que podem nos levar a agir segundo crenças fundamentais, sem considerar as consequências.

Merton mencionou o caso da ética protestante e do espírito do capitalismo para ilustrar este ponto. As normas morais protestantes do trabalho duro e da renúncia ao prazer "conduzem paradoxalmente à sua própria decadência, pelo acúmulo de riqueza e bens materiais".

Por fim, uma causa que parece esotérica é a profecia autodestrutiva. Nela, as pessoas deixam de agir por medo das consequências negativas e imprevistas, ou surge um alerta sobre um problema futuro, que faz com que ele não aconteça.

"Para mencionar um exemplo social concreto", segundo Merton, "a previsão de [Karl] Marx [1818-1883] sobre a progressiva concentração de riqueza e a crescente miséria das massas influenciou o próprio processo previsto."

"Pelo menos uma das consequências da pregação socialista do século 19 foi a expansão da organização do trabalho, que [...] diminuiu, quando não eliminou, os acontecimentos previstos por Marx."

No seu livro The Logic of Chance ("A lógica do azar", em tradução livre), o matemático e filósofo inglês John Venn (1834-1923) usou a pitoresca expressão "profecias suicidas" para se referir a esta quinta causa principal das consequências imprevistas.

Com o passar do tempo, outros pensadores acrescentaram novas razões, como o economista americano Kenneth Arrow (1921-2017), que advertiu: "a maioria das pessoas subestima a incerteza do mundo".

Merton classificou ainda outros três tipos de consequências imprevistas:

Por que isso agora é tão importante?

Porque estamos no limiar de uma nova fase para a humanidade, que provavelmente será uma das mais importantes de todas.

O rápido surgimento de uma nova geração de sistemas de inteligência artificial que podem emitir julgamentos e decisões, gerando novas ideias, é um dos maiores desafios da sociedade atual.

A inteligência artificial é um enorme salto para o desconhecido em diferentes áreas das nossas vidas, da saúde à educação, do exército ao direito, das artes ao transporte. Ela irá mudar nossas vidas de formas que ainda não podemos imaginar.

Mas não podemos nos dar ao luxo de ignorar a IA. E, por trás da emoção e do entusiasmo pelas suas inovações, existem perguntas fundamentais que precisamos fazer a nós mesmos, aos líderes da tecnologia e aos nossos governantes.

"Quando o assunto é IA, muitas pessoas a observam como algo mágico – ou pensam que irá haver uma batalha iminente entre os seres humanos e os robôs, com um tipo de pergunta que parece ser de ficção científica: 'podemos confiar em um robô?'", declarou o professor Jack Stilgoe, do University College de Londres, à série de programas The Trust Shift, da BBC Rádio 4.

Stilgoe participa de um novo e imenso programa de pesquisa no Reino Unido, chamado IA Responsável (RAI, na sigla em inglês).

"Como cientista social, quero chamar a atenção para o fato de que, na verdade, não é questão de confiar em um robô, mas de confiar nas pessoas por trás da tecnologia", explica o professor.

São esses empresários e inovadores da IA que têm o poder de alterar radicalmente o nosso futuro. Mas somos nós, em maior ou menor medida, que devemos participar das decisões que precisam ser tomadas hoje.

Os sistemas de inteligência artificial são treinados com grandes quantidades de informações. Eles aprendem a identificar os padrões contidos para realizar tarefas.

Suas aplicações parecem infinitas. A inteligência artificial já está ajudando os médicos a detectar câncer de mama e as redes sociais a decidir qual conteúdo devem nos mostrar ou quais produtos nos recomendar, por exemplo.

Mas o que observamos até agora é a ponta do iceberg. E, a cada passo dado, não se evidenciam apenas as maravilhas, mas também os seus perigos e a dificuldade de combatê-los.

A IA generativa, por exemplo, como o ChatGPT e o DALL-E, gera textos ou imagens que parecem ser criados por seres humanos. Ela tem uma verdadeira legião de adeptos.

Mas, entre eles, existem os criadores de conteúdo de abuso sexual infantil, que multiplicam seus lucros, sem que as autoridades possam fazer muita coisa a respeito.

Seria esta uma consequência imprevista? Talvez, mas a pergunta é de qual tipo. Se for por erro ou pela imperiosa necessidade do interesse, são motivos difíceis de ignorar.

Por isso, embora os recentes avanços de IA tenham sido aclamados como revolucionários, até mesmo personalidades importantes do setor, como Elon Musk, vêm defendendo uma pausa no seu desenvolvimento.

Temores similares levaram dois dos três cientistas conhecidos como pais da IA pelas suas pesquisas pioneiras – Geoffrey Hinton e Yoshua Bengio – a se pronunciar neste sentido.

Como pesquisador da RAI, Stilgoe estuda como dar forma ao desenvolvimento da IA em benefício das pessoas, das comunidades e da sociedade. E sua preocupação é "o interesse dos desenvolvedores da tecnologia em não antecipar as consequências".

No seu afã de monetizar suas criações, "os profissionais de IA desenvolvem seus sistemas e os lançam. Depois, a sociedade fica a cargo de pesquisar quais são as consequências e como lidar com elas."

"Existe uma assimetria imensa, pois deixamos os inovadores livres de responsabilidade", explica o professor.

Stilgoe afirma que existem casos em que a IA claramente traz benefícios. Mas o cientista social é da opinião que o desenvolvimento deve ocorrer no contexto de instituições confiáveis, que tenham interesse "não apenas pelo que é bom para um indivíduo, mas para a sociedade em geral".

Agindo desta forma, a IA poderá ser "não apenas eficaz, mas também justa".

Mas, como Platão nos advertiu sobre a escrita, qualquer tecnologia apresenta suas dificuldades, por mais maravilhosa que seja.