Resenha: Nexus (Yuval Noah Harari)

Talvez o melhor livro técnico de 2024

Nexus: Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial é o mais novo livro de Yuval Noah Harari, autor da elogiada trilogia Sapiens. Harari embarca no mundo da inteligência artificial e explora possíveis implicações para a humanidade. Como é a marca do autor, inicialmente ele descreve a evolução da utilização de tecnologias de informação até os dias atuais, e depois discute riscos e oportunidades para nós humanos.

Desde os tempos de caçadores e coletores (ou então na maior parte da história humana), nós buscamos o poder político. Segundo Harari, o fator principal para o poder é a cooperação, o que fez com que nós humanos se sobressaíssem, ao contrário das demais espécies. Pela cooperação, foi possível unir vários grupos com objetivos comuns, ampliando as oportunidades e conquistas humanas. Neste caso, juntamente com a cooperação, utilizamos um grande networking para conectar indivíduos, harmonizar suas ações e atingir objetivos. Consequentemente, apoiando a cooperação e a criação de networkings, está a informação. 

A utilização da informação faz com que pessoas sigam um líder - o livro explora o regime do ditador e genocida Stalin, antigo comandante da União Soviética. E aqui está um ponto que me chamou a atenção: ao contrário de muitos historiadores, Harari tece várias críticas ao socialismo de Stalin - há a crítica ao homem soviético, indivíduo que abdica de sua autonomia para seguir o roteiro pré-estabelecido por um líder, ainda que tais ordens e regulações pouco façam sentido. Se não seguir o que é imposto, há o risco de punição, incluindo execuções. Concordei com praticamente todas as críticas ao autoritarismo de Stalin - Harari não cai no saudosismo tão comum em algumas ciências. Stalin foi um tirano e responsável pela morte de milhares de pessoas. Não deveríamos esquecer disso. A respeito da informação, o ponto é que a forma como ela é apresentada e manipulada pode fortalecer regimes autoritários - minando a liberdade individual. 

A informação também pode ser usada para fortalecer a liberdade individual e regimes democráticos. O surgimento do rádio fez com que indivíduos pudessem acompanhar discursos políticos em tempo real. Os televisores aproximaram ainda mais cidadãos de seus políticos. Jornais apresentam notícias e nos deixam informados sobre o dia a dia político. Esses mecanismos empoderaram grupos da população. Assim, a informação fortalece democracias. Como saber se a informação funcionará para promover regimes autoritários e genocidas ou democracias?

Outro obstáculo que a inteligência artificial colocará é que ela, ao contrário de todos dispositivos tecnológicos de informação, toma decisões por si com base nos dados coletados por algoritmos. O livro cita a ascensão de políticos radicais e pouco convencionais, como Jair Bolsonaro. Não fosse pelos algoritmos e redes sociais, Bolsonaro seria apenas um político radical - mas o destino mostrou que esse não seria o caso. Os algoritmos filtram a informação de acordo com as preferências individuais. Como tais algoritmos querem maximizar o engajamento de nós com as redes, recebemos apenas conteúdos nos quais concordamos, ou que temos familiaridade. Se é uma notícia falsa, mas que pode elevar o engajamento, iremos recebê-la. Assim, ao visar o aumento do engajamento, o algoritmo promoveu notícias falsas, elevou a polarização (ver o que concordamos reiteradas vezes não ajuda a criar diálogo) e separou ainda mais a população. Desta forma, um dos desafios da inteligência artificial será moldá-la para melhorar a vida em sociedade. O último livro escrito pelo recém vencedor do prêmio Nobel de Economia deste ano, Daron Acemoglu, Poder e Progresso (resenha está aqui), faz justamente esse argumento: a tecnologia é algo neutro. Se irá nos beneficiar ou não, dependerá de como as instituições políticas e econômicas a utilizarão e empregarão.

Ponto interessante do livro é a discussão de duas teorias sobre a informação. Há a visão ingênua, que interpreta o alastramento da informação como algo inerentemente benéfico - fake news existem para mostrar a limitação dessa visão. A visão alternativa é a de que informação é uma arma, que deve ser usada para fortalecer o poder - as mentiras perpetradas por Stalin, e atualmente por Putin, servem para mostrar que líderes seguem essa teoria (recomendo que assistam a série Chernobyl, da Max. Para minha surpresa, a série explorou o funcionamento do regime soviético sob Mikhail Gorbatchov, o último líder da extinta União Soviética. A utilização da informação para punir, coagir e amedrontar a população é feita de forma primorosa, seguindo exatamente as críticas de Harari). De toda forma, Harari mostra que a informação é algo intermediário - dependerá de nós utilizá-la para o bem ou para o mal do planeta. O fato é que não devemos ter uma postura passiva ao avanço da inteligência artificial. 

A solução, portanto, para utilizar a inteligência artificial e o seu potencial de informação para promover a vida humana é fortalecer e criar instituições que corrijam excessos. De novo, a conclusão é muito parecida com aquela do livro Poder e Progresso - eu diria que é a mesma. Com instituições que empoderam indivíduos e grupos, nossas queixas e críticas são ouvidas, podendo ser resolvidas por mecanismos institucionais. Desta forma, devemos policiar e ser vigilantes com os desdobramentos gerados pela inteligência artificial, para que ela facilite e auxilie nossas vidas. Simultaneamente, arcabouços regulatórios e representatividade da sociedade civil devem coexistir para moldar a inteligência artificial.

Como foi o caso do livro Sapiens (resenha aqui), Homo Deus (aqui) e 21 lições para o século 21 (aqui), Nexus mostra o talento de Harari tanto ao descrever eventos e conectá-los com o presente, com uma argumentação fluída e muito bem construída. Essa marca de Harari continua presente em Nexus (eu sou um admirador dos trabalhos de Harari, como pode ser visto pelas resenhas de seus livros). Todavia, tendo lido o seu quarto livro, detectei que ele é um autor alarmista, ainda que muito, muito moderado e sutil.

O próprio Harari nos diz que nós humanos damos maior atenção a tragédias e riscos do que a eventos moderados. E os algoritmos usam essa dicotomia em nossa atenção para aumentarem nosso engajamento com as redes sociais. Mas Harari  também segue essa estratégia. Em todos os seus livros, após apresentar os fatos e discutir teorias, há a construção de possíveis cenários futuros - e sempre permeados de tragédias. E como humanos se atêm a tragédias, os livros de Harari utilizam desse componente. Confesso que demorei para notar esse viés do autor, mas ainda que tardiamente, o notei. Por exemplo, ainda que com várias ressalvas e escrúpulos, Harari acredita que as próximas inovações tecnológicas (incluindo a inteligência artificial) poderão eliminar empregos, gerando desemprego em massa, ainda que essa possibilidade tenha sido reiteradamente desmentida pela realidade desde a revolução industrial. O que ocorre é que o progresso tecnológico destrói empregos ao mesmo tempo que cria outros, abrindo novas oportunidades. Como Harari tem uma prosa e argumentação muito acimas da média, somos facilmente levados por suas teses, e quando paramos para refletir, estamos concordando com ele - pelo menos isso acontece comigo. 

Adicionalmente, o problema de autores pessimistas é que a realidade mostra que, na maior parte das vezes, eles erram. Mas o tom sombrio nos pega, puxa nossa atenção. Que não haja erro: Harari é muito comedido ao fazer esse tipo de argumento, mas ele o faz - muito sutilmente, mas o faz. E eu vejo isso como um ponto negativo tanto na obra quanto para o autor - é um desvio da precisão científica. Compare o mundo pré-revolução industrial com o mundo que vivemos. Em qual você escolheria viver? Indicadores como expectativa de vida, poder de compra, educação e ocorrências de conflitos armados melhoraram substancialmente desde as inovações do século 18. Claro que tivemos momentos sombrios, como as guerras mundiais, epidemias e períodos de fome, mas na média a vida humana tem melhorado. Os desafios de hoje são diferentes daqueles da revolução industrial. 

Para encerrar, essas minhas observações não desqualificam o livro, pelo contrário. O livro é excelente, muito instrutivo e bem articulado. Mas possui o viés que mencionei - e que é minha opinião; talvez eu esteja errado e exagerando. De toda forma, como todo bom livro, este irá gerar debates, críticas e contra argumentos.