Num diálogo com jornalistas da América Latina e Espanha, o autor Yuval Noah Harari mostrou preocupação com o crescente poder da inteligência artificial (IA), descrevendo-a como “um agente independente” capaz de agir no mundo sem a necessidade de intervenção humana.
Clique aqui para receber as notícias de ciência e tecnologia pelo WhatsApp
Segundo Harari, o que diferencia a IA de outras tecnologias é sua capacidade de autonomia. Como exemplo, ele explicou que se as bombas nucleares pudessem decidir por si mesmas quando explodir e se aperfeiçoar, estaríamos diante de uma situação semelhante ao que poderia acontecer com a IA.
"A IA já não é apenas uma ferramenta, é um agente independente", afirmou.
Um carro sem freios
Durante a sua intervenção, Harari destacou os perigos de desenvolver a IA sem as regulamentações adequadas. Comparou a situação atual com um carro sem freios, onde a prioridade é a velocidade, sem importar as consequências.
"É absurdo pensar que podemos lançar essa tecnologia e depois tentar resolver os problemas no caminho", ironizou o autor, questionando a corrida armamentista tecnológica que está ocorrendo em torno da IA.
Para Harari, um dos maiores riscos é que essas inovações estão sendo desenvolvidas em um ambiente de competição frenética, o que poderia ter consequências desastrosas. Segundo ele, a humanidade não aprendeu com as lições do passado e estamos avançando rápido demais sem parar para refletir sobre o impacto que isso poderia ter na sociedade.
Um vigilante incansável em potencial
Um dos pontos mais alarmantes que Harari levanta em Nexus é a possibilidade de que a IA se torne a base de regimes totalitários sem precedentes. Ao contrário dos ditadores do passado, como Stalin ou Hitler, que não podiam controlar todas as pessoas o tempo todo, a IA tem o potencial de fazê-lo.
"Não precisa descansar, não tem que dormir nem tirar férias. Pode nos seguir a todos, o tempo todo", advertiu.
Graças à sua capacidade de processar enormes quantidades de dados em tempo real, desde vídeos até textos e imagens, os regimes autoritários poderiam implementar sistemas de vigilância total que aniquilariam a privacidade individual.
“A IA não permitirá que os relatórios acumulem poeira em um arquivo, ele os analisará instantaneamente, procurando padrões em nossas vidas”, explicou o historiador.
O bom e o mau da IA
No entanto, Harari também reconhece o potencial positivo da IA. Em sua palestra, ele mencionou como essa tecnologia poderia revolucionar a assistência médica, fornecendo médicos virtuais disponíveis 24 horas por dia, muito mais eficientes e baratos do que os humanos. Ainda assim, ele decidiu que o Nexus se concentrasse nos riscos, argumentando que as corporações tecnológicas já estão promovendo as vantagens, enquanto os perigos passam despercebidos.
Para onde estamos indo?
Ao finalizar, Harari fez um alerta sobre o futuro da IA: o que vemos hoje é apenas o começo. Os sistemas atuais, comparou, são como amebas na evolução biológica.
"Levou bilhões de anos para as amebas evoluírem até se tornarem humanos, mas a IA poderia fazê-lo em apenas uma década", disse, deixando no ar a inquietante pergunta: "Como será o dinossauro da inteligência artificial?"
O que está claro para Harari é que a IA vai mudar radicalmente o mundo nos próximos anos, não apenas tecnologicamente, mas também psicologicamente e socialmente.
"Nós temos vivido protegidos no casulo da cultura humana, onde tudo o que consumíamos era criado por outras pessoas. Agora, cada vez mais, nossas histórias, imagens e música virão de uma inteligência externa", refletiu.
A visão cínica do poder
Na sua conversa, Harari também abordou um dos grandes problemas da nossa era: a desconfiança generalizada nas instituições e a crescente polarização. Tanto a extrema-direita quanto a extrema-esquerda compartilham, segundo o autor, uma visão profundamente cínica da humanidade, onde tudo se resume a lutas de poder.
No entanto, o especialista convidou a recuperar uma perspectiva mais compassiva. Nem tudo na vida, afirmou, é manipulação ou busca de poder. Ainda existem valores como confiança e cooperação que podem nos ajudar a enfrentar esses desafios.
“A ideia de que todo o jornalismo é uma conspiração ou que a ciência é apenas uma ferramenta de manipulação está destruindo nossa democracia”, afirma.
