Existe uma séria incerteza sobre o futuro que aguarda a humanidade com os sistemas potencializados por Inteligência Artificial (IA) como o ChatGPT, Google Gemini e similares. Mas em uma reviravolta perturbadora em toda essa questão, agora um grupo de trabalhadores atuais e antigos de importantes empresas do Vale do Silício, que atuam justamente nesse ramo em desenvolvimento, assinaram uma perturbadora carta aberta na qual alertam que, sem as medidas regulatórias adequadas, a IA poderia representar uma ameaça de “extinção humana”.
A carta, de acordo com o que relata o Yahoo! News, foi assinada por 13 pessoas, a maioria ex-funcionários de empresas como OpenAI, Anthropic e DeepMind do Google, e em seu texto os sujeitos afirmam que os pesquisadores de IA precisam de mais proteção para poder expressar suas críticas aos novos desenvolvimentos e buscar a opinião do público e dos responsáveis políticos sobre a direção de cada inovação nesse campo.
“Acreditamos no potencial da tecnologia de IA para oferecer benefícios sem precedentes à humanidade. Também compreendemos os sérios riscos que essas tecnologias representam. Esses riscos vão desde o aprofundamento das desigualdades existentes, passando pela manipulação e desinformação, até a perda de controle dos sistemas autônomos de IA, o que poderia resultar na extinção humana”.
O que nos dá uma perspectiva da delicadeza do assunto.
A extinção humana: o perigo máximo da Inteligência Artificial para a humanidade
Os autores da carta afirmam que as empresas que desenvolvem tecnologias potentes de IA, incluindo sistemas de Inteligência Artificial Geral (AGI), "têm fortes incentivos financeiros para evitar uma supervisão eficaz", tanto de seus próprios funcionários quanto do público em geral. Isso pode ser claramente observado pela falta de transparência com a qual a OpenAI tem operado nos últimos anos.
Na verdade, relatórios recentes derivados de vazamentos internos da própria instituição, revelam que Sam Altman teria desenvolvido e lançado o ChatGPT praticamente às escondidas da diretoria, que só teria tomado conhecimento da existência do projeto quando ele se tornou uma sensação global.
A carta, em última análise, pede às empresas que se abstenham de punir ou silenciar os funcionários atuais ou anteriores que falem sobre os riscos da Inteligência Artificial, em clara referência a um escândalo deste mês surgido dentro da OpenAI, onde os funcionários que renunciavam eram obrigados a escolher entre perder o capital adquirido ou assinar um acordo de "não menosprezo" sobre a empresa que nunca expirava.
Mas isso não é um fato isolado. A carta aberta surge após uma série de controvérsias em que a OpenAI parece ocupar o principal lugar em situações conflitantes.
A carta aberta e o fato de a OpenAI continuar sendo o centro desses debates destacam a necessidade de falar mais abertamente sobre os riscos e benefícios da IA.
