Ciência e Tecnologia

Prepare-se! Estes são os riscos emergentes da Inteligência Artificial

Um dos aspectos mais difíceis da segurança cibernética é a previsão, e fica pior ainda com a IA

Inteligencia Artificial deepfakes
IA deepfakes

A adoção da Inteligência Artificial está evoluindo mais rapidamente do que outros avanços tecnológicos semelhantes. O mundo levou aproximadamente 23 anos para fazer a Internet crescer para um bilhão de usuários. A tecnologia móvel levou apenas cerca de 16 anos. E no ritmo atual, a Geração AI atingirá a marca de um bilhão de usuários em cerca de sete anos.

ANÚNCIO

Com esta rápida taxa de crescimento, os especialistas em cibersegurança antecipam os possíveis riscos que estarão a ameaçar a atividade empresarial, bem como o quotidiano de milhões de utilizadores em todo o mundo, pelo que será necessário começar a reconhecer estes perigos para evitar serem vítimas de ataques cibernéticos. ataques num futuro próximo.

Clique aqui para receber as notícias de ciência e tecnologia pelo WhatsApp

Grupos como APT41 y Mustang Panda atacan sectores gubernamentales y tecnológicos en México, explotando vulnerabilidades en infraestructura débil.
Grupos como APT41 e Mustang Panda atacam setores governamentais e tecnológicos, explorando vulnerabilidades na infraestrutura frágil Foto: Publimetro México

IA para o bem e para o mal

Hoje, qualquer pessoa com conexão à Internet pode acessar dezenas de modelos poderosos de IA. Da geração de imagens sintéticas à análise específica de tarefas, é fácil experimentar e desenvolver tecnologias que antes só estavam disponíveis para organizações de alto nível.

Já existem vários nichos que aproveitam para desenvolver novas oportunidades. Os profissionais de segurança o utilizam para detectar padrões sutis de ataques e responder com precisão. Os analistas o utilizam para obter insights em tempo real de grandes quantidades de dados. Os desenvolvedores utilizam-no como assistente de codificação e, portanto, em diversos setores produtivos, desde indústrias pesadas até serviços de alta tecnologia, educação, ciência, entre outros.

IA
IA Alguns empregos serão ameaçados diante da Inteligência Artificial. Foto: Especial

No entanto, com essa acessibilidade e capacidade surgem preocupações. Grupos mal-intencionados poderiam usar IA para promover seus ataques? A IA poderia ser usada tanto para fazer mal quanto para fazer bem? Você poderia criar malware?

Criminosos usando IA

Na verdade, os grupos criminosos têm trabalhado igualmente arduamente. Eles estão usando a Gen AI para montar ataques mais sofisticados, mais rápidos e em maior escala. Pesquisadores da Unidade 42, especialistas em segurança cibernética da Palo Alto Networks, estão trabalhando com organizações de todos os tamanhos ao redor do mundo e documentaram os diferentes invasores que usam essa tecnologia para explorar vulnerabilidades de software e API, com as quais criaram malware e lançaram phishing mais elaborados. campanhas.

ANÚNCIO

À medida que esta tecnologia se infiltra em mais processos de negócio e as organizações desenvolvem ferramentas internas da Gen AI, os atacantes trabalharão para minar e explorar os mecanismos dessas ferramentas.

Ciberseguridad
Cibersegurança As empresas contratam serviços de outras empresas para manterem seu funcionamento e ciberseguridade, como o caso de CrowdStrike com a Microsoft

A Unidade 42 projeta que, nos próximos cinco a sete anos, muitas aplicações existentes serão habilitadas com capacidades de processamento de linguagem natural. Além disso, novos aplicativos focados em IA serão criados desde o início e não serão adicionados posteriormente. Isto significa que as organizações precisam de se proteger com sistemas de segurança que integrem IA desde o seu design inicial.

Adote IA generativa com segurança

O uso eficaz e seguro da Gen AI exige que todos os envolvidos tenham pelo menos uma compreensão rudimentar de como ela funciona. Isto é importante tanto para reconhecer como é utilizado dentro da empresa, como para identificar quando é utilizado por grupos criminosos através das suas novas estratégias de ataque cibernético.

É importante reconhecer que as táticas convencionais de segurança cibernética ainda são relevantes na era da IA. Portanto, a indicação é continuar com os esforços em direção a uma arquitetura Zero Trust e manter os sistemas atualizados de forma mais rápida e completa, bem como manter-se atualizado com as sugestões dos especialistas em segurança cibernética que determinam em sua resposta aos incidentes, quais defesas são mais adequadas. eficazes contra os atacantes de hoje e quais estão perdendo eficácia.

El futuro de la IA dependerá, en gran medida, de cómo se aborden y mitiguen los riesgos emergentes.
Riscos emergentes O futuro da IA dependerá, em grande medida, de como se abordará e mitigará os riscos emergentes (Imagen creada por la IA Copilot)

Com isso em mente, a próxima coisa a considerar é rastrear e monitorar o uso de IA para garantir que informações confidenciais de usuários ou empresas não sejam expostas ou vazadas por meio de qualquer aplicativo. Hoje, estão disponíveis diversas ferramentas para esse fim que facilitam essa inspeção de conteúdo em qualquer dispositivo de forma automática. E o mais importante, tome essas medidas o mais cedo possível. A segurança que se considera no final não é tão eficaz.

A boa notícia é que a IA poderá ajudar a fortalecer qualquer estratégia de defesa. Com a sua utilização, você pode acelerar trabalhos pesados, bem como automatizar diversos processos que podem ser tediosos e lentos, por isso será muito eficiente para reduzir a carga em grande escala na proteção de redes e infraestrutura de segurança.

Como se proteger?

A recomendação é começar de forma simples, a princípio pode ser implementado para a execução de tarefas repetitivas e demoradas. Embora a Gen AI possa ser imprecisa ou errônea, muitas etapas executadas por humanos também o são. Portanto, será melhor para a IA fazer esse trabalho de forma mais ágil, desde que o ser humano verifique o processo.

Ao longo de 2024, a Unidade 42 tem explorado as capacidades dos atacantes através de rastreamento e também de experimentação. Embora ainda não tenha sido determinado que a IA por si só é capaz de desenvolver um ataque do zero, reconhece-se que com a sua ajuda conseguiram aumentar a velocidade, escala e sofisticação.

Atualmente, eles continuam investigando a eficácia de seu uso para criar, modificar e depurar malware. Embora hoje essa capacidade seja na sua maioria rudimentar, acreditam que continuará a melhorar rapidamente.

Há muitos esforços para examinar como a IA generativa pode ser usada na programação para casos de uso legítimos, o que pode reduzir o custo e o tempo de criação de produtos e serviços. Dadas estas vantagens, não há razão para pensar que os intervenientes mal-intencionados não quereriam explorar estes mesmos aspectos para fins maliciosos que poderiam mudar o panorama global da cibersegurança.

ANÚNCIO

Tags


Últimas Notícias