Ciência e Tecnologia

Prepare-se! Estes são os riscos emergentes da Inteligência Artificial

Um dos aspectos mais difíceis da segurança cibernética é a previsão, e fica pior ainda com a IA

A adoção da Inteligência Artificial está evoluindo mais rapidamente do que outros avanços tecnológicos semelhantes. O mundo levou aproximadamente 23 anos para fazer a Internet crescer para um bilhão de usuários. A tecnologia móvel levou apenas cerca de 16 anos. E no ritmo atual, a Geração AI atingirá a marca de um bilhão de usuários em cerca de sete anos.

Com esta rápida taxa de crescimento, os especialistas em cibersegurança antecipam os possíveis riscos que estarão a ameaçar a atividade empresarial, bem como o quotidiano de milhões de utilizadores em todo o mundo, pelo que será necessário começar a reconhecer estes perigos para evitar serem vítimas de ataques cibernéticos. ataques num futuro próximo.

Clique aqui para receber as notícias de ciência e tecnologia pelo WhatsApp

Publicidad

IA para o bem e para o mal

Hoje, qualquer pessoa com conexão à Internet pode acessar dezenas de modelos poderosos de IA. Da geração de imagens sintéticas à análise específica de tarefas, é fácil experimentar e desenvolver tecnologias que antes só estavam disponíveis para organizações de alto nível.

Já existem vários nichos que aproveitam para desenvolver novas oportunidades. Os profissionais de segurança o utilizam para detectar padrões sutis de ataques e responder com precisão. Os analistas o utilizam para obter insights em tempo real de grandes quantidades de dados. Os desenvolvedores utilizam-no como assistente de codificação e, portanto, em diversos setores produtivos, desde indústrias pesadas até serviços de alta tecnologia, educação, ciência, entre outros.

No entanto, com essa acessibilidade e capacidade surgem preocupações. Grupos mal-intencionados poderiam usar IA para promover seus ataques? A IA poderia ser usada tanto para fazer mal quanto para fazer bem? Você poderia criar malware?

Criminosos usando IA

Na verdade, os grupos criminosos têm trabalhado igualmente arduamente. Eles estão usando a Gen AI para montar ataques mais sofisticados, mais rápidos e em maior escala. Pesquisadores da Unidade 42, especialistas em segurança cibernética da Palo Alto Networks, estão trabalhando com organizações de todos os tamanhos ao redor do mundo e documentaram os diferentes invasores que usam essa tecnologia para explorar vulnerabilidades de software e API, com as quais criaram malware e lançaram phishing mais elaborados. campanhas.

À medida que esta tecnologia se infiltra em mais processos de negócio e as organizações desenvolvem ferramentas internas da Gen AI, os atacantes trabalharão para minar e explorar os mecanismos dessas ferramentas.

Publicidad

A Unidade 42 projeta que, nos próximos cinco a sete anos, muitas aplicações existentes serão habilitadas com capacidades de processamento de linguagem natural. Além disso, novos aplicativos focados em IA serão criados desde o início e não serão adicionados posteriormente. Isto significa que as organizações precisam de se proteger com sistemas de segurança que integrem IA desde o seu design inicial.

Adote IA generativa com segurança

O uso eficaz e seguro da Gen AI exige que todos os envolvidos tenham pelo menos uma compreensão rudimentar de como ela funciona. Isto é importante tanto para reconhecer como é utilizado dentro da empresa, como para identificar quando é utilizado por grupos criminosos através das suas novas estratégias de ataque cibernético.

É importante reconhecer que as táticas convencionais de segurança cibernética ainda são relevantes na era da IA. Portanto, a indicação é continuar com os esforços em direção a uma arquitetura Zero Trust e manter os sistemas atualizados de forma mais rápida e completa, bem como manter-se atualizado com as sugestões dos especialistas em segurança cibernética que determinam em sua resposta aos incidentes, quais defesas são mais adequadas. eficazes contra os atacantes de hoje e quais estão perdendo eficácia.

Publicidad

Com isso em mente, a próxima coisa a considerar é rastrear e monitorar o uso de IA para garantir que informações confidenciais de usuários ou empresas não sejam expostas ou vazadas por meio de qualquer aplicativo. Hoje, estão disponíveis diversas ferramentas para esse fim que facilitam essa inspeção de conteúdo em qualquer dispositivo de forma automática. E o mais importante, tome essas medidas o mais cedo possível. A segurança que se considera no final não é tão eficaz.

A boa notícia é que a IA poderá ajudar a fortalecer qualquer estratégia de defesa. Com a sua utilização, você pode acelerar trabalhos pesados, bem como automatizar diversos processos que podem ser tediosos e lentos, por isso será muito eficiente para reduzir a carga em grande escala na proteção de redes e infraestrutura de segurança.

Publicidad

Como se proteger?

A recomendação é começar de forma simples, a princípio pode ser implementado para a execução de tarefas repetitivas e demoradas. Embora a Gen AI possa ser imprecisa ou errônea, muitas etapas executadas por humanos também o são. Portanto, será melhor para a IA fazer esse trabalho de forma mais ágil, desde que o ser humano verifique o processo.

Ao longo de 2024, a Unidade 42 tem explorado as capacidades dos atacantes através de rastreamento e também de experimentação. Embora ainda não tenha sido determinado que a IA por si só é capaz de desenvolver um ataque do zero, reconhece-se que com a sua ajuda conseguiram aumentar a velocidade, escala e sofisticação.

Publicidad

Atualmente, eles continuam investigando a eficácia de seu uso para criar, modificar e depurar malware. Embora hoje essa capacidade seja na sua maioria rudimentar, acreditam que continuará a melhorar rapidamente.

Há muitos esforços para examinar como a IA generativa pode ser usada na programação para casos de uso legítimos, o que pode reduzir o custo e o tempo de criação de produtos e serviços. Dadas estas vantagens, não há razão para pensar que os intervenientes mal-intencionados não quereriam explorar estes mesmos aspectos para fins maliciosos que poderiam mudar o panorama global da cibersegurança.

Siga-nos no:Google News

Conteúdo patrocinado

Últimas Notícias