Quer gostemos ou não, ai agora permeia nosso mundo. De setores públicos e privados à vida pessoal, essa poderosa tecnologia certamente representa riscos em potencial, mas também é o catalisador de oportunidades incalculáveis.
À medida que o Reino Unido avança sua estrutura regulatória de IA, está considerando transformar acordos voluntários com os desenvolvedores de IA em compromissos legalmente vinculativos e conceder autonomia ao Instituto de Segurança da IA. Essa abordagem estratégica visa lidar com riscos potenciais e promover a inovação no campo em rápida evolução da IA.
As empresas de todas as indústrias enfrentarão um desafio crítico, mas muitas vezes esquecido, a falta de padronização no regulamento da IA dentro de uma economia globalizada. Embora grande parte da discussão em torno do regulamento da IA se concentre em como ele pode aumentar o crescimento econômico no Reino Unido, a realidade é que as empresas que operam internacionalmente devem navegar em um ambiente regulatório desigual, o que cria o risco de incerteza e compostos.
O lado sombrio da AI
O MIMECAST H2 2024 Relatório de inteligência de ameaças Encontraram uma tendência preocupante: as ameaças cibernéticas estão se tornando cada vez mais sofisticadas à medida que os atores de ameaças misturam atividades maliciosas com operações legítimas. Os atacantes estão cada vez mais explorando serviços confiáveis, tornando mais difícil do que nunca os controles de segurança distinguirem entre atividades autorizadas e não autorizadas.
Ferramentas maliciosas de IA, como Wormgpt e Fraudgpt, que são versões desonestas dos modelos legítimos de IA generativos (Genai), estão sendo usados para criar e-mails de phishing altamente convincentes, gerar malware mais eficientes e automatizar ataques cibernéticos em escala. O mecanismo de detecção de Mimecast aprendeu a identificar características específicas que distinguem e-mails escritos por humanos dos generados de IA. Ao analisar mais de 20.000 e-mails, juntamente com dados sintéticos gerados por modelos como o GPT-4, descobrimos que certas frases, como “se aprofunda nisso ” ou saudações excessivamente casuais como “olá! ” De remetentes que normalmente não usam esse idioma, geralmente sinalizam uma tentativa de phishing.
É importante observar que o modelo não estava procurando identificar e-mails maliciosos escritos à IA, mas estimar a difusão da IA. O Real Insight está na tendência: um aumento acentuado no conteúdo gerado pela IA e um declínio correspondente em e-mails escritos por humanos.
Além disso, as organizações devem estar cientes da rápida evolução de fagos DeepFakes, orientados a IA. Essas ferramentas sofisticadas permitem a criação de manipulações de áudio e vídeo hiper-realistas, abrindo novos caminhos para fraude, desinformação e roubo de identidade. Essas ameaças de IA já estão sendo implantadas em esquemas de fraude no local de trabalho, golpes financeiros e campanhas de desinformação em larga escala.
Mas há um positivo em tudo isso, enquanto a IA está aumentando as capacidades dos cibercriminosos, também está desempenhando um papel ainda maior no fortalecimento da segurança cibernética. As mais recentes soluções de segurança de IA e aprendizado de máquina fornecem às organizações uma vantagem decisiva, permitindo que elas detectem e neutralizem ameaças mais rápidas e eficazes do que nunca.
Construindo um futuro seguro para organizações
As organizações devem priorizar a integração de medidas robustas de segurança cibernética e aderência ao novo Código de Prática de Segurança Cibernética da AI. Algumas das recomendações principais incluem a implementação de protocolos de desenvolvimento seguro, a realização de avaliações regulares de risco e a implantação de ferramentas defensivas orientadas por IA para proteger os sistemas contra ameaças emergentes, como a tecnologia DeepFake e malware movido a IA.
Um primeiro passo vital é investir no gerenciamento de riscos humanos. De acordo com Relatório de Risco de Estado de Humano de Mimecast 202595% de todas as violações cibernéticas são causadas por erro humano. Além disso, pesquisas da Elevate Security adquiridas por Mimecast em 2024 descobriram que apenas 8% dos usuários de uma organização são responsáveis por 80% dos incidentes de segurança. É essencial abordar essas vulnerabilidades por meio de estratégias direcionadas de gerenciamento de riscos.
A batalha contra ameaças cibernéticas orientadas pela IA não pode ser travada com ferramentas desatualizadas e treinamento desatualizado. As ameaças modernas exigem soluções de segurança modernas e aprendizado contínuo. As organizações devem adotar as defesas de segurança movidas a IA que correspondem à velocidade, escala e sofisticação dos ataques modernos. A aquisição da MIMECAST da CNO, uma plataforma de segurança de colaboração de IA, enfatiza essa mudança, ajudando a permitir que as empresas identifiquem riscos em ferramentas no local de trabalho, como equipes e folga, impedir a perda de dados e mitigar fatores de risco em tempo real em tempo real.
A segurança cibernética deve ser uma prioridade estratégica
Nunca foi tão importante para as empresas priorizar a segurança cibernética como uma prioridade estratégica central, não apenas uma medida de precaução. Ao adotar estruturas como a certificação ISO, as empresas podem mitigar riscos legais e melhorar a confiança entre o público, investidores e clientes, todos os quais são elementos cruciais para escalar com sucesso as soluções de IA em escala global.
Uma abordagem equilibrada, combinando a experiência humana com as capacidades da IA, criará um ambiente on -line mais seguro e garantirá que as empresas sejam resistentes diante de futuros desafios cibernéticos.
Sobre o autor
Jeff Schumann é vice -presidente de segurança de colaboração e estrategista da IA em Mimecast. Mimecast está transformando a maneira como as empresas gerenciam e seguram o risco humano. Sua plataforma de risco humana conectada a AI e alimentada pela AI é criada para proteger as organizações do espectro de ameaças cibernéticas. A integração da tecnologia de ponta com vias centradas em humanos, nossa plataforma aprimora a visibilidade e fornece informações estratégicas. Nossa tecnologia protege dados críticos e envolve ativamente os funcionários na redução de riscos e no aumento da produtividade. Mais de 42.000 empresas em todo o mundo Trust Mimecast para ajudá-los a se manter à frente do cenário de ameaças em constante evolução. Do risco privilegiado a ameaças externas, os clientes obtêm mais com Mimecast. Mais visibilidade. Mais agilidade. Mais controle. Mais segurança.