Aumento da produtividade em diferentes áreas, especialmente em TI, tem sido impulsionado pelas ferramentas de IA generativa. Um teste realizado pela McKinsey, uma das principais empresas de consultoria do mundo, comprovou essa tendência por meio de uma simulação envolvendo 40 desenvolvedores. O resultado revelou que os profissionais que utilizaram a inteligência artificial concluíram tarefas de geração, documentação e otimização de códigos de forma significativamente mais ágil. No entanto, essa alta velocidade vem acompanhada de um aumento nos riscos de falhas, impactando a segurança e conformidade.
Investimentos em segurança e educação corporativa são necessários
Para mitigar esses riscos, é necessário um maior investimento em sistemas de segurança e educação corporativa. Isso visa evitar problemas como violação de privacidade de dados, infrações legais e regulatórias, mau funcionamento da IA devido à adulteração de códigos maliciosos e uso indevido de conteúdo ou código copiado. É fundamental que as equipes de TI estejam conscientes desses riscos e adotem medidas de proteção adequadas.
Confiança exagerada das equipes de TI
Uma pesquisa realizada pela Kroll, empresa americana referência em soluções financeiras, revelou que há uma inconsistência preocupante entre o nível de confiança das organizações em sua própria defesa cibernética e sua prontidão para alcançar a verdadeira resiliência em segurança digital. Dos 1.000 tomadores de decisão sêniores de organizações analisadas, 37% confiam que a empresa está protegida virtualmente, enquanto 54% acreditam que possuem a melhor proteção possível contra ataques cibernéticos. Essa confiança exagerada pode levar a uma falta de preparo para enfrentar ameaças reais.
Necessidade de estratégias de gerenciamento de riscos da IA
A KPMG, empresa global de consultoria jurídica, realizou uma pesquisa com executivos de empresas com receita acima de US$1 bilhão, focada especificamente na ferramenta ChatGPT. O estudo revelou que 65% dos entrevistados acreditam que essa ferramenta terá um impacto significativo nas organizações nos próximos três a cinco anos. No entanto, a maioria das empresas participantes ainda está em estágios iniciais de desenvolvimento de estratégias de gerenciamento de riscos da IA, apesar de reconhecerem sua importância e as possíveis ameaças envolvidas.
Grupo de trabalho para estudar a IA generativa
Diante da urgência em cobrir os riscos associados às ferramentas de IA generativa, o NIST (Instituto Nacional de Padrões e Tecnologia dos Estados Unidos) criou um grupo público de trabalho com o objetivo de analisar esses sistemas e auxiliar as empresas a desenvolver e utilizar a inteligência artificial de forma mais assertiva.
Desafios no cenário brasileiro
Embora diversos esforços e debates estejam em curso no mundo todo, o Brasil enfrenta desafios específicos nessa área. O país é líder em vazamento de dados, com mais de 112 terabytes expostos em 2022, representando cerca de 43% do total mundial, de acordo com o relatório do cenário de ameaças da Tenable. Além disso, ainda não existem regulamentações específicas para limitar o uso da IA no Brasil, o que pode facilitar a execução de golpes de engenharia social, como a produção de e-mails de phishing cada vez mais sofisticados.
Prevenção, investimento em segurança e educação são fundamentais
Diante desse panorama, a prevenção, o investimento em sistemas de defesa e a educação dos funcionários são os melhores remédios para combater o cibercrime. É essencial que as empresas estejam cientes dos riscos envolvidos na utilização da IA generativa e adotem medidas adequadas para garantir a segurança de seus dados e sistemas. A conscientização e a capacitação dos colaboradores são igualmente importantes para fortalecer a resiliência cibernética das organizações.
Este texto foi gerado pela IA do GerAI e recebeu curadoria humana de Manoela Meneses, do JOR, para garantir sua qualidade e relevância.
O GerAI conecta o ChatGPT ao WhatsApp. É #GRÁTIS! Experimente em https://gerai.com.br/
Obs.: Gere press release ou nota de imprensa, como esta, com as hashtags #release e #nota no GerAI.
