Governança e Estruturação: Pilares Essenciais para a Segurança em IA
A adoção crescente da inteligência artificial (IA) nas empresas tem revelado desafios significativos, especialmente no campo da segurança de dados. Segundo um relatório global da Hitachi Vantara, os principais obstáculos para a implementação eficaz da IA são a estruturação dos dados, a governança e a infraestrutura tecnológica. Essas áreas preocupam os executivos, que vêem nelas a raiz dos riscos crescentes em cibersegurança, agravados pela popularização dos agentes de IA e sua capacidade de agir com autonomia.
Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, ressalta que os agentes de IA podem tomar decisões com consequências inesperadas se não forem monitorados de forma constante. Ele alerta para o desconhecimento ainda presente sobre o funcionamento dessas ferramentas, que pode aumentar as vulnerabilidades das organizações.
O Risco das Alucinações e Dados Não Estruturados
O relatório indica que 91% dos agentes de IA ainda apresentam fenômenos conhecidos como “alucinações”, onde geram informações imprecisas ou incorretas. Além disso, destaca que 76% dos dados corporativos são não estruturados, justamente o tipo mais explorado pelas aplicações de IA, o que potencializa os riscos de segurança.
No Brasil, a situação apresenta particularidades. Apesar do avanço acelerado na digitalização, muitas empresas ainda operam em ambientes legados e heterogêneos. Os executivos brasileiros, segundo a Hitachi Vantara, adotam uma postura mais conservadora diante da IA, realizando análises detalhadas antes de investir na tecnologia.
Leia também: OpenAI lança GPT-6 Astra: o avanço que marca a era da Inteligência Artificial Geral
Fonte: bh24.com.br
Leia também: OpenAI apresenta GPT-6 Astra: o avanço que marca o início da Inteligência Artificial Geral
Fonte: belembelem.com.br
Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, observa que essa cautela brasileira é positiva, diante da apreensão sobre os custos iniciais e a eficácia comprovada da IA. Para ele, é fundamental questionar se um problema pode ser resolvido sem recorrer à inteligência artificial, evitando investimentos precipitados e exposição desnecessária a riscos.
Educação e Capacitação: Caminhos para Mitigar Riscos
Um dos caminhos apontados pelos especialistas para reduzir os riscos associados à IA está na educação dos usuários. Conhecer profundamente o funcionamento da tecnologia e compreender as implicações de seu uso são essenciais para garantir segurança e eficiência. No entanto, Shane Gibson destaca que esse processo de capacitação costuma ser negligenciado, e que a pressa em implementar soluções pode comprometer a segurança.
“É fundamental definir claramente os objetivos da IA, entender os perigos envolvidos e realizar testes rigorosos antes de colocar as soluções em produção”, afirma Gibson, reforçando a importância do planejamento cuidadoso para evitar falhas e incidentes.
Segurança de Dados Ganha Espaço nas Prioridades das Corporações
A preocupação com a segurança tem crescido entre as lideranças. O relatório da Hitachi Vantara revela que 56% dos executivos apontam a segurança de dados como o maior desafio na adoção da IA, um aumento de 19 pontos percentuais em relação ao ano anterior. Essa mudança se reflete também no uso dos modelos de linguagem de grande escala (LLMs), que tiveram uma queda na percepção de sucesso de 95% para 81%, indicando maior rigor na avaliação dessas ferramentas.
Leia também: OpenAI lança GPT-6 Astra e anuncia a era da Inteligência Artificial Geral
Fonte: diretodorecife.com.br
Paralelamente, as empresas têm investido mais em governança e qualidade dos dados. A proporção de organizações que aprimoram os dados usados nos treinamentos subiu de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho também aumentaram, passando de 36% para 44%, e as empresas sem estratégias de explicabilidade caíram de 42% para 24%.
Governança e Segurança: Aliadas da Inovação
Apesar dos desafios, os especialistas destacam que segurança e governança não devem frear a inovação, mas sim garantir que ela ocorra de forma segura e eficiente. O equilíbrio entre avanço tecnológico e controle dos riscos é essencial para que as empresas tirem o máximo proveito da IA sem comprometer seus negócios.
Shane Gibson projeta um futuro em que a interação com a IA será mais simples e integrada, com interfaces capazes de gerar resultados rapidamente. No entanto, ele enfatiza que essa evolução depende de uma base sólida, construída com governança e estruturação adequadas.
“A tecnologia vai continuar avançando, mas para isso precisamos estar estruturados e preparados para garantir segurança e eficiência”, conclui Gibson.
