Os pilares que impactam a segurança na adoção da IA
A implementação da inteligência artificial (IA) nas empresas enfrenta obstáculos significativos relacionados à segurança dos dados. Um relatório global da Hitachi Vantara destaca que a estruturação dos dados, governança e infraestrutura são os principais pontos de preocupação para executivos na adoção dessa tecnologia. Desde que a IA generativa conquistou destaque, a cibersegurança tem sido ameaçada pela ausência desses elementos fundamentais, especialmente com a chegada dos agentes de IA, que ampliam os riscos caso não sejam monitorados adequadamente.
Shane Gibson, especialista técnico sênior para as Américas da Hitachi Vantara, alerta que esses agentes podem executar ações com consequências não intencionais se não houver supervisão constante. Além disso, há um equívoco comum sobre o funcionamento dessas ferramentas, o que aumenta a exposição a vulnerabilidades.
Confiança excessiva e os riscos gerados pelo uso acelerado da IA
Segundo o executivo, muitas empresas têm depositado confiança exagerada nos resultados gerados pela IA, impulsionadas pelo entusiasmo em torno da tecnologia. Essa pressa em implementar soluções, às vezes desnecessárias, pode abrir brechas para ameaças de segurança. O relatório revela que alucinações em agentes de IA ainda ocorrem em cerca de 91% dos casos, enquanto 76% dos dados corporativos permanecem não estruturados — justamente os mais explorados por aplicações inteligentes.
No contexto brasileiro, a realidade apresenta nuances diferentes. Apesar do avanço acelerado na digitalização, muitas organizações ainda operam com sistemas legados e ambientes heterogêneos. A Hitachi Vantara percebe os executivos de tecnologia do país como mais cautelosos, adotando uma postura conservadora diante dos investimentos em IA.
Leia também: Alexa+ enfrenta ChatGPT: desafio da Amazon para acompanhar a evolução da IA
Fonte: belembelem.com.br
Leia também: Transformação digital no Ministério Público do Acre: 7 passos para conectar história e tecnologia
Fonte: acreverdade.com.br
Conservadorismo brasileiro e a busca por segurança
Joshua Wick, líder global de riscos e compliance da Hitachi Vantara, destaca que os profissionais brasileiros preferem aprofundar a análise antes de investir financeiramente na IA. Esse comportamento está relacionado à apreensão sobre o retorno inicial do investimento, fundamentada em estudos disponíveis até o momento.
Essa postura prudente é vista como positiva pelos especialistas, que recomendam questionar a real necessidade da IA para solucionar problemas específicos. Wick ressalta que a tecnologia deve ser aplicada com parcimônia, evitando a adoção impulsiva.
Educação dos usuários como estratégia para mitigar riscos
Para os executivos, a capacitação dos usuários é essencial. Entender como a IA funciona e as implicações do seu uso ajuda a estruturar melhor o ambiente tecnológico e a reduzir riscos. Shane Gibson destaca que esse processo demanda tempo e não pode ser negligenciado: “É preciso saber o que se deseja da IA, conhecer os perigos envolvidos nela e não ter pressa para colocá-la em produção. As organizações precisam estar cientes desses aspectos e realizar testes com antecedência”.
Segurança de dados ganha protagonismo nas prioridades das empresas
Com o aumento da preocupação, o relatório aponta que 56% das lideranças consideram a segurança de dados o maior desafio na implementação da IA, um crescimento de 19 pontos percentuais em relação ao ano anterior. Essa tendência se reflete no uso dos modelos de linguagem de grande escala (LLMs), que tiveram uma queda na percepção de sucesso. Ferramentas como ChatGPT e Copilot passaram de 95% para 81% na avaliação positiva.
Leia também: Alexa+ e ChatGPT: quem leva a melhor na evolução dos assistentes virtuais?
Fonte: diariofloripa.com.br
Em resposta, cresce o investimento em governança e qualidade dos dados. A proporção de empresas que aprimoram os dados para treinamento subiu de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares de desempenho também aumentaram, passando de 36% para 44%. Além disso, o número de organizações sem estratégias de explicabilidade dos modelos caiu de 42% para 24%.
Governança como alavanca para inovação segura
Apesar dos desafios, tanto Gibson quanto Wick reforçam que governança e segurança não significam frear a inovação. Pelo contrário, são fundamentais para que as organizações possam explorar a IA com máxima eficiência, garantindo a proteção dos negócios. Gibson prevê que o futuro da tecnologia trará interfaces únicas capazes de gerar resultados sob demanda, mas para isso, a estruturação prévia é indispensável.
O cenário exige que as empresas sigam investindo em governança, educação e infraestrutura para que a inteligência artificial seja uma ferramenta segura e eficaz, capaz de transformar processos sem comprometer a integridade dos dados ou o funcionamento dos sistemas.