A pressão para adotar inteligência artificial está criando um descompasso nas empresas. Enquanto funcionários e áreas de negócio incorporam novas ferramentas em questão de dias ou semanas, processos de segurança, governança e compliance podem levar meses para acompanhar. Para especialistas do setor, porém, a resposta não é frear a adoção da IA, mas entender que velocidade, por si só, não é sinônimo de inovação.
O tema foi discutido durante o AI Forum, com participação de Alexandre Sieira, cofundador e CTO da Tenchi Security; Cristiano Lincoln, fundador da KonaSense e ex-CEO da Tempest; Aaron de Morais, diretor de Relações Institucionais da INIT e Payments Compliance Board Member do Google; e Michele Ribeiro, CEO e fundadora da Hunterstack.
“Velocidade não é um bem por si só, acima de qualquer outro valor”, afirmou Alexandre durante a discussão. Para ele, assim como uma empresa não assume uma dívida ilimitada apenas para crescer mais rápido, a adoção de IA precisa considerar os riscos envolvidos, principalmente quando a tecnologia lida com dados sensíveis ou passa a tomar decisões e executar ações em nome da companhia.
A questão ganha relevância porque, segundo Cristiano, a adoção de IA está acontecendo de baixo para cima. Funcionários começam a utilizar ferramentas por conta própria antes que as empresas consigam estabelecer políticas, processos de aprovação e mecanismos de controle. Se uma organização leva um ano para implementar IA oficialmente, diz o executivo, é provável que seus funcionários já estejam usando a tecnologia por meio de contas pessoais ou dispositivos próprios.
De assistente a agente
O problema se torna mais complexo à medida que a IA deixa de apenas responder perguntas e passa a executar tarefas.
Cristiano citou o caso de uma profissional de RH sem conhecimento técnico que utilizava ferramentas de IA para aumentar sua produtividade. Ela decidiu automatizar parte do processo de recrutamento e criou, com auxílio da tecnologia, uma aplicação interna que passou a ser utilizada por sua equipe. Quando quis acessar o sistema de casa, porém, a IA teria encontrado um serviço gratuito de hospedagem, colocado a aplicação na internet e disponibilizado os dados de RH coletados pelo sistema em uma URL pública. A funcionária não tinha conhecimento técnico para entender o que havia acontecido, enquanto os times de TI e segurança também não tinham visibilidade sobre as ações executadas pela ferramenta.
O exemplo, segundo o executivo, mostra uma mudança importante na natureza do risco. Uma IA pode produzir uma resposta incorreta, mas o problema ganha outra dimensão quando ela passa a executar ações em nome da empresa sem que seus responsáveis tenham visibilidade completa sobre o que está acontecendo.
Para ele, os principais pontos de contato que devem orientar os controles são os dados acessados pela IA, as decisões das quais ela participa e as ações que ela pode executar. Quanto mais a tecnologia avança nessa escala, maior o potencial de impacto.
Falha como feature
É nesse ponto que a discussão sobre velocidade encontra outra característica central da IA. A possibilidade de falha não pode ser tratada como uma exceção.
Segundo Cristiano, a imprevisibilidade é uma característica inerente ao funcionamento dos grandes modelos de linguagem. Como os sistemas trabalham a partir do contexto fornecido e da previsão do próximo token, não há garantia de que seus resultados serão sempre previsíveis ou adequados ao uso pretendido.
Para Michele Ribeiro, CEO da CEO at Hunterstack, isso deveria mudar a própria maneira como produtos baseados em IA são construídos. “É a política prática de desenvolvimento, uma arquitetura feita para a falha da inteligência artificial. Não é bug, nem a consciência que ela criou, é do modelo. A falha é uma feature da IA”, afirmou.
A partir dessa premissa, a segurança não deveria ser pensada como uma camada adicionada depois que o produto está pronto. O sistema precisa ser desenhado desde o início considerando que o modelo pode errar, produzir uma resposta inadequada ou exigir supervisão humana.
A velocidade da adoção também pode variar conforme o risco. Michele defendeu uma abordagem baseada em confiança. Ferramentas usadas em situações nas quais existe maior previsibilidade poderiam passar por processos de aprovação mais rápidos, enquanto aplicações que exigem respostas exatas ou que podem gerar impactos jurídicos e financeiros demandariam controles maiores.
Menos atalhos, mais segurança
Para Alexandre, parte do problema está em criar uma diferença grande demais entre o caminho seguro e aquilo que um funcionário consegue fazer sozinho. Se utilizar uma ferramenta de IA por conta própria é extremamente simples, enquanto seguir o processo corporativo exige dezenas de aprovações, a tendência é que os usuários procurem atalhos.
A solução, segundo ele, é oferecer ferramentas corporativas com sandbox, guardrails e supervisão, mas que também tenham uma experiência de uso suficientemente simples. “Você tem que melhorar a UX do ferramental de segurança para as pessoas”, afirmou.
Para Aaron de Morais, isso também exige que a liderança assuma responsabilidade pelo processo. A adoção da IA precisa ser coordenada pelo alto escalão, com políticas claras e mecanismos que permitam que a tecnologia seja implementada de forma uniforme e compatível com as regras internas e regulatórias.
A preocupação é especialmente relevante em setores regulados. Segundo os participantes, empresas que atendem clientes financeiros, de saúde ou outros segmentos que trabalham com dados sensíveis precisam considerar requisitos de segurança e governança não apenas como uma obrigação regulatória, mas também como parte da estratégia comercial.
Cristiano citou as certificações de segurança como exemplo. Para startups que desejam vender para grandes empresas ou setores regulados, determinados padrões podem deixar de ser apenas um diferencial e passar a ser requisito mínimo para iniciar uma negociação. A ressalva é que as certificações representam um piso, não um teto para a segurança. Ter um certificado não elimina a responsabilidade da empresa caso ocorra um incidente.
O outro lado da corrida
Há ainda uma razão adicional para que as empresas não consigam simplesmente esperar a governança alcançar a tecnologia: os hackers também estão adotando IA.
Cristiano afirmou que os procedimentos tradicionais de resposta a incidentes foram construídos pensando em ações realizadas por humanos, em uma escala compatível com a velocidade humana. Com agentes capazes de executar tarefas de maneira autônoma e simultânea, essa lógica começa a ficar defasada.
Na visão do executivo, isso cria uma espécie de corrida tecnológica na segurança. À medida que ataques passam a ser automatizados e paralelizados por agentes, as próprias empresas precisarão utilizar IA para ampliar sua capacidade de defesa.
O resultado, portanto, não é escolher entre acelerar ou desacelerar a adoção, mas repensar o que significa inovar com velocidade. Para os especialistas, empresas precisam avançar rapidamente sem partir da premissa de que a IA será previsível ou infalível. A saída é incorporar a possibilidade de falha ao próprio desenvolvimento dos sistemas, criando controles e guardrails que permitam inovar com rapidez sem abrir mão da segurança.
O post “A falha é uma feature da IA, não um bug”, dizem especialistas apareceu primeiro em Startups.