Segurança para sistemas que aprendem, decidem e agem.

Em software tradicional, a entrada é validável e o comportamento é determinado pelo código. Em um sistema com IA, a entrada é linguagem natural — ambígua por natureza — e o comportamento é uma distribuição de respostas possíveis. Não existe um conjunto finito de entradas para testar, e "correto" passa a ser um julgamento, não um resultado de comparação.

A consequência prática é que as fronteiras de confiança mudam de lugar. Onde antes havia uma barreira clara entre dado e instrução, agora existe o mesmo canal de texto carregando as duas coisas. Onde antes havia um usuário autenticado executando uma ação, agora existe um agente que decide, por conta própria, qual ferramenta chamar em nome daquele usuário.

Segurança de IA é, antes de tudo, o trabalho de redesenhar essas fronteiras para que a autonomia do sistema não implique confiança irrestrita na sua entrada.

Cada frente pode ser tratada isoladamente, mas elas se cruzam: um agente só é seguro se a aplicação que o hospeda, as ferramentas que ele alcança e os dados que o alimentam também forem.

• AI Security — o programa de segurança aplicado ao ciclo de vida de sistemas com IA: inventário de modelos e usos, avaliação de risco por aplicação, limites de comportamento aceitável e monitoramento do que acontece em produção.
• Sistemas agênticos — agentes que planejam, encadeiam passos e chamam ferramentas. O risco central é a combinação entre autonomia, escopo de permissão e ausência de supervisão em pontos de decisão relevantes.
• Aplicações com LLM — como o modelo é consultado, o que entra no contexto, o que sai dele, como o resultado é interpretado pelo restante do sistema e quais suposições a aplicação faz sobre a confiabilidade dessa saída.
• Cadeia de suprimentos de IA — modelos, pesos, adaptadores, bibliotecas, conectores e provedores externos. O que é trazido de fora, com que garantia e como uma alteração silenciosa nessa peça afetaria o comportamento do sistema.
• Risco de modelo e de dados — comportamento fora do esperado, reprodução indevida de conteúdo sensível, qualidade do conjunto de dados, vazamento de informação na resposta e degradação ao longo do tempo.
• Fronteiras de prompt e de ferramentas — a distinção entre conteúdo e instrução, o que acontece quando essa distinção é borrada por dados externos, e o que muda quando o agente tem permissão de escrita, execução ou envio.
• Supervisão humana — onde a decisão precisa parar e esperar uma pessoa, e como o sistema se comporta quando essa pessoa não está disponível.
• Identidade e permissões de agentes — qual identidade o agente assume, quais credenciais ele carrega, se ele herda o acesso completo de quem o invocou e o que impede que ele exceda o escopo pretendido.
• Governança de IA — registro do que existe e por quê, aprovação de mudanças de modelo, evidência de avaliação e rastreável de decisões para auditoria interna e para clientes.
• Risco emergente — o que está mudando rápido demais para virar catálogo: novas capacidades de modelos, novos padrões de integração e novas classes de falha que ainda não têm vocabulário consolidado.

A imagem abaixo é o método em cinco estações. Ela vale para qualquer frente desta página e existe para deixar explícito onde a decisão humana entra: não no fim, como aprovação, mas no meio, como etapa do processo.

Existe uma segunda relação entre IA e segurança neste trabalho, e ela é sobre como o trabalho é executado — não sobre o que é protegido.

A Baleeiro Security usa automação e sistemas de IA como amplificadores operacionais. Eles ajudam a processar volume, comparar padrões, organizar evidência e reduzir tempo entre observação e análise. É a diferença entre uma revisão que examina as partes mais críticas e uma que examina todas as partes relevantes.

O que a automação não faz é decidir. Interpretação de risco, definição de severidade, julgamento sobre impacto real no negócio do cliente e qualquer comunicação sobre achados permanecem sob controle do fundador. Nenhum resultado é entregue sem revisão humana, e nenhuma conclusão sai de um sistema automatizado direto para o cliente.

Informações sensíveis do cliente são minimizadas antes de entrar em qualquer fluxo automatizado: o que não é necessário para a análise não é enviado. Acesso e contexto são concedidos por necessidade, e não por conveniência.

Isso não é uma promessa de infalibilidade — é uma descrição de onde as decisões acontecem. A mesma descrição está publicada no Trust Center.

• Antes de dar a um agente permissão de escrita, execução, envio ou acesso a dados de clientes.
• Antes de colocar uma aplicação com IA em contato com o público, ou de expô-la a conteúdo que o cliente não controla.
• Quando a organização precisa responder a clientes corporativos sobre como a IA é governada, avaliada e limitada.
• Quando já existe uso de IA em produção, mas nenhuma avaliação formal de risco por aplicação.
• Quando o modelo, o provedor ou a integração mudam com frequência e ninguém consegue dizer o que mudou no comportamento do sistema.

Pesquisa original sobre riscos emergentes em IA é publicada em Baleeiro Security Research; registros curtos de mudanças recentes ficam em Insights.