A adoção da Inteligência Artificial está acontecendo em ritmo acelerado: segundo o relatório State of AI (Março de 2025) da McKinsey, 78% das organizações já utilizam a IA generativa em pelo menos uma função de negócios. No entanto, a implementação técnica esbarra em desafios profundos que tornam a governança em IA generativa essencial.
A mesma consultoria aponta que apenas 18% dessas empresas possuem um conselho de IA Responsável com autoridade de decisão, o que evidencia a ausência de uma governança em IA generativa estruturada.
Grande parte relata que lacunas de conhecimento e treinamento (51%), restrições orçamentárias (45%) e incertezas regulatórias (40%) atrasam os projetos.
Durante nossa participação no Executive Briefing Center da AWS, em Seattle, ficou claro que implementar a GenAI de forma segura passa, obrigatoriamente, por uma governança em IA generativa eficiente.
Neste artigo, exploramos os frameworks de avaliação, a importância da observabilidade e como a AWS aborda a governança em IA generativa na prática.
Organizamos os principais aprendizados da sessão em quatro eixos:
- O cenário real de riscos e a urgência regulatória;
- As oito dimensões da IA Responsável;
- Frameworks e padrões técnicos que sustentam avaliação, observalidade e conformidade;
- A gestão de risco na prática, com destaque para a solução AI Risk Intelligence (AIRI).
Governança em IA generativa: o cenário de riscos e o papel da IA responsável
A IA Responsável é a prática de projetar, desenvolver e usar a tecnologia de IA com o objetivo de maximizar os benefícios e minimizar os riscos.
Longe de ser apenas um obstáculo burocrático, investir nisso destrava valor mensurável. Organizações relatam melhoria de eficiência e redução de custos (42%), aumento da confiança do consumidor (34%) e melhoria na reputação da marca (29%).
Hoje, as organizações gerenciam ativamente não apenas a imprecisão e a cibersegurança, mas também riscos de infração de Propriedade Intelectual (IP). O aumento dos controles sociais e regulatórios é impulsionado por riscos reais e pela política de soberania, segurança, energia e trabalho.
Além do robusto EU AI Act na Europa e de legislações nos EUA, o movimento regulatório avança no Brasil. Isso torna a governança em IA generativa uma prioridade técnica estratégica, e não apenas jurídica.
As 8 dimensões da IA responsável da AWS
Na AWS, a IA responsável é definida por um conjunto central de oito dimensões que devem ser avaliadas e atualizadas continuamente:
- Controlabilidade: mecanismos para monitorar e direcionar o comportamento do sistema. Riscos incluem a falta de intervenção humana e ausência de planos de resposta a incidentes.
- Privacidade e Segurança: proteção rigorosa de dados e modelos. Ameaças envolvem a divulgação de dados sensíveis e injeções de prompt (prompt injection).
- Segurança (Safety): prevenção de resultados prejudiciais e mau uso, evitando ameaças à segurança humana e envenenamento de dados.
- Justiça (Fairness): consideração dos impactos sobre diferentes grupos de stakeholders para prevenir discriminação e consultas estereotipadas.
- Veracidade e Robustez: combate contínuo às alucinações, garantindo resultados corretos mesmo diante de entradas inesperadas ou adversárias.
- Explicabilidade: capacidade de compreender e avaliar as saídas geradas. Sem ela, os sistemas tornam-se opacos.
- Transparência: garantia de que partes interessadas possam fazer escolhas informadas, baseada em documentação e rastreamento de incidentes.
- Governança: incorporação de melhores práticas na cadeia de suprimentos da IA e processos de auditoria claros.
Desafios operacionais na governança em IA generativa
A complexidade da governança atrasa o time-to-value, pois a cadeia de suprimentos envolve dados de clientes, terceiros, modelos e agentes. Traduzir regulamentações em práticas operacionais para casos de uso específicos pode atrasar projetos em meses.
O mercado exige o cumprimento de frameworks rigorosos. Isso vai além de padrões de gestão como a ISO/IEC 42001 e o NIST AI Risk Management Framework, chegando a níveis profundamente técnicos, como a ISO 12791 (viés), a ISO 5259-X (qualidade de dados) e C2PA (credenciais).
O gargalo atual é a falta de estratégias de segurança robustas e de ferramentas de avaliação, monitoramento ou painéis (dashboards) de observabilidade para manter esses padrões em escala.
Soluções práticas: AI Risk Intelligence na governança em IA generativa
O Generative AI Innovation Center (GenAIIC) é o centro de inovação da AWS dedicado a ajudar clientes a imaginar, construir e implantar soluções de Inteligência Artificial generativa com sucesso. É dentro deste ecossistema de inovação que nasce o framework das 8 dimensões, que vimos anteriormente e a solução AIRI.
Ele não foca apenas na construção de modelos, mas em garantir que essa inovação seja confiável e segura.
O centro desenvolveu o AI Risk Intelligence (AIRI) para preencher a lacuna entre o potencial da GenAI e a realidade das operações corporativas.
Esta solução automatiza o gerenciamento de riscos utilizando padrões da indústria (ISO, NIST e OWASP). Na prática, a solução processa códigos-fonte, documentações e políticas, executando chamadas simuladas e testes de penetração, utilizando LLMs como juízes (LLM-as-a-judge). Isso proporciona uma visão unificada (single pane of glass) dos riscos. Dashboards de observabilidade exibem a distribuição de descobertas categorizadas por severidade, permitindo que as equipes priorizem mitigações técnicas imediatas, como proteção contra prompt injection ou vazamento de dados.
À medida que a organização avança para arquiteturas agênticas complexas, soluções como a AIRI tornam-se pré-requisitos de escala. É a diferença entre confiar na governança por que uma alguém revisou um documento uma vez, e confiar por meio de evidência contínua, atualizada a cada mudança de arquitetura ou política.
Conclusão
Implementar IA generativa é um exercício contínuo de gestão de riscos e governança técnica.
Como demonstrado pelas discussões no Executive Briefing Center da AWS, estruturar novos projetos apoiados em ferramentas de observabilidade como o AI Risk Intelligence garante que as corporações acompanhem a evolução acelerada da tecnologia sem comprometer a segurança, os dados ou a propriedade intelectual.
O caminho da governança em IA generativa é claro: a transição de princípios abstratos para evidência técnica verificável.
Fontes:
- McKinsey & Company: State of AI report (Março de 2025).
- McKinsey & Company: ON AI TRUST: Why investing in AI trust pays off.
- Open AI Incident Database (2024).
- Normas ISO Internacionais (ISO/IEC 42001, ISO/IEC 23894, ISO 12791, ISO 5259-X).
- NIST AI Risk Management Framework (RMF).
*Gabryella Menezes de Araújo é Tech Manager na Zup Innovation, com sólida experiência em liderança de times de tecnologia, modernização e inovação. Especialista em GenAI, atua na intersecção entre estratégia de negócio, comportamento humano e tecnologia para acelerar resultados.
