Red Hat lança a comunidade asago para automatizar a segurança e a governança de IA, das políticas à produção
A comunidade asago reúne várias das principais empresas de alta tecnologia visando a segurança da IA
Novo projeto open source colaborativo asago reúne Red Hat, Alquimia AI, Brave Software, coalizão EvalEval, IBM Research, Interdisciplinary Transformation University Austria, Microsoft, MIT Lincoln Laboratory, North Carolina State University, NVIDIA e The Alan Turing Institute para reduzir o gap entre os requisitos de políticas de IA e a implantação segura de sistemas de inteligência artificial
A Red Hat, líder mundial no fornecimento de soluções open source, anunciou hoje a criação do asago, um projeto comunitário de código aberto destinado a automatizar a transformação de políticas de governança de IA em sistemas de IA prontos para produção e implantados com segurança.
O asago conecta as etapas, ferramentas e requisitos fragmentados entre equipes de engenharia e compliance para criar um fluxo de trabalho automatizado, auditável e rastreável. O objetivo é ajudar a entregar sistemas de IA mais seguros e prontos para produção, impulsionando a inovação em dias, e não em meses ou anos.
O que é o asago?
O asago (AI Safety And Governance Orchestration) pretende utilizar uma plataforma open source padronizada e um fluxo de trabalho automatizado para traduzir políticas corporativas e regulatórias de governança de IA complexas em controles operacionais efetivos.
A iniciativa se baseia no trabalho desenvolvido pela Red Hat e pela NVIDIA como membros da Open Secure AI Alliance e e alia a flexibilidade dos desenvolvedores à governança dos operadores em quatro etapas principais:
● Mapeamento de riscos: o framework lê e interpreta automaticamente as políticas de governança de IA enviadas, mapeando os requisitos específicos da organização diretamente para frameworks, ontologias e padrões consolidados de gestão de riscos em IA, como o NIST AI RMF, o OWASP LLM Top 10 e a Lei de IA da União Europeia (EU AI Act), por meio do IBM AI Risk Atlas. Dessa forma, transforma a linguagem das políticas em perfis de risco acionáveis.
● Avaliação de riscos: o asago gera e executa cenários específicos para cada caso de uso, realizando testes automatizados de segurança adaptados aos riscos identificados e investigando comportamentos potencialmente nocivos, em vez de depender exclusivamente de benchmarks genéricos.
● Mitigação de riscos: o projeto recomenda as medidas de mitigação mais adequadas, incluindo guardrails de segurança baseados nos resultados dos testes, criando uma justificativa clara e uma trilha de auditoria pronta para revisão.
● Implantação em produção: o asago orquestra os controles recomendados em configurações prontas para implantação em diferentes plataformas, incluindo ambientes de nuvem híbrida e Kubernetes, eliminando a codificação manual da infraestrutura.
Cada uma dessas etapas será estruturada para gerar uma trilha contínua de auditoria, conectando cláusulas específicas das políticas diretamente aos testes e aos controles de tempo de execução, permitindo que revisores identifiquem exatamente qual risco cada ação busca abordar. Isso ajuda a transformar a segurança de IA em um recurso corporativo previsível e governado.
Por que o asago é importante?
Traduzir diretrizes abstratas de políticas em configurações funcionais de software retarda a inovação em IA e aumenta os riscos decorrentes de falhas de comunicação e interpretações equivocadas. Profissionais de compliance precisam de avaliações rigorosas de risco e evidências verificáveis, enquanto engenheiros de plataforma necessitam de configurações estruturadas que possam ser mantidas dentro de fluxos padrão de DevOps e GitOps. À medida que regulamentações abrangentes, como a Lei de IA da União Europeia (EU AI Act), entram em vigor, as organizações não podem correr o risco de comprometer a inovação com meses de revisões manuais nem de criar implantações paralelas (shadow AI) sem os guardrails de segurança adequados.
O asago pretende eliminar esse atrito ao oferecer um padrão aberto único, capaz de reunir equipes de compliance, cientistas de dados e administradores de infraestrutura. Ao tratar todos esses públicos como usuários igualmente relevantes, a plataforma irá permitir a criação de controles de segurança para agentes autônomos de IA e modelos corporativos de linguagem de grande porte (LLMs), sem introduzir as inconsistências inerentes à tradução manual.
O que diz a Red Hat
“À medida que as organizações avançam de projetos-piloto experimentais para agentes autônomos de IA de longo prazo, estabelecer guardrails operacionais claros torna-se um requisito essencial de infraestrutura”, afirma Steven Huels, vice-presidente de Engenharia de IA na Red Hat. “Por meio de iniciativas como o Lightwell, estamos trabalhando para proteger a cadeia de suprimentos open source contra vulnerabilidades impulsionadas por IA. O asago complementa esse esforço e representa o próximo passo lógico para a IA corporativa ao automatizar a conexão entre definições de políticas corporativas e agentes em produção. Isso oferece às empresas a confiança operacional de ponta a ponta necessária para escalar uma IA confiável em ambientes de nuvem híbrida.”
“O projeto asago é um verdadeiro esforço colaborativo de código aberto que reúne representantes da indústria de tecnologia, da academia e do setor público”, afirma Stuart Battersby, arquiteto de segurança e avaliação de modelos de IA na Red Hat. “Convidamos novos colaboradores a participarem dessa iniciativa liderada pela comunidade, especialmente de diferentes partes do mundo, para garantir a maior abrangência possível de perspectivas sobre segurança em IA.”
Principais destaques
● Automação para reduzir a complexidade das políticas: substitui interpretações manuais e scripts personalizados por um fluxo de orquestração integrado, reduzindo o tempo de implantação de meses para dias.
● Uma trilha única de auditoria: atende responsáveis por políticas, CIOs, desenvolvedores de IA, engenheiros de plataforma e auditores externos em uma interface unificada de rastreabilidade.
● Código aberto e governança orientada pela comunidade: disponibilizado sob a licença Apache License 2.0 para promover a colaboração aberta em todo o ecossistema de segurança em IA.
● Implantação independente da infraestrutura: gera configurações declarativas para Kubernetes, Terraform e Ansible, permitindo que as organizações mantenham uma postura consistente de segurança em múltiplas nuvens e ambientes on-premises.
Mais detalhes
O projeto asago reúne líderes da indústria e instituições acadêmicas, incluindo Red Hat, Brave Software, coalizão EvalEval, IBM Research, Interdisciplinary Transformation University Austria, Microsoft, MIT Lincoln Laboratory, North Carolina State University, NVIDIA e The Alan Turing Institute, em um esforço conjunto para integrar diferentes especialidades em pesquisa sobre segurança em IA, engenharia de software empresarial, aprendizado de máquina adversarial e conformidade regulatória.
O projeto será integrado às melhores ferramentas abertas disponíveis e foi desenvolvido especificamente para preencher as lacunas operacionais existentes entre elas. O objetivo é oferecer recursos completos e distribuídos de rastreabilidade, registrando as evidências exigidas por auditores para comprovar conformidade. Dessa forma, cada controle ativo em um ambiente de produção poderá ser vinculado diretamente à política que justificou sua implementação, estabelecendo um processo contínuo de verificação para portfólios corporativos de IA.
O que dizem os parceiros da Red Hat
“Na Alquimia, construímos nossa plataforma de IA agêntica com base em uma convicção: a inferência de IA deve ser controlada, explicável e soberana desde a concepção, e não tratada como uma exigência de compliance de última hora”, afirma Sebastián Cao, CEO da Alquimia AI. “O asago transforma essa mesma convicção em um padrão aberto, oferecendo a qualquer organização um caminho da política à governança pronta para produção que pode ser efetivamente auditada. É exatamente esse tipo de infraestrutura que a indústria precisa e é por isso que, por meio da gaussia.ai, contribuímos com métricas abertas e cientificamente fundamentadas para medir como os sistemas de IA realmente se comportam no mundo real. Frameworks abertos de governança, como o asago, tornam possível que comunidades inteiras, e não apenas os fornecedores, definam na prática o que significa uma IA confiável.”
Brave
“A Brave está entusiasmada em integrar a comunidade asago para ajudar a impulsionar o avanço da segurança em IA, porque uma Web mais segura beneficia a todos”, afirma Brendan Eich, CEO e cofundador da Brave Software. “A Brave sempre foi open source e esperamos colaborar com o asago para garantir que privacidade e segurança sejam os pilares das ferramentas de IA. Mais de 120 milhões de usuários navegam e realizam buscas com a Brave, e esperamos que nossa abordagem centrada no usuário contribua para elevar o padrão dos guardrails robustos para IA.”
“Desenvolver uma IA confiável exige mais do que boas intenções. Exige uma governança que possa ser implementada, verificada e continuamente mantida”, afirma o Prof. Dr. Ben Wagner, docente de Direitos Humanos e Tecnologia na IT:U. “O asago foi concebido para ajudar a transformar políticas de alto nível em fluxos práticos de engenharia. A IT:U possui sólida experiência tanto na governança técnica quanto organizacional da IA e, por isso, agradecemos a oportunidade de contribuir com o projeto. Esperamos que ele permita às organizações inovar com confiança, tornando o desenvolvimento responsável de IA uma realidade prática.”
Microsoft
“Muitos dos desafios mais complexos relacionados à segurança e à proteção da IA ainda não foram solucionados, e nenhuma organização, sozinha, é capaz de enfrentá-los”, afirmou Sarah Bird, diretora de produtos de IA Responsável da Microsoft. “Padrões abertos e amplamente adotados podem contribuir para uma governança mais consistente em todo o ecossistema, enquanto a inteligência coletiva da comunidade pode acelerar o progresso em relação aos desafios mais relevantes. Estamos entusiasmados em fazer parte da comunidade asago e trabalhar ao lado de outras organizações para ajudar a desenvolver uma IA segura, protegida e digna da confiança das pessoas.”
MIT
“A colaboração open source é fundamental para avançar a segurança e a proteção da IA em todo o ecossistema”, afirma Diane Staheli, cientista-chefe de IA e Cibersegurança do MIT Lincoln Laboratory. “A iniciativa asago irá incorporar pesquisas multidisciplinares para enfrentar a lacuna crítica entre os requisitos de governança e a realidade operacional. Estamos entusiasmados em contribuir para tornar ferramentas de segurança e proteção em IA amplamente acessíveis.”
North Carolina State University
“Garantir que sistemas de IA sejam seguros e protegidos é um desafio de engenharia tanto quanto de políticas públicas, e nenhuma empresa, laboratório ou universidade conseguirá resolvê-lo sozinha”, afirma Veena Misra, reitora interina da Faculdade de Engenharia da North Carolina State University. “A Faculdade de Engenharia da NC State contribui para a comunidade asago com uma sólida base de pesquisa em segurança de IA, além de formar engenheiros preparados para desenvolver sistemas de IA seguros e prontos para produção desde o início. Parcerias como esta conectam diretamente nossas pessoas e programas às necessidades futuras da indústria.”
NVIDIA
“A Open Secure AI Alliance foi fundada com base no princípio de que modelos abertos, estruturas e ferramentas abertas constituem a base mais sólida para a defesa da IA — e o asago coloca esse princípio em prática”, afirma Daniel Rohrer, vice-presidente de Segurança de Software da NVIDIA. “Ao automatizar a tradução das políticas de governança de IA em controles prontos para produção e trilhas de auditoria, o projeto asago demonstra como a Red Hat, a NVIDIA e nosso ecossistema estão fortalecendo a segurança dos agentes com ferramentas de código aberto.”
“Nenhuma organização consegue tornar a IA segura e governável em escala sozinha; isso exige ferramentas abertas, diferentes áreas de conhecimento e uma governança neutra”, afirma Jason McEwen, cientista-chefe do The Alan Turing Institute e professor da UCL. “É exatamente isso que torna o modelo colaborativo do asago tão relevante, além de se conectar diretamente ao nosso trabalho em IA Confiável e Assegurada dentro da área de Pesquisa Fundamental do Alan Turing Institute. Temos satisfação em participar como parceiros fundadores e ajudar a definir os rumos do projeto ao lado da comunidade.”
Disponibilidade
O projeto asago está atualmente na fase de formação da comunidade. Desenvolvedores, pesquisadores acadêmicos e organizações interessadas em adotar a iniciativa de forma antecipada já podem acessar o repositório e participar da governança do projeto por meio do GitHub.
Para saber mais e manifestar interesse em colaborar, acesse asago.ai ou preencha o formulário da comunidade.
Sobre a Red Hat
A Red Hat é a líder global no fornecimento de soluções empresariais open source e usa uma abordagem de parceria com as comunidades para entregar tecnologias Linux, de cloud híbrida, de containers e Kubernetes confiáveis e de alta performance. A Red Hat ajuda os clientes a integrar aplicações de TI existentes e novas, desenvolver aplicações nativas em cloud, padronizar com o sistema operacional líder no setor e automatizar, proteger e gerenciar ambientes complexos.
Premiados serviços de suporte, treinamento e consultoria tornam a Red Hat uma confiável parceira das empresas da Fortune 500. Atuando com fornecedores de cloud, integradores de sistemas, fornecedores de aplicações, clientes e comunidades open source, a Red Hat ajuda as organizações a se preparar para o futuro digital.