Red Hat impulsiona a confiança e a segurança em IA com a aquisição da Chatterbox Labs
Compra da empresa Chatterbox Labs adiciona testes críticos de segurança e mecanismos de proteção ao Red Hat AI, viabilizando uma IA responsável e de nível de produção em escala
A Chatterbox Labs, empresa pioneira em segurança de IA agnóstica a modelos e em mecanismos de proteção (guardrails) de IA generativa (gen AI) acaba de ser adquirida pela Red Hat, empresa referência em soluções de código aberto.A aquisição traz recursos críticos de “segurança para IA” ao portfólio do Red Hat AI, fortalecendo os esforços da organização para oferecer uma plataforma corporativa de IA abrangente e open source, desenvolvida para a nuvem híbrida.
A compra da plataforma de segurança Chatterbox Labs se soma a um ano de rápida inovação para o o Red Hat AI após a introdução do Red Hat AI Inference Server e do lançamento do Red Hat AI 3.. Clientes em todo o mundo e de diversos setores estão adotando o Red Hat AI para impulsionar a inovação por meio de aplicações de IA generativa, preditiva e agêntica.
À medida que as empresas avançam da experimentação para a produção, surge um desafio complexo: implementar modelos que não sejam apenas poderosos, mas também comprováveis, confiáveis e seguros. Recursos de segurança e mecanismos de proteção (guardrails) deixaram de ser diferenciais e tornaram-se requisitos básicos para as operações modernas de machine learning (MLOps).
Compromissos
Esse foco em segurança e confiança reflete o compromisso da Red Hat e da IBM em apoiar os clientes na adoção de uma mentalidade que priorize a segurança à medida que escalam a IA de forma responsável em ambientes de nuvem híbrida. A integração da tecnologia da Chatterbox Labs cria uma plataforma unificada, com segurança incorporada desde a base, fortalecendo a capacidade da Red Hat de viabilizar cargas de trabalho de IA em produção com qualquer modelo, em qualquer acelerador e em qualquer lugar.
Lidando com as consequências não intencionais da IA
Fundada em 2011, a Chatterbox Labs traz a tecnologia e a expertise fundamentais em segurança e transparência em IA. Sua experiência em risco quantitativo de IA tem sido elogiada por centros de pesquisa e formuladores de políticas independentes do mundo todo. Essa aquisição traz uma tecnologia essencial de machine learning para a Red Hat.
A Chatterbox Labs oferece recursos automatizados e personalizados de segurança e testes de proteção em IA, entregando as métricas factuais de risco que líderes empresariais precisam para aprovar a implementação de IA em produção. A tecnologia traz uma abordagem robusta e agnóstica de modelo para validar dados e modelos por meio de:
• AIMI para genAI: entrega métricas quantitativas e independentes de risco para modelos de linguagem de grande porte (LLMs).
• AIMI para IA preditiva: valida qualquer arquitetura de IA com base em pilares-chave, incluindo robustez, equidade e explicabilidade.
• Guardrails: identifica e corrige prompts inseguros, nocivos ou tendenciosos antes de colocar os modelos em produção.
Protegendo a próxima geração de cargas de trabalho de IA
Essa aquisição se alinha à visão da Red Hat de oferecer suporte a diversos modelos e destinos de implantação na nuvem híbrida. Também complementa os recursos inovadores introduzidos no Red Hat AI 3, especialmente para IA agêntica e Model Context Protocol (MCP). À medida que as empresas adotam a essa modalidade de IA, modelos confiáveis e seguros se tornam ainda mais críticos, dada a complexa função autônoma dos agentes de IA e seu potencial impacto nos principais sistemas de negócios.
Trabalhos investigativos da Chatterbox Labs
A Chatterbox Labs realizou um trabalho investigativo sobre a segurança agêntica holística, incluindo o monitoramento de respostas de agentes e a detecção de gatilhos de ação de servidor MCP. Essa iniciativa está alinhada ao roadmap da Red Hat para o suporte ao Llama Stack e ao MCP, posicionando a companhia para proteger a próxima geração de cargas de trabalho inteligentes e automatizadas sobre uma base confiável e pronta para o ambiente empresarial. Ao combinar os recursos de MLOps com os mecanismos de proteção da Chatterbox Labs, a empresa permitirá que as organizações operacionalizem seus investimentos em IA com muito mais confiança.
Sobre a Red Hat
A Red Hat é líder em tecnologia de nuvem híbrida aberta, e proporciona uma base confiável, consistente e abrangente para uma inovação transformadora em TI e aplicações de inteligência artificial (IA). Seu portfólio de tecnologias de nuvem, desenvolvimento, IA, Linux e automação permite a implementação de qualquer aplicação, em qualquer lugar, desde data centers até a edge. Como líder mundial no fornecimento de soluções de software open source empresarial, a Red Hat investe em ecossistemas e comunidades abertas para resolver os desafios de TI do futuro. Por meio da colaboração, a Red Hat ajuda clientes e parceiros a construir, conectar, automatizar, proteger e gerenciar seus ambientes de TI, com o suporte de serviços de consultoria, treinamento e certificação reconhecidos mundialmente.