Amazon Lança Novas Capacidades em AgentCore para Melhorar Controle e Segurança em Agentes de IA

A Amazon acaba de anunciar novas capacidades em sua plataforma Amazon Bedrock AgentCore, que visa melhorar o controle e a segurança em agentes de IA. Essas novas funcionalidades incluem políticas temporais, impulsionadas pela linguagem de política de código aberto Dogwood, e limitação de taxa na gateway. Essas capacidades permitem que as equipes tenham controle determinístico sobre sequências de ações de agentes e limites de custo que se mantêm independentemente do comportamento do agente.

A necessidade de melhorar a segurança e o controle em agentes de IA é crescente, pois cerca de 80% das organizações já enfrentaram comportamentos arriscados de agentes de IA, de acordo com um estudo da McKinsey. Isso torna a confiança o fator limitante para a inovação e adoção de agentes de IA. A Amazon acredita que investir em confiança e segurança acelerará a adoção de agentes de IA em empresas.

As políticas temporais em AgentCore permitem que as equipes estabeleçam regras para sequências de ações de agentes, em vez de apenas avaliar cada ação individualmente. Isso é possível graças à linguagem de política Dogwood, que é projetada para avaliar se uma sequência de ações de agentes atende a uma política à medida que ela se desenrola. A Dogwood é uma linguagem de política de código aberto, o que permite que os clientes tenham visibilidade total em como suas políticas são avaliadas e permite que o ecossistema mais amplo construa ferramentas de suporte.

Além disso, a Amazon também apresentou a limitação de taxa na gateway, que permite que as equipes estabeleçam limites de consumo para cada usuário, independentemente do comportamento do agente. Isso ajuda a reduzir os custos e a tornar mais previsível o consumo de recursos.

Essas novas capacidades em AgentCore são importantes para as empresas brasileiras que estão começando a adotar agentes de IA em seus processos. Com a capacidade de controlar e limitar o comportamento dos agentes, as empresas podem reduzir os riscos e os custos associados à adoção de agentes de IA. Além disso, a linguagem de política Dogwood pode ser usada para criar regras personalizadas para sequências de ações de agentes, o que pode ajudar a melhorar a eficiência e a produtividade dos processos.

No entanto, é importante notar que a adoção de agentes de IA ainda é um desafio para muitas empresas, especialmente em termos de segurança e controle. A Amazon está trabalhando para resolver esses desafios com as novas capacidades em AgentCore, mas é fundamental que as empresas brasileiras também invistam em treinamento e educação para seus funcionários sobre como trabalhar com agentes de IA de forma segura e eficaz.

Em resumo, as novas capacidades em AgentCore são um passo importante para melhorar o controle e a segurança em agentes de IA, e podem ser úteis para as empresas brasileiras que estão começando a adotar essa tecnologia. No entanto, é fundamental que as empresas também invistam em treinamento e educação para seus funcionários e estejam cientes dos desafios e riscos associados à adoção de agentes de IA.