Google DeepMind investe em pesquisa de segurança de IA multiagente

A Google DeepMind, em parceria com outras organizações, como a Schmidt Sciences, a Cooperative AI Foundation, a ARIA e a Google.org, anunciou uma chamada de financiamento de até $10M para pesquisa de segurança de IA multiagente. Esse investimento visa apoiar pesquisadores em todo o mundo a desenvolver soluções para garantir a segurança e a previsibilidade de sistemas de IA que interagem entre si.

Com a escalada da tecnologia de IA, estamos entrando em uma nova era em que milhões de agentes de IA, construídos por diferentes organizações, interagirão em ambientes digitais, comunicando-se, negociando e transacionando entre si. No entanto, quando esses sistemas interagem, eles devem fazê-lo de forma segura e previsível. Isso cria uma oportunidade vital para fortalecer a segurança e a estabilidade de todo o ecossistema de IA desde o início.

A chamada de financiamento se concentra no estudo de como sistemas de IA multiagente se comportam em grupo e como podemos fornecer estruturas para entender e mitigar riscos potenciais. Ao empoderar pesquisadores globalmente, o objetivo é resolver os riscos de segurança "invisíveis" que surgem quando sistemas independentes interagem em diferentes redes.

Quando grandes grupos de agentes de IA interagem, novos comportamentos coletivos e capacidades podem emergir repentinamente. Atualmente, falta-nos as ferramentas para prever, medir e monitorar essas transições. A maioria das avaliações de segurança analisa modelos em isolamento, mas, como já foi argumentado anteriormente, agentes autônomos interagindo podem produzir comportamentos complexos e "emergentes" que são difíceis de antecipar.

Por ser uma área de pesquisa nova, é fundamental entender como essas transições ocorrem. Por exemplo, elas poderiam causar uma atividade econômica imprevisível ou levar a novos desafios de segurança? Entender como gerenciar esses comportamentos de sistema é o nosso objetivo central.

Embora existam estruturas fundamentais para a segurança de IA multiagente, a evolução rápida desses sistemas exige uma expansão imediata e em larga escala da pesquisa. O financiamento visa acelerar o progresso apoiando uma rede global de pesquisadores independentes. Uma comunidade diversa é essencial para garantir que os padrões de segurança sejam transparentes e robustos para todos.

Essa iniciativa também avança a missão da Schmidt Sciences' Science of Trustworthy AI e AI Agents, que apoia o trabalho fundamental sobre a compreensão e a mitigação de riscos de sistemas de IA de fronteira, bem como o programa Scaling Trust da ARIA, que busca desbloquear novas formas de coordenação multiagente ciber-física.

Nenhuma instituição de pesquisa pode resolver a segurança de IA multiagente sozinha. Por isso, convidamos pesquisadores acadêmicos e independentes a submeter propostas em quatro áreas prioritárias. O prazo para aplicação é 8 de agosto de 2026, e os agraciados devem ser anunciados no outono de 2026.

Para obter mais detalhes sobre os requisitos técnicos e o processo de aplicação, visite o nosso portal de aplicação. Essa é uma oportunidade importante para os pesquisadores contribuir para a construção de uma base segura para um futuro de IA multiagente.