Google DeepMind amplia parceria com instituto de segurança de IA do Reino Unido

A Google DeepMind anunciou recentemente a ampliação de sua parceria com o UK AI Security Institute (AISI) por meio de um novo Memorando de Entendimento, com foco em pesquisas fundamentais sobre segurança e responsabilidade em inteligência artificial. Essa colaboração visa garantir que a IA seja desenvolvida de forma segura e beneficie a todos.

A parceria com o AISI é parte de uma colaboração mais ampla da Google DeepMind com o governo do Reino Unido para acelerar o progresso seguro e benéfico da IA. A IA tem um potencial imenso para beneficiar a humanidade, ajudando a tratar doenças, acelerar a descoberta científica, criar prosperidade econômica e combater as mudanças climáticas. No entanto, para que esses benefícios sejam realizados, é fundamental colocar a segurança e a responsabilidade no centro do desenvolvimento da IA.

A Google DeepMind está trabalhando ativamente com o AISI para construir avaliações mais robustas para modelos de IA e colaborar em pesquisas de segurança para avançar no campo. Recentemente, os times colaboraram em uma pesquisa sobre Monitorabilidade da Cadeia de Pensamento: Uma Nova e Frágil Oportunidade para a Segurança da IA. Com base nesse sucesso, a parceria está sendo ampliada para incluir pesquisas mais fundamentais em várias áreas.

A nova parceria de pesquisa incluirá trabalhos em técnicas para monitorar o "pensamento" de um sistema de IA, também conhecido como cadeia de pensamento (CoT). Isso ajudará a entender como um sistema de IA produz suas respostas, complementando as pesquisas sobre interpretabilidade. Além disso, a parceria investigará as implicações éticas do desalinhamento socioafetivo, ou seja, o potencial de modelos de IA se comportarem de maneiras que não alinham com o bem-estar humano, mesmo quando seguem instruções corretas.

A parceria também explorará o impacto potencial da IA nos sistemas econômicos, simulando tarefas do mundo real em diferentes ambientes. Especialistas avaliarão e validarão essas tarefas, que serão categorizadas em dimensões como complexidade ou representatividade, para ajudar a prever fatores como o impacto de longo prazo no mercado de trabalho.

A colaboração com o AISI é um elemento importante da estratégia da Google DeepMind para realizar os benefícios da IA para a humanidade, mitigando os riscos potenciais. A estratégia mais ampla inclui pesquisas de previsão, treinamento de segurança extensivo que acompanha o desenvolvimento de capacidades, testes rigorosos dos modelos e o desenvolvimento de ferramentas e quadros melhorados para entender e mitigar riscos.

Processos de governança interna fortes também são essenciais para o desenvolvimento seguro e responsável da IA, assim como a colaboração com especialistas externos independentes que trazem perspectivas frescas e expertise diversificada para o trabalho. O Conselho de Responsabilidade e Segurança da Google DeepMind trabalha em equipe para monitorar riscos emergentes, revisar avaliações de ética e segurança e implementar mitigações técnicas e políticas relevantes.

Além disso, a Google DeepMind é uma orgulhosa membro fundadora do Fórum de Modelos de Fronteira, bem como da Parceria sobre IA, onde se concentra em garantir o desenvolvimento seguro e responsável de modelos de IA de fronteira e aumentar a colaboração em questões de segurança importantes.

A ampliação da parceria com o AISI permitirá que a Google DeepMind construa abordagens mais robustas para a segurança da IA, beneficiando não apenas suas próprias organizações, mas também a indústria mais ampla e todos que interagem com sistemas de IA. Isso pode ter um impacto significativo nas empresas brasileiras que buscam adotar soluções de IA de forma segura e responsável, permitindo que elas aproveitem os benefícios da IA enquanto minimizam os riscos potenciais.