Quatro das maiores empresas de tecnologia do mundo uniram esforços para criar o Frontier Model Forum, um grupo com o objetivo de garantir o desenvolvimento seguro e responsável da inteligência artificial generativa. Google, Microsoft, OpenAI e Anthropic anunciaram, na quarta-feira (25), um fundo para pesquisas na área com valor de US$ 10 milhões.

O AI Safety Fund, como é chamado, irá apoiar pesquisadores independentes de todo o mundo afiliados a instituições acadêmicas, instituições e startups. O propósito é verificar técnicas de avaliação para capacidades potencialmente perigosas de sistemas de inteligência artificial e encontrar formas de mitigar possíveis riscos.

Para o Frontier Model Forum, o aumento do financiamento na área de segurança em inteligência artificial ajudará a elevar a proteção de usuários e fornecerá soluções importantes para o ramo, incluindo controles que a indústria, o setor governamental e a sociedade civil precisarão para responder aos desafios representados pela tecnologia.

Fornecendo uma breve atualização sobre os atuais projetos do grupo, as companhias afirmam estar trabalhando em uma forma de permitir que laboratórios de inteligência artificial e outras tecnologias de ponta compartilhem informações relacionadas à descoberta de vulnerabilidades de maneira facilitada e abrangente.

Em publicação no blog oficial do Google, as empresas apontaram também um nome para assumir o cargo de direção-executiva do Frontier Model Forum. Chris Meserole assumirá o cargo de liderança do grupo após sua contribuição como diretor da Iniciativa de IA e Tecnologia Emergente na instituição Brookings, dos Estados Unidos.

O Frontier Model Forum espera também estabelecer um conselho consultivo para trabalhar em estratégias e fornecer novas perspectivas para o grupo.

O fundo para pesquisas de segurança em inteligência artificial terá seu primeiro edital publicado em breve. Segundo o consórcio, as doações por parte das entidades envolvidas devem ser disponibilizadas logo em seguido, e há expectativa para maiores investimentos de terceiros para os próximos meses.