A Anthropic, empresa norte-americana responsável pelo desenvolvimento do assistente de Inteligência Artificial Claude, defendeu a possibilidade de uma pausa temporária no avanço dos sistemas de IA mais poderosos, alegando preocupações crescentes sobre a capacidade humana de manter o controlo sobre estas tecnologias.
Num relatório recente, a empresa sediada em San Francisco, nos Estados Unidos da América, considera que uma desaceleração global no desenvolvimento da Inteligência Artificial de ponta poderá ser uma medida benéfica, permitindo que a investigação sobre segurança e alinhamento tecnológico acompanhe o ritmo acelerado da inovação.
“Acreditamos que seria positivo para o mundo ter a possibilidade de reduzir ou suspender temporariamente o desenvolvimento da IA, de forma a permitir que as estruturas sociais e a investigação sobre alinhamento acompanhem a velocidade dos avanços tecnológicos”, refere a Anthropic no documento.
No entanto, a empresa alerta que uma desaceleração isolada por parte de uma única organização dificilmente teria impacto, uma vez que os concorrentes continuariam a avançar, podendo ganhar vantagem tecnológica.
Para que uma eventual pausa produza resultados efetivos, a Anthropic defende um acordo internacional entre os principais actores do sector, com destaque para empresas dos Estados Unidos e da China. Segundo a organização, qualquer suspensão do desenvolvimento teria de ser acompanhada por mecanismos de verificação transparentes e aceites por todas as partes envolvidas.
A posição da Anthropic surge numa altura em que o debate sobre os riscos e benefícios da Inteligência Artificial continua a ganhar força, à medida que os modelos mais avançados demonstram capacidades cada vez mais sofisticadas e próximas de desempenhos considerados exclusivamente humanos.
Fonte: G1