Executivos pedem na ONU cautela no desenvolvimento da IA / foto: ANGELA WEISS - AFP
Executivos pedem na ONU cautela no desenvolvimento da IA
Diretores de empresas de inteligência artificial (IA) enfatizaram nesta quarta-feira, na ONU, a necessidade de maior supervisão dessa tecnologia. O CEO da Anthropic, Dario Amodei, assumiu o compromisso unilateral de desacelerar o desenvolvimento dela.
Líderes do setor se reportaram ao Conselho de Segurança da ONU, após semanas de manchetes globais sobre os riscos de uma IA incontrolável e apelos para conter sua evolução.
"Este momento requer extremo cuidado", advertiu o CEO da OpenAI, Sam Altman, durante a reunião de emergência do Conselho. Ele alertou que, conforme os sistemas de IA se tornem mais capazes e autônomos, eles poderão avançar mais rapidamente do que as instituições ou concentrar muito poder em poucas mãos.
"A indústria não deve aceitar riscos tecnológicos excessivos simplesmente porque os benefícios são grandes e importantes demais para frear seu avanço", disse Altman, que foi convidado com colegas para traçar um panorama da IA.
- Normas de segurança -
Dario Amodei, por sua vez, afirmou que, à medida que os modelos de IA se tornarem mais poderosos, "normas de segurança ainda mais rigorosas serão necessárias".
A Anthropic pretende aprimorar sua capacidade de prevenir o uso indevido da tecnologia, ressaltou o executivo, em chamada de vídeo. Ele prometeu desacelerar o desenvolvimento da IA o quanto for necessário para garantir a segurança de cada novo modelo lançado.
Há dez dias, o CEO da Anthropic pediu uma redução coordenada do ritmo entre os grandes nomes dessa tecnologia, o que não se concretizou.
Outro orador foi Clément Delangue, da Hugging Face, alvo de um ciberataque realizado por um software autônomo da OpenAI, o primeiro de uma série de incidentes que fizeram soar o alarme sobre a rápida evolução da IA.
Delangue ressaltou que, embora tenha sido alvo da IA, sua empresa também usou essa tecnologia para repelir os ataques. "Mais do que nunca, o mundo precisa da IA de código aberto para se defender."
"Não queremos cair na armadilha do otimismo cego, mas também não podemos sucumbir ao catastrofismo. Portanto, faremos todo o possível para encontrar um meio-termo", disse Sam Altman.
"Ao longo da História, houve momentos em que países que competiam entre si, e não necessariamente se apreciavam, conseguiram, ainda assim, chegar a um acordo pelo bem comum, diante de uma nova tecnologia. Isso tem que voltar a acontecer", ressaltou o CEO da OpenAi.
Ch.Anglin--IP
