Os principais executivos da OpenAI, Anthropic e Hugging Face, que figuram entre as maiores companhias de inteligência artificial do planeta, estiveram presentes em uma reunião do Conselho de Segurança da Organização das Nações Unidas (ONU) nesta quarta-feira (23).
O encontro foi organizado diante de alertas crescentes de que sistemas de IA mais potentes poderiam evoluir em capacidade, fugir do controle dos seres humanos e gerar riscos graves à segurança de todas as nações.
Dario Amodei, CEO da Anthropic e empresa responsável pelo assistente de IA Claude, expressou sua preocupação sobre a gestão da ferramenta. “Se mal gerenciada, acredito até que a IA poderia representar um risco para a humanidade como um todo”, declarou o executivo.
Já Sam Altman, CEO da OpenAI e da empresa que criou o ChatGPT, defendeu a necessidade de uma cooperação entre os países. “Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco”, afirmou o líder.
Para Altman, a criação de regras para a IA deve ocorrer por meio de processos democráticos, conduzidos por governos que sejam responsáveis perante as populações que representam.
O executivo lembrou que a história já mostrou exemplos de nações rivais que se uniram por objetivos comuns diante de novas tecnologias. “Ao longo da história, houve momentos em que países que competem entre si — e nem sempre nutrem grande simpatia mútua — uniram-se em prol de interesses comuns e do bem coletivo diante de uma nova e poderosa tecnologia. Acreditamos que este deve ser um desses momentos”, disse.
O professor Yoshua Bengio, que é copresidente do painel da ONU sobre IA e reconhecido como um dos “padrinhos da IA”, alertou que os perigos são “reais e iminentes”.
“Este conselho enfrenta uma ameaça sem precedentes: uma ameaça que nenhum de seus membros escolherias, que nenhum consegue conter sozinho e que não respeita as fronteiras que defendemos”, pontuou Bengio.
Atualmente, diversos governos lutam para fiscalizar a IA, especialmente com o aumento de ataques cibernéticos realizados por esses sistemas e a possibilidade de a tecnologia ameaçar a espécie humana.
As duas maiores potências no setor, Estados Unidos e China, seguem divididas. De um lado, há o interesse em permitir que a tecnologia avance conforme a lógica de mercado; de outro, a urgência em estabelecer normas globais de segurança.
Com informações do G1
