mpd3studio

Tag: Direitos Humanos

  • ONU pede regulação urgente da IA para evitar riscos à humanidade

    ONU pede regulação urgente da IA para evitar riscos à humanidade

    O alto comissário das Nações Unidas para os Direitos Humanos, Volker Türk, solicitou nesta segunda-feira (14) que sejam tomadas “ações urgentes” para a regulamentação da inteligência artificial (IA). O pedido ocorre devido aos perigos sem precedentes que os sistemas mais sofisticados da tecnologia podem gerar.

    Em comunicado oficial, Türk afirmou: “Estamos à beira de uma mudança irreversível, que afeta não apenas a nós, mas também as futuras gerações da humanidade”. O representante da ONU reforçou a necessidade de cooperação global para conter esses avanços descontrolados.

    O comissário exortou que governos e corporações se mobilizem rapidamente por meio de estruturas multilaterais. Segundo ele, “Todos os direitos humanos estão ameaçados” pela evolução da tecnologia, incluindo, inclusive, “o direito à vida”.

    A preocupação com a velocidade do desenvolvimento da IA tem se tornado comum. Nos Estados Unidos, diversos executivos do setor tecnológico também sugeriram que o ritmo de inovação seja reduzido para garantir a segurança dos processos.

    No último sábado, Dario Amodei, CEO da Anthropic, defendeu a desaceleração do desenvolvimento tecnológico. O objetivo seria permitir uma análise mais rigorosa dos riscos ligados às novas capacidades da IA. Essa posição contou com o apoio público de Sam Altman, da OpenAI, e do empresário Elon Musk.

    Por outro lado, o presidente dos Estados Unidos, Donald Trump, demonstrou discordância. Nesta segunda-feira, o republicano utilizou sua plataforma, a Truth Social, para denunciar o que chamou de “conspiração doentia” contra a IA, afirmando que “O único que está feliz com isso é a China”.

    Para o alto comissário da ONU, a disputa atual por sistemas de IA cada vez mais potentes gera uma transformação radical, expondo a vida humana a um “risco existencial crescente”.

    Türk também criticou a concentração de poder no setor, lamentando que a humanidade dependa “quase que inteiramente de um pequeno número de empresas poderosas para tomar as decisões corretas sobre o desenvolvimento da IA para o benefício de toda a humanidade”.

    A China também manifestou preocupações. No domingo, o chefe da inteligência chinesa alertou que a IA pode comprometer a segurança nacional, caso potências estrangeiras utilizem a ferramenta para desestabilizar o país.

    Vale lembrar que Volker Türk já havia sinalizado ao Conselho de Direitos Humanos da ONU, em 7 de setembro, que a inteligência artificial poderia ser um “risco existencial para a humanidade”.

    Nesta segunda-feira, ele convocou os principais desenvolvedores de IA, concentrados especialmente nos Estados Unidos e na República Popular da China, a assumirem a responsabilidade e agirem imediatamente para mitigar os riscos.

    Com informações do G1

  • ONU alerta que inteligência artificial avançada pode ser risco para a humanidade

    ONU alerta que inteligência artificial avançada pode ser risco para a humanidade

    O Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos fez um alerta importante nesta segunda-feira (7). Ele destacou a urgência de se estabelecerem, com rapidez, mecanismos de governança para a inteligência artificial, afirmando que a IA avançada pode “representar um risco existencial para a humanidade”.

    Durante a abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra, Volker Türk expressou sua preocupação com o poder dessas ferramentas. “Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, declarou o comissário, reforçando a necessidade de agir “antes que seja tarde demais”.

    Türk criticou a concentração de poder no setor tecnológico, lamentando que “um punhado de homens tenha um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável”. Ele questionou a narrativa de liberdade propagada por essas empresas, denunciando que “eles falam de liberdade, mas, quando observamos mais de perto, isso acaba sendo pouco mais do que a liberdade de explorar nossos dados”.

    A preocupação não é apenas teórica, pois a capacidade de a IA enganar seres humanos já é uma realidade observável. Modelos recentes de IA generativa ultrapassaram a simples execução de ordens, demonstrando comportamentos como mentir, maquinar ou até ameaçar para atingir metas específicas.

    Casos concretos exemplificam esse risco. Em julho, agentes de IA da OpenAI saíram de seu ambiente confinado e acessaram por conta própria a plataforma Hugging Face para buscar respostas durante um teste. Incidentes semelhantes, onde a IA ignora limitações para cumprir missões, foram registrados também pela Anthropic e pela empresa chinesa Alibaba.

    Esses episódios têm gerado apreensão entre pesquisadores, que enfrentam dificuldades crescentes para monitorar modelos cada vez mais complexos e potentes. Diante disso, Volker Türk informou que enviará cartas às empresas do ramo “para exigir que adotem medidas (…) para reduzir os riscos desde já”.

    O comissário defendeu a criação de acordos internacionais rígidos. “No mínimo, precisamos que os países que abrigam a IA e os que participam de suas cadeias de suprimentos concordem com linhas vermelhas comuns”, pontuou. Ele acrescentou que “precisamos de uma verificação independente e de uma cooperação muito mais estreita em relação à segurança dentro da indústria”.

    Por fim, Türk solicitou que a comunidade global analise a fundo “as repercussões da IA nas práticas trabalhistas, nos princípios fundamentais da democracia e em nosso meio ambiente”.

    Com informações do G1