mpd3studio

Tag: Regulamentação IA

  • ONU pede regulação urgente da IA para evitar riscos à humanidade

    ONU pede regulação urgente da IA para evitar riscos à humanidade

    O alto comissário das Nações Unidas para os Direitos Humanos, Volker Türk, solicitou nesta segunda-feira (14) que sejam tomadas “ações urgentes” para a regulamentação da inteligência artificial (IA). O pedido ocorre devido aos perigos sem precedentes que os sistemas mais sofisticados da tecnologia podem gerar.

    Em comunicado oficial, Türk afirmou: “Estamos à beira de uma mudança irreversível, que afeta não apenas a nós, mas também as futuras gerações da humanidade”. O representante da ONU reforçou a necessidade de cooperação global para conter esses avanços descontrolados.

    O comissário exortou que governos e corporações se mobilizem rapidamente por meio de estruturas multilaterais. Segundo ele, “Todos os direitos humanos estão ameaçados” pela evolução da tecnologia, incluindo, inclusive, “o direito à vida”.

    A preocupação com a velocidade do desenvolvimento da IA tem se tornado comum. Nos Estados Unidos, diversos executivos do setor tecnológico também sugeriram que o ritmo de inovação seja reduzido para garantir a segurança dos processos.

    No último sábado, Dario Amodei, CEO da Anthropic, defendeu a desaceleração do desenvolvimento tecnológico. O objetivo seria permitir uma análise mais rigorosa dos riscos ligados às novas capacidades da IA. Essa posição contou com o apoio público de Sam Altman, da OpenAI, e do empresário Elon Musk.

    Por outro lado, o presidente dos Estados Unidos, Donald Trump, demonstrou discordância. Nesta segunda-feira, o republicano utilizou sua plataforma, a Truth Social, para denunciar o que chamou de “conspiração doentia” contra a IA, afirmando que “O único que está feliz com isso é a China”.

    Para o alto comissário da ONU, a disputa atual por sistemas de IA cada vez mais potentes gera uma transformação radical, expondo a vida humana a um “risco existencial crescente”.

    Türk também criticou a concentração de poder no setor, lamentando que a humanidade dependa “quase que inteiramente de um pequeno número de empresas poderosas para tomar as decisões corretas sobre o desenvolvimento da IA para o benefício de toda a humanidade”.

    A China também manifestou preocupações. No domingo, o chefe da inteligência chinesa alertou que a IA pode comprometer a segurança nacional, caso potências estrangeiras utilizem a ferramenta para desestabilizar o país.

    Vale lembrar que Volker Türk já havia sinalizado ao Conselho de Direitos Humanos da ONU, em 7 de setembro, que a inteligência artificial poderia ser um “risco existencial para a humanidade”.

    Nesta segunda-feira, ele convocou os principais desenvolvedores de IA, concentrados especialmente nos Estados Unidos e na República Popular da China, a assumirem a responsabilidade e agirem imediatamente para mitigar os riscos.

    Com informações do G1

  • Ex-pesquisador de IA alerta que tecnologia pode ‘matar todos nós’

    Ex-pesquisador de IA alerta que tecnologia pode ‘matar todos nós’

    Um especialista em inteligência artificial (IA) decidiu deixar o setor após passagens pela OpenAI, criadora do ChatGPT, e pela Anthropic. O pesquisador acusa as duas companhias americanas de “jogar com as nossas vidas” enquanto competem para criar modelos de IA capazes de se autoaperfeiçoarem.

    Jacob Coxon, de 27 anos, dedicou os últimos três anos ao pré-treinamento de modelos de IA — fase em que os sistemas processam volumes massivos de dados. Ele trabalhou inicialmente na OpenAI e, posteriormente, na Anthropic, empresa que ele considerava ter uma postura mais cautelosa.

    Em uma publicação na rede social X, o pesquisador afirmou que “as pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década”, ressaltando que “isso não é uma jogada de marketing”.

    Em entrevista ao The Wall Street Journal, o britânico alertou que, em “cenários mais agressivos”, a situação poderia fugir do controle já no encerramento do próximo ano. O maior perigo, segundo ele, seria a IA começar a se desenvolver de forma autônoma, dificultando a supervisão humana.

    “Nenhuma das empresas age de forma responsável. Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas”, declarou Coxon nesta terça-feira (08). A superinteligência é definida como o estágio teórico onde a IA supera a capacidade intelectual humana.

    O alerta foi corroborado por Evan Hubinger, executivo de segurança da Anthropic, que também utilizou o X para declarar: “Nós realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos”. Hubinger estima que a probabilidade desse evento ocorrer na próxima década seja superior a 10%.

    Embora Hubinger afirme que a Anthropic está “fazendo o possível”, ele admitiu que a empresa ainda não possui um plano que garanta a obediência de um sistema superior aos humanos, embora considere o risco baixo para os modelos atuais.

    A saída de Coxon ocorre em um momento estratégico, enquanto a Anthropic planeja entrar no mercado de ações, após enfrentar incidentes de invasões não autorizadas por ferramentas de IA durante testes internos.

    Especialistas do setor apontam que o “autoaperfeiçoamento recursivo” — quando a IA projeta e treina a próxima geração com mínima ajuda humana — está próximo. Coxon acredita que, sem intervenção governamental ou uma desaceleração conjunta, nenhuma empresa conseguirá desenvolver essa tecnologia com responsabilidade.

    Segundo ele, a Anthropic compreende os riscos, mas sente-se presa em uma disputa por liderança: “acreditam que ninguém mais agirá com responsabilidade, então precisam fazer isso eles mesmos, apesar dos riscos”.

    Recentemente, a Anthropic removeu de seus princípios de segurança a promessa de interromper o desenvolvimento caso os riscos se tornassem incontroláveis. A justificativa é que a suspensão unilateral permitiria que concorrentes menos cautelosos dominassem o mercado.

    No final de julho, mais de mil profissionais de tecnologia, incluindo o CEO da Anthropic, Dario Amodei, solicitaram ao governo de Washington apoio para desacelerar a criação de sistemas avançados. A OpenAI também pausou o treinamento de modelos por duas semanas em agosto para implementar controles mais rígidos.

    Jakub Pachocki, cientista-chefe da OpenAI, defendeu a “extrema cautela” e afirmou que a coordenação internacional deve ser “prioridade máxima para governos de todo o mundo”. Atualmente, os EUA não possuem legislação federal para regular a IA, embora existam projetos de lei, como o do senador Bernie Sanders, para suspender o desenvolvimento até a criação de um órgão regulador.

    Com informações do G1