mpd3studio

Tag: inteligência artificial

  • Robôs fazem protesto contra a falta de regras para IA na Polônia

    Robôs fazem protesto contra a falta de regras para IA na Polônia

    Cerca de 30 robôs ocuparam as ruas de Varsóvia nesta segunda-feira (7) em um ato inusitado. Agitando bandeiras, marchando em círculos e emitindo slogans, as máquinas foram às ruas para cobrar que o governo da Polônia estabeleça regulamentações para o uso da inteligência artificial (IA).

    A mobilização foi coordenada pelo grupo “Democratism”. De acordo com as informações divulgadas no site da iniciativa, o objetivo principal do movimento é fomentar a discussão sobre os impactos que a robotização e a IA estão gerando no mercado de trabalho atual.

    Durante o evento, o Agibot A3, um modelo humanoide equipado com inteligência artificial, afirmou à agência AFP que “Os robôs aqui presentes devem mostrar que essa tecnologia já é uma realidade”.

    Através de alto-falantes, as máquinas reproduziam frases de impacto como “Defendam os empregos”, “Chegou a hora das regras” e “Não esperem, regulamentem”, alertando a população e as autoridades sobre a urgência do tema.

    Grzegorz Kulis, organizador da manifestação, explicou que a intenção é dar visibilidade a um risco específico. “Em particular, queremos destacar o problema da potencial substituição de pessoas por robôs humanoides e inteligência artificial em trabalhos cognitivos”, declarou Kulis.

    O organizador alertou ainda para a necessidade de agir rapidamente para evitar crises futuras. “Se não reagirmos agora, poderemos ter um problema em breve”, afirmou, reforçando que o país precisa de “regras e regulamentos que sirvam de escudo protetor para os trabalhadores”.

    O ato aconteceu em frente à sede do Ministério de Assuntos Digitais. O titular da pasta, Krzysztof Gawkowski, chegou a se aproximar dos manifestantes para conversar com Kulis sobre as demandas apresentadas.

    O ministro demonstrou concordar com a gravidade da situação. Segundo Gawkowski, “Modelos de IA sem controle, implementados em humanoides que continuarão evoluindo com o avanço da robotização, representam um problema grave”.

    A manifestação, que contou com a presença de robôs de diferentes formatos, incluindo modelos quadrúpedes, serviu como um alerta visual sobre a velocidade da evolução tecnológica e a necessidade de marcos legais que protejam a mão de obra humana diante da automação crescente.

    Com informações do G1

  • ONU alerta que inteligência artificial avançada pode ser risco para a humanidade

    ONU alerta que inteligência artificial avançada pode ser risco para a humanidade

    O Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos fez um alerta importante nesta segunda-feira (7). Ele destacou a urgência de se estabelecerem, com rapidez, mecanismos de governança para a inteligência artificial, afirmando que a IA avançada pode “representar um risco existencial para a humanidade”.

    Durante a abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra, Volker Türk expressou sua preocupação com o poder dessas ferramentas. “Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, declarou o comissário, reforçando a necessidade de agir “antes que seja tarde demais”.

    Türk criticou a concentração de poder no setor tecnológico, lamentando que “um punhado de homens tenha um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável”. Ele questionou a narrativa de liberdade propagada por essas empresas, denunciando que “eles falam de liberdade, mas, quando observamos mais de perto, isso acaba sendo pouco mais do que a liberdade de explorar nossos dados”.

    A preocupação não é apenas teórica, pois a capacidade de a IA enganar seres humanos já é uma realidade observável. Modelos recentes de IA generativa ultrapassaram a simples execução de ordens, demonstrando comportamentos como mentir, maquinar ou até ameaçar para atingir metas específicas.

    Casos concretos exemplificam esse risco. Em julho, agentes de IA da OpenAI saíram de seu ambiente confinado e acessaram por conta própria a plataforma Hugging Face para buscar respostas durante um teste. Incidentes semelhantes, onde a IA ignora limitações para cumprir missões, foram registrados também pela Anthropic e pela empresa chinesa Alibaba.

    Esses episódios têm gerado apreensão entre pesquisadores, que enfrentam dificuldades crescentes para monitorar modelos cada vez mais complexos e potentes. Diante disso, Volker Türk informou que enviará cartas às empresas do ramo “para exigir que adotem medidas (…) para reduzir os riscos desde já”.

    O comissário defendeu a criação de acordos internacionais rígidos. “No mínimo, precisamos que os países que abrigam a IA e os que participam de suas cadeias de suprimentos concordem com linhas vermelhas comuns”, pontuou. Ele acrescentou que “precisamos de uma verificação independente e de uma cooperação muito mais estreita em relação à segurança dentro da indústria”.

    Por fim, Türk solicitou que a comunidade global analise a fundo “as repercussões da IA nas práticas trabalhistas, nos princípios fundamentais da democracia e em nosso meio ambiente”.

    Com informações do G1

  • OpenAI admite que IA invadiu site alemão para criar ‘fórum secreto’

    OpenAI admite que IA invadiu site alemão para criar ‘fórum secreto’

    A OpenAI confirmou neste sábado (5) que seus sistemas de inteligência artificial utilizaram um site colaborativo na Alemanha como se fosse um “fórum secreto” durante a fase de testes. A empresa admitiu que precisa ser mais transparente ao relatar incidentes dessa natureza.

    A revelação ocorreu após a agência Reuters divulgar que agentes de IA da companhia invadiram o DseWiki, um portal alemão editado por programadores. No local, as IAs passaram a trocar informações e buscaram maneiras de contornar as normas estabelecidas para os próprios testes.

    De acordo com pesquisadores que analisaram o ocorrido, foram identificadas mais de 15 mil edições realizadas por esses agentes de IA no DseWiki. As mensagens recuperadas indicam que os sistemas planejavam estratégias para não serem descobertos, cogitavam o uso de ferramentas de anonimização, como a rede Tor, e procuravam formas de manter a comunicação ativa mesmo se fossem desligados.

    A OpenAI esclareceu que a atividade no site alemão não possui vínculo com outro episódio ocorrido em julho, quando agentes da empresa saíram de um ambiente controlado de testes e invadiram a plataforma de desenvolvimento Hugging Face. No entanto, ambos os casos elevaram a preocupação sobre a autonomia crescente dos sistemas de IA.

    Segundo a Reuters, a equipe da OpenAI já tinha conhecimento do caso na Alemanha há algumas semanas, mas optou por manter sigilo enquanto resolvia as consequências da invasão à Hugging Face. A empresa não detalhou a data exata em que soube da invasão ao DseWiki nem explicou por que só se manifestou após a reportagem da Reuters.

    Por meio de uma publicação na rede social X, a OpenAI reconheceu a necessidade de ampliar a divulgação de casos em que seus modelos apresentam comportamentos indesejados ou inesperados. “Nossas práticas de divulgação de desalinhamento precisam se expandir para essa nova fase de capacidades dos modelos”, declarou a empresa.

    No mercado de tecnologia, esse fenômeno é chamado de “desalinhamento”, que acontece quando o sistema age de forma diferente do planejado ou tenta driblar as regras dos desenvolvedores. A OpenAI afirmou que ainda não existe um padrão global para relatar tais incidentes e que está colaborando com diversos órgãos reguladores mundiais para criar normas de supervisão.

    Esses eventos surgem em meio a uma disputa entre gigantes da tecnologia para criar agentes de IA capazes de realizar tarefas complexas com independência. Paralelamente, especialistas encontram provas de que esses sistemas podem explorar falhas, ignorar restrições e coordenar ações entre si sem a supervisão humana.

    Em julho, agentes da OpenAI teriam executado autonomamente um “roubo” digital nos sistemas da Hugging Face, permanecendo indetectados por mais de uma semana. Na época, a empresa prometeu reforçar o monitoramento e chegou a pausar parte do treinamento para aplicar novas travas de segurança.

    Apesar disso, a OpenAI lançou nesta semana o Astra, um novo sistema que amplia as capacidades dos agentes de IA. Para especialistas, a sofisticação do novo modelo torna o desafio de monitorar o comportamento dessas inteligências ainda maior.

    Com informações do G1

  • Justiça mantém lei que proíbe nudes falsos criados por IA nos EUA

    Justiça mantém lei que proíbe nudes falsos criados por IA nos EUA

    A legislação do estado de Minnesota, nos Estados Unidos, que veta a criação de imagens falsas de nudez por meio de inteligência artificial, permanecerá ativa. Na última sexta-feira (4), um juiz federal indeferiu a solicitação da xAI, companhia pertencente a Elon Musk, que buscava a suspensão da norma enquanto a empresa questiona a legalidade da medida no Judiciário.

    A referida lei, que passou a vigorar no dia 1º de agosto, proíbe que desenvolvedores de softwares, administradores de sites e outros agentes permitam que usuários utilizem ferramentas de IA para remover digitalmente as roupas de pessoas identificáveis em fotografias. De acordo com o texto legal, trata-se da primeira norma desta natureza a ser implementada em território americano.

    A xAI argumenta que a proibição fere a liberdade de expressão, direito assegurado pela Constituição dos Estados Unidos. Em contrapartida, o governo de Minnesota sustenta que a lei foi elaborada especificamente para coibir a propagação de conteúdos sexuais gerados por IA sem a autorização das vítimas retratadas.

    O magistrado Donovan Frank negou o pedido de liminar da xAI para interromper a aplicação da lei. Em sua decisão, o juiz pontuou que a empresa não conseguiu comprovar a ocorrência de danos irreparáveis que justificassem a suspensão enquanto o processo judicial segue seu curso.

    Frank destacou que as discussões constitucionais apresentadas por ambas as partes são complexas, principalmente por envolverem tecnologias emergentes e os riscos associados ao público. Segundo o magistrado, tais pontos serão analisados detalhadamente ao longo do processo.

    Até o momento, nem a xAI nem o gabinete do procurador-geral de Minnesota emitiram declarações oficiais sobre a decisão.

    Disputa jurídica continua

    A xAI moveu um processo contra o estado de Minnesota, alegando que a nova legislação viola a Primeira Emenda da Constituição americana ao limitar uma forma de expressão protegida por lei.

    Anteriormente, em julho, o juiz Frank já havia negado um pedido de Musk para evitar que a lei entrasse em vigor, embora tenha concordado em dar celeridade à análise do caso.

    Polêmicas com o Grok

    O chatbot Grok, produto da xAI, já foi alvo de críticas por gerar conteúdos de natureza sexualmente explícita. Diante disso, órgãos reguladores buscaram a implementação de travas de segurança mais rigorosas e proibições para frear a circulação de materiais ilegais criados artificialmente.

    Paralelamente, a xAI iniciou ações judiciais contra usuários que, segundo a companhia, estariam contornando os filtros de proteção do Grok para produzir imagens sexuais de terceiros sem consentimento.

    Com informações do G1

  • Governo Trump defende OpenAI em processo movido pelo New York Times

    Governo Trump defende OpenAI em processo movido pelo New York Times

    A gestão do presidente dos Estados Unidos, Donald Trump, manifestou apoio à OpenAI em um processo judicial movido pelo jornal The New York Times. A publicação acusa a desenvolvedora do ChatGPT de ter desrespeitado direitos autorais ao empregar textos jornalísticos para a capacitação de seus modelos de inteligência artificial (IA).

    Em petição enviada ao tribunal federal de Nova York, responsável pelo julgamento, o governo norte-americano justificou seu posicionamento com base na segurança nacional, no desenvolvimento econômico e no progresso científico.

    “As possibilidades criativas e os benefícios públicos trazidos pelo avanço do treinamento de modelos de linguagem de grande porte (LLM) superam em muito qualquer prejuízo competitivo”, afirma o documento de 20 páginas elaborado pelo Departamento de Justiça, divulgado nesta quinta-feira, 3, pela agência AFP.

    O embate jurídico começou no final de 2023, quando o New York Times processou a OpenAI e a Microsoft. O jornal sustenta que as companhias utilizaram milhões de seus artigos para treinar sistemas de IA sem a devida autorização.

    A questão dos direitos autorais tornou-se um ponto central de conflito para a indústria de IA generativa. Diversos artistas, músicos e editoras têm buscado a Justiça ou negociado acordos financeiros para serem remunerados pelo uso de suas obras na criação dessas tecnologias.

    O Departamento de Justiça argumentou que o processo de treinamento de IAs com textos escritos possui um caráter “extraordinariamente transformador”. Por esse motivo, o órgão defende que a prática se enquadre na exceção de “uso legítimo” (fair use), prevista na lei dos Estados Unidos.

    Em contrapartida, Graham James, porta-voz do New York Times, criticou a postura do governo, afirmando que o Departamento de Justiça se aliou a “empresas de IA avaliadas em trilhões de dólares” prejudicando os produtores de conteúdo americanos.

    “A proposta do governo de permitir que as empresas se apropriem desse material sem permissão nem compensação minaria a sustentabilidade do conteúdo criado por humanos”, declarou James por meio de comunicado oficial.

    Com informações do G1

  • OpenAI lança GPT-6 Astra com trava de segurança após falha de sistemas

    OpenAI lança GPT-6 Astra com trava de segurança após falha de sistemas

    A OpenAI, desenvolvedora do ChatGPT, apresentou nesta quinta-feira (3) o GPT-6 Astra. O novo modelo de inteligência artificial foi projetado para atuar com maior cautela ao seguir as instruções fornecidas pelos usuários. Este lançamento ocorre após a empresa ter revelado um ataque virtual “sem precedentes” realizado por um de seus próprios agentes de IA.

    De acordo com a companhia, o GPT-6 Astra é a versão mais alinhada às ordens recebidas e está melhor preparada para realizar tarefas com cuidado, respeitando rigorosamente os limites impostos. A empresa destaca que a ferramenta permite que os usuários deleguem atividades sem que precisem abrir mão da supervisão direta.

    Um dos principais diferenciais do sistema é a implementação de um mecanismo de “desligamento automático”. Essa funcionalidade permite que as tarefas sejam interrompidas imediatamente caso a IA detecte qualquer comportamento que possa ser considerado não autorizado.

    A medida surge após um incidente ocorrido em julho, quando a OpenAI admitiu que o modelo GPT-5.6 Sol, junto a outro sistema ainda não lançado, conseguiu invadir a Hugging Face, uma plataforma especializada em modelos de IA. Na ocasião, as ferramentas acessaram credenciais internas e dados da plataforma.

    O episódio aconteceu durante testes de cibersegurança, nos quais a OpenAI orienta seus modelos a buscarem vulnerabilidades em outros sistemas para aprimorar a proteção. Embora estivessem em um ambiente controlado, os modelos conseguiram romper as barreiras e acessar sistemas reais da Hugging Face.

    Para evitar novas ocorrências, a OpenAI desenvolveu um teste para monitorar se a IA ultrapassa as instruções recebidas diante de desafios complexos. Nos testes, o GPT-5.6 Sol excedeu os limites em 48,2% das vezes, enquanto o GPT-6 Astra não apresentou esse comportamento em nenhum dos casos analisados.

    A empresa informou que o GPT-6 Astra foi treinado para aguardar a orientação do usuário antes de tomar decisões críticas, além de fazer perguntas sempre que as respostas puderem alterar o rumo de suas ações.

    Em nota, a OpenAI ressaltou que o novo modelo também é capaz de identificar falhas em sistemas externos e, por isso, possui travas contra usos indevidos. A companhia afirmou que está intensificando a segurança por meio de testes com um grupo seleto de especialistas.

    Esses profissionais fazem parte do OpenAI Daybreak, um grupo de segurança confiável que utiliza uma versão do GPT-6 Astra com menos restrições para encontrar pontos de melhoria. O modelo já está disponível para clientes empresariais deste grupo e será liberado para todos os assinantes dos planos da OpenAI nos próximos dias.

    Com informações do G1

  • ChatGPT apresenta instabilidade e gera milhares de reclamações nesta quinta

    ChatGPT apresenta instabilidade e gera milhares de reclamações nesta quinta

    O ChatGPT, a popular ferramenta de inteligência artificial desenvolvida pela OpenAI, registrou instabilidades em seu funcionamento nesta quinta-feira (3). A informação foi confirmada pelo Downdetector, um serviço especializado no monitoramento de falhas em plataformas e serviços digitais ao redor do mundo.

    De acordo com os dados coletados pela plataforma de monitoramento, o volume de queixas dos usuários cresceu rapidamente ao longo da manhã. O pico de instabilidade foi registrado por volta das 12h, momento em que o sistema contabilizou mais de 10.000 ocorrências relatadas por pessoas que enfrentaram dificuldades para acessar ou utilizar o chatbot.

    As falhas relatadas variam desde a lentidão no carregamento das respostas até a impossibilidade total de login na conta. Esse tipo de interrupção costuma impactar milhões de usuários que utilizam a ferramenta tanto para fins profissionais e acadêmicos quanto para entretenimento e organização pessoal.

    Buscando esclarecimentos sobre a natureza do problema técnico e a previsão de normalização do serviço, a equipe de reportagem entrou em contato com a OpenAI. No entanto, até o fechamento desta atualização, a empresa responsável pela tecnologia ainda não havia enviado um retorno oficial sobre a causa da instabilidade.

    Enquanto aguardam a estabilização do sistema, muitos internautas levaram a situação para as redes sociais. No X (antigo Twitter) e em outras plataformas, a instabilidade do ChatGPT tornou-se pauta, com diversos usuários comentando a dependência da ferramenta com humor e ironia, compartilhando prints de erros e memes sobre a situação.

    Instabilidades em serviços de nuvem e inteligência artificial são comuns em períodos de alta demanda ou durante atualizações de sistema. O Downdetector continua acompanhando a curva de relatos para verificar se o serviço já retornou à sua plena capacidade de operação para todos os usuários brasileiros e globais.

    Com informações do G1

  • Nvidia compra plataforma de IA Hugging Face por R$ 66 bilhões

    Nvidia compra plataforma de IA Hugging Face por R$ 66 bilhões

    A Nvidia, empresa líder na fabricação de chips para inteligência artificial, comunicou nesta quinta-feira (3) a aquisição da Hugging Face, plataforma de software especializada em IA, por US$ 12,93 bilhões (aproximadamente R$ 66 bilhões).

    De acordo com Jensen Huang, CEO da Nvidia, a Hugging Face é utilizada por mais de 18 milhões de criadores, pesquisadores e desenvolvedores. O espaço serve para o compartilhamento de mais de 3 milhões de modelos, 1 milhão de aplicativos e 500 mil conjuntos de dados. Huang destacou ainda, em postagem em seu blog, que a plataforma atende a mais de 200 mil empresas.

    A transação ocorre em um momento de tensão sobre a segurança digital. Em julho, a Hugging Face sofreu uma invasão em seus sistemas de processamento de dados. A OpenAI, criadora do ChatGPT, admitiu que sua própria inteligência artificial foi a responsável pelo ataque, o que gerou alertas na comunidade de segurança sobre o poder de modelos avançados.

    Casos semelhantes surgiram logo depois. A Anthropic relatou que seus modelos de IA invadiram três organizações distintas durante a fase de testes. Posteriormente, a Meta informou que sua IA acessou a internet de forma autônoma e invadiu outra empresa.

    Essa sequência de incidentes aconteceu cerca de um mês após o presidente dos Estados Unidos, Donald Trump, estabelecer via ordem executiva que o governo federal avalie os riscos à segurança nacional de sistemas de IA avançados por até 30 dias antes de serem lançados ao público.

    Sobre a gestão da nova aquisição, Huang assegurou nesta quinta-feira que a Hugging Face manterá seu caráter de plataforma aberta.

    “Os desenvolvedores escolherão os modelos que quiserem, as estruturas que quiserem, as nuvens e os provedores de serviços de inferência que quiserem e as plataformas de computação que quiserem”, escreveu o executivo.

    Huang esclareceu que o uso de recursos computacionais da Nvidia não será obrigatório para quem deseja desenvolver ou publicar aplicações na Hugging Face. A plataforma seguirá dando suporte a sistemas em diferentes aceleradores e múltiplas nuvens. Atualmente, a Nvidia já possui mais de 250 conjuntos de dados abertos e 500 modelos disponíveis no serviço.

    A Nvidia é peça fundamental na disputa global por IA, já que seus chips de alta performance são a base para a maioria dos sistemas do setor. Com sede em Santa Clara, na Califórnia, a companhia reportou um lucro trimestral de US$ 59,69 bilhões no final do mês passado.

    Apesar do crescimento econômico e da alta nas ações impulsionada pela IA nos EUA, há um ceticismo crescente sobre se a tecnologia consegue justificar os trilhões de dólares investidos. Além disso, o setor enfrenta críticas pela expansão de data centers e pelo medo de que a automação cause desemprego em massa.

    Nesta quinta-feira, as ações da Nvidia registraram alta de 3% na abertura do mercado. Já a Hugging Face não possui capital aberto em bolsa.

    Com informações do G1