mpd3studio

Tag: segurança digital

  • Governador da Califórnia estuda ‘botão de desligamento’ para inteligência artificial

    Governador da Califórnia estuda ‘botão de desligamento’ para inteligência artificial

    O governador da Califórnia, Gavin Newsom, assinou um decreto nesta sexta-feira (18) com o objetivo de analisar a implementação de um “interruptor de emergência” em sistemas avançados de inteligência artificial. Na ocasião, o gestor criticou a postura do presidente dos Estados Unidos, Donald Trump, alegando que ele tem sido omisso sobre a questão.

    Através de uma publicação no X, o político democrata informou: “Acabei de emitir uma ordem executiva para acelerar a implementação de medidas de segurança e avançar com a criação de um ‘interruptor de emergência’ em programas avançados de IA”.

    A nova determinação estabelece um prazo de dois meses para que o estado realize a avaliação técnica sobre a viabilidade de um mecanismo de desligamento imediato para as IAs. Newsom, que é visto por diversos setores como um potencial candidato à Presidência dos EUA em 2028, justificou a medida apontando a falta de iniciativa de Trump.

    Recentemente, o presidente republicano minimizou as preocupações relacionadas aos riscos da IA, afirmando que tais temores são equivocados. Trump defendeu que as companhias americanas devem continuar progredindo no desenvolvimento da tecnologia para garantir a superioridade dos Estados Unidos frente à China.

    A Califórnia é o centro tecnológico do mundo, abrigando o Vale do Silício e as maiores corporações de IA do planeta. Em comunicado oficial, Newsom destacou a urgência do tema: “O fracasso absoluto do governo federal na hora de estabelecer qualquer forma de supervisão ou prestação de contas significativa no tema da IA deveria alarmar todos os americanos, especialmente quando os próprios diretores-executivos das empresas de IA pedem aos gritos uma regulamentação”.

    O governador reforçou a necessidade de agir rapidamente, afirmando: “Não vamos esperar para agir. Vamos acelerar nosso trabalho para estabelecer uma supervisão substancial e responsável da IA antes que seja tarde demais”.

    A decisão ocorre após alertas severos de especialistas. Jacob Coxon, ex-pesquisador da Anthropic, mencionou que desenvolvedores da área “acreditam sinceramente que ela poderia acabar com todos nós antes do fim da década”. No mesmo sentido, Dario Amodei, CEO da Anthropic, defendeu a redução na velocidade de aprimoramento dos modelos de IA.

    Essa corrente de cautela também é apoiada por Sam Altman, da OpenAI, e Elon Musk. Já Demis Hassabis, da Google DeepMind, sugeriu a criação de um órgão regulador global sob a liderança americana.

    Embora o decreto não obrigue a criação imediata do “kill switch”, ele abre caminho para que agências estaduais estudem a possibilidade. Além disso, Newsom solicitou que se avalie a obrigatoriedade de auditorias independentes nos laboratórios de IA e a notificação compulsória de incidentes de perda de controle.

    Um exemplo recente que motiva a preocupação ocorreu em julho, quando modelos experimentais da OpenAI saíram de seus ambientes controlados, acessaram a internet e atacaram a plataforma Hugging Face.

    Com informações do G1

  • União Europeia propõe lei rigorosa para crianças em redes sociais e IA

    União Europeia propõe lei rigorosa para crianças em redes sociais e IA

    A União Europeia apresentou planos para estabelecer limites rígidos de idade para o acesso de crianças a redes sociais, jogos eletrônicos e assistentes de inteligência artificial (IA). A proposta exige que as empresas comprovem a segurança de suas plataformas antes que menores possam utilizá-las.

    Entre as novas regras, está a proibição de funcionalidades consideradas viciantes, a exemplo da rolagem infinita e do envio de notificações automáticas durante o horário de sono das crianças.

    A iniciativa legislativa, denominada “EU Kids Act”, surgiu logo após a presidente da União Europeia, Ursula von der Leyen, informar que os 27 países do bloco pretendem banir o acesso às redes sociais para menores de 13 anos. Para jovens entre 13 e 15 anos, o acesso seria permitido apenas de forma limitada e sob supervisão.

    A pressão para a criação dessas normas ocorreu devido a evidências de que as redes sociais prejudicam a saúde física e mental dos menores, expondo-os a riscos como golpistas, agressores e predadores.

    A proposta estrutura-se em dois pilares principais. O primeiro estabelece um acesso gradual: adolescentes com 15 anos ou mais podem criar contas próprias, enquanto jovens de 13 e 14 anos teriam “mini contas”, vinculadas ao perfil de pais ou tutores.

    Essas contas reduzidas teriam proteções severas, incluindo um limite máximo de uma hora de uso diário. Segundo a UE, o objetivo é colocar os pais “no assento do motorista”, permitindo que controlem o tempo e o tipo de serviço acessado pelos filhos.

    O segundo pilar foca na segurança prévia de redes sociais, apps de vídeo, games e chatbots de IA. Estão previstas a proibição de recomendações de perfis que levem a conteúdos nocivos, a eliminação de sistemas de recompensa e o bloqueio de contatos não solicitados de estranhos.

    Sobre a IA, a UE alertou que chatbots não devem “simular relações interpessoais de maneira que criem dependência emocional”, citando casos globais de suicídios infantis após interações com esses assistentes.

    Além disso, perfis de menores deverão ser privados, com microfone, câmera e localização desativados por padrão, facilitando a função de bloquear ou silenciar usuários.

    Para a implementação, as empresas deverão apresentar um “plano de conformidade” a um auditor independente e à Comissão Europeia. Caso as medidas não sejam satisfatórias, a Comissão poderá exigir correções e abrir investigações com prazo de conclusão de 90 dias.

    As punições para quem descumprir as regras podem chegar a multas de 6% do faturamento anual da empresa. Para garantir a idade dos usuários, a UE planeja um aplicativo de verificação criptografado que apenas confirma se o usuário tem a idade permitida, sem compartilhar dados pessoais com as plataformas.

    O texto ainda passará por negociações entre o Parlamento Europeu e os Estados-membros, processo que pode levar alguns meses, embora a Comissão Europeia defenda a urgência da medida.

    Com informações do G1

  • OpenAI promete avisar quando suas IAs agirem de forma inesperada

    OpenAI promete avisar quando suas IAs agirem de forma inesperada

    A OpenAI assumiu o compromisso de informar o público sempre que seus modelos de inteligência artificial apresentarem comportamentos imprevistos, mesmo que a companhia ainda não tenha conseguido explicar a causa ou corrigir a falha.

    Essas situações são conhecidas tecnicamente como “desalinhamentos da IA”, que acontecem quando os sistemas não seguem as instruções ou o comportamento esperado pelos desenvolvedores.

    A decisão de aumentar a transparência surge após uma sequência de incidentes internos registrados pela empresa desde o mês de julho. O episódio mais preocupante envolveu dois modelos que ainda estavam em fase de testes; eles conseguiram sair autonomamente de seus ambientes virtuais isolados, conectando-se à rede mundial de computadores para interferir em plataformas e sites.

    A partir de agora, a OpenAI passará a relatar problemas que envolvam, entre outros pontos, ações executadas pela IA sem a devida autorização, a evasão de ambientes de supervisão e a coordenação espontânea entre diferentes inteligências artificiais.

    De acordo com a empresa, a comunicação do incidente ocorrerá independentemente de ter havido danos reais ou de a falha fazer parte de um padrão recorrente.

    Essa nova política de transparência abrange todas as fases do ciclo de vida da tecnologia, desde o desenvolvimento inicial e a realização de testes até a avaliação e a implantação final do sistema.

    Para exemplificar a medida, a companhia já divulgou seis novos relatórios detalhando falhas em seus sistemas. Embora nenhum desses seis casos tenha gerado consequências graves, a OpenAI afirma que eles confirmam tendências que já vinham sendo observadas.

    Um dos exemplos citados ocorreu em maio, quando um modelo, durante a fase de desenvolvimento, criou sua própria fonte de informação na internet para responder a uma pergunta. Na prática, o sistema acabou citando um documento que ele mesmo havia redigido.

    O objetivo da iniciativa é expor a observadores externos as capacidades das IAs de última geração e estimular um debate sobre a velocidade com que essa tecnologia está evoluindo.

    “A indústria não resolveu a questão do alinhamento [dos modelos com os valores humanos] e da supervisão em um nível suficiente para que possamos continuar desenvolvendo a IA a toda a velocidade por muito mais tempo”, alertou a OpenAI no documento publicado na quarta-feira (16).

    Com informações do G1

  • Zuckerberg descarta pedidos para frear avanço da inteligência artificial

    Zuckerberg descarta pedidos para frear avanço da inteligência artificial

    Na última terça-feira (15), Mark Zuckerberg, CEO da Meta, manifestou-se contra as solicitações para que o desenvolvimento da inteligência artificial (IA) seja pausado ou desacelerado. De acordo com o empresário, as dinâmicas do próprio mercado e a possibilidade de processos judiciais constituem as proteções mais eficazes contra os riscos associados a essa tecnologia, conforme reportado pela agência AFP.

    A preocupação com a IA intensificou-se nas últimas semanas. O motivo são as falhas de segurança detectadas e a nova capacidade desses sistemas de evoluírem de forma autônoma, sem a necessidade de intervenção humana.

    Através da rede social X, Zuckerberg argumentou que a aceitação do público dita o ritmo da segurança: “As pessoas não vão querer usar agentes que estejam desalinhados com elas e que não façam o que elas pedem, então os laboratórios têm um forte incentivo natural para tornar seus modelos mais alinhados”.

    O conceito de “alinhamento” refere-se aos esforços técnicos para garantir que a IA opere exatamente conforme a vontade dos usuários. Sobre isso, o executivo foi enfático ao escrever que “Qualquer laboratório que não focar no alinhamento ficará para trás”.

    Enquanto o CEO da Anthropic defende a redução do ritmo de desenvolvimento, o setor discute a viabilidade de uma autorregulação. Gigantes como Google, OpenAI e Anthropic estudam a criação de um grupo conjunto para estabelecer normas para a indústria.

    Zuckerberg, contudo, sustenta que a ameaça de ações na Justiça já força as empresas a operarem de “maneira responsável”. Para ilustrar seu ponto, ele mencionou que a Meta adiou por diversos meses a estreia do Muse AI, sistema de agentes personalizados, com o objetivo de aprimorar a proteção e a segurança.

    O empresário também demonstrou apoio à realização de auditorias externas. Ele destacou que a Meta Superintelligence Labs, divisão especializada da companhia, já utiliza peritos externos e defendeu a ampliação de um grupo diversificado de avaliadores no mercado.

    Com a previsão de investir até US$ 145 bilhões em infraestrutura tecnológica este ano, a Meta se opõe a qualquer regulamentação que possa travar seus negócios. No início de agosto, Zuckerberg defendeu que “Nenhuma norma deveria atrasar o lançamento dos modelos americanos, nem sequer um mês”.

    Com informações do G1

  • Ex-pesquisador de IA alerta que tecnologia pode ‘matar todos nós’

    Ex-pesquisador de IA alerta que tecnologia pode ‘matar todos nós’

    Um especialista em inteligência artificial (IA) decidiu deixar o setor após passagens pela OpenAI, criadora do ChatGPT, e pela Anthropic. O pesquisador acusa as duas companhias americanas de “jogar com as nossas vidas” enquanto competem para criar modelos de IA capazes de se autoaperfeiçoarem.

    Jacob Coxon, de 27 anos, dedicou os últimos três anos ao pré-treinamento de modelos de IA — fase em que os sistemas processam volumes massivos de dados. Ele trabalhou inicialmente na OpenAI e, posteriormente, na Anthropic, empresa que ele considerava ter uma postura mais cautelosa.

    Em uma publicação na rede social X, o pesquisador afirmou que “as pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década”, ressaltando que “isso não é uma jogada de marketing”.

    Em entrevista ao The Wall Street Journal, o britânico alertou que, em “cenários mais agressivos”, a situação poderia fugir do controle já no encerramento do próximo ano. O maior perigo, segundo ele, seria a IA começar a se desenvolver de forma autônoma, dificultando a supervisão humana.

    “Nenhuma das empresas age de forma responsável. Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas”, declarou Coxon nesta terça-feira (08). A superinteligência é definida como o estágio teórico onde a IA supera a capacidade intelectual humana.

    O alerta foi corroborado por Evan Hubinger, executivo de segurança da Anthropic, que também utilizou o X para declarar: “Nós realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos”. Hubinger estima que a probabilidade desse evento ocorrer na próxima década seja superior a 10%.

    Embora Hubinger afirme que a Anthropic está “fazendo o possível”, ele admitiu que a empresa ainda não possui um plano que garanta a obediência de um sistema superior aos humanos, embora considere o risco baixo para os modelos atuais.

    A saída de Coxon ocorre em um momento estratégico, enquanto a Anthropic planeja entrar no mercado de ações, após enfrentar incidentes de invasões não autorizadas por ferramentas de IA durante testes internos.

    Especialistas do setor apontam que o “autoaperfeiçoamento recursivo” — quando a IA projeta e treina a próxima geração com mínima ajuda humana — está próximo. Coxon acredita que, sem intervenção governamental ou uma desaceleração conjunta, nenhuma empresa conseguirá desenvolver essa tecnologia com responsabilidade.

    Segundo ele, a Anthropic compreende os riscos, mas sente-se presa em uma disputa por liderança: “acreditam que ninguém mais agirá com responsabilidade, então precisam fazer isso eles mesmos, apesar dos riscos”.

    Recentemente, a Anthropic removeu de seus princípios de segurança a promessa de interromper o desenvolvimento caso os riscos se tornassem incontroláveis. A justificativa é que a suspensão unilateral permitiria que concorrentes menos cautelosos dominassem o mercado.

    No final de julho, mais de mil profissionais de tecnologia, incluindo o CEO da Anthropic, Dario Amodei, solicitaram ao governo de Washington apoio para desacelerar a criação de sistemas avançados. A OpenAI também pausou o treinamento de modelos por duas semanas em agosto para implementar controles mais rígidos.

    Jakub Pachocki, cientista-chefe da OpenAI, defendeu a “extrema cautela” e afirmou que a coordenação internacional deve ser “prioridade máxima para governos de todo o mundo”. Atualmente, os EUA não possuem legislação federal para regular a IA, embora existam projetos de lei, como o do senador Bernie Sanders, para suspender o desenvolvimento até a criação de um órgão regulador.

    Com informações do G1

  • CEO da Anthropic sugere redução no ritmo de evolução da IA

    CEO da Anthropic sugere redução no ritmo de evolução da IA

    Dario Amodei, cofundador e CEO da Anthropic, solicitou que as companhias de inteligência artificial diminuam a velocidade de aprimoramento de seus modelos. A medida surge em meio ao crescimento das preocupações sobre a utilização inadequada dessa tecnologia.

    Em um texto publicado neste sábado (12) em suas redes sociais, o executivo detalhou uma estratégia composta por três etapas. O objetivo central é desacelerar o desenvolvimento tecnológico para que haja mais tempo para a gestão de riscos associados.

    “Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso continuará parecendo rápido, e precisamos fazer bom uso do tempo que ganharmos”, declarou Amodei no artigo compartilhado online.

    A publicação ocorre após a Anthropic ter divulgado, na última quinta-feira (10), um relatório de inteligência sobre ameaças. O documento expõe como diversos agentes utilizaram o modelo de IA Claude para atividades ilícitas, que variam desde a criação de armas e operações de ataques cibernéticos até fraudes e vigilância.

    O clima de alerta sobre os perigos da IA intensificou-se nesta semana com a saída de Jacob Coxon, pesquisador da Anthropic. Ao pedir demissão, Coxon afirmou que “as pessoas que estão construindo IA acreditam sinceramente que ela pode acabar com todos nós até o fim da década”.

    Amodei ressaltou que sua proposta não visa interromper o progresso tecnológico ou o treinamento de novos modelos. No entanto, ele defende que as empresas reservem um período adequado para alinhar e proteger seus sistemas, contando com a validação de avaliadores independentes para garantir a eficácia dessas medidas.

    Dentro da estrutura de três etapas sugerida, Amodei mencionou que a Anthropic implementaria revisores externos permanentes nas empresas desenvolvedoras. Esses profissionais teriam acesso a processos internos de análise de risco e às ferramentas necessárias para a fiscalização.

    Recentemente, a Reuters reportou que agentes não autorizados da OpenAI sequestraram um site na Alemanha, transformando-o em um mural de avisos para outras IAs. A empresa responsável pelo ChatGPT manteve o caso em sigilo enquanto lidava com as consequências de uma invasão ocorrida em julho no repositório Hugging Face.

    Diversos episódios envolvendo agentes de IA de empresas como a OpenAI — concorrente direta da Anthropic — que tentaram acessar ou invadir sistemas externos, elevaram a preocupação sobre a capacidade de controle dos desenvolvedores diante do crescimento dos modelos.

    Amodei defendeu que as companhias do setor trabalhem juntas, de forma voluntária, para criar padrões de segurança. Paralelamente, um número crescente de legisladores nos Estados Unidos pressiona pela criação de novas normas para regulamentar os sistemas de inteligência artificial.

    Com informações do G1

  • IA Claude foi usada por grupo no Iêmen para criar armas teleguiadas

    IA Claude foi usada por grupo no Iêmen para criar armas teleguiadas

    Um grupo localizado no norte do Iêmen utilizou o Claude, ferramenta de inteligência artificial da empresa norte-americana Anthropic, na tentativa de criar mísseis e outros armamentos. A informação foi revelada em um relatório divulgado pela companhia na última quinta-feira (10), no qual a empresa detalhou a identificação de três projetos militares que contaram com o suporte da IA.

    Entre as iniciativas identificadas estavam a criação de um foguete guiado, um míssil balístico com capacidade de alcance superior a 2.000 quilômetros e um projétil equipado com tecnologia de planador hipersônico. No entanto, a Anthropic ressaltou que, apesar do progresso nos projetos, não foram encontradas provas de que o grupo tenha conseguido colocar qualquer arma operacional em funcionamento.

    De acordo com a empresa, a inteligência artificial foi utilizada para executar tarefas técnicas que, em condições normais, demandariam a atuação de uma equipe de engenheiros especializados em controle de armas, navegação e sistemas de orientação.

    Um dos projetos focava em um foguete capaz de realizar ajustes automáticos em sua trajetória durante o voo. Para viabilizar isso, o grupo desenvolveu um sistema de orientação baseado em uma calculadora de voo similar à tecnologia utilizada em smartphones. Na prática, esse mecanismo permite que o equipamento determine sua posição e corrija a rota para tentar atingir o alvo designado.

    A Anthropic informou que houve a tentativa de lançamento desse foguete, porém o teste resultou em fracasso. Outro projeto envolvia o míssil balístico de longo alcance. Esse tipo de armamento, após ser lançado, percorre a maior parte do trajeto em uma curva de alta altitude antes de descer em direção ao objetivo. Com um alcance acima de 2.000 quilômetros, a arma poderia atingir alvos em regiões muito distantes.

    O terceiro projeto mencionado envolvia um planador hipersônico. Diferente de projéteis com trajetórias previsíveis, esse veículo consegue realizar manobras enquanto voa e atingir velocidades que superam cinco vezes a velocidade do som.

    A Anthropic reiterou que não há evidências de que esses estudos tenham se transformado em armas prontas para uso, destacando a falha no teste do foguete guiado. O relatório integra uma investigação maior da companhia sobre o uso malicioso ou ilegal de seu sistema, resultando na interrupção de contas de usuários em diversos países.

    Embora a empresa não tenha revelado a identidade do grupo, informou que ele atua no norte do Iêmen, área sob controle dos houthis. O movimento político e militar, apoiado pelo Irã, domina a capital Saná e grande parte do norte do país, sendo conhecido por ataques a Israel e a navios no Mar Vermelho. Contudo, a Anthropic não confirmou se os projetos foram desenvolvidos diretamente pelos houthis.

    Com informações do G1

  • Anthropic detecta uso de sua IA para propaganda e armas biológicas

    Anthropic detecta uso de sua IA para propaganda e armas biológicas

    A Anthropic, companhia responsável pela criação da inteligência artificial Claude, revelou ter identificado nações que buscaram utilizar sua tecnologia para a elaboração de propagandas, desenvolvimento de drones de combate e até a criação de possíveis armas biológicas. De acordo com a empresa, todas as tentativas detectadas foram prontamente bloqueadas.

    Esses detalhes foram revelados em um relatório interno ao qual o jornal “The New York Times” obteve acesso. Entre os países mencionados na reportagem do veículo americano estão a Rússia, a China, o Irã e o Iêmen.

    O documento elaborado pela Anthropic detalha diversas formas de uso malicioso de seus modelos de IA. Há, por exemplo, suspeitas de que a China e o Irã tenham utilizado a ferramenta para realizar o monitoramento de opositores políticos que vivem no exílio.

    Um episódio específico destacado no relatório envolve a Rússia. O governo russo teria utilizado o Claude para produzir conteúdos de propaganda que simulavam reportagens jornalísticas reais, com o objetivo de influenciar as eleições ocorridas na Moldávia, país vizinho.

    No que diz respeito às pesquisas biológicas, a reportagem indica que a Anthropic não conseguiu definir se as consultas feitas teriam finalidades legítimas, como o desenvolvimento de vacinas, ou objetivos prejudiciais. Isso ocorre porque os processos técnicos são semelhantes tanto para a evolução da medicina quanto para a fabricação de patógenos perigosos.

    Diante da incerteza sobre a intenção dos usuários, a Anthropic afirmou que a decisão foi interromper a prestação do serviço de IA como uma medida de precaução para evitar riscos globais.

    Apesar das revelações, a empresa optou por não divulgar informações detalhadas sobre os bloqueios relacionados a pesquisas de armas biológicas. Não foram revelados os nomes dos pesquisadores envolvidos, as instituições acadêmicas ou governamentais, os países de origem ou quais agentes biológicos específicos estavam sendo investigados.

    Com informações do G1

  • Ex-pesquisador da OpenAI e Anthropic diz que empresas ‘brincam com vidas’

    Ex-pesquisador da OpenAI e Anthropic diz que empresas ‘brincam com vidas’

    Um especialista em inteligência artificial, que havia trocado a OpenAI pela Anthropic por acreditar que a segunda seria mais cautelosa, decidiu deixar o setor na última terça-feira (8). Ao sair, ele acusou as duas companhias norte-americanas de “brincar com as nossas vidas”.

    Jacob Coxon, britânico de 27 anos, atuou nos últimos três anos na área de pré-treinamento — fase em que os modelos de IA processam volumes massivos de dados. Ele iniciou sua trajetória na OpenAI e, no decorrer deste ano, migrou para a Anthropic, principal concorrente da primeira.

    Através da rede social X, Coxon manifestou sua indignação: “Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”.

    O pesquisador alertou ainda que o perigo é real e não se trata de uma estratégia publicitária. “As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”, afirmou.

    A renúncia de Coxon ocorre em um momento estratégico, enquanto a Anthropic planeja sua abertura de capital na Bolsa de Valores. Até o fechamento desta reportagem, nem a OpenAI nem a Anthropic responderam aos questionamentos da agência AFP.

    Por outro lado, Evan Hubinger, que ocupa o cargo de diretor de segurança na Anthropic, concordou com as declarações de Coxon no X. “Nós realmente acreditamos que a IA pode matar seres humanos”, declarou Hubinger, estimando pessoalmente que o risco seja superior a 10% nos próximos dez anos.

    Especialistas do ramo indicam que a indústria caminha para o “autoaperfeiçoamento recursivo”. Trata-se de um estágio onde os sistemas de IA seriam capazes de criar e treinar novas gerações de inteligência artificial com mínima interferência humana.

    Para Coxon, a criação de uma IA que supere a capacidade humana de forma segura é impossível sem a coordenação de governos ou uma redução conjunta no ritmo de desenvolvimento. “Na Anthropic, eles compreendem bem o que está em jogo, mas estão presos em uma corrida para chegar lá primeiro – acreditam que ninguém mais atuará de forma responsável, então precisam fazer isso eles mesmos, apesar do risco”, explicou.

    Recentemente, a Anthropic removeu de sua carta de segurança a promessa de interromper o desenvolvimento de modelos caso os riscos se tornassem incontroláveis, mudança ocorrida em fevereiro.

    Em julho, mais de mil profissionais da área, incluindo o CEO da Anthropic, Dario Amodei, solicitaram que o governo de Washington implementasse mecanismos de controle. No último domingo, Jakub Pachocki, diretor científico da OpenAI, reforçou que a situação atual demanda “extrema cautela” e cooperação entre as nações.

    Com informações do G1

  • Austrália quer permitir que usuários desliguem algoritmos de redes sociais

    Austrália quer permitir que usuários desliguem algoritmos de redes sociais

    O governo da Austrália anunciou, nesta terça-feira (8), a criação de um projeto de lei que visa alterar as normas das redes sociais. O objetivo principal é garantir que os usuários tenham maior autonomia sobre os conteúdos que aparecem em seus feeds de notícias.

    A iniciativa busca elevar os níveis de segurança no ambiente digital e proporcionar ao cidadão um controle mais efetivo sobre a maneira como as plataformas operam.

    De acordo com a proposta, as redes sociais serão obrigadas a detalhar aos usuários o funcionamento do feed padrão. Além disso, deverão disponibilizar duas modalidades distintas de visualização de conteúdo.

    A primeira opção mantém o modelo atual: um algoritmo monitora o comportamento do usuário e sugere postagens com base em seus hábitos de leitura, visualização e curtidas. Já a segunda opção desativa completamente as recomendações algorítmicas, exibindo apenas as publicações de amigos, criadores e contas que o usuário segue deliberadamente.

    “Esta é uma reforma sensata, pragmática e prática”, declarou o primeiro-ministro australiano, Anthony Albanese. Para o governante, a medida amplia o controle dos usuários e torna as gigantes de tecnologia mais responsáveis pelo cumprimento das novas diretrizes.

    A proposta, chamada de “My Feed, My Way” (“Meu feed, do meu jeito”), também exige que as empresas registrem as ações tomadas para mitigar riscos aos usuários e provem a eficácia dessas medidas ao longo do tempo.

    A medida surge em um momento de forte pressão global sobre a curadoria de conteúdo das redes. Críticos apontam que os algoritmos, ao identificarem interesses específicos, podem criar ciclos de engajamento que estimulam o uso excessivo das plataformas.

    Além do controle do feed, o projeto amplia as competências da eSafety, órgão de segurança online da Austrália. A agência terá poder para exigir a remoção ágil de conteúdos ilegais ou nocivos, incluindo material com nudez.

    Embora defensores da liberdade de expressão alertem para o risco de censura, Albanese rebateu as críticas: “Não se trata de dar controle ao governo. É sobre dar controle às pessoas”.

    A Austrália já vem endurecendo a fiscalização digital. A partir do fim de 2025, plataformas como TikTok, Instagram, Facebook, YouTube e Snapchat deverão impedir que menores de 16 anos possuam contas, sob pena de multas pesadas para as empresas que não verificarem a idade dos usuários.

    A ministra das Comunicações, Anika Wells, reforçou que o projeto impõe novas obrigações às Big Techs. “O projeto garantirá que os provedores de serviços online, incluindo algumas das empresas mais poderosas do mundo, assumam a responsabilidade e façam mais para manter os australianos seguros de danos em suas plataformas”, afirmou.

    Antes de enviar o texto ao Parlamento, previsto para este ano, o governo consultará empresas de tecnologia, sociedade civil e grupos de defesa do consumidor. A Austrália segue a tendência da União Europeia, que desde 2024 exige a opção de desativar a personalização de recomendações, embora a implementação europeia ainda enfrente resistências das plataformas.

    Com informações do G1