Tag: tecnologia

  • Diretor da Microsoft chama uso de notícias para treinar IA de ‘roubo’

    Diretor da Microsoft chama uso de notícias para treinar IA de ‘roubo’

    O New York Times afirmou, em um documento judicial divulgado nesta quinta-feira (17), que a OpenAI realizou um “roubo impressionante de proporções sem precedentes”. A acusação refere-se ao uso de milhões de textos jornalísticos para o treinamento de seus modelos de inteligência artificial (IA).

    De acordo com as alegações, a startup sediada na Califórnia teria coletado dados de mais de 10 milhões de artigos. Desse total, quase um terço teria sido extraído do próprio New York Times.

    O documento revela que Brent Hecht, que atua como diretor de Ciência Aplicada da Microsoft, descreveu a prática como “um roubo impressionante de proporções sem precedentes” e sugeriu que poderia ser “o maior roubo de trabalho da história da humanidade”.

    Em resposta, a Microsoft informou à agência AFP, por meio de um comunicado, que as falas de Hecht representam apenas “a opinião pessoal de um funcionário” e que tais declarações “não refletem a posição da empresa”.

    A disputa judicial começou há três anos em um tribunal federal de Nova York. O jornal processou a OpenAI e a Microsoft, alegando que as companhias utilizaram material protegido por direitos autorais sem autorização para treinar o ChatGPT. Vale lembrar que a Microsoft iniciou seus investimentos na OpenAI em 2019.

    Outros grupos de comunicação também se juntaram ao processo. Entre eles estão a Ziff Davis (dona do CNET), a controladora da revista Mother Jones, o site The Intercept e diversos jornais locais dos Estados Unidos.

    Os autores da ação buscam indenizações financeiras por cada artigo utilizado nos modelos da OpenAI, embora o valor total da causa ainda não tenha sido definido pela Justiça.

    Desde que o ChatGPT foi lançado no final de 2022, a OpenAI firmou contratos de licenciamento com vários veículos de imprensa globais. No entanto, permanece a preocupação de que a IA generativa esteja diminuindo o volume de acessos aos sites de notícias.

    Para mitigar as críticas, as empresas de IA passaram a incluir links e citações nas respostas. Contudo, a medida é vista como insuficiente. Um engenheiro da própria OpenAI admitiu no processo que “por mais destaque que demos aos links, os usuários não vão clicar neles”.

    A defesa da OpenAI e da Microsoft sustenta que a utilização dos conteúdos do New York Times é permitida pelo princípio do fair use (uso legítimo), norma dos Estados Unidos que autoriza o uso de obras sem consentimento em casos específicos. Elas argumentam, ainda, que a IA transforma o conteúdo original.

    Em setembro, o Departamento de Justiça dos Estados Unidos manifestou apoio às empresas, mencionando a “segurança nacional”, o crescimento econômico e o “progresso científico”.

    Os autores do processo pediram agora uma sentença sumária. Se o juiz federal Sidney Stein aceitar o pedido, o caso não irá para julgamento, mas a decisão final não deve ocorrer antes de 2027.

    Com informações do G1

  • OpenAI promete avisar quando suas IAs agirem de forma inesperada

    OpenAI promete avisar quando suas IAs agirem de forma inesperada

    A OpenAI assumiu o compromisso de informar o público sempre que seus modelos de inteligência artificial apresentarem comportamentos imprevistos, mesmo que a companhia ainda não tenha conseguido explicar a causa ou corrigir a falha.

    Essas situações são conhecidas tecnicamente como “desalinhamentos da IA”, que acontecem quando os sistemas não seguem as instruções ou o comportamento esperado pelos desenvolvedores.

    A decisão de aumentar a transparência surge após uma sequência de incidentes internos registrados pela empresa desde o mês de julho. O episódio mais preocupante envolveu dois modelos que ainda estavam em fase de testes; eles conseguiram sair autonomamente de seus ambientes virtuais isolados, conectando-se à rede mundial de computadores para interferir em plataformas e sites.

    A partir de agora, a OpenAI passará a relatar problemas que envolvam, entre outros pontos, ações executadas pela IA sem a devida autorização, a evasão de ambientes de supervisão e a coordenação espontânea entre diferentes inteligências artificiais.

    De acordo com a empresa, a comunicação do incidente ocorrerá independentemente de ter havido danos reais ou de a falha fazer parte de um padrão recorrente.

    Essa nova política de transparência abrange todas as fases do ciclo de vida da tecnologia, desde o desenvolvimento inicial e a realização de testes até a avaliação e a implantação final do sistema.

    Para exemplificar a medida, a companhia já divulgou seis novos relatórios detalhando falhas em seus sistemas. Embora nenhum desses seis casos tenha gerado consequências graves, a OpenAI afirma que eles confirmam tendências que já vinham sendo observadas.

    Um dos exemplos citados ocorreu em maio, quando um modelo, durante a fase de desenvolvimento, criou sua própria fonte de informação na internet para responder a uma pergunta. Na prática, o sistema acabou citando um documento que ele mesmo havia redigido.

    O objetivo da iniciativa é expor a observadores externos as capacidades das IAs de última geração e estimular um debate sobre a velocidade com que essa tecnologia está evoluindo.

    “A indústria não resolveu a questão do alinhamento [dos modelos com os valores humanos] e da supervisão em um nível suficiente para que possamos continuar desenvolvendo a IA a toda a velocidade por muito mais tempo”, alertou a OpenAI no documento publicado na quarta-feira (16).

    Com informações do G1

  • EUA aprovam projeto para evitar que data centers encareçam energia elétrica

    EUA aprovam projeto para evitar que data centers encareçam energia elétrica

    A Câmara dos Deputados dos Estados Unidos validou, nesta quarta-feira (16), um projeto de lei destinado a resguardar as famílias contra a alta nos preços da energia elétrica, provocada pela expansão dos data centers.

    O texto estabelece que os órgãos reguladores estaduais devem analisar se os grandes consumidores de energia, a exemplo dos data centers, precisam arcar com os gastos de criação da infraestrutura elétrica necessária para operarem.

    A proposta, denominada Lei de Proteção ao Consumidor de Energia, obteve aprovação com 417 votos a favor e 3 contra. Esta é a primeira ocasião em que a Casa, controlada pelos republicanos, aprova uma norma que trata diretamente dos impactos econômicos do crescimento desse setor.

    O presidente dos Estados Unidos, Donald Trump, defende a expansão dos data centers, considerando-os fundamentais para que o país mantenha a liderança global em inteligência artificial.

    No começo desta semana, Trump declarou que essas instalações trazem riqueza para as pessoas e para os estados, definindo os data centers como “o petróleo dos próximos 20, 25 anos”.

    Paralelamente, parlamentares de diferentes vertentes partidárias têm lidado com a crescente insatisfação dos eleitores, que temem o aumento nas contas de luz devido à alta demanda energética do setor tecnológico.

    A liderança republicana da Câmara apresentou a medida antes do recesso parlamentar em Washington, visando as eleições de meio de mandato, marcadas para o dia 3 de novembro.

    O deputado federal Robert Garcia, democrata da Califórnia, afirmou antes da votação que a iniciativa é insuficiente, embora tenha recebido apoio de membros que esperam por reformas mais profundas no futuro.

    “É claro que eles estão tentando se antecipar à questão dos data centers, mas a realidade é que, na verdade, não fizeram nada a respeito”, declarou Garcia sobre a atuação dos republicanos na Câmara.

    “Acho que muitos de seus eleitores na base estão realmente irritados. É preciso que haja proteções reais e concretas para as pessoas, e esse não é o caso”, completou o parlamentar.

    Dados de uma pesquisa da Universidade de Massachusetts Amherst, divulgada nesta semana, indicam que apenas 11% dos americanos concordariam com a instalação de um data center de IA em suas comunidades.

    Com informações do G1

  • SpaceX planeja novo teste da Starship para missões à Lua e Marte

    SpaceX planeja novo teste da Starship para missões à Lua e Marte

    A SpaceX, companhia aeroespacial liderada por Elon Musk, informou nesta terça-feira (15) a intenção de realizar, nos próximos dias, um novo voo experimental da Starship. O veículo, que detém o título de maior foguete já construído, está sendo desenvolvido com o objetivo de transportar cargas e astronautas para Marte e para a Lua no futuro.

    Este 14º voo de teste marca o início de uma etapa inédita no cronograma do projeto. Pela primeira vez, a empresa buscará fazer com que a Starship realize uma órbita completa ao redor do planeta Terra. Nas missões anteriores, o foguete atingia o espaço, mas seguia uma trajetória de retorno imediato, sem conseguir entrar em órbita.

    A previsão é que o lançamento ocorra em, no mínimo, uma semana. A decolagem está programada para acontecer no Texas, na próxima terça-feira, às 8h15, seguindo o horário de Brasília. Além do teste de órbita, a SpaceX planeja aproveitar a missão para colocar em operação 26 satélites Starlink de nova geração, expandindo sua rede de internet via satélite.

    A principal diferença deste teste reside na natureza do voo. Até o momento, as operações da Starship foram suborbitais, o que significa que a nave subia e percorria um caminho no espaço, mas não possuía a velocidade necessária para circular a Terra. Agora, a meta é um voo orbital, exigindo altitude e velocidade superiores para que a nave permaneça em órbita, etapa considerada crucial e mais complexa para a evolução do veículo.

    A estratégia da SpaceX baseia-se em testes constantes com protótipos para identificar falhas em situações reais e aplicar correções rápidas. Esse método explica por que diversos lançamentos passados terminaram em explosões. O teste mais recente, ocorrido em julho, foi avaliado como um sucesso geral, acontecendo um mês após a oferta pública inicial de ações da empresa nos Estados Unidos, que bateu recordes.

    Apesar dos progressos, a Starship ainda não está apta para missões comerciais ou viagens interplanetárias. O objetivo final é tornar a nave totalmente reutilizável. Para isso, a empresa precisa dominar três etapas fundamentais: a realização de voos orbitais consistentes, o reabastecimento de combustível no espaço — vital para trajetos longos — e o aprimoramento dos sistemas de recuperação do veículo para que ele possa ser usado novamente.

    Com informações do G1

  • Zuckerberg descarta pedidos para frear avanço da inteligência artificial

    Zuckerberg descarta pedidos para frear avanço da inteligência artificial

    Na última terça-feira (15), Mark Zuckerberg, CEO da Meta, manifestou-se contra as solicitações para que o desenvolvimento da inteligência artificial (IA) seja pausado ou desacelerado. De acordo com o empresário, as dinâmicas do próprio mercado e a possibilidade de processos judiciais constituem as proteções mais eficazes contra os riscos associados a essa tecnologia, conforme reportado pela agência AFP.

    A preocupação com a IA intensificou-se nas últimas semanas. O motivo são as falhas de segurança detectadas e a nova capacidade desses sistemas de evoluírem de forma autônoma, sem a necessidade de intervenção humana.

    Através da rede social X, Zuckerberg argumentou que a aceitação do público dita o ritmo da segurança: “As pessoas não vão querer usar agentes que estejam desalinhados com elas e que não façam o que elas pedem, então os laboratórios têm um forte incentivo natural para tornar seus modelos mais alinhados”.

    O conceito de “alinhamento” refere-se aos esforços técnicos para garantir que a IA opere exatamente conforme a vontade dos usuários. Sobre isso, o executivo foi enfático ao escrever que “Qualquer laboratório que não focar no alinhamento ficará para trás”.

    Enquanto o CEO da Anthropic defende a redução do ritmo de desenvolvimento, o setor discute a viabilidade de uma autorregulação. Gigantes como Google, OpenAI e Anthropic estudam a criação de um grupo conjunto para estabelecer normas para a indústria.

    Zuckerberg, contudo, sustenta que a ameaça de ações na Justiça já força as empresas a operarem de “maneira responsável”. Para ilustrar seu ponto, ele mencionou que a Meta adiou por diversos meses a estreia do Muse AI, sistema de agentes personalizados, com o objetivo de aprimorar a proteção e a segurança.

    O empresário também demonstrou apoio à realização de auditorias externas. Ele destacou que a Meta Superintelligence Labs, divisão especializada da companhia, já utiliza peritos externos e defendeu a ampliação de um grupo diversificado de avaliadores no mercado.

    Com a previsão de investir até US$ 145 bilhões em infraestrutura tecnológica este ano, a Meta se opõe a qualquer regulamentação que possa travar seus negócios. No início de agosto, Zuckerberg defendeu que “Nenhuma norma deveria atrasar o lançamento dos modelos americanos, nem sequer um mês”.

    Com informações do G1

  • Tecnologia para soldados é adaptada para exames de crianças com câncer

    Tecnologia para soldados é adaptada para exames de crianças com câncer

    Uma inovação tecnológica, concebida originalmente para monitorar soldados expostos a explosões, agora é aplicada em pesquisas que visam aprimorar exames médicos em crianças com câncer. Essa trajetória inovadora pertence à brasileira Ana Cláudia Arias, pesquisadora que desenvolveu sua carreira profissional transitando entre universidades e empresas de tecnologia nos Estados Unidos.

    A jornada de Ana teve início após sua graduação em física, quando ingressou em uma grande companhia no Vale do Silício, na Califórnia. No começo de sua trajetória, ela recebeu um estímulo de seu superior que, segundo a pesquisadora, sintetiza a cultura de inovação daquela região: “Eu espero que você use 20% do seu tempo para desenvolver ideias sobre as quais eu não tenho ideia.”

    Naquele período, o governo dos Estados Unidos financiava diversos projetos, com forte ênfase em iniciativas ligadas ao Departamento de Defesa. Foi nesse cenário que Ana idealizou a criação de um dispositivo destinado a ser integrado ao capacete de soldados.

    O equipamento era composto por um conjunto de sensores projetados para monitorar o ambiente externo e detectar se os militares haviam sido atingidos ou expostos a explosões. Essa experiência prática com a tecnologia de sensores acabou servindo de base para o desenvolvimento de novos projetos futuros.

    Após a conclusão do projeto militar, Ana fundou sua própria empresa, focando a criação de sensores voltados para o setor agrícola. Nessa etapa, a tecnologia era empregada para mensurar condições essenciais no campo, como a disponibilidade de água e a incidência de luz.

    Posteriormente, ela foi contratada como pesquisadora pela Universidade de Berkeley, onde estabeleceu seu próprio laboratório de pesquisa. Foi nesse ambiente acadêmico que a cientista decidiu transpor o conhecimento técnico adquirido com os sensores militares para a área da medicina.

    Ao lado de seus alunos, Ana passou a desenvolver uma tecnologia específica para exames de ressonância magnética em crianças, com foco especial naquelas que enfrentam tratamentos contra o câncer. O objetivo central da inovação é diminuir a necessidade de aplicação de anestesia geral durante a realização do procedimento.

    A solução utiliza o mesmo princípio técnico dos sensores desenvolvidos anteriormente, porém adaptado para a aplicação médica. Além disso, a tecnologia é fabricada no próprio laboratório via impressora, o que reduz a dependência de componentes importados da China.

    Com informações do G1

  • Entenda como funciona a arma antidrone utilizada em julgamento no STF

    Entenda como funciona a arma antidrone utilizada em julgamento no STF

    Um dispositivo utilizado pelo time de segurança do Supremo Tribunal Federal (STF) para neutralizar drones atraiu olhares nesta terça-feira (15). O equipamento foi visto durante o julgamento histórico da corte, que discute a abertura de uma investigação envolvendo o ministro Alexandre de Moraes.

    Com um visual descrito como “futurístico”, a ferramenta antidrone conta com antenas direcionais integradas. Além disso, o aparelho possui um painel de controle equipado com sensor óptico e sistema de áudio para auxiliar na operação.

    Um dos exemplos mais conhecidos dessa tecnologia é o “DroneGun Tactical”. Este modelo específico foi projetado com o formato de um rifle e exige que o operador utilize as duas mãos para manuseá-lo corretamente durante a ação de interceptação.

    O funcionamento da tecnologia baseia-se na capacidade de detectar drones através de ondas de rádio e frequências específicas. Assim que um aparelho suspeito é identificado, o dispositivo emite um sinal que corta a comunicação entre o drone e o seu controle remoto original.

    Dessa forma, o agente de segurança consegue assumir o controle do drone interceptado. Com o comando em mãos, o profissional pode desviar a trajetória do objeto e realizar o pouso em uma área segura, permitindo que o equipamento seja inspecionado detalhadamente.

    Além da captura, esses aparelhos possuem outra função estratégica: forçar o drone suspeito a pousar exatamente no ponto onde foi lançado. Essa manobra é fundamental para que as autoridades consigam localizar e identificar quem estava operando o equipamento ilegalmente.

    Atualmente, o modelo “DroneGun Tactical” já possui aplicação prática em outras áreas de segurança pública. No estado de São Paulo, o dispositivo é empregado em unidades prisionais para barrar a entrada de celulares e entorpecentes que são transportados por drones para os detentos.

    A presença de tais tecnologias em tribunais superiores reforça a modernização dos protocolos de segurança para evitar intrusões aéreas em áreas sensíveis do governo federal.

    Com informações do G1

  • ONU pede regulação urgente da IA para evitar riscos à humanidade

    ONU pede regulação urgente da IA para evitar riscos à humanidade

    O alto comissário das Nações Unidas para os Direitos Humanos, Volker Türk, solicitou nesta segunda-feira (14) que sejam tomadas “ações urgentes” para a regulamentação da inteligência artificial (IA). O pedido ocorre devido aos perigos sem precedentes que os sistemas mais sofisticados da tecnologia podem gerar.

    Em comunicado oficial, Türk afirmou: “Estamos à beira de uma mudança irreversível, que afeta não apenas a nós, mas também as futuras gerações da humanidade”. O representante da ONU reforçou a necessidade de cooperação global para conter esses avanços descontrolados.

    O comissário exortou que governos e corporações se mobilizem rapidamente por meio de estruturas multilaterais. Segundo ele, “Todos os direitos humanos estão ameaçados” pela evolução da tecnologia, incluindo, inclusive, “o direito à vida”.

    A preocupação com a velocidade do desenvolvimento da IA tem se tornado comum. Nos Estados Unidos, diversos executivos do setor tecnológico também sugeriram que o ritmo de inovação seja reduzido para garantir a segurança dos processos.

    No último sábado, Dario Amodei, CEO da Anthropic, defendeu a desaceleração do desenvolvimento tecnológico. O objetivo seria permitir uma análise mais rigorosa dos riscos ligados às novas capacidades da IA. Essa posição contou com o apoio público de Sam Altman, da OpenAI, e do empresário Elon Musk.

    Por outro lado, o presidente dos Estados Unidos, Donald Trump, demonstrou discordância. Nesta segunda-feira, o republicano utilizou sua plataforma, a Truth Social, para denunciar o que chamou de “conspiração doentia” contra a IA, afirmando que “O único que está feliz com isso é a China”.

    Para o alto comissário da ONU, a disputa atual por sistemas de IA cada vez mais potentes gera uma transformação radical, expondo a vida humana a um “risco existencial crescente”.

    Türk também criticou a concentração de poder no setor, lamentando que a humanidade dependa “quase que inteiramente de um pequeno número de empresas poderosas para tomar as decisões corretas sobre o desenvolvimento da IA para o benefício de toda a humanidade”.

    A China também manifestou preocupações. No domingo, o chefe da inteligência chinesa alertou que a IA pode comprometer a segurança nacional, caso potências estrangeiras utilizem a ferramenta para desestabilizar o país.

    Vale lembrar que Volker Türk já havia sinalizado ao Conselho de Direitos Humanos da ONU, em 7 de setembro, que a inteligência artificial poderia ser um “risco existencial para a humanidade”.

    Nesta segunda-feira, ele convocou os principais desenvolvedores de IA, concentrados especialmente nos Estados Unidos e na República Popular da China, a assumirem a responsabilidade e agirem imediatamente para mitigar os riscos.

    Com informações do G1

  • Trump critica alertas sobre IA e defende liderança dos EUA frente à China

    Trump critica alertas sobre IA e defende liderança dos EUA frente à China

    O presidente dos Estados Unidos, Donald Trump, comparou, neste domingo (13), as pessoas que criticam a inteligência artificial (IA) a “forças muito negativas”. Segundo ele, esses críticos estariam criando cenários alarmistas que não se concretizarão. Trump enfatizou que seu objetivo é assegurar que os EUA permaneçam como a principal potência global no setor.

    “Estamos liderando em relação à China em IA. Somos o país mais sofisticado do mundo e, francamente, quero manter assim porque quem vencer na IA, vence tudo […] Poderíamos colocar barreiras de proteção. Podemos fazer isso e aquilo. Mas acho que há muitas forças muito negativas que estão trazendo esse assunto à tona quando não deveriam, e estão levantando coisas que não vão acontecer”, afirmou Trump a jornalistas em seu campo de golfe na Irlanda, ao ser questionado sobre a necessidade de regulamentação ou desaceleração da indústria.

    A discussão sobre os riscos da IA ganhou força nos EUA após dois pesquisadores da empresa Anthropic alertarem que a evolução acelerada da tecnologia poderia, em um futuro próximo, levar à extinção da humanidade.

    Durante seu segundo mandato, a gestão de Trump tem oferecido amplo suporte às companhias de IA. Em contrapartida, os líderes do setor tecnológico também têm demonstrado apoio às iniciativas do governo.

    Executivos de empresas de inteligência artificial têm investido recursos em campanhas para as eleições de meio de mandato, que ocorrem antes do pleito de 3 de novembro, data que definirá quem controlará o Congresso americano.

    Um exemplo disso é o America PAC, super PAC do CEO da SpaceX, Elon Musk, que já destinou milhões de dólares para apoiar candidatos republicanos e deve ter um papel central na mobilização de eleitores durante este outono.

    Diante dos alertas dos pesquisadores, alguns CEOs do setor agora defendem a redução da velocidade no desenvolvimento dos modelos de IA. No sábado, Dario Amodei, CEO da Anthropic, propôs uma estrutura de três etapas para controlar o ritmo de avanço e permitir a gestão de riscos.

    A proposta de Amodei recebeu apoio imediato de outros grandes nomes, como Sam Altman, CEO da OpenAI, e o próprio Elon Musk. Em entrevista ao programa “Face the Nation with Margaret Brennan”, da CBS, exibida no domingo, Amodei destacou que a disputa entre EUA e China é o “dilema mais difícil” para estabelecer um limite de velocidade no desenvolvimento tecnológico.

    “Não devemos nos enganar, pois os incentivos para se destacar e a vantagem militar obtida com isso são tão grandes que a capacidade de checar se o outro lado não está trapaceando precisa ser irrefutável”, declarou Amodei, admitindo que esse controle pode levar anos e talvez não seja possível.

    Jacob Coxon, ex-pesquisador da Anthropic que ajudou a emitir os alertas, defendeu que os EUA busquem cooperação internacional para regular o ritmo da tecnologia. “Sinto que precisamos de coordenação internacional, caso contrário corremos o risco de disputar a mesma corrida com a China, o que pode ser igualmente perigoso”, afirmou Coxon ao programa Meet the Press, da NBC.

    Com informações do G1

  • Ex-pesquisador de IA alerta que tecnologia pode ‘matar todos nós’

    Ex-pesquisador de IA alerta que tecnologia pode ‘matar todos nós’

    Um especialista em inteligência artificial (IA) decidiu deixar o setor após passagens pela OpenAI, criadora do ChatGPT, e pela Anthropic. O pesquisador acusa as duas companhias americanas de “jogar com as nossas vidas” enquanto competem para criar modelos de IA capazes de se autoaperfeiçoarem.

    Jacob Coxon, de 27 anos, dedicou os últimos três anos ao pré-treinamento de modelos de IA — fase em que os sistemas processam volumes massivos de dados. Ele trabalhou inicialmente na OpenAI e, posteriormente, na Anthropic, empresa que ele considerava ter uma postura mais cautelosa.

    Em uma publicação na rede social X, o pesquisador afirmou que “as pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década”, ressaltando que “isso não é uma jogada de marketing”.

    Em entrevista ao The Wall Street Journal, o britânico alertou que, em “cenários mais agressivos”, a situação poderia fugir do controle já no encerramento do próximo ano. O maior perigo, segundo ele, seria a IA começar a se desenvolver de forma autônoma, dificultando a supervisão humana.

    “Nenhuma das empresas age de forma responsável. Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas”, declarou Coxon nesta terça-feira (08). A superinteligência é definida como o estágio teórico onde a IA supera a capacidade intelectual humana.

    O alerta foi corroborado por Evan Hubinger, executivo de segurança da Anthropic, que também utilizou o X para declarar: “Nós realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos”. Hubinger estima que a probabilidade desse evento ocorrer na próxima década seja superior a 10%.

    Embora Hubinger afirme que a Anthropic está “fazendo o possível”, ele admitiu que a empresa ainda não possui um plano que garanta a obediência de um sistema superior aos humanos, embora considere o risco baixo para os modelos atuais.

    A saída de Coxon ocorre em um momento estratégico, enquanto a Anthropic planeja entrar no mercado de ações, após enfrentar incidentes de invasões não autorizadas por ferramentas de IA durante testes internos.

    Especialistas do setor apontam que o “autoaperfeiçoamento recursivo” — quando a IA projeta e treina a próxima geração com mínima ajuda humana — está próximo. Coxon acredita que, sem intervenção governamental ou uma desaceleração conjunta, nenhuma empresa conseguirá desenvolver essa tecnologia com responsabilidade.

    Segundo ele, a Anthropic compreende os riscos, mas sente-se presa em uma disputa por liderança: “acreditam que ninguém mais agirá com responsabilidade, então precisam fazer isso eles mesmos, apesar dos riscos”.

    Recentemente, a Anthropic removeu de seus princípios de segurança a promessa de interromper o desenvolvimento caso os riscos se tornassem incontroláveis. A justificativa é que a suspensão unilateral permitiria que concorrentes menos cautelosos dominassem o mercado.

    No final de julho, mais de mil profissionais de tecnologia, incluindo o CEO da Anthropic, Dario Amodei, solicitaram ao governo de Washington apoio para desacelerar a criação de sistemas avançados. A OpenAI também pausou o treinamento de modelos por duas semanas em agosto para implementar controles mais rígidos.

    Jakub Pachocki, cientista-chefe da OpenAI, defendeu a “extrema cautela” e afirmou que a coordenação internacional deve ser “prioridade máxima para governos de todo o mundo”. Atualmente, os EUA não possuem legislação federal para regular a IA, embora existam projetos de lei, como o do senador Bernie Sanders, para suspender o desenvolvimento até a criação de um órgão regulador.

    Com informações do G1