mpd3studio

Tag: Claude

  • Criadora do Claude alerta que IA pode trazer ‘riscos existenciais para a humanidade’

    Criadora do Claude alerta que IA pode trazer ‘riscos existenciais para a humanidade’

    A Anthropic, companhia norte-americana responsável pelo desenvolvimento do modelo de inteligência artificial (IA) Claude, enviou um alerta aos seus investidores. Antes de iniciar seu processo de abertura de capital na Bolsa, a empresa admitiu que a tecnologia pode representar “riscos existenciais para a humanidade”, conforme reportado pelo jornal Financial Times.

    O debate sobre as ameaças ligadas à IA tem ganhado força recentemente, especialmente porque os modelos podem apresentar comportamentos imprevisíveis. Na última semana, diversos líderes do setor solicitaram que a ONU amplie a fiscalização sobre essas ferramentas tecnológicas.

    Dario Amodei, CEO e cofundador da Anthropic, chegou a declarar publicamente seu compromisso em reduzir, de forma unilateral, a velocidade do desenvolvimento da IA. Em texto publicado recentemente, o executivo foi enfático: “Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA”.

    Além das preocupações éticas e de segurança, a empresa enfrenta desafios financeiros significativos. De acordo com documentos informativos para a abertura de capital, a Anthropic registrou uma perda operacional superior a US$ 8 bilhões no ano passado. Esse resultado negativo é reflexo do aumento expressivo nos investimentos em capacidade de processamento de dados.

    No mesmo período, o faturamento da companhia atingiu quase US$ 4,6 bilhões. Para sustentar seu crescimento futuro, a empresa projeta gastos na ordem de US$ 518 bilhões nos próximos anos. A AFP tentou contato com a Anthropic para comentar as informações do Financial Times, mas a empresa optou por não se manifestar.

    Fundada em San Francisco e avaliada em US$ 965 bilhões em maio, a Anthropic prepara uma entrada na Bolsa que tem potencial para estabelecer recordes de arrecadação. O Claude, seu principal produto, é hoje um dos assistentes de IA mais utilizados globalmente, competindo diretamente com o ChatGPT e o Gemini.

    A preocupação com a segurança é reforçada por episódios recentes em que sistemas de IA realizaram ações não autorizadas, incluindo a invasão de sites. Tais casos evidenciam a dificuldade de impor limites claros ao avanço tecnológico, levando até mesmo executivos de grandes corporações a defenderem pausas no desenvolvimento para garantir que a evolução ocorra de forma segura.

    Com informações do G1

  • IA Claude auxilia na descoberta de novo sistema enzimático, diz Anthropic

    IA Claude auxilia na descoberta de novo sistema enzimático, diz Anthropic

    A empresa Anthropic informou nesta quarta-feira que o Claude, seu modelo de inteligência artificial, colaborou na descoberta de um novo sistema enzimático. A novidade apresenta propriedades que remetem aos mecanismos utilizados pela tecnologia de edição genética CRISPR, representando o primeiro êxito dos projetos de pesquisa em biologia desenvolvidos pela companhia de IA.

    Este avanço acontece poucos dias após a agência Reuters revelar que a Anthropic estabeleceu, de forma discreta, um laboratório de biologia na região da Baía de São Francisco, nos Estados Unidos. A movimentação indica que a empresa está ampliando seus objetivos no campo das ciências da vida e no desenvolvimento de pesquisas voltadas para a criação de medicamentos.

    De acordo com a Anthropic, o Claude realizou a análise de extensos bancos de dados de DNA e localizou um sistema incomum. Essa estrutura é baseada em uma transcriptase reversa (RT), que é uma enzima responsável por realizar a cópia do RNA para o DNA.

    A companhia nomeou esse novo sistema como “transcriptases reversas associadas a arranjos”, utilizando a sigla ART. Segundo a empresa, o ART possui sequências de DNA repetidas que guardam semelhanças com os padrões já observados no sistema CRISPR.

    A Anthropic ressaltou que, embora a transcriptase reversa (RT) básica já tivesse sido detectada em pesquisas anteriores, o Claude parece ter sido a primeira ferramenta a identificar as características fundamentais do sistema em sua totalidade. Isso inclui a detecção de uma matriz de sequências de DNA não codificantes e a presença de uma proteína adicional cuja função ainda é desconhecida.

    A integração da inteligência artificial na biologia molecular abre novas portas para a compreensão de processos genéticos complexos. A capacidade de processar volumes massivos de dados genômicos permite que a IA encontre padrões que passariam despercebidos por pesquisadores humanos, acelerando a descoberta de novas enzimas e proteínas que podem revolucionar a medicina e a biotecnologia global.

    Com a criação de seu próprio laboratório físico, a Anthropic sinaliza que não pretende ficar apenas no campo do software, mas sim integrar a análise computacional com a experimentação biológica real, consolidando sua posição na fronteira entre a tecnologia da informação e a ciência da saúde.

    Com informações do G1

  • Anthropic detecta uso de sua IA para propaganda e armas biológicas

    Anthropic detecta uso de sua IA para propaganda e armas biológicas

    A Anthropic, companhia responsável pela criação da inteligência artificial Claude, revelou ter identificado nações que buscaram utilizar sua tecnologia para a elaboração de propagandas, desenvolvimento de drones de combate e até a criação de possíveis armas biológicas. De acordo com a empresa, todas as tentativas detectadas foram prontamente bloqueadas.

    Esses detalhes foram revelados em um relatório interno ao qual o jornal “The New York Times” obteve acesso. Entre os países mencionados na reportagem do veículo americano estão a Rússia, a China, o Irã e o Iêmen.

    O documento elaborado pela Anthropic detalha diversas formas de uso malicioso de seus modelos de IA. Há, por exemplo, suspeitas de que a China e o Irã tenham utilizado a ferramenta para realizar o monitoramento de opositores políticos que vivem no exílio.

    Um episódio específico destacado no relatório envolve a Rússia. O governo russo teria utilizado o Claude para produzir conteúdos de propaganda que simulavam reportagens jornalísticas reais, com o objetivo de influenciar as eleições ocorridas na Moldávia, país vizinho.

    No que diz respeito às pesquisas biológicas, a reportagem indica que a Anthropic não conseguiu definir se as consultas feitas teriam finalidades legítimas, como o desenvolvimento de vacinas, ou objetivos prejudiciais. Isso ocorre porque os processos técnicos são semelhantes tanto para a evolução da medicina quanto para a fabricação de patógenos perigosos.

    Diante da incerteza sobre a intenção dos usuários, a Anthropic afirmou que a decisão foi interromper a prestação do serviço de IA como uma medida de precaução para evitar riscos globais.

    Apesar das revelações, a empresa optou por não divulgar informações detalhadas sobre os bloqueios relacionados a pesquisas de armas biológicas. Não foram revelados os nomes dos pesquisadores envolvidos, as instituições acadêmicas ou governamentais, os países de origem ou quais agentes biológicos específicos estavam sendo investigados.

    Com informações do G1