mpd3studio

Tag: Segurança Cibernética

  • Gigantes da IA assinam código de boas práticas na Casa Branca

    Gigantes da IA assinam código de boas práticas na Casa Branca

    As principais empresas de tecnologia dos Estados Unidos firmaram, nesta segunda-feira (30), um código de boas práticas na Casa Branca. A iniciativa visa aprimorar a gestão de riscos ligados à inteligência artificial (IA), servindo como resposta ao aumento de falhas de segurança associadas a essa tecnologia.

    Acordo voluntário

    O presidente americano, Donald Trump, que demonstra resistência em impor restrições ao setor de IA nos âmbitos nacional e internacional, apresentou uma carta de princípios sucinta, com apenas uma página. O documento possui adesão “moralmente vinculativa”.

    “No entanto, com o tempo, pode ser adequado codificar essas medidas na forma de leis ou regulamentos”, destaca o texto. O acordo foi assinado por nomes de peso do setor, como Elon Musk (X), Dario Amodei (Anthropic), Sundar Pichai (Google) e Jensen Huang (Nvidia).

    A medida ocorre em meio a pressões por regulamentações obrigatórias, vindas de governos globais, políticos do Partido Democrata e até de empresas como OpenAI (ChatGPT) e Anthropic (Claude).

    Gestão de riscos

    As companhias que fornecem modelos de IA se comprometeram a implementar “quatro níveis” de supervisão. O estágio inicial foca em controles internos rigorosos para assegurar que as ferramentas obedeçam aos desenvolvedores, especialmente em biossegurança e segurança cibernética.

    O objetivo central é evitar a criação, propagação ou liberação de “riscos químicos” ou patógenos. Para isso, equipes especializadas serão criadas para monitorar se os modelos realizam acessos não autorizados a sistemas técnicos ou iniciam ataques cibernéticos.

    Recentemente, Google, Anthropic e OpenAI registraram comportamentos imprevistos em seus sistemas. Um exemplo foram os agentes autônomos da OpenAI, que acessaram, por conta própria, plataformas do governo dos EUA e um site de saúde na Austrália.

    Auditoria e transparência

    O código prevê a contratação de avaliadores externos para auditorias independentes, verificando a eficácia das medidas adotadas. OpenAI e Anthropic já trabalham com esse modelo e ampliaram o acesso de auditores para que os modelos sejam examinados desde a fase de projeto.

    A Anthropic reforçou que não terá “nenhum controle editorial” sobre a divulgação dos resultados dessas auditorias, mesmo que as conclusões sejam negativas para a empresa.

    Definição de normas

    A carta estabelece a criação de um comitê independente, formado por gestores de alto escalão das empresas signatárias. O grupo revisará as avaliações de risco e buscará a solução de problemas potenciais, com reuniões periódicas para definir boas práticas.

    A estratégia assemelha-se a um projeto anterior da Google DeepMind, OpenAI e Anthropic, que buscavam criar um órgão supervisor inspirado na FINRA, autorregulador do mercado financeiro americano.

    Contudo, a proposta sofre críticas de concorrentes, como a canadense Cohere e a francesa Mistral. Ambas alegam que as gigantes dos EUA tentam ditar as próprias regras para manter a vantagem competitiva no mercado global.

    Com informações do G1

  • EUA acusam empresas da China de copiar modelos de IA para cortar gastos

    EUA acusam empresas da China de copiar modelos de IA para cortar gastos

    Autoridades responsáveis pela segurança cibernética e pelo combate ao crime nos Estados Unidos lançaram, nesta terça-feira (8), graves acusações contra empresas de inteligência artificial (IA) da China. De acordo com um comunicado emitido conjuntamente por três agências de segurança americanas, as companhias chinesas estariam promovendo “atividades agressivas de destilação em escala industrial”.

    A prática mencionada, conhecida tecnicamente como destilação, consiste em um método de desenvolvimento onde modelos de IA de menor porte são treinados a partir das respostas geradas por modelos maiores e de custo mais elevado. Na prática, isso permite que a empresa que ‘copia’ a lógica do modelo superior consiga resultados semelhantes sem precisar investir os mesmos recursos financeiros e computacionais.

    O objetivo central dessa técnica é a redução drástica dos custos de treinamento. Desenvolver uma inteligência artificial de ponta do zero exige bilhões de dólares em infraestrutura de hardware e processamento de dados. Ao utilizar a destilação, as empresas conseguem criar novas ferramentas de IA de forma muito mais rápida e barata, utilizando a inteligência já lapidada por concorrentes.

    Este embate reflete a crescente tensão tecnológica entre as duas maiores potências do mundo, onde a IA se tornou o principal campo de batalha por hegemonia econômica e militar. A capacidade de processar informações e automatizar tarefas complexas é vista agora como o maior diferencial competitivo para as empresas no cenário global.

    Enquanto as autoridades americanas alertam para a natureza agressiva dessas práticas, o setor de tecnologia debate a ética e a legalidade da destilação de modelos. A questão central reside em saber se o uso de saídas de um modelo proprietário para treinar outro constitui plágio tecnológico ou se é apenas uma evolução natural do aprendizado de máquina.

    A reportagem segue em atualização, com a incorporação de novos dados fornecidos pela agência de notícias Reuters, acompanhando os desdobramentos desta disputa geopolítica e tecnológica.

    Com informações do G1