Anthropic: Claude enfrenta destilação de modelo de IA em 'escala industrial'

A Anthropic detalhou três campanhas de destilação de modelos de IA em "escala industrial" realizadas por laboratórios estrangeiros, projetadas para extrair habilidades do seu modelo Claude. Esses competidores geraram mais de 16 milhões de interações usando aproximadamente 24.000 contas enganosas. O objetivo deles era adquirir lógica proprietária para melhorar suas plataformas concorrentes. A técnica de extração, conhecida como destilação, envolve treinar um sistema mais fraco com base nas saídas de um modelo mais robusto, como o Claude, para que o modelo menor possa imitar o comportamento e as capacidades do modelo maior sem ter acesso direto à sua arquitetura interna ou aos seus dados de treinamento originais. Isso permite que os atacantes desenvolvam modelos com desempenho similar, mas com custos de desenvolvimento e pesquisa significativamente reduzidos, aproveitando o trabalho e a inovação da Anthropic. A detecção dessas atividades sublinha a crescente preocupação com a segurança e a proteção da propriedade intelectual no campo da inteligência artificial, à medida que os modelos se tornam cada vez mais sofisticados e valiosos.