Algumas das grandes empresas de inteligência artificial, incluindo OpenAI, Microsoft e Metaplataformas de 1 real tigrinho, estão recorrendo a um processo chamado "destilação" na corrida global para criar modelos de IA que sejam mais baratos para consumidores e empresas.
A técnica ganhou força depois que a DeepSeek, da China, a utilizou para construir modelos de IA poderosos e eficientes baseados em sistemas de código aberto lançados por concorrentes como Meta e Alibaba. O avanço colocou em dúvida se as big techs manteriam a liderança de IA, levando investidores de Wall Street a retirar bilhões de dólares do valor das ações das empresas do Vale do Silício.
Através da destilação, as empresas pegam um grande modelo de linguagem —chamado de modelo "professor"— que gera a próxima palavra provável em uma sentença. O modelo professor gera dados que então treinam um modelo "aluno" menor, ajudando a transferir rapidamente o conhecimento e as previsões do modelo maior para o menor.

Embora a destilação tenha sido amplamente usada por anos, avanços recentes levaram especialistas da indústria a acreditar que o processo será cada vez mais benéfico para startups que buscam maneiras econômicas de construir aplicações baseadas na tecnologia.
"A destilação é mágica", disse Olivier Godement, chefe de produto da plataforma da OpenAI. "É um processo que essencialmente pega um modelo de fronteira muito grande e inteligente e usa esse modelo para ensinar outro menor... muito capaz em tarefas específicas que é super barato e super rápido de executar."
Grandes modelos de linguagem como o GPT-4 da OpenAI, o Gemini do Google e o Llama da Meta requerem enormes quantidades de dados e poder computacional para desenvolver e manter. Embora as empresas não tenham revelado números precisos de quanto custa treinar grandes modelos, é provável que sejam centenas de milhões de dólares.

DeepSeek revela que margem teórica em seus modelos de IA é de 545% OpenAI atualiza ChatGPT com técnica aplicada em Deepseek e mais dados Chinesa Tencent lança IA que diz ser mais rápido do que modelo da DeepSeek
Graças à destilação, desenvolvedores e empresas podem acessar as capacidades desses modelos por uma fração do preço, permitindo que desenvolvedores de aplicativos executem modelos de IA rapidamente em dispositivos como laptops e smartphones.
Os desenvolvedores podem usar a plataforma da OpenAI para destilação, aprendendo com os grandes modelos de linguagem que sustentam produtos como o ChatGPT. O maior investidor da OpenAI, a Microsoft, usou o GPT-4 para destilar sua pequena família de modelos de linguagem Phi como parte de uma parceria comercial após investir quase US$ 14 bilhões (R$ 82,83 bilhões) na empresa.
No entanto, a startup com sede em San Francisco disse acreditar que a DeepSeek destilou os modelos da OpenAI para treinar seu concorrente, um movimento que seria contra seus termos de serviço, mas não apresentou provas. A DeepSeek não comentou sobre as alegações.
Embora a destilação possa ser usada para criar modelos de alto desempenho, especialistas apontam que eles são mais limitados.
"A destilação apresenta um interessante trade-off; se você torna os modelos menores, inevitavelmente reduz sua capacidade", comentou Ahmed Awadallah da Microsoft Research, que afirmou que um modelo destilado pode ser projetado para ter um ótimo desempenho em tarefas como resumo de e-mails, por exemplo, "mas realmente não seria bom em mais nada."
David Cox, vice-presidente de modelos de IA na IBM Research, disse que a maioria das empresas não precisa de um modelo massivo para executar seus produtos, e os modelos destilados são poderosos o suficiente para propósitos como chatbots de atendimento ao cliente ou para rodar em dispositivos menores como telefones.
"Sempre que você pode [torná-lo menos caro] e isso lhe dá o desempenho certo que você deseja, há muito pouca razão para não fazê-lo", analisou.
18+ | Jogue com responsabilidade. Na ZA9BET, você se diverte como os grandes nomes do Insta! Cadastre-se agora mesmo e jogue. Saques a Partir de R$10. Depósito a partir de R$ 1. Suporte 24/7. Apostas Ao Vivo. RA1000. Melhores Cotações. As Melhores Odds.Isso representa um desafio para muitos dos modelos de negócios das principais empresas de IA. Mesmo que os desenvolvedores usem modelos destilados de empresas como a OpenAI, eles custam muito menos para rodar, são menos caros para criar e, portanto, geram menos receita. Criadores de modelos como a OpenAI frequentemente cobram menos pelo uso de modelos destilados, pois eles exigem menos carga computacional.
jogo do.tigreNo entanto, Godement da OpenAI argumentou que grandes modelos de linguagem ainda serão necessários para "tarefas de alta inteligência e alto risco" onde "as empresas estão dispostas a pagar mais por um alto nível de precisão e confiabilidade". Ele acrescentou que grandes modelos também serão necessários para descobrir novas capacidades que podem então ser usadas para destilação para modelos menores.
Ainda assim, a empresa visa impedir que seus grandes modelos sejam destilados para treinar um concorrente. A OpenAI tem equipes monitorando o uso e pode remover o acesso de usuários que suspeita estarem gerando grandes quantidades de dados para exportar e treinar um rival, como aparentemente fez com contas que acredita estarem ligadas à DeepSeek. No entanto, grande parte dessa ação acontece retroativamente.
"A OpenAI tem tentado se proteger contra a destilação há muito tempo, mas é muito difícil evitá-la completamente", comentou Douwe Kiela, CEO da Contextual AI, uma startup que constrói ferramentas de recuperação de informações para empresas.
Folha MercadoA destilação também é uma vitória para os defensores de modelos abertos, onde a tecnologia é disponibilizada gratuitamente para que os desenvolvedores possam construir sobre ela. A DeepSeek também tornou seus modelos recentes abertos para desenvolvedores.
"Vamos usar [a destilação] e colocá-la em nossos produtos imediatamente", destacou Yann LeCun, cientista-chefe de IA da Meta. "Essa é a ideia do código aberto. Você lucra com o progresso de todos e de todos os outros, desde que esses processos sejam abertos."
A destilação também significa que os criadores de modelos podem gastar bilhões de dólares para avançar as capacidades dos sistemas de IA, mas ainda enfrentar concorrentes que muitas vezes alcançam rapidamente, como os lançamentos recentes da DeepSeek demonstram. Isso gera questionamentos sobre a vantagem do pioneiro na construção de LLMs quando suas capacidades podem ser replicadas em questão de meses.
"Em um mundo onde as coisas estão se movendo tão rápido... você poderia realmente gastar muito dinheiro, fazendo do jeito mais difícil, e então o resto do campo está logo atrás de você", disse Cox da IBM. "Então, é um cenário de negócios interessante e complicado."
benefício do assinante
Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.
benefício do assinante
tigrinho jogoAssinantes podem liberar 7 acessos por dia para conteúdos da Folha.
Já é assinante? Faça seu login ASSINE A FOLHARecurso exclusivo para assinantes
assine ou faça login
Leia tudo sobre o tema e siga:
Alibaba Ásia ChatGPT China DeepSeek inteligência artificial Jack Ma OpenAI sua assinatura pode valer ainda maisVocê já conhece as vantagens de ser assinante da Folha? Além de ter acesso a reportagens e colunas, você conta com newsletters exclusivas (conheça aqui). Também pode baixar nosso aplicativo gratuito na Apple Store ou na Google Play para receber alertas das principais notícias do dia. A sua assinatura nos ajuda a fazer um jornalismo independente e de qualidade. Obrigado!
sua assinatura vale muitoMais de 180 reportagens e análises publicadas a cada dia. Um time com mais de 200 colunistas e blogueiros. Um jornalismo profissional que fiscaliza o poder público, veicula notícias proveitosas e inspiradoras, faz contraponto à intolerância das redes sociais e traça uma linha clara entre verdade e mentira. Quanto custa ajudar a produzir esse conteúdo?
Apostas Grátis - Registre-se e ganhe R$1000 ASSINE POR R$ 1,90 NO 1º MÊS Envie sua notícia Erramos? Endereço da página https://www1.folha.uol.com.br/tec/2025/03/conheca-a-destilacao-processo-usado-pela-deepseek-para-desenvolver-ia-e-adotada-por-big-techs.shtml Comentários Termos e condições Todos os comentários Comente Comentar é exclusividade para assinantes. Assine a Folha por R$ 1,90 no 1º mês notícias da folha no seu email


Recurso exclusivo para assinantes
assine ou faça login
Ofensiva publicitária do governo Lula tenta reverter queda na popularidadePropaganda sobre isenção de Imposto de Renda começa a circular; peça de tom nacionalista deve ser veiculada na próxima semana
jogar fortune tiger demo 20.mar.2025 às 23h00
Recurso exclusivo para assinantes
assine ou jogos do tigre faça login
fortune tiger jogar Promotoria investiga suposto desmonte para privatização do Poupatempo pela gestão TarcísioOUTRO LADO: Governo afirma ter inaugurado 36 novas unidades e que processo é transparente
20.mar.2025 às 23h00
Recurso exclusivo para assinantes
assine ou faça login
Governo corre contra o tempo para relicitar Viracopos e evitar que atual concessão seja anuladaAnac busca contratação emergencial para fixar indenização de concessão de Viracopos; data limite é 2 de junho
20.mar.2025 às 23h00Copyright Folha de S.Paulo. Todos os direitos reservados. É proibida a reprodução do conteúdo desta página em qualquer meio de comunicação, eletrônico ou impresso, sem autorização escrita da Folhapress.
Modal 500O jornalnbsp;Folha de S.Paulonbsp;(1921 - 2025)nbsp;eacute; publicado pela Empresa Folha da Manhatilde; S.A. CNPJ: 60.579.703/0001-48
NEWSLETTERCadastro realizado com sucesso!
OkPor favor, tente mais tarde!
Ok