Mudando a narrativa: sobre DeepSeek e IA. (tradução)

o logo da deepseek é uma baleia em azul

Por Karen Hao/@karenhao.bsky.social

27 de janeiro de 2025 às 11:12

(de um fio do bluesky)

Como alguém que cobriu o tema da Inteligência Artificial por 7 anos e os assuntos de tecnologia da China também, acho que a maior lição a ser tirada do DeepSeek são as enormes rachaduras que ele ilustra, diante do paradigma dominante atual do desenvolvimento de IA. Um longo tópico. 

Primeiro, o que é a DeepSeek? É uma empresa chinesa que foi capaz de produzir um modelo de IA de código aberto com aproximadamente 1/50 dos recursos dos modelos de última geração, mas ainda assim superou o 01 da OpenAI em vários benchmarks [indicador de desempenho]. 

Grande parte da cobertura [jornalística] tem se concentrado na competição tecnológica EUA-China. Isso ignora uma história maior: a DeepSeek demonstrou que escalar modelos de IA implacavelmente, um paradigma que a OpenAI introduziu e defende, não é a única, e nem de longe a melhor, maneira de desenvolver IA. 

Até agora, a OpenAI e seus peers scaling labs [grupos de influência da área] têm procurado convencer o público e os formuladores de políticas de que o escalonamento é a melhor maneira de atingir o chamado AGI (Inteligência Artificial Generativa).

Este sempre foi mais um argumento baseado em negócios do que em ciência.

Existem evidências empíricas de que o escalonamento de modelos de IA pode levar a um melhor desempenho. Para as empresas, essa abordagem se presta a ciclos de planejamento trimestrais previsíveis e oferece um caminho claro para vencer a concorrência.

O problema é que há uma miríade de enormes externalidades negativas ao adotar essa abordagem, e a menor delas é que você precisa continuar construindo enormes data centers, o que exige o consumo de quantidades extraordinárias de recursos. Muitos jornalistas escreveram extensivamente sobre essas externalidades [esse é um termo usado na economia e na ciência do clima, por exemplo].

Quando esses enormes data centers são instalados na cidade, eles consomem muitos recursos. Eles pegam água potável- sim, ÁGUA POTÁVEL, por conta da qualidade da água exigida para resfriar esse avanço tecnológico que ameaça aumentar o preço da água para as famílias...

Esse modelo estende a vida útil da indústria de carvão e petróleo, piora na qualidade do ar (segundo @evanhalper.bsky.social do @washingtonpost.com) - não apenas porque os combustíveis fósseis são a maneira mais rápida de aumentar o fornecimento de energia, mas porque as instalações têm que funcionar 24 horas por dia, 7 dias por semana, e isso não é possível apenas com energias renováveis intermitentes.

Depois, há os impactos globais. Mais carvão e gás significam mais emissões de carbono, acelerando nossa crise climática. Daí o motivo pelo qual o Google e a MSFT tiveram um salto de ~50% e 30% nas emissões desde 2019 e 2020, respectivamente (de @darakerr.bsky.social em @npr.org). 

OpenAl & co criaram um argumento engraçado sobre o porquê de aceitar essas externalidades: sim, infelizmente, há perdas no curto prazo, eles dizem, mas elas são necessárias para atingir a chamada AGI; a AGI então nos ajudará a resolver todos esses problemas! Então as perdas vale a pena.

Esta linha de pensamento tem sido tão eficaz em capturar a atenção dos poderosos, que o presidente Trump anunciou na semana passada o Projeto Stargate, um investimento privado de US$ 500 bilhões em data centers e outras infraestruturas de computação para a OpenAI.

Se a Stargate seguir adiante com US$ 500, será o maior gasto em infraestrutura da história e acelerará significativamente o ritmo já assustador do desenvolvimento de data center pós-ChatGPT. Por sua vez, isso acelerará significativamente as consequências mencionadas anteriormente.

Agora, além das externalidades negativas sobre o poder do povo, água, ar e clima global, temos outra: a cessão de mais e mais controle sobre a infraestrutura crítica de energia e água para o Vale do Silício. Escrevi sobre isso na semana passada em @theatlantic.com.

Mas o DeepSeek mostra, no mesmo momento do anúncio do Stargate, que a troca do OpenAI & co frame como totalmente necessária na verdade não o é. 

Espere um minuto. Você quer dizer que não precisamos cobrir a Terra com data centers e usinas de carvão e gás para talvez chegar a um futuro onde podemos acenar uma varinha mágica AGI para fazer todas as consequências disso irem embora? Sim. Essa é uma falsa troca. Vamos deixar essa ideia amadurecendo.

Como eu disse antes, escalar sempre foi mais sobre negócios do que ciência. Cientificamente, não há nenhuma lei da física que diga que os avanços de IA devem vir da escala em vez de abordagens que usam os mesmos ou menos recursos. Escalar é apenas uma fórmula incrivelmente fácil de seguir.

O DeepSeek agora também enfraquece esses casos de negócios que pretendem escalar na infraestrutura. O OpenAI tem queimado somas impressionantes de dinheiro para manter o paradigma de escalonamento e ainda precisa descobrir como equilibrar seus talões de cheque e acontece que nem precisava gastar tanto dinheiro. 

Então, não importa se você é uma empresa nos EUA, China ou outro lugar. O DeepSeek deve ser uma sinal para mudarmos a rota, com toda a força, em direção ao investimento em métodos muito mais eficientes de desenvolvimento de IA. Mesmo que você não se importe com os impactos na comunidade e no clima, é simplesmente um negócio muito melhor.

E se uma empresa não fizer essa alteração da rota, isso deve ser um grande sinal de alerta para sua capacidade de inovar. E não me refiro à inovação de produtos, mas à inovação em como desenvolver modelos de IA. A base de tudo.

Quando trabalhei em uma startup do Vale do Silício, costumávamos chamar um investimento do SoftBank de beijo da morte. O SoftBank injetava tanto dinheiro em startups que isso acabaria completamente com a necessidade dessas startups de inovar ou desenvolver um negócio financeiramente sustentável.

Eles poderiam mascarar toda a instabilidade em suas fundações com as hilariantes e imensas injeções de dinheiro por um bom tempo, mas eventualmente tudo ruiria. A necessidade é a mãe da inovação. Sem necessidade, o impulso existencial para inovar desaparece. 

Estamos basicamente vendo isso de novo. A OpenAI com Sam Altman é tão boa em levantar capital (inclusive agora do SoftBank), que está encobrindo as fraquezas técnicas e comerciais da empresa.

Veja este relatório do @ainowinstitute.bsky.social do @bcmerchant.bsky.social [todos os links ao final].

DeepSeek é o outro lado da mesma moeda: ela inovou por causa das restrições e não a despeito delas. E agora que ela pôs de cabeça para baixo as assunções do paradigma dominante da Inteligência Artificial, nós deveríamos rejeitar esse custo e procurar novas maneiras de desenvolver IA sem tantos danos.

O conceito de humanidade em tempos de pandemia

Esses dias a noção de humanidade foi renovada. Não é todo dia que isso acontece. No dia a dia somos pouco coesos, tanto pela pluralidade como pela divergência. Uma historiadora que costumamos utilizar na especialização em direitos humanos Esperança Garcia (PI), chamada Lynn Hunt, defende a ideia de que a auto evidência (a obviedade, digamos) desses direitos foi algo construído com o tempo, às custas de um trabalho intenso do exercício de empatia e solidariedade, estimulado na esfera pública: mercados, cafés, ou qualquer local que as pessoas se reunissem para contar histórias e se condoer com as personagens delas, sendo reais ou não, sendo da sua classe social ou de outra, de seu gênero ou de outro, de sua raça e etnia ou outra- aí eu incluo até a fofoca de boa fé. O Rorty, que é um cara que eu estudei na filosofia, vai dizer que a humanidade não existe. A leitura que eu faço é que, nesse sentido, a humanidade não existe a não ser que você diga que grupo de humanos é esse- brasileiros ou chineses? Sempre achei um pouco pobre essa saída do Rorty. Não sendo a humanidade uma abstração permanente e distante, ela é, contudo, uma REALIDADE manifesta em nossa contiguidade como espécie. E eu invoco a pandemia do coronavírus como fundamento para essa afirmação. Se havia alguma dúvida de que havia uma humanidade entre todas e todos nós, o vírus veio tirá-la da frente. A característica da sua aleatoriedade, ainda que tomemos muitas precauções, exige que seja repensado a absurda continuidade da aplicação do neoliberalismo nas economias dos países: eu preciso salvaguardar a todos, já que não sei quem poderá ser atingido (um desconhecido, ou meu pai?). Basicamente um véu da ignorância de John Rawls, liberal que faz muita falta aos liberais do Brasil. Pensar cada ser humano como parte dessa humanidade nos ajuda a levar adiante iniciativas que mitigam os efeitos danosos dessa aleatoriedade da doença (que, contudo, afeta mais gravemente pessoas já debilitadas), como a renda básica universal, que está em vias de aprovação no congresso nacional, uma da poucas medidas de amplo alcance que estão sendo aplicadas. Infelizmente, o líder da nação e as pessoas que o seguem, não se reconhecem nessa noção de humanidade compartilhada. Acreditam pertencer a uma casta superior aos meros mortais, por isso não se protegem e ainda atrapalham quem tenta se proteger da pandemia. Acreditam-se inatingíveis. Eu suspeito que o COVID-19 não foi avisado a respeito dessa pretensa blindagem e vai continuar lendo “humanidade” escrito na testa deles. Muitos serão forçados a lembrar da nossa contiguidade como espécie. E não vai ser bonito.

Harmonia Rosales- Mulher vitruviana [uma outra humanidade é possível]

Um dia triste

Então, hoje tornou-se oficial. A presidenta Dilma foi destituída da presidência, em um processo conduzido por pessoas no mínimo questionáveis, em um contexto de crise econômica, com a mídia hegemônica deliberadamente fazendo o recorte que melhor lhe convinha das investigações a respeito dos casos de corrupção, da própria crise e das manifestações. Claro que o Partido dos Trabalhadores diluiu a maior parte dos seus alicerces populares, arduamente construídos ao longo dos anos com os movimentos sociais, em conchavos esdrúxulos com partidos problemáticos como o PMDB e a chamada bancada BBB (boi, bala e bíblia). Diziam eles que era em nome da governabilidade que se aliavam a grupos com intenções ideológicas abissalmente diferentes daquela do partido com maior lastro nos movimentos sociais da história do ocidente democrático (ou pelo menos já havia sido mais diferente).

No final, aconteceu o que de pior poderíamos esperar. Como a ala conservadora, que flerta com o neoliberalismo (sim, ele existe) conseguiu aproveitar o jogo e a sorte de ter um ambicioso astuto como Eduardo Cunha com motivos suficientes para dar o ponta pé inicial do processo que terminou hoje (outros presidentes tiveram pedidos de impeachment, sem que nenhum deles tenha sido recebido e não é difícil entender que as causas não foram jurídico-processuais).

Um farsa pobre. A coisa é tão absurda, que o resultado de hoje foi fruto de mais um conchavo alinhavado às pressas: destituição do cargo de presidência, sem que os direitos políticos fossem cassados. Certamente já pensando neles mesmos, diante da devassa da Lava Jato e similares, possibilitada pelo aparelhamento estatal garantido principalmente pelo... Partido dos Trabalhadores, vejam só.

Agora eu pergunto: como se luta dentro das regras do jogo democrático diante de um cenário desses? Pedir reforma política ao Congresso mais conservador desde a última ditadura? 

Vai ser preciso lutar e é justo que se lute, tendo em vista que mudaram o projeto de país no meio do caminho e o presidente que assumiu também compunha a chapa desse projeto que agora nega. Nega e substitui por sua assustadora ponte para um futuro distópico. Onde está a consideração pelo projeto que os 54 milhões de brasileiras e brasileiros esperavam? Será que isso não deveria ser levado em consideração?

(O texto não está bacana, porque o dia não foi fácil, eu só não queria que passasse em branco.)

Não vamos cancelar nenhum sonho, Banksy. =]

Um sentimento geral (em música)

Hoje acordei lembrando da herança afetivo-musical que recebi de papai. Para lembrar que é preciso continuar acreditando, apesar desse momento tenebroso da democracia brasileira.

Texto para um sábado de manhã em tempos sombrios

Estamos passando por um momento crítico de intensificação da nossa capacidade de polarização. A política, má conduzida, termina por ser desculpa para a expressão do que cada uma e cada um temos de não tão bom. Um amigo em uma rede social, lembrou do que na academia chamamos de Princípio da Caridade: numa discussão, ouvir o outro e admitir que existe um sentido e importância na fala desse outro, por mais diverso que esse discurso seja das nossas crenças atuais. É um exercício difícil, ainda mais em tempos do governo das paixões (no sentido de pathos, doença). Contudo, se realmente queremos mostrar que aprendemos alguma coisa com os erros que cometemos ao longo da nossa história ao acharmos que a nossa lente de percepção do mundo é absolutamente correta (vide comportamento prévio da população, incluindo partidos, mídia, sociedade civil organizada em geral dos vários regimes autoritários, de todas as cores, espalhados pelo mundo por toda a história humana recente), é preciso apostar nesse esforço.

O germe do que chamamos de fascismo, aquele que não ouve, que está sempre certo e que para isso não hesita em negar a existência do outro discordante, seja por meio de um discurso do tipo “Morra Dilma” “Morra Aécio” “Morra Lula” “Morra Moro”, seja por meios sutis ou ainda mais agressivos, esse germe, caras e caros, não está só no outro. A intolerância do fascismo está em nós também, habita como potência cada um e cada uma. É preciso estar atenta e atento e perceber que antes de vigiar tão ferrenhamente o que o colega fala, é preciso ser crítica quanto ao nosso próprio comportamento. Tomar partido não pode querer significar a destruição da nossa capacidade de empatia e se realmente queremos continuar como uma sociedade democrática e plural (friso o plural), vamos ter que ser capazes de ir muito além do que a polarização do presente dá a impressão de nos obrigar.

Lembrar da complexidade humana na teia afetiva que cada uma e cada um de nós foi capaz de construir ao longo da vida, por exemplo, ajuda a desinflacionar a questão a um tamanho com o qual possamos lidar. Tenho pessoas que eu amo, pessoas que eu admiro, do “outro lado” quanto às questões da política presente, mas isso não pode querer significar a redução do meu afeto(ainda que seja um desafio), ou da minha vontade de tê-las na minha vida. Ainda que por um momento a distância exista, é preciso ampliar e perceber que existem outros valores, outros âmbitos que ainda compartilhamos com aquelas pessoas. Mas nesse ponto, não quero falar só daquelas que conhecemos. O exercício de empatia é vitorioso principalmente quando alcançamos a capacidade do que mencionei no Princípio de Caridade para aquele desconhecido. Sempre fomos capazes de estender nossos círculos de empatia e é nisso que a democracia se pauta, a meu ver, muito mais do que em abstrações racionais. Vamos mesmo permitir que essa singularidade política nos afaste da pessoa que somos? Que destrua nossa humanidade? Que leve embora os valores de um sonho democrático que agora parece ameaçado?

O tempo também é para palavras que podem soar ingênuas. Mas acreditem, elas não são. Eu precisei ter muita coragem para escrever esse texto, sabendo que sou eventualmente cobrada por mim mesma e por outras pessoas, sobre minhas convicções políticas.

Quem conhece o que pesquiso sabe que está tudo aí diluído nesse textão de rede social. Quem me conhece além da academia, entendeu mais ainda. Se por acaso, diante da dinâmica do contexto eu fraquejar e ceder ao germe do fascismo (e estou trabalhando minhas contradições para que isso não ocorra), espero que pelo menos essa mensagem inspire outras pessoas a não fraquejarem onde eu porventura vier a fraquejar.