Matthew Berman defende que o open‑source em IA é, no geral, benéfico e mais seguro pela transparência, concorrência e descentralização do poder, e que os argumentos de empresas como a Anthropic para restringi‑lo misturam preocupações legítimas com proteção de mercado. Ele alerta, porém, que a expansão do open‑source altera a geopolítica da IA — sobretudo pela atuação chinesa — e exige regulação e políticas públicas que apoiem pesquisa aberta e testes de segurança acessíveis.
sim
— porque para alguém interessado em política, captura regulatória e implicações geopolíticas (como você, Bruno) vale aprofundar em: (1) os detalhes técnicos e legais de distillation e proteção de IP; (2) o custo real de testes de segurança mandatórios e modelos de certificação; e (3) cenários de dependência tecnológica frente ao avanço chinês, todos relevantes para formulação de políticas públicas e avaliação de risco social e político.
O que foi dito
- Berman abre dizendo que há uma batalha ideológica na indústria: um lado quer IA livre e open‑source; o outro acha IA demasiado perigosa para ser aberta; cita uma carta pró‑open‑source encabeçada pelo CEO da Nvidia (transcrição: Jensen Hong/Wong; grafia incerta) que foi coassinada por muitos CEOs, enquanto a Anthropic ficou em silêncio e publicamente criticou open‑source.
- Define open‑source como software publicamente disponível para usar, modificar, inspecionar e compartilhar; usa Android como exemplo de sucesso e traça analogia histórica com a internet dos anos 90, donde Mozilla e Apache/HTTP descentralizaram o valor que antes estava em AOL/CompuServe/Netscape.
- Explica que tecnicamente não há diferença fundamental entre modelos open e closed—diferença é o modelo de negócio: open‑source entrega pesos/modelo gratuitamente e captura valor nas camadas acima (aplicações) e abaixo (data centers), citando o patrocinador Zapier como exemplo de integração acima da camada de inteligência.
- Reconhece que hoje os modelos fechados (ChatGPT e Claude) lideram, mas o open‑source está se aproximando; menciona um modelo chinês da Moonshot AI chamado “Kimmy K3” (grafia incerta) e mostra um leaderboard onde Claude e ChatGPT ocupam os primeiros lugares, com o modelo chinês vindo atrás.
- Justifica a liderança dos fechados por dois motivos: pioneirismo e escala (OpenAI/Anthropic deram o primeiro salto) e porque captaram receitas que foram reinvestidas em data centers, equipes e marketing; lembra o vazamento do LLaMA da Meta como ponto de inflexão para o open‑source.
- Analisa a pilha da IA (chips → energia/data centers → provedores de modelos → infraestrutura de software → aplicações) e diz que se o open‑source vencer a maior parte da cadeia ganha (Nvidia, hyperscalers, desenvolvedores de apps, provedores de infra), exceto os provedores de modelo que verão compressão de margens e terão de migrar para cima na pilha.
- Expõe os argumentos de segurança contra open‑source usados por Anthropic — remoção de salvaguardas, impossibilidade de retrair acesso, redução da barreira ao uso indevido e responsabilidade difusa — e rebate cada ponto: jailbreaks e vazamentos ocorrem também em closed source; distillation e cópia de outputs já existem; transparência permite mais olhos e ferramentas de defesa; uso local melhora privacidade.
- Aborda o papel da China: diz que firmas chinesas lideram em modelos open‑source por terem massa crítica de pesquisadores e energia, mas são limitadas por chips; sugere que a China usa open‑source estrategicamente para reduzir a monetização norte‑americana de “ideias”, citando comentário de David Freedberg (grafia incerta) sobre EUA bom em ideias e China em manufatura.
- Define distillation (um modelo maior “ensina” um menor) e discute a controvérsia: é prática legal e comum, mas em escala industrial pode ser vista como roubo de IP; cita que autoridades dos EUA e relatórios (incluindo da Anthropic) acusaram firmas chinesas de fazer distillation em larga escala, e que medidas como KYC e aplicação de termos de serviço deveriam ser usadas quando houver violação.
- Lê e critica a carta de Dario Amodei (Anthropic): Amodei afirma não pedir banimento de pesos abertos, mas sustenta que open weights com capacidades perigosas aumentam risco; propõe testes obrigatórios de segurança; Berman acusa contradição — Amodei admite benefícios do open‑source pero pede controles que podem favorecer empresas incumbentes — e conclui estar decepcionado com a postura da Anthropic, a qual vê como parcialmente motivada por proteção de mercado.