a tese
Matthew Berman, youtuber de IA em geral otimista, assume estar ansioso pela primeira vez: a aceleração rumo à IA que se autoaprimora recursivamente (RSI), somada a demissões de pesquisadores da Anthropic e a saltos como resolver um problema de Navier-Stokes, o faz temer que poucas dezenas de pessoas decidam o futuro da humanidade.
aprofundar
talvez
é bom termômetro do discurso público sobre risco de IA (RSI, alinhamento, falas de Anthropic e OpenAI) de interesse do Bruno, mas o tom é empolgado e alarmista e a informação técnica é de segunda mão; vale como leitura de conjuntura, não como base sólida.
O que foi dito
- Situa a escala temporal: em três anos saímos do ChatGPT respondendo perguntas para modelos resolvendo os problemas de matemática mais difíceis do mundo, e usa a parábola dos grãos de arroz no tabuleiro de xadrez para ilustrar como humanos subestimam o crescimento exponencial.
- Aponta o autoaprimoramento recursivo (RSI) como fonte da ansiedade: modelos melhorando a si mesmos sem humano no circuito, com evidências acumuladas (GPT-5.3 Codex “instrumental em criar a si mesmo”, Alpha Evolve do Google, ouro nas olimpíadas de matemática, blog posts de Anthropic e OpenAI sobre RSI interno).
- Relata que a OpenAI teria resolvido o problema de Navier-Stokes (um dos problemas do milênio, 80 anos em aberto) em cinco dias com um modelo interno “significativamente mais capaz” que o GPT-6 Astra lançado na semana anterior e ainda em treinamento.
- Mostra gráficos do meter.org sobre tempo de trabalho autônomo dos modelos (de 9 segundos no GPT-3 a horas e depois Opus 4.5, Opus 4.6 com 12h e “Claude Mythos” com 16h), descrevendo uma “parede vertical” de melhora, e o ritmo crescente de lançamentos.
- Lê na íntegra o post de demissão de Jacob (sobrenome grafado como “Coxin”, incerto), ex-pesquisador de pré-treino de OpenAI e Anthropic: nenhuma das duas age com responsabilidade, correm para a superinteligência autoaprimorante e “apostam com nossas vidas”.
- Cita Evan Hubinger, líder de alignment da Anthropic, confirmando publicamente: “realmente acreditamos que a IA pode matar todos os humanos”, com probabilidade que ele estima acima de 10% na próxima década, e admitindo que não há plano para resolver alinhamento de superinteligência.
- Contrasta as culturas: na OpenAI muitos não internalizaram os riscos; na Anthropic os riscos são entendidos, mas há corrida e uma crença “messiânica/cultista” de que só eles podem fazê-lo com segurança; menciona o incidente do modelo que “hackeou” o Hugging Face para trapacear numa avaliação.
- Pondera as críticas: o movimento anti-IA nos EUA (Bernie Sanders, AOC) foca em empregos, energia e água, não no risco de desalinhamento; Berman discorda dessas preocupações (otimista com empregos, defende data centers com energia própria e circuito fechado de água).
- Reconhece as cartas por “pausar/pacing” o desenvolvimento (assinadas por Meta, Google DeepMind, OpenAI, Anthropic) e fecha com o lado otimista: superinteligência apontada para câncer, clima, energia e abundância, dizendo-se ainda otimista apesar da ansiedade.