a tese
Pedro Doria e Cora Rónai discutem a desclassificação do romancista haitiano de língua francesa Thélyson Orélien (grafia incerta) do Goncourt por uso de inteligência artificial, e convergem numa posição: o critério de julgamento de um livro é se ele é bom, não que ferramenta o produziu; o que não se negocia é que um humano assine e responda pelo texto.
aprofundar
talvez
o programa é conversa, mas o miolo interessa ao Bruno em cheio: o critério de que um humano tem que assinar e responder é exatamente a linha que ele já aplica nas rotinas, e o episódio dos matemáticos, com a solução vazada para o treinamento por uso de conta pessoal, é um caso concreto e verificável de contaminação de dados que vale guardar.
O que foi dito
- O caso: o autor venceu o prêmio Médicis (grafia incerta), o prêmio de romance da Fnac e o Première Plume, era finalista do Goncourt, e foi retirado da lista depois que uma conta anônima acusou o livro de ter sido escrito por IA e alguém submeteu o texto ao Pangram, detector de escrita por modelo.
- Cora registra o risco de o debate ser sequestrado pela acusação de racismo, já que o autor é negro e haitiano e há quem pergunte se um autor branco passaria pelo mesmo escrutínio, mas recusa esse enquadramento como sendo a discussão principal.
- A posição dela: recusar um livro por uso de IA será, em pouco tempo, tão datado quanto desclassificar aluno por usar calculadora em prova de matemática, já que o que importa é saber qual operação fazer.
- Doria acrescenta dois precedentes de rejeição a mudança técnica: Bob Dylan vaiado ao subir com guitarra elétrica no maior festival de folk, e Caetano e Gil no festival da Record; Cora acrescenta Sócrates reclamando da escrita e a reação à fotografia, que empurrou os pintores para Picasso e Miró.
- Os dois separam com cuidado duas acusações que o público misturou: plágio e uso de IA. Plágio comprovado, dizem, é defeito de caráter e justifica desclassificação; uso de ferramenta, não. E notam o caso híbrido, a IA que insere trecho alheio sem o autor saber, o que produz plágio involuntário pelo qual o autor continua respondendo.
- O critério que Doria repete em palestras: um humano tem que assinar. Numa redação, não o incomoda se houve IA no texto, e sim saber quem é o ser humano responsável pelas informações.
- Cora ataca o pressuposto de que produzir com IA é fácil: para sair bom dá muito trabalho, e ambos observam o paradoxo de que, para quem escreve profissionalmente, escrever com IA é mais lento e mais penoso que escrever direto, porque exige pedir, ler, recusar e repetir.
- Sobre o “AI slop”: a queixa procede porque 99% de quem produz com IA produz lixo, e o efeito visível é a mediocridade uniforme, o mesmo tom sépia e as mesmas tipografias, enquanto o ruim humano ao menos era ruim de maneiras diferentes; Cora diz não suportar o horário eleitoral pela quantidade de músicas geradas por modelo.
- O episódio mais substantivo: em 11 de setembro, 25 ganhadores da medalha Fields assinaram manifesto contra a IA, porque modelos passaram a resolver problemas abertos há séculos. Doria conta que dois matemáticos americanos resolveram um desses problemas e, na mesma semana, a OpenAI anunciou que o GPT havia resolvido o mesmo problema com solução muito parecida.
- A explicação técnica que ele dá: os matemáticos conferiam as próprias contas numa conta pessoal do ChatGPT, cujo conteúdo entra na base de treinamento, ao contrário da conta corporativa via API, em que há contrato que proíbe esse uso; perguntada oficialmente, a OpenAI respondeu que não tem como afirmar se usou o material, e Doria conclui que provavelmente usou.
- Deriva daí para a natureza da matemática como imaginação e abstração, com Cora observando a associação entre Asperger, matemática e música (o pai e o irmão dela), e ambos contando a própria relação escolar com a disciplina.
- Doria descreve o uso que faz de IA de que mais gosta: animar retratos históricos a partir de três ou quatro imagens de época, ver Marechal Deodoro respirando, o padre Manuel da Nóbrega, Machado de Assis, e reconstruir a foto do irmão do bisavô dele, Diocleciano da Costa Dória, engenheiro morto de tuberculose aos 26 anos.
- Fecha com digressão sobre poesia (João Cabral que levava meses num poema contra Manuel Bandeira que sentava e escrevia, com Vinícius de Moraes defendido como poeta maior apesar da música popular) e com o relato de Cora sobre o edema de córnea que a impede de ler.