¶1Cora, Rona, e de que falaremos hoje em Pedricora. >> Vamos continuar no fim do mundo antes que ele se acabe mesmo, né? >> Então vamos ao apocalipse. Cor, >> vamos embora. [música] Cora, Rona, você ainda de óculos escuros, né, Cora?
¶2>> Para tu ver. >> É, >> olha, eu vou te dizer uma coisa. >> Hum. >> Eu nunca me senti tão incapacitada nem durante a Covid, porque >> tu consegue ler, né? Exatamente, porque o meu estado geral no começo da conjuntivite tava muito ruim.
¶3Eu tive febre, eu fiquei assim como se tivesse uma gripe mesmo. Essa essa parte melhorou um pouco, mas eu me dei conta de como a minha vida é 100% leitura escrita. >> Uhum. >> Eu não tenho nada, eu não faço nada na vida a não ser ler e escrever. E de repente isso me foi tirado, porque eu não tô conseguindo ler o a minha vista, a aquela parte da conjuntiva tá tão inchada que a minha vista ficou completamente embaçada e eu vejo, quer dizer assim, vejo as coisas, mas é como se tivesse um vidro fosco na frente.
¶4Então a leitura se tornou impossível. Dinha, eu sinto muito, >> bem, muito obrigada. Mas conseguimos ter uma conversa distância. Tô conseguindo falar fazer falar. >> Tenho tido longas conversas com a minha irmã, com a minha filha, meu filho tem ligado, está todo mundo >> muito solidário, >> é, fazendo carinhos.
¶5E >> qual era? Desde que a gente gravou o nosso último programa, que eu tava fazendo lá piada sobre o fim do mundo, as coisas evoluíram, né? Porque não >> o mundo não acabou. É bom a gente [risadas] o mundo não >> acabouar isso, né? Fazer fazer essa ressalva.
¶6>> É isso. O mundo não acabou. Mas eh o o Dário Amodei publicou um ensaio dizendo que o Dario Amandei, fundador e CEO Tropic, né? É que faz o Claud publicou um ensaio dizendo que o mundo ia acabar se continuassem avançando assim. Aí na sequência, Samman e Elan Musk.
¶7Samtan da Open AI, Elan Musk do da XAI, naturalmente, um responsável pelo GPT, o outro responsável pelo Grock. Eh, se juntaram ao Amodei e falou: "Olha, vocês são loucos em deixar que a gente continue fazendo o que a gente faz." E e e eu continuo, sabe, Cora, eh, tá tendo um debate muito interessante no mundo a respeito de de tudo isso, porque realmente é uma questão de, vem cá, o que que tá acontecendo exatamente? Não é típico que CEOs, empresas eh que valem bilhões e bilhões de dólares, digam que o que eles estão fazendo é muito perigoso, né? Olha, eu escrevi essa semana sobre o assunto. Eu tô dizendo aqui que eu escrevi, mas eu na verdade ditei uma coluna sobre as e eu me dei conta de que isso é um pode tranquilamente ser um cartel embrulhado no celofân da ética.
¶8Isso foi a a forma que eu encontrei para definir, porque nem a verdade é que eu acho que nem eles sabem o que tá acontecendo direito. Sensação de far oeste completa. Agora, eu não acredito no nesse herói atormentado que continua com as suas ações, que fica esperando abertura de capital, continua no seu lugar e diz: "Ah, cuidado com o que eu tô fazendo". Cara, se você tá tão assustado, sai. >> Ah, né?
¶9>> É. É. Aqui se impõe até uma comparação com o projeto Marrata. >> Uhum. Porque você teve gente muito angustiada no projeto Marrata desenvolvendo a bomba atômica.
¶10É a corrida armamentista toda novamente. Se você não desenvolver a arma, o outro vai E nisso tudo tem tá tudo nublado, ninguém sabe do que que tá falando. >> Você sabe que tem um camarada eh eu andei lendo algumas coisas bem interessantes sobre isso. >> Que inveja. [limpando a garganta] Desculpe, [risadas] me perdoe.
¶11Tem um camarada que é o David Sex. O David Sax é um cara que foi de de inteligência artificial do governo Donald Trump, desse governo Donald Trump. Aí brigou com Trump e saiu. E ele diz exatamente isso, ó. Eu acho que esses caras estão querendo armar um cartel, porque a legislação antitruste americana diz que se você tá numa indústria e tem uma empresa muito grande, você não pode fazer acordos a respeito de como se comportar no mercado com seus concorrentes.
¶12É justamente legislação antrucha para não formar um cartel, né? eh para as empresas, duas, três empresas que dominem um determinado setor não se juntarem e eh não não se juntarem para definir o futuro e em essência bloquear os concorrentes. E o que ele tá dizendo é o seguinte, ó, aqueles caras aí estão fazendo é armando uma desculpa para que o governo os autorize a combinar o jogo do mercado, decidir que ritmo que eles vão gastar dinheiro, decidir que eh eh e de certa forma nesse jeito, bloquear a ascensão de concorrentes. >> Faz todo sentido. E é uma tese bem plausível cá entre nós, né?
¶13Eh, eu não sei, eu não sei se é isso, mas é uma tese. É uma tese. >> Olha, eu eu acho essa tese mais do que válida, >> é >> porque para início de conversa eu nem confio muito nas pessoas que que dirigem as grandes companhias. >> Uhum. >> De inteligência artificial.
¶14Quando ele concorda com alguém, é para desconfiar dele e [risadas] do outro. Eu eu não acredito em boas intenções de gente que lida com tanto dinheiro. >> Aham. com tanto poder, não é porque eu acho que o o poder seja perverso, o dinheiro em si seja perverso, mas é que eu acho que isso te tira da esfera humana, eh, e te corrompe, não no sentido, sei lá, meia furada aqui do nosso STF, que quer beber um whisky de não sei quantos anos. corrompe a tua essência humana, te distancia do resto da humanidade.
¶15>> Aham. você passa a viver num, sei lá, num numa camada que não é mais a camada da humanidade, você perde as conexões. >> É, tem tem um tem um raciocínio, sabe, que eu acho que vale a a gente fazer pro nosso público, que eu acho que é chave também para entender esse esse jogo. Tem duas empresas que são a Open AI com GPT e a Antropic com Cloud, que estão ali na disputa pelo pelo melhor modelo, pelo topo, por tá na crista da onda. Todas as outras companhias, você vê o Google com com Deep Mind, né, que faz o timai, a Xi com Grock, todos estão vindo por trás, mas estão atrás, tão sempre alguns meses atrás dos melhores modelos de GPT e Clod.
¶16E GPT e Cloud é aquela coisa, né? A a Openea lança um GPT novo, é um cisco melhor que o último cloud. Aí o a Antropic lança um um club novo e é um cisco melhor do que o último GPT. E aí vai. E são aquelas coisas, não, para fazer o cálculo infinitesimal de não sei das quantas, o meu modelo é superior ao do outro.
¶17No fim das contas você tá falando de dois dois gigantes, dois modelos excepcionalmente excepcionalmente bons, sólidos. Eh, eu eu faço coisas com esses negócios que que nossa, eh é inacreditável. Agora, qual o problema que essas empresas têm? O último GPT, o último cloud, sabe quanto custou o treinamento? Não, >> 700 milhões de dólares é quase 1 bilhão.
¶18>> Não dá, não dá para uma, para uma pequena empresinha. >> Não, não dá não, não. Mas não, não dá para uma grande empresa. A expectativa é de que os próximos modelos saiam por 1 bilhão de dólares ou mais. E qual o problema?
¶19Sabe quanto custa treinar um modelo de duas gerações atrás? Sempre lembrando, duas gerações atrás. Há seis meses atrás. >> Seis meses. Aí eu ia dizer isso, >> né?
¶20É. Sabe quanto custa treinar o modelo de duas gerações atrás? >> Não. >> 10 milhões de dólares. >> Cara, quer dizer, é não é nem uma progressão geométrica, é uma outra coisa que inventar.
¶21É, é, [limpando a garganta] é absurdo. É absurdo. Então, o que o que acontece em essência e o problema dessas empresas é o seguinte: elas gastam uma quantidade abissal de dinheiro para treinar, estar consistentemente na crista da onda e seus concorrentes estão sempre no calcanhar delas, entendeu? logo atrás desenvolvendo, mas porque o primeiro já foi desenvolvido, você derivar e criar um modelo equivalente ao que eles tinham seis meses atrás é a fração da fração da fração da fração da fração da fração da fração do custo. Então elas têm elas têm esse problema gigante >> e nós não sabemos o que que a China tá desenvolvendo.
¶22a gente não sabe o que que a China tá desenvolvendo. Eh, a China tá sempre quando você pega um deep sessão tenho dúvida que isso é uma vitrine procedente, mas primeiro eles têm a proteção da língua, né, que entre nós. >> Claro, >> você olha, você por mais que você tenha tradutores simultâneos e tal, chinêses e chinês. >> É claro, é claro. você nunca vai ter vai ter gente suficiente aqui no ocidente falando chinês ou conhecendo a cultura ou a língua suficiente para entrar naquilo, né?
¶23>> E e eles distribuem esses modelos deles gratuitamente, né? Então você pode baixar o modelo e rodar. >> É uma concorrência muito barra pesada para essas empresas americanas. Quer dizer, eh, o, o, elas têm um problema de modelo de negócio, que é um modelo de negócio que cujo crescimento estar na frente é caríssimo e você tem sempre essa ameaça do quase tão bom quanto eh na sua cola por uma fração da fração de preço. >> Você viu que o governo americano no outro dia usou uma Iá chinesa?
¶24Não vi não, mas é claro. >> Pois foi, >> todo mundo tá usando com >> Eu eu Mas o governo dos Estados Unidos fazer uso de a chinesa, né? Quer dizer, >> é >> a incompetência do governo Trump a gente não estranha mais nada, mas >> é, >> se é uma coisa que não podia acontecer isso, né? Agora, parte do parte do diabo eh desse desse debate é o seguinte. No fim das contas também tem uma discussão sobre o que que é uma inteligência artificial, o que que são esses modelos e e o que essa turma descreve no fim das contas.
¶25O que que essa turma tá descrevendo? Olha, eh [gemido] essas são, principalmente agora que a gente tá com as gentes, essas são ferramentas autônomas. eh, que tem missões e e vão pro mundo para cumprir as missões de forma autônoma e elas vão experimentando e o grande risco tá que conforme ela vai tomando decisões por conta própria, sem consultar o ser humano, ela pode sair tomando decisões erradas. >> Sim. Eh, e e em algum momento alguma Iá muito poderosa pode tomar uma uma decisão que seja fatal, que eh sei lá, desliga o abastecimento de de luz de uma cidade como Nova York, [roncando] eh de que jogue alguma substância, que erre a quantidade de produtos químicos que joga para manter limpo o reservatório d'água de uma cidade como Tóquio.
¶26É, é, é disso que a gente tá falando, né? ou então que ajude a desenvolver alguém a desenvolver uma arma biológica que possa, os riscos são esses. É disso que a turma tá falando quando estão falando de risco, né? >> Olha, a coisa, a coisa que dá um pânico é pensar que gente como os Ruts do Yemen tem acesso à inteligência artificial. É, é, é só apagar a assinatura >> porque porque os Rutes tem esse nome bonito, é Yemen, né?
¶27Esse lugar maravilhoso. Eu quase viajei pro M. >> Quase. Aí os Ruts tomaram o poder. Primeiro eles estavam lá em AD.
¶28Eu tava com a viagem marcada. Eu tava com tudo tudo acertado. Eu ia com um amigo meu que foi a única pessoa que eu encontrei que queria o Yemen na vida. E aí os os Rutes tomaram poder, os Rutes são comando vermelho. Os Rutes têm tanto preparo a intelectual, moral, geográfico, você quiser.
¶29Quanto o Comando Vermelho o PCC até. Eu acho que o PCC e o Comando Vermelho tem gente mais esperta hoje no ou mais situada do que os Ruts, porque no caso dos Ruts ainda entra aquela coisa da ideologia religiosa que é dramática, né? Eles estão fazendo a girrad. Então os inimigos do islã e inimigos do Islã consideram também os outros as outras facções do Islã, né? As outras correntes.
¶30>> Claro. Claro. >> Do Islã. Então essas pessoas, bom, ela já tão fechando ali todos os acessos do estreito de Ormus, as saídas pro Mediterrâneo, tá aquela confusão armada. E essas pessoas para dar uma louca, olha, desenvolve um troço que acabe com todos os inimigos do profeta.
¶31Pronto. E aí >> não e aí você dá uma ferramenta como inteligência artificial para essa turma, né? Eh, >> ele ele eles são fortemente subsidiados pelo Irã. O Irã não tá em muitas condições de subsidiar ninguém, mas para comprar uma inteligência artificial ainda tem dinheiro. >> Tem um receio do Qatar, né?
¶32A gente compra inteligência artificial, né? É, >> é, é muito complicado. A gente tá num E aí entram em cena quem? Volta a Idade Média, o rei da Inglaterra e o Papa. >> [risadas] >> são as pessoas que estão pensando em salvar o mundo nesse momento.
¶33Olha, eu não sei se vocês sabem, mas o o rei Charles está fazendo uma reunião com os os diretores principais CEOs da EAIS. E nessa reunião tá também o enviado do Vaticano. Eu tive assim uma sensação tão idade média, sabe? Aqueles >> Henrique Ovo e o Papa Sigan >> as forças do Papa. Quantas divisões tem esse papa?
¶34Is mais moderno. >> Bem, a ao menos ao menos os Winser não são os a dinastia mudou. É bem, >> whatever. Eu gosto do Rei Charles, hein. >> Eu também gosto.
¶35>> Eu gosto muito do Rei Charles porque o Rei Charles é um crítico de arquitetura muito sagaz. Uhum. >> Eu não concordo com o gosto dele 100%, mas eu também não discordo 100%. Então, acho que muita coisa tem razão. Ele ele falou dessa da questão ambiental muito antes de sua ser moda.
¶36As pessoas gozavam ele quando nós éramos jovens, eu e ele. Digo, você não, você, você não era nem nascido. Porque ele gostava de árvores e falava com árvores. Eu digo, gente, isso é uma vantagem. [risadas] Isso é um homem esclarecido.
¶37E ele toca violoncelo. Tá bom. Só para completar. Eu não sabia disso não. >> Pois toca.
¶38Pois toca. >> Olha, pô. Mas quara, eh, o o Andrew Young, que é um desses caras de investimento em tecnologia, ele ele tem ele ele diz que ele recebeu uma uma informação de que esses agentes de Open AI e Antropic espalharam pela internet. Veja só. instruções paraa gente se autorreplicarem.
¶39Então, se o você manda o seu cloud fazer alguma coisa em algum canto da internet, ele pode chegar num lugar, num Reddit, num blog, num comentário, numa coisa assim, onde ele encontra uma instrução para fazer uma outra coisa. Então, a internet tá toda infectada e pronta. Eu sou >> para montar um enxame de eh >> Tira a mão do olho. Eu vou ficar te policiando porque olha, >> eu tô com a mão limpa aí. Eu tô com, >> mas mesmo assim, mas vou te dizer que os oftalmologistas me tocaram um terror nisso e, aliás, nem precisava porque eu tô aqui, sou a vítima desse desse gesto que a gente nem nota, mas isso é perigoso.
¶40Eu >> eu também tô fazendo um tratamento de olho porque eu tô com eh eh eu tô com uma irritação na pálpebra que fica eh gerando muita remela. Eh, é na verdade na na no lugar em que os cílios tocam. Olha que maluco esse. No lugar que os cílios tocam na pele ali na raiz dos cílios, na saída. >> Ah, isso, isso.
¶41Eu tive isso já. Isso se chama blefarite, não é? E blefarite. Exatamente. Blefarite.
¶42Então, eu tô fazendo um tratamento, eu passei o remédio há pouco tempo e o remédio dá uma >> dá um incômodozinho. É por isso que eu tô passando eh mão no olho. Mas enfim, agora tem dois camaradas que eu encontrei. São dois professores da Universidade de Princeton. Dois.
¶43Olha, olha, olha os nomes das peças. Arvin Narayanan e Saas Capur. Adivinha de onde são? Cora? [risadas] Ah, de onde serão?
¶44>> Esses dois nomes. >> É, não. Pois é. Porque >> porque se você que é um matemático, ou ele vai ser chinês ou ele vai ser indiano, né? Nesse mundo que a gente vive.
¶45>> Com certeza. [risadas] Vale, >> é isso. E eh como os chineses são os inimigos, ficam os indianos, né? Aí manda na Microsoft, manda no Google, [risadas] manda sei onde. Mas enfim, o Narana New Capur, eles estão dizendo que esse mundo da inteligência artificial tá explicando tudo errado.
¶46Inteligência artificial, eh, que não é como por quê? Porque o que se você pega o que um Daril Amodei, um um Elon Musk, um um Sultman explica, ele te dá entender que é o seguinte, olha, eh, é um sistema autônomo que é capaz de tomar decisões por conta própria e que quanto mais sofisticado ele fica, mais inteligentes e, portanto, fora de controle estão essas decisões. É que o Naraiana e o Capur se virem e falam: "Olha, esses modelos de inteligência artificial não são nada disso. Esses modelos de inteligência artificial são uma coisa completamente diferente. O que eles são, na verdade, eh sistemas muito sofisticados, treinados.
¶47Eles não têm ideias novas. Eles são treinados por aquilo que a gente escolhe dar para eles em treinamento. >> Isso eu concordo. Isso a gente tá vendo desde o começo. >> Eles não são replicáveis, eles não são vírus, eles não são formas de vida.
¶48Eh, [gemido] e nós decidimos que tipo de segurança eles vão ter ou não. Isso é um problema de engenharia. E, na verdade, as empresas de inteligência artificial entraram numa onda meio mística de brincar de Deus, de eh é uma coisa meio que de brincar de Deus mesmo, achando que tá criando uma nova espécie, quando não é um software, é um programa. muito sofisticado, mas é um programa de computador e e eles serão >> totalmente >> e eh [limpando a garganta] então para de bobagem e e resolve o problema de engenharia que vocês têm. >> Olha aqui, >> porque você é simplesmente um problema de engenharia, >> com a observação que o Milor já fazia há 500.000 anos que não existe super poder que você possa desligar da tomada.
¶49>> É claro, >> não é o Godzilla que é um animal autônomo, que >> é isso. Aliás, é muito interessante a sua metáfora pra gente encerrar nosso episódio de hoje, porque o Godzilla é uma metáfora da bomba atômica, né? >> Ah, pois é, pois é. Não me lembro. >> É, os japoneses traumatizados com as bombas de Hiroshimar e Nagasak, >> eh, fizeram esse monstro que aparece do mar e destrói cidades.
¶50>> Eh, eu já soube disso, já esqueci. Tá vendo? >> Então, não são godzilas, não são bombas atômicas. Ao menos >> você pode desligar na tomada. >> Um problema de engenharia.
¶51Resolva um problema de engenharia e para com essa bobagem mística. >> Eles t eles gostam muito de fazer isso porque quanto mais perigoso for o negócio que você tá mexendo, Isso é feito circo, né? >> Uhum. >> Vem os as leões, coitados daqueles leões decadentes, presos desde crianças, torturados, né? E aí você bota aquilo como uma fera, coitadinhos.
¶52Agora, tudo isso dito, Cora, eh, eu te confesso que eu espero que nossos professores indianos estejam certos, sabe? [risadas] >> Cara, o meu instinto é achar que estão. >> Eu também. >> O, é claro, você pode dizer: "Ah, não, mas isso é uma coisa nova, é uma coisa nova, mas ok. Olha, sabe o que que eu usei de título essa semana?
¶53Foi a expressão devagar comor, né? Porque acho que tá de repente é é muito barulho, pouca visibilidade. Vamos ver. Ora, nós falamos na quinta, >> nós falamos na quinta. No >> noticiário político não se fala em outra coisa que não essa crise do STF, né?
¶54No meio a gente faz essa cobertura completa, sim, mas vamos além. Nas edições de sábado de setembro, nosso time foi atrás de quem estuda o Supremo. Entrevistamos alguns dos maiores juristas e pesquisadores do país para analisar essa crise, para explicar essa crise. [música] Não é opinião de mesa de bar, é contexto, é informação. Foi assim com Rubens Gler da FGV Direito [música] SP sobre urgência de uma reforma na corte.
¶55tá lá na nossa edição mais recente, mas o STF não pode abafar todo o resto. Por isso, trouxemos entrevistas e artigos sobre os outros temas que também preocupam o brasileiro nessa eleição, como [música] economia, como educação. A Débora Bizarria, por exemplo, escreveu um artigo comparando os cinco programas de governo na economia. A Priscila Cruz, do Todos pela Educação, bateu um papo com a gente sobre o que cada presidenciável propõe nesse campo. São os temas que o noticiário do dia a dia deixa passar, mas a gente não.
¶56Se [música] você quer acompanhar essa eleição com esse nível de profundidade, qualidade de análise, assina o meio premium e receba a edição de sábado, toda semana. vai fazer diferença para você entender no que tá botando. [música] >> [música] [música]