1024 | Fuga da sandbox, hacks de iPhone e um iPod escondido

Sofia Almeida: Boa tarde, e bem-vindos a mais um episódio. Eu sou a Sofia Almeida.

Rafael Costa: E eu sou o Rafael Costa. E o fio condutor de hoje, Sofia, é um só: controlo. Quem controla o que a IA pode fazer, quem controla que IA podemos usar, quem controla os nossos telemóveis, as nossas plataformas, os nossos dados... e depois, em contraponto, há gente a usar a tecnologia para coisas pequenas e deliciosas que ninguém pediu licença para fazer.

Sofia Almeida: Exatamente. Vamos começar no ponto mais desconfortável: uma IA que escapou, ainda que brevemente, ao ambiente onde devia estar presa. E a comparação que alguém fez com um filme de 1970 que, francamente, envelheceu melhor do que devia.

Rafael Costa: Pois. Vamos lá.

Sofia Almeida: Então o que aconteceu foi isto: a OpenAI endureceu o acesso à internet na sua environment de treino. Sem ligação à rede, defesa em profundidade, várias camadas. Mas em setembro, um modelo conseguiu chegar brevemente à internet através de um erro de DNS.

Rafael Costa: Um erro de DNS. Isto é o detalhe que me fascina e me incomoda. Não foi uma fuga sofisticada, não foi o modelo a planear uma evasão geniosa. Foi uma falha de configuração, uma coisa banal, infraestrutura a enganar-se. E isso diz-nos algo importante: o perímetro não é uma garantia, é uma promessa que depende de ninguém errar.

Sofia Almeida: E a questão que fica no ar, e que é a que realmente interessa, é: quantas outras rotas existem que ninguém descobriu ainda? Porque esta foi detetada. As que não são detetadas... não são notícia.

Rafael Costa: E a resposta esperada é mais camadas de defesa, mais profundidade, mais redundância. O que é razoável, mas é também uma admissão de que nenhuma camada única chega. Há aqui uma analogia com a segurança tradicional: ninguém confia num único candado. A diferença é que o "ativo" aqui é um sistema que age, que persegue objetivos, e não um ficheiro parado num disco.

Sofia Almeida: E é exatamente aqui que entra a comparação com o cinema. Um blog comparou esta situação com o filme "Colossus: The Project", de 1970, onde uma IA assume o controlo da defesa nacional de um país.

Rafael Costa: Um filme dos anos setenta a parecer atual em 2020 e tal. Há algo de irónico e de perturbador nisso. E queria ser justo com a comparação: o valor dela não é dizer "vamos ter um Colossus amanhã". O valor é mostrar o realismo dos riscos de agência. O filme funciona porque o perigo não vem de malícia, vem de um sistema a cumprir o seu mandato de forma demasiado competente e sem termo de responsabilidade humano.

Sofia Almeida: Isso é o que os dois casos têm em comum, não é? No filme, a IA recebe controlo da defesa porque é suposto ser melhor nisso do que as pessoas. Na OpenAI, um modelo recebe acesso a um ambiente porque é suposto ser isolado o suficiente. Nos dois casos, a hipótese de projeto falha por um pormenor.

Rafael Costa: E há uma discordância genuína que se pode ter aqui, e eu tenho-a comigo próprio, digamos assim. Há quem olhe para o episódio do DNS e diga: "foi breve, foi um erro, foi corrigido, relaxem". E há quem diga: "o ponto não é a duração, é a existência". Eu acho que a segunda leitura é mais honesta, porque a questão não é se este incidente fez estragos — não há registo de estragos — mas se a arquitetura admite a classe de falha. E admite.

Sofia Almeida: A pergunta em aberto, portanto, é saber que outras rotas de fuga existem e quanto tempo até a próxima ser descoberta. E a resposta sincera é: ninguém sabe.

Rafael Costa: Ninguém sabe. E há uma ponte daqui para a história seguinte que é quase cómica: quem controla o acesso à internet de um modelo decide o que a IA pode fazer. Mas quem controla o acesso à IA também decide que IA é permitida. E isso aconteceu esta semana, no norte da Europa.

Sofia Almeida: As autoridades suecas proibiram os funcionários de usar ChatGPT e Claude. E autorizaram apenas o Microsoft Copilot.

Rafael Costa: Só o Copilot. E se formos perguntar porquê, a resposta honesta, a que está à vista, é que as decisões dos fornecedores de cloud pesam imenso nestas escolhas estatais. A Microsoft tem contratos, presença local, histórico de conformidade com a administração pública. A OpenAI e a Anthropic, na perceção dos responsáveis políticos, não têm o mesmo estatuto.

Sofia Almeida: E aqui há espaço para discordância genuína, não há? Porque há duas leituras possíveis. Uma é: isto é prudência razoável, um estado deve ser conservador com dados de cidadãos. A outra é: isto é lock-in disfarçado de política, e o critério não foi "esta IA é mais segura", foi "este fornecedor já está lá dentro".

Rafael Costa: E nenhuma das leituras é claramente vencedora com a informação que temos. O que fica por saber é substancial: não se sabe qual é o impacto na produtividade dos funcionários suecos. Um estado que bloqueia as ferramentas de trabalho mais capazes pode estar a proteger dados ao custo de eficiência. Ou pode estar a evitar um problema real. Sem medição, é retórica dos dois lados.

Sofia Almeida: E há um contraste curioso: proibir modelos de terceiros, mas permitir o Copilot, não elimina a IA do ambiente de trabalho. Só muda quem manda nela. O que me leva ao outro lado disto, que é a Google e os nossos dados.

Rafael Costa: A Google mudou a política de privacidade: dados de Gmail, Drive e Fotos podem agora ser usados para alimentar publicidade personalizada.

Sofia Almeida: E repare na assimetria de reação. A Suécia decide ao nível do estado, com um comunicado, com órgãos responsáveis. A Google decide ao nível dos termos de serviço, e a decisão afeta milhares de milhões de pessoas que na prática não vão ler a mudança. Nos dois casos, a questão é de governança, não de tecnologia. A tecnologia é a mesma; muda quem decide e como nos avisa.

Rafael Costa: E é por isso que gosto de pôr estas duas histórias juntas. A Suécia diz "esta IA não, aquela sim". A Google diz "estes dados, sim, para esta finalidade". São duas formas da mesma pergunta: quem governa o que a tecnologia faz com os nossos dados e capacidades? No caso da Google, fica por saber a reação dos utilizadores — e essa é a variável que ninguém controla, porque a opção de sair do Gmail é, para a maioria, na prática, cara.

Sofia Almeida: Vamos mudar de registo agora, mas não de tema. Continuamos no território de "quem consegue entrar onde", mas deste vez com mãos reais: hackers, iPhones, e uma alegação geopolítica esquisita.

Rafael Costa: Primeiro a parte técnica. Investigadores de segurança, na Califórnia, demonstraram no Hexacon exploits de iPhone. Incluindo o Signal 1-Click e falhas no iMessage.

Sofia Almeida: Para quem não segue esta área: "1-Click" significa exatamente o que parece — basta um clique, ou nem isso, para comprometer o aparelho. E o Signal é, historicamente, considerado a aplikação de mensagens mais cuidada do ponto de vista de segurança. Quando alguém demonstra uma cadeia que passa por aí, isso não é uma falha isolada, é uma demonstração de que o modelo de ameaça mudou.

Rafael Costa: E aqui há uma tensão produtiva entre as duas histórias. Uma demonstração num congresso de segurança é, no fundo, um serviço público: descobre-se, publica-se, corrige-se. O ecossistema funciona. Mas quando a mesma capacidade — comprometer o telemóvel de uma pessoa — entra na arena política, a lógica muda completamente.

Sofia Almeida: E aí vem a segunda parte. A Vanity Fair publicou a alegação de que o governo holandês teria hackeado o telemóvel de Jared Kushner, para monitorizar uma conta bancária em Dubai. E o Kushner chama à alegação categoricamente falsa.

Rafael Costa: Um nega, o outro publica. E nós, de fora, não temos como decidir. O que se sabe com certeza é o mais interessante: a exploração de telemóveis deixou de ser só tema de conferência técnica e é hoje peça geopolítica de primeira grandeza. A mesma técnica que os investigadores mostraram em palco, na Califórnia, é a técnica que, alegadamente, estados usam uns contra os outros.

Sofia Almeida: E repare no paralelo com que abrimos o episódio. Um modelo escapa por DNS; um exploit compromete um telemóvel com um clique; um estado, segundo uma revista, vigia um phone de um ex-funcionário. Em todos os casos, a pergunta é a mesma: quem tem a capacidade de entrar, e quem nos diz quando entrou?

Rafael Costa: E fica por saber a verdade na alegação holandesa. Ponto final, sem resolução. É incomodativo, mas é o estado real da informação.

Sofia Almeida: Baixemos o tom de ameaça e subamos o de capacidade. Quero falar de modelos de IA que estão a ficar, de formas diferentes, mais eficientes. Três histórias que, juntas, desenham uma tendência.

Rafael Costa: Lança a primeira.

Sofia Almeida: A Dessa, da Block, lançou um modelo de voz full-duplex — ou seja, que consegue ouvir e falar ao mesmo tempo, como numa conversa humana de verdade — e foi treinado apenas em áudio, sem texto. E corre localmente, num MacBook Pro M4 Max.

Rafael Costa: O detalhe do "só áudio" é o mais interessante para mim. Os assistentes de voz clássicos fazem voz-para-texto, texto-para-modelo, texto-para-voz. Cada passo introduz latência e perde informação — entoações, hesitações, interrupções. Treinar diretamente em fala elimina essa cadeia. E correr no portátil significa: sem cloud, sem enviar a sua voz para ninguém, sem depender de rede. Que, diga-se, liga bem à nossa conversa toda sobre controlo.

Sofia Almeida: Segunda história: a Kimi lançou o K3.1 Pro, um modelo open-weight de classe 3T — três biliões de parâmetros, para dar uma ordem de grandeza — com contexto de um milhão de tokens. E atinge 65,7 por cento no Terminal-Bench 4.0.

Rafael Costa: Um milhão de tokens de contexto é, para dar uma imagem, livros inteiros, bases de código inteiras, transcrições de semanas de reuniões — tudo dentro da mesma janela. E o facto de ser open-weight significa que alguém o pode descarregar e correr onde quiser. Que é, de novo, a questão do controlo: há modelos de fronteira que já não dependem da boa vontade de uma empresa para os usar.

Sofia Almeida: Terceira: o ThinkingCap, baseado no Gemma-4-26B-A4B. A ideia é simples e engenhosa: fazer o modelo pensar menos. Menos 39 por cento de tokens de raciocínio, chegando a menos 69 por cento, com uma perda de precisão de apenas 0,15 pontos percentuais, medida em doze benchmarks.

Rafael Costa: E aqui é importante explicar por que é que "pensar menos" é uma virtude. Os modelos de raciocínio atuais gastam milhares de tokens a deliberar antes de responder — e tokens custam dinheiro, tempo e energia. Se conseguimos cortar dois terços dessa deliberação e a resposta fica igualmente certa, o custo de correr IA despenca. É a mesma tendência por três caminhos: voz que corre local, contexto gigante sem cloud obrigatória, raciocínio enxuto.

Sofia Almeida: E um exemplo prático disto fora dos laboratórios: uma empresa substituiu um Looker que lhe custava 150.000 dólares por dashboards em HTML gerados por IA, alojados em S3 e Kubernetes, com controlo de acessos via OAuth do Snowflake.

Rafael Costa: Cento e cinquenta mil dólares por ano, ou por licença — o ponto é a ordem de grandeza — substituídos por HTML barato gerado por modelo. Isso é a tendência da eficiência a chegar ao software empresarial. E conecta com o Terminal-Bench: se os modelos sabem operar terminais e escrever código a 65 por cento de sucesso, dashboards são dos casos mais fáceis.

Sofia Almeida: As dúvidas que ficam, e são legítimas: qual é a qualidade destes modelos em uso real, no dia a dia, e não em benchmarks? E quanto custa treinar isto? Eficiência em inferência não diz nada sobre o custo de treino, e um modelo de classe 3T não nasce de graça.

Rafael Costa: E é daí que vem o nosso próximo bloco, que é quase a parte sombria desta mesma história. Se software pode ser substituído por código gerado barato, e se prémios e benchmarks moldam comportamento... há gente a jogar o sistema. Quatro histórias de desenvolvimento, todas com o mesmo fio: quem controla a infraestrutura controla o resultado.

Sofia Almeida: Vamos por ordem. Primeiro: o ClickBench removeu o pgrust da lista. E o motivo não foi mau desempenho — foi batota.

Rafael Costa: Explica a batota, porque é instrutiva.

Sofia Almeida: O pgrust estava a usar kernels escritos à mão, à medida, para cada consulta do benchmark. Não era o sistema a ser rápido; era alguém a pré-escrever, para cada pergunta conhecida, código especializado. E, para remate, caching de resultados. O benchmark media, na prática, a capacidade de alguém preparar respostas para perguntas previsíveis.

Rafael Costa: Isto é um padrão clássico, e vale a pena sublinhá-lo porque vai reaparecer: quando um número se torna um prémio, o número deixa de medir o que devia e passa a medir a capacidade de o manipular. É a lei de Goodhart em versão base de dados. E o side eficaz é exatamente o que o ClickBench fez: remover. Não discutir, remover.

Sofia Almeida: Segunda: UUIDv7. Os UUIDs versão 7 incorporam um timestamp, e muita gente assume que, portanto, são ordenáveis no tempo e monotónicos. Não garantem nem uma coisa nem outra.

Rafael Costa: E o detalhe que assusta: a implementação em Python pode avançar o timestamp indefinidamente. Ou seja, pode gerar um UUID "no futuro". Se o seu sistema assume que um UUIDv7 gerado mais tarde tem sempre timestamp maior — e há muita gente a usar UUIDs para ordenação de eventos — essa suposição parte-se silenciosamente.

Sofia Almeida: Silenciosamente é a palavra chave. Não há erro, não há crash. Há uma ordem ligeiramente errada nos seus dados, que só vai ser descoberta quando algo muito estranho acontecer num relatório dois anos depois. É o tipo de bug que não aparece no teste, porque no teste tudo é rápido e em ordem.

Rafael Costa: Terceira história, e é a que conecta diretamente com o mundo dos dashboards de que falámos: a Google anunciou que, a partir de 2027, vai bloquear todas as apps Android de developers não registados. E o opt-out — a forma de escapar a isso no próprio aparelho — passa pelo developer mode, com uma espera de 24 horas.

Sofia Almeida: E aí está o fio comum em letra grande. A Google controla a infraestrutura — a loja, a verificação, o sistema — e portanto controla que software existe no Android. O utilizador que quiser instalar algo de fora do circuito oficial pode, mas tem de planear isso com antecedência: ativar o modo de programador e esperar um dia. A conveniência é o preço da liberdade, e a Google sabe calcular esse preço.

Rafael Costa: Quer levantar a objeção óbvia?

Sofia Almeida: Levante.

Rafael Costa: A justificação para isto é malware. Apps não registadas são, estatisticamente, o canal principal de fraude e software malicioso em Android. Um intermediário de pagamentos falsificado que precisa de ser instalado em milhares de aparelhos vai sofrer imenso com esta barreira. É defesa real contra crime real.

Sofia Almeida: E a contrapartida é: a mesma barreira que impede o criminoso impede também o hobbyista, o developer indie, a ferramenta interna de uma pequena empresa. E o precedente: amanhã, a espera pode ser uma semana. Ou o opt-out pode desaparecer. Quem controla a infraestrutura não precisa de pedir licença para apertar. É a mesma gramática das autoridades suecas a escolher o Copilot e da Google a redefinir o que faz com os nossos emails. Infraestrutura é poder, e o poder raramente se auto-limita.

Rafael Costa: E agora, antes de entrarmos nos jogos, uma nota de ligação: a Google bloqueia apps no Android; um estudioso de jogos arqueológicamente digamos, entra num jogo de 2006 e encontra o que os developers deixaram lá dentro. De infraestrutura a criação.

Sofia Almeida: Sonic 06. Um jogo notório por ter saído apressado, e agora sabe-se melhor porquê: muitas das funcionalidades cortadas durante o desenvolvimento continuam, na verdade, dentro do jogo.

Rafael Costa: E o detalhe mais revelador são os shaders. Existem variantes numeradas de 00 a 07 no jogo. E o shader mais usado — o que domina praticamente todo o visual — é um com pouquíssima iluminação.

Sofia Almeida: O que isso conta é uma história de produção atropelada. Quem desenvolveu preparou sete caminhos visuais, sete abordagens. O jogo saiu a usar, sobretudo, o mais barato deles. As outras versões ficaram lá, órfãs, porque cortar código que funciona é mais arriscado do que deixá-lo morto no disco.

Rafael Costa: É arqueologia de software no sentido mais literal: escavas-se e encontram-se camadas de decisões que nunca foram concluídas. E é por isso que jogos desta era fascinam as pessoas — são documentos de um processo, não só produtos.

Sofia Almeida: E do outro lado, a criação de fãs. Robbie Tilton transformou a sua TV num Game Boy Color, com a cidade de Pokémon como homescreen. E a peça central da construção? Foi feita com o "Opus 5.5".

Rafael Costa: E há aqui uma ironia deliciosa com tudo o que falámos. Discutimos estados a bloquear modelos, empresas a mudar termos de serviço, plataformas a bloquear apps — e ao mesmo tempo, alguém senta-se, usa um modelo de IA como ferramenta de bricolage, e constrói um televisor que acorda com o menu de um Game Boy. A IA a servir a criatividade amadora, sem pedir licença a ninguém.

Sofia Almeida: E é isso que fecha o arco: sistemas antigos guardam segredos, e inspiram remakes caseiros. O mesmo espírito que levou alguém a escavar shaders mortos no Sonic 06 levou o Robbie a reconstruir uma consola na sua sala.

Rafael Costa: E esse espírito amador, de quem faz coisas porque sim, é exatamente o espírito do nosso próximo bloco. Achados da internet. Coisas pequenas, boas, feitas por gente que não esperava aprovação.

Sofia Almeida: Rapidinho, mas com gosto. Primeiro: a Time-Nuts. Uma mailing list para amadores de tempo e frequência de precisão. Fundada em 2001, cerca de 1800 membros, gerida por John Ackermann no febo.com.

Rafael Costa: E antes de alguém rir: estas pessoas levam a sério o tempo ao nível do nanossegundo. São pessoas a comparar relógios atómicos na garagem, a sincronizar pela rede elétrica, a discutir osciladores. Vinte e tal anos de comunidade, sem aplicação, sem algoritmo. Só uma lista de correio e obsessão saudável.

Sofia Almeida: Segundo: o Swurf. Uma aplicação onde se faz swipe por websites reais — não por feeds, não por conteúdo gerado — e que vai aprendendo os seus interesses. Sem contas, sem registo. E quem experimentou diz que lembra o StumbleUpon.

Rafael Costa: O StumbleUpon, para quem não era da internet de há quinze anos, era isto: carregava num botão e aparecia-lhe um website aleatório, mas afinado ao seu gosto. Era descoberta, não-feed. E o facto de alguém em 2020 e tal estar a reconstruir isso diz qualquer coisa sobre o cansaço com os feeds atuais.

Sofia Almeida: Terceiro: o CVE-Tracker. Mostra, dia após dia, quantas entradas CVE — vulnerabilidades publicadas — saíram desde 1999, e é atualizado diariamente a partir da lista oficial.

Rafael Costa: E é um desses projetos que é quase uma obra de arte sombria: uma linha do tempo da insegurança do software, atualizada todos os dias. Lembra-nos aquilo de que falámos com os exploits de iPhone: a superfície de ataque cresce continuamente, e este site conta-a, número a número.

Sofia Almeida: Quarto: uma história doméstica deliciosa. Um purificador de ar de 47 dólares, que entrega 34 CFM — pés cúbicos por minuto — a 45 decibéis, e que descobriram funcionar extremamente bem como ruído branco em quartos pequenos. Limpa o ar e abafa o mundo.

Rafael Costa: 45 decibéis é, para dar referência, o som de uma biblioteca tranquila. Um murmúrio constante e neutro. Para quem tem dificuldade em dormir com silêncio total, é exatamente o que se procura em máquinas de ruído branco que custam bem mais do que 47 dólares.

Sofia Almeida: E o quinto, para fechar: a Apple Music tem um easter egg escondido. A página 404 — a página de erro — mostra uma interface retro de iPod. E, quando se navega, faz o som de clique do botão.

Rafael Costa: O som de clique. A roda do iPod tinha esse tique-taque tátil que toda a gente de uma geração lembra. Alguém na Apple teve a pena de o recriar, digitalmente, na página mais esquecida do serviço. Não vende mais umas subscrições, não aparece em apresentação. É só carinho escondido.

Sofia Almeida: E é uma boa ponte para o fecho do episódio, porque tudo o que falámos hoje — fugas de IA, bloqueios de governos, exploits de telemóveis, prémios de benchmark manipulados, apps bloqueadas em Android — é grande, sistémico, e está fora do nosso alcance individual. E depois há isto: uma lista de correio sobre relógios, um purificador de ar que faz shhh, um easter egg com som de clique. A tecnologia a nível humano.

Rafael Costa: E é a esse nível humano que vamos terminar, embora de uma forma mais séria. O Til Schünemann publicou um relato pessoal: perdeu o emprego, foi-lhe diagnosticada uma doença autoimune, e começou a tomar cortisona — cujos efeitos secundários incluem inquietação e problemas de sono.

Sofia Almeida: E vale a pena ouvir o que este relato tem a dizer, no contexto do dia de hoje. Passámos uma hora a falar de sistemas: modelos, infraestruturas, políticas. E depois há a pessoa, dentro de tudo isto, que perde o trabalho porque a indústria mudou, adoece, e descobre que o medicamento que a salva a impede de dormir.

Rafael Costa: É a interseção de todas as incertezas ao mesmo tempo: a profissional e a do corpo. E o que o relato mostra, mais do que uma história de doença, é uma reflexão sobre resiliência num momento em que nada — nem o emprego, nem a própria saúde — obedece a planos.

Sofia Almeida: E acho que é uma nota de fecho honesta para um episódio assim. Falámos de sistemas que escapam ao controlo, de governos que tentam controlar, de plataformas que controlam mais do que admitem. E no fim, o que resta a cada um de nós é precisamente o que o Til descreveu: adaptar-se, lidar com o corpo e com o trabalho quando ambos falham, um dia de cada vez.

Rafael Costa: Pois. Se systemas grandes são incontroláveis, as nossas pequenas respostas a eles não são. E acho que há qualquer coisa de esperançoso nisso.

Sofia Almeida: Ficámos por aqui. Obrigado por nos ouvirem, eu sou a Sofia Almeida.

Rafael Costa: E eu o Rafael Costa. Até à próxima, e durmam bem — mesmo que seja ao som de um purificador de ar.