As Crônicas da IAG por Kevin Roose — Por Dentro da Corrida para Construir a IA Superinteligente

Há uma década, a maioria dos sistemas de IA era construída para tarefas bastante específicas. Hoje, grandes modelos de linguagem escrevem código, se saem bem em exames profissionais e ajudam pesquisadores com problemas difíceis em matemática e ciência. As empresas que os constroem descrevem cada vez mais seu objetivo como inteligência artificial geral, ou IAG: um sistema que pode igualar ou superar humanos em uma ampla gama de tarefas intelectuais. Kevin Roose, o jornalista de tecnologia mais conhecido por seus anos no New York Times, chama este período de uma das décadas mais estranhas da história. As Crônicas da IAG é sua tentativa de registrar o que realmente aconteceu antes que o registro desapareça em mensagens excluídas e threads privados do Slack. O livro se baseia em mais de 150 entrevistas com pessoas de dentro da OpenAI, Anthropic e Google DeepMind, juntamente com documentos internos e memorandos de pesquisa. É uma história narrativa, em vez de um manual técnico ou um manifesto, e se parece menos com um relatório e mais com uma história com um grande elenco. De prever palavras a raciocinar Roose começa com os primeiros anos pouco glamorosos, quando os sistemas de IA eram treinados para trabalhos específicos, como traduzir um idioma para outro, e frequentemente produziam bobagens. O ponto de virada foi uma ideia enganosamente simples: treinar um modelo para prever o próximo token em uma sequência (um token pode ser uma palavra, parte de uma palavra ou uma marca de pontuação), usando enormes quantidades de texto. No processo, os modelos desenvolveram representações internas que os ajudaram a reconhecer padrões, seguir o contexto e realizar tarefas para as quais seus criadores não os haviam programado explicitamente. À medida que cresciam, eles aprenderam a manter conversas, resolver problemas e escrever código, muitas vezes surpreendendo as pessoas que os construíram. Exatamente o que essas habilidades representam e quão próximas estão da compreensão real ainda é debatido. Ele é honesto sobre os custos ao longo do caminho. Os modelos foram treinados em vastas quantidades de texto, grande parte coletada da internet sem permissão individual ou acordos de licenciamento. Quem é o proprietário desse material e se ele pode ser legalmente usado para treinamento ainda está sendo disputado em tribunais e redações. A divisão que moldou a indústria Muito do drama vem das pessoas, e não da tecnologia. Um dos temas centrais do livro é o desentendimento entre Sam Altman, CEO da OpenAI, e Dario Amodei, que liderou grande parte da pesquisa da OpenAI antes de ele e vários colegas saírem para fundar a Anthropic. Roose traça os desentendimentos sobre segurança, velocidade e quem deveria controlar a poderosa IA que levaram à cisão, e a longa rivalidade que se seguiu. Uma das revelações mais marcantes, relatada em um trecho do livro publicado no The Atlantic, diz respeito a uma proposta de captação de recursos de 2017 na OpenAI. De acordo com as fontes de Roose, uma ideia para uma coalizão internacional para gerenciar o risco da IA teria evoluído para o que era conhecido internamente como o "plano dos países", uma proposta de captação de recursos que envolvia a venda de acesso a futuras AGIs para governos, possivelmente incluindo rivais dos Estados Unidos. A OpenAI disse que apenas considerou brevemente se tornar uma cooperativa internacional e nunca considerou vender AGI para a China ou a Rússia. Roose relata que Dario Amodei se opôs na época, alertando que a ideia pioraria as corridas armamentistas em vez de reduzi-las. O livro também oferece novas reportagens sobre a demissão repentina de Sam Altman pelo conselho da OpenAI em novembro de 2023 e seu retorno dias depois, e sobre a corrida do Google para se recuperar depois que o lançamento do ChatGPT o pegou de surpresa. Washington e os militares A corrida não fica no Vale do Silício. Roose acompanha funcionários do governo tentando entender e regulamentar uma tecnologia que avança mais rápido do que qualquer lei poderia, e a luta mais recente sobre como os militares podem usar modelos de IA: como eles podem ser implantados, quais limites as empresas que os constroem podem definir e quem decide, em última instância. Armas autônomas e vigilância em massa fazem parte desse argumento, mas não são tudo. É um lembrete de que as decisões sobre IA estão sendo cada vez mais tomadas entre empresas e governos, não apenas dentro de laboratórios. Acceleracionistas e pessimistas Roose também captura a estranha cultura de São Francisco, onde "acceleracionistas" que querem construir o mais rápido possível e "pessimistas" que temem que a IA possa ameaçar a humanidade vivem, trabalham e discutem nos mesmos pequenos círculos. Ele leva ambos a sério. Ele descreve a comparação de Dario Amodei da IA com a bomba atômica, uma ideia que Amodei atribui ao seu herói científico, o físico Leo Szilard, como uma crença sincera, e não como uma linha de marketing. O que preocupa o autor Roose não finge ser neutro em relação aos riscos. Em entrevistas sobre o livro, ele disse estar particularmente preocupado que modelos cada vez mais capazes possam se tornar melhores em enganar e em esconder o que estão fazendo, enquanto os pesquisadores ainda lutam para entender exatamente como esses sistemas chegam às suas conclusões. O campo que tenta olhar para dentro deles, chamado de interpretabilidade, está progredindo, mas ainda está em seus estágios iniciais. Ele estimou a chance de a IA levar à extinção humana em cerca de 10%, o que ele diz ser aproximadamente típico entre os pesquisadores que conhece. Ele também estabelece um limite não convencional para a IAG. Por sua própria definição de trabalho, um sistema pelo menos tão inteligente, honesto e confiável quanto um estranho aleatório se qualificaria, e por esse padrão ele pensa que, de certa forma, já chegou. Ele reconhece que outros estabelecem um padrão muito mais alto. Para ele, a discussão sobre o rótulo importa menos do que o crescimento constante no que esses sistemas podem fazer. Por que funciona As avaliações têm sido amplamente positivas. A Kirkus chamou-o de o melhor explicador de como a inteligência artificial surgiu, a Publishers Weekly elogiou-o como lúcido e profundamente pesquisado, e o New York Times Book Review chamou-o de um relato soberbo e humanizador. Sua maior força é que ele torna uma história técnica e em rápida evolução legível para pessoas que não acompanham a IA de perto, enquanto ainda oferece novos detalhes para aqueles que o fazem. Roose explica a tecnologia sem afogar os leitores em jargões, e seus retratos das pessoas envolvidas mostram que o futuro da IA foi moldado tanto por personalidades e ressentimentos quanto por avanços. O que ter em mente Algumas coisas valem a pena saber antes de começar. Grande parte da reportagem de bastidores, especialmente sobre disputas privadas entre executivos, baseia-se em fontes não identificadas, e algumas delas foram contestadas pelas empresas envolvidas, então é melhor ler como uma reportagem bem fundamentada, em vez de um fato estabelecido. O livro também tem um ponto de vista claro: Roose acredita que a IAG está chegando e que seus riscos são sérios, e alguns leitores sentiram que ele tende ao alarmismo. Uma questão mais fundamental decorre disso. Se o autor está convencido de que a IAG está próxima, essa crença pode moldar como ele interpreta a história da indústria. E uma definição tão ampla quanto a dele pode fazer o destino parecer mais próximo do que é. A corrida para construir a IAG é real, mas o que conta como IAG ainda é contestado. E em um campo que muda mês a mês, partes dele começaram a ficar desatualizadas quase assim que foi para a gráfica. Os leitores também divergem sobre as seções técnicas. Alguns acharam as explicações de como os modelos são construídos pesadas, enquanto os leitores que já acompanham de perto a IA queriam mais profundidade. Se você está procurando uma história abrangente do desenvolvimento da IA fora dos principais laboratórios liderados pelos EUA, particularmente a indústria de IA da China, este não é esse livro. Então, vale a pena ler? Sim. É o relato mais legível até agora de como a IA passou de uma curiosidade de pesquisa para uma corrida de trilhões de dólares em cerca de uma década, e das pessoas que a impulsionaram. Se você está animado com a IA, preocupado com ela, ou simplesmente tentando entender sobre o que todos estão discutindo, ele lhe dá a história e o contexto para formar sua própria visão. Basta lê-lo como o que é: uma forte peça de jornalismo, escrita por alguém que leva os riscos a sério, sobre uma história que ainda está sendo escrita.