Las Crónicas de la IAG de Kevin Roose — Dentro de la carrera por construir una IA superinteligente

Hace una década, la mayoría de los sistemas de IA se construían para tareas bastante específicas. Hoy en día, los grandes modelos de lenguaje escriben código, obtienen buenos resultados en exámenes profesionales y ayudan a los investigadores con problemas difíciles en matemáticas y ciencias. Las empresas que los construyen describen cada vez más su objetivo como inteligencia artificial general, o IAG: un sistema que puede igualar o superar a los humanos en una amplia gama de tareas intelectuales. Kevin Roose, el periodista tecnológico más conocido por sus años en el New York Times, llama a este período una de las décadas más extrañas de la historia. Las Crónicas de la IAG es su intento de escribir lo que realmente sucedió antes de que el registro desaparezca en mensajes eliminados e hilos privados de Slack. El libro se basa en más de 150 entrevistas con personas dentro de OpenAI, Anthropic y Google DeepMind, junto con documentos internos y memorandos de investigación. Es una historia narrativa más que un manual técnico o un manifiesto, y se lee menos como un informe que como una historia con un gran elenco. De la predicción de palabras al razonamiento Roose comienza con los primeros años poco glamorosos, cuando los sistemas de IA se entrenaban para trabajos específicos como traducir un idioma a otro y a menudo producían tonterías. El punto de inflexión fue una idea engañosamente simple: entrenar un modelo para predecir el siguiente token en una secuencia (un token puede ser una palabra, parte de una palabra o un signo de puntuación), utilizando enormes cantidades de texto. En el proceso, los modelos desarrollaron representaciones internas que les ayudaron a reconocer patrones, seguir el contexto y realizar tareas para las que sus creadores no los habían programado explícitamente. A medida que crecieron, aprendieron a mantener conversaciones, resolver problemas y escribir código, a menudo sorprendiendo a las personas que los construyeron. Exactamente a qué equivalen estas habilidades y cuán cerca están de una comprensión real, todavía se debate. Es honesto sobre los costos en el camino. Los modelos se entrenaron con grandes cantidades de texto, gran parte de él recopilado de internet sin permiso individual o acuerdos de licencia. Quién es el propietario de ese material y si se puede usar legalmente para el entrenamiento, todavía se está discutiendo en los tribunales y las redacciones. La división que dio forma a la industria Gran parte del drama proviene de las personas más que de la tecnología. Uno de los hilos centrales del libro es el distanciamiento entre Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, quien lideró gran parte de la investigación de OpenAI antes de que él y varios colegas se fueran para fundar Anthropic. Roose rastrea los desacuerdos sobre seguridad, velocidad y quién debería controlar la potente IA que llevaron a la división, y la larga rivalidad que siguió. Una de las revelaciones más impactantes, reportada en un extracto del libro publicado en The Atlantic, concierne a una propuesta de recaudación de fondos de 2017 en OpenAI. Según las fuentes de Roose, una idea para una coalición internacional para gestionar el riesgo de la IA supuestamente evolucionó hacia lo que se conoció internamente como el "plan de países", una propuesta de recaudación de fondos que implicaba vender acceso a futuras AGI a gobiernos, posiblemente incluyendo a rivales de Estados Unidos. OpenAI ha dicho que solo consideró brevemente convertirse en una cooperativa internacional y nunca consideró vender AGI a China o Rusia. Roose informa que Dario Amodei se opuso en ese momento, advirtiendo que la idea empeoraría las carreras armamentísticas en lugar de reducirlas. El libro también ofrece nuevos informes sobre el repentino despido de Sam Altman por la junta directiva de OpenAI en noviembre de 2023 y su regreso días después, y sobre la prisa de Google por ponerse al día después de que el lanzamiento de ChatGPT lo tomara por sorpresa. Washington y el ejército La carrera no se queda en Silicon Valley. Roose sigue a funcionarios gubernamentales que intentan comprender y regular una tecnología que avanza más rápido que cualquier ley, y la lucha más reciente sobre cómo el ejército puede usar los modelos de IA: cómo se pueden implementar, qué límites pueden establecer las empresas que los construyen y quién decide en última instancia. Las armas autónomas y la vigilancia masiva son parte de ese argumento, pero no todo. Es un recordatorio de que las decisiones sobre IA se toman cada vez más entre empresas y gobiernos, no solo dentro de los laboratorios. Aceleracionistas y apocalípticos Roose también captura la extraña cultura de San Francisco, donde los "aceleracionistas" que quieren construir lo más rápido posible y los "apocalípticos" que temen que la IA pueda amenazar a la humanidad viven, trabajan y discuten en los mismos pequeños círculos. Él toma a ambos en serio. Describe la comparación de Dario Amodei de la IA con la bomba atómica, una idea que Amodei remonta a su héroe científico, el físico Leo Szilard, como una creencia sincera en lugar de una línea de marketing. Lo que preocupa al autor Roose no pretende ser neutral sobre los riesgos. En entrevistas sobre el libro, ha dicho que le preocupa especialmente que los modelos cada vez más capaces puedan mejorar en el engaño y en ocultar lo que están haciendo, mientras los investigadores aún luchan por comprender exactamente cómo estos sistemas llegan a sus conclusiones. El campo que intenta analizarlos, llamado interpretabilidad, está progresando pero aún está en sus primeras etapas. Ha estimado que la probabilidad de que la IA conduzca a la extinción humana es de alrededor del 10 por ciento, lo que, según él, es aproximadamente lo típico entre los investigadores que conoce. También establece un umbral poco convencional para la IAG. Según su propia definición de trabajo, un sistema al menos tan inteligente, honesto y confiable como un extraño al azar calificaría, y según ese estándar, cree que en cierto sentido ya ha llegado. Reconoce que otros establecen un listón mucho más alto. Para él, la discusión sobre la etiqueta importa menos que el crecimiento constante de lo que estos sistemas pueden hacer. Por qué funciona Las críticas han sido en gran medida positivas. Kirkus lo calificó como la mejor explicación individual de cómo surgió la inteligencia artificial, Publishers Weekly lo elogió como lúcido y profundamente documentado, y el New York Times Book Review lo llamó un relato soberbio y humanizador. Su mayor fortaleza es que hace que una historia técnica y de rápido avance sea legible para personas que no siguen de cerca la IA, al mismo tiempo que ofrece nuevos detalles para quienes sí lo hacen. Roose explica la tecnología sin ahogar a los lectores en jerga, y sus retratos de las personas involucradas muestran que el futuro de la IA ha sido moldeado tanto por personalidades y rencores como por avances. Qué tener en cuenta Hay algunas cosas que vale la pena saber antes de empezar. Gran parte de los informes entre bastidores, especialmente sobre disputas privadas entre ejecutivos, se basa en fuentes no identificadas, y parte de ello ha sido refutado por las empresas involucradas, por lo que es mejor leerlo como un informe bien documentado en lugar de un hecho establecido. El libro también tiene un punto de vista claro: Roose cree que la IGA está llegando y que sus riesgos son serios, y algunos lectores sintieron que se inclina hacia la alarma. De ahí surge una pregunta más fundamental. Si el autor está convencido de que la IGA está cerca, esa creencia puede moldear cómo interpreta la historia de la industria. Y una definición tan amplia como la suya puede hacer que el destino parezca más cercano de lo que es. La carrera por construir la IGA es real, pero lo que cuenta como IGA todavía está en disputa. Y en un campo que cambia mes a mes, partes de él comenzaron a anticuarse casi tan pronto como se publicó. Los lectores también difieren en las secciones técnicas. Algunos encontraron las explicaciones sobre cómo se construyen los modelos difíciles de seguir, mientras que los lectores que ya siguen de cerca la IA querían más profundidad. Si buscas una historia completa del desarrollo de la IA fuera de los principales laboratorios liderados por Estados Unidos, particularmente la industria de la IA de China, este no es ese libro. Entonces, ¿vale la pena leerlo? Sí. Es el relato más legible hasta ahora de cómo la IA pasó de ser una curiosidad de investigación a una carrera de un billón de dólares en aproximadamente una década, y de las personas que la impulsaron. Ya sea que te entusiasme la IA, te preocupe o simplemente estés tratando de entender de qué discuten todos, te brinda la historia y el contexto para formar tu propia opinión. Solo léelo como lo que es: una sólida pieza de periodismo, escrita por alguien que se toma los riesgos en serio, sobre una historia que aún se está escribiendo.