Esta semana se conoció la noticia de que Elon Musk, el multimillonario tecnológico favorito de todos, era demandando a OpenAI y a dos de sus compañeros cofundadores por apartarse de la misión original sin fines de lucro de la empresa de beneficiar a la humanidad. Como era de esperar, la demanda presenta a Musk como el último héroe de acción, el hombre que ve los peligros de la inteligencia artificial general (AGI), que intenta impedir que esos cerebritos enloquecidos por el dinero en efectivo creen Skynet en un esfuerzo por complacer a su mayor inversor, Microsoft. Los cofundadores de OpenAI ahora han respondido y, como era de esperar, han intentado hacer grandes agujeros en la versión de Musk de los acontecimientos.
La carta dice que los altos cargos de OpenAI se dieron cuenta desde el principio de que la empresa necesitaría más recursos para desarrollar AGI de los que tenía acceso. Dice que Altman y Brockman habían comenzado a finales de 2015 con el objetivo de recaudar 100 millones de dólares, pero Musk, todavía involucrado con OpenAI en ese momento, dijo en un correo electrónico que «tenemos que ir con una cifra mucho mayor que 100 millones de dólares para evitar parecer «Es inútil… Creo que deberíamos decir que estamos comenzando con un compromiso de financiación de mil millones de dólares. Esto es real. Cubriré todo lo que nadie más no proporcione». Este correo electrónico, como todos los demás citados por OpenAI, incluye textos redactados al final de la carta.
En realidad, Musk proporcionó «menos de» 45 millones de dólares, mientras que otros donantes aportaron un total combinado de 90 millones de dólares. Obviamente estamos en el reino del dinero tonto, porque 45 millones de dólares es una inversión enorme en cualquier cosa, pero supongo que cuando prometes ayudar a alcanzar la marca de los mil millones de dólares, parece poca cosa.
La carta continúa diciendo que, en 2017, la situación de financiación parecía terrible, sobre todo porque construir AGI «requeriría grandes cantidades de computación». OpenAI comenzó a calcular lo que realmente necesitaría para lograrlo y «todos entendimos que íbamos a necesitar mucho más capital para tener éxito en nuestra misión: miles de millones de dólares por año, que era mucho más que cualquiera de nosotros». , especialmente Elon, pensamos que podríamos recaudar dinero como organización sin fines de lucro».
Todos, incluido Musk, estuvieron de acuerdo en que la mejor opción de OpenAI era crear algún tipo de entidad con fines de lucro, aunque hubo cierto desacuerdo sobre cuál sería el camino adecuado a seguir. Musk tenía una idea bastante simple de hacia dónde quería que se dirigieran las cosas: Musk con control total del lado con fines de lucro. Los cofundadores de OpenAI dicen que «Elon quería una participación mayoritaria, el control inicial de la junta directiva y ser director ejecutivo».
Musk también parece haber hecho un poco de rabieta por esto, comenzando a retener su financiación «en medio de estas discusiones» y obligando a Reid Hoffman a intervenir para cubrir los salarios del personal y los gastos operativos.
Pero no funcionó. Los cofundadores sintieron que ninguna persona debería tener «control absoluto sobre OpenAI», afirma la carta. En ese momento, a Musk se le ocurrió otra idea: una fusión con Tesla. Musk sugirió esto a principios de 2018, diciendo que Tesla podría actuar como una «vaca de ingresos» para OpenAI y representaba «el único camino que podría siquiera compararse con Google. Incluso entonces, la probabilidad de ser un contrapeso para Google es pequeña». Simplemente no es cero”.
OpenAI dijo que no, gracias y, después de enviar el correo electrónico a principios de febrero de 2018, Musk dejó OpenAI a finales de mes con la magnífica promesa de que él mismo construiría el superador de Google.
El cofundador de OpenAI, Sam Altman, en el reciente Foro Económico Mundial. (Crédito de la imagen: Bloomberg a través de Getty Images)
El problema de Google
«Desafortunadamente, el futuro de la humanidad está en manos de [redacted]».
Elon Musk
OpenAI continúa defendiéndose en términos de acceso, señalando la versión gratuita de ChatGPT y varios ejemplos de usos de su tecnología. Sorprendentemente, esta resulta ser la parte más débil de toda la carta, porque los ejemplos simplemente no son tan buenos y están llenos de métricas inexplicables, como las herramientas de OpenAI que ayudaron a Albania a «acelerar su adhesión a la UE hasta en 5,5 años».
Otros usos parecen tener beneficios cuestionables con potencial de desastre, como el de un proveedor médico en Rhode Island que utiliza GPT-4 «para simplificar sus formularios de consentimiento quirúrgico desde un nivel de lectura universitario hasta uno de sexto grado». Lo más condescendiente de todo es que OpenAI afirma que «Islandia está utilizando GPT-4 para preservar el idioma islandés». Realmente creo que a los islandeses les iba bien con esto antes de la llegada de la IA.
Entre los correos electrónicos que OpenAI cita de Musk durante su tiempo con OpenAI, al final hay un fragmento particularmente interesante. De todos ellos queda muy claro que Musk no confía en Google y parece creer genuinamente que es peligroso cuando se trata de IA. Las comunicaciones están repletas de comparaciones con Google, los peligros del trabajo de código abierto que Google podría utilizar, la escala de sus inversiones en recursos e inteligencia artificial, y luego esto:
«Mi evaluación de probabilidad de que OpenAI sea relevante para DeepMind/Google sin un cambio dramático en la ejecución y los recursos es del 0%», dice Musk. «No el 1%. Ojalá fuera de otra manera.
«Ni siquiera recaudar varios cientos de millones será suficiente. Para ello se necesitan miles de millones al año inmediatamente o olvídenlo.
«Desafortunadamente, el futuro de la humanidad está en manos de [redacted]».
A esto le sigue otra frase redactada, antes de «Y están haciendo mucho más que esto». Seguido por otras pocas líneas redactadas y terminando con «Realmente espero estar equivocado». Ya sea que OpenAI esté mostrando cierta sensibilidad comercial aquí, o simplemente no quiera que las conspiraciones más salvajes de Musk sobre Google sean públicas, este tema parece ser lo que se esconde detrás de las afirmaciones y contrademandas.
Musk no quiere que Google sea la empresa que haga los mayores avances en IA, pero tampoco cree que OpenAI pueda superarla, hasta el punto de que preferiría tener una probabilidad del «1%» de enfrentarse a ella. con xAI en su lugar.
Demis Hassabis, director ejecutivo de Google DeepMind. (Crédito de la imagen: WPA Pool a través de Getty Images)
La misión y los memes.
La carta de OpenAI llega a su fin abordando una de las afirmaciones clave de Musk: que la compañía se está alejando de su misión AGI de código abierto. «Elon entendió que la misión no implicaba AGI de código abierto. Como Ilya [Sutskever] dijo a Elon: 'A medida que nos acerquemos a la construcción de IA, tendrá sentido empezar a ser menos abiertos. El Open en openAI significa que todos deberían beneficiarse de los frutos de la IA después de su [sic] construido, pero está totalmente bien no compartir la ciencia…» Musk responde a esto con una palabra: «Sí».
Finalmente, hay tiempo para un revés bastante magnífico hacia Musk por parte de personas que lo conocen, han trabajado con él y ven claramente lo bueno y lo malo de su carácter. «Estamos tristes de haber llegado a esto con alguien a quien admiramos profundamente, alguien que nos inspiró a apuntar más alto, luego nos dijo que fracasaríamos, creó un competidor y luego nos demandó cuando comenzamos a lograr avances significativos hacia OpenAI. misión sin él.»
«Demis [Hassabis] «Está sumido en una burocracia de maldad banal que no puede arreglar».
Elon Musk
Los cofundadores dicen que OpenAI tiene «un largo camino por recorrer» y terminan reafirmando su creencia de que eventualmente podrá «implementar estos sistemas para que empoderen a cada individuo».
Musk no ha respondido directamente a la carta: bueno, no de manera coherente. En X respondió al anuncio de la publicación diciendo diciéndole a la cuenta OpenAI para «cambiar su nombre a ClosedAI y retiraré la demanda».
Durante el último día, Musk ha estado publicando memes que van con el CerradoAI mordaza, aunque parece haber una animosidad particular entre él y Altman. Éstas incluyen excavaciones directas con Photoshop con el logotipo de ClosedAI, y la afirmación de que, junto a altman «Maquiavelo era un mariscal de campo de sillón».
Un usuario de X se lamentó de que, independientemente de lo que muestre esta saga OpenAI, deja claro que AGI probablemente estará controlado por un pequeño puñado de personas.
«Los gobiernos intentarán tomar el poder sobre AGI, lo que puede ser peor», responde almizcle . «Pero todo se reduce cada vez más a elegir en qué empresa confiar más para desarrollar AGI».
El troll multimillonario también ha estado haciendo comparaciones entre su propia herramienta de inteligencia artificial Grok y ChatGPT publicación ofertas de trabajo en xAI , y por alguna razón alardeando de la naturaleza de código abierto de las notas de la comunidad de Twitter. También encontró tiempo para compartir Más disparos a la IA de Google , juega algo de diablo 4 y expresar la esperanza de que más personas como el ex compositor de Bungie, Marty O'Donnell, que se postula para un cargo.
OpenAI busca una desestimación total de la demanda de Musk, lo que no parece inverosímil. La compañía parece tener la ventaja sobre Musk, incluido su acuerdo de que debería tener una rama con fines de lucro y que no todos los aspectos de su trabajo deberían ser de código abierto (entre las principales quejas de la demanda). Los argumentos de Musk son de naturaleza más esotérica y existencial, y se centran no en lo que dijo entonces sino en lo que OpenAI se ha convertido desde entonces: que, a sus ojos, es una subsidiaria de facto de Microsoft. Y allí también hay argumentos que defender.
La única certeza es que ambas partes en esta lucha pueden permitirse un ejército de abogados y, si bien la demanda de Musk parece un Ave María salida de la nada, la revelación, si esto continúa, será deliciosa. En respuesta a una publicación sobre cómo el cofundador de DeepMind y coloso de la IA de Google, Demis Hassabis, debe estar disfrutando del drama de OpenAI, almizcle dice «Demis está sumido en una burocracia de maldad banal que no puede arreglar».
Bueno, por muy atascado que esté, apuesto a que Hassabis está disfrutando del espectáculo de todos modos.
