No somos aptos para que Musk hackee OpenAI.
Editor/Zhang Nan
Diseño/Director de departamento
Entre Elon Musk y el actual director ejecutivo de OpenAI, Sam Altman, la disputa comenzó hace cinco años.
Recientemente, debido a la popularidad de ChatGPT, Musk ha vuelto a sacar a relucir viejos problemas.
Dijo en Twitter: “Todavía no entiendo cómo una organización sin fines de lucro a la que doné $6,543,8 mil millones se convirtió en una organización con fines de lucro con un valor de mercado de $30 mil millones, si esto es legal. ¿Por qué otros no hacen esto?”
Altman fue entrevistado por el investigador de inteligencia artificial del MIT Lex Friedman el 25 de marzo. Lex también es un podcaster de celebridades en línea.
La entrevista duró casi dos horas y media. Altman respondió positivamente al bombardeo de Musk sobre la transformación de OpenAI de código abierto a código cerrado, y de una organización sin fines de lucro a una organización con fines de lucro.
Dijo: "Creo que está profundamente nervioso por la seguridad de la AGI (inteligencia general artificial), lo cual es comprensible, pero creo que también tiene otros motivos... Al crecer, siempre he Consideraba a los caballos porque actúa como un imbécil en Twitter, pero todavía me alegro de que haya personas como él en el mundo y espero que vea a más de nosotros haciendo esto... Tal vez debería contraatacar, tal vez en el futuro. pero ese no es mi enfoque normal."
Musk Biar Terman tiene 14 años. Donó 100 millones de dólares cuando se fundó OpenAI el 1 de febrero de 2015. En ese momento, comprometió 100 millones de dólares, invirtiendo junto con el cofundador de PayPal, Peter Thiel, y Altman, entonces presidente de Y Combinator.
En la actualidad, Altman ha dimitido como presidente de Y Combinator y asumió el cargo de OpenAI alrededor de 2018.
Cabe mencionar que el fundador de Nvidia, Huang Jensen, donó la primera supercomputadora DGX-1 fabricada por Nvidia a OpenAI en agosto de 2016. Entre los testigos en ese momento se encontraba Musk.
Esta supercomputadora DGX-1, en palabras de Huang Renxun, es la primera supercomputadora pequeña y liviana que tardó 3.000 personas en desarrollarse. Sus capacidades informáticas y de rendimiento equivalen a 250 servidores tradicionales. En ese momento tenía pedidos de más de 100 empresas, pero donó la primera a OpenAI.
De 2015 a 2018, OpenAI se posicionó como una organización sin fines de lucro y su objetivo era tomar la iniciativa en la creación de máquinas AGI con capacidades de pensamiento, aprendizaje y razonamiento humanos. Su objetivo no es gobernar el mundo, sino esperar que la tecnología pueda desarrollarse de forma segura y sus beneficios puedan distribuirse equitativamente en el mundo.
“Necesitamos una organización de investigación líder que priorice los intereses de toda la gente común sobre los nuestros. Alentamos a los investigadores a publicar su trabajo, ya sean artículos, publicaciones de blogs o códigos, y nosotros las patentes (si las hay). ) se compartirá con el mundo "Esta era la intención original de OpenAI en ese momento.
OpenAI antes de finales de 2018 fomenta el código abierto, la transparencia y el intercambio. Su principal oponente en ese momento era DeepMind. Este laboratorio de inteligencia artificial se creó cinco años antes que OpenAI y fue adquirido por Google en 2014. Su solidez financiera era mucho mayor que la de OpenAI en ese momento.
Divergencia
Para la mayoría de los estadounidenses, la primera vez que oyeron hablar de OpenAI fue el 19 de febrero de 2009, cuando lanzaron ChatGPT-2. Para nosotros, los chinos, ChatGPT parece ser algo que se ha hecho público recientemente.
Ese día, el laboratorio anunció un descubrimiento impresionante: un modelo que podía generar artículos y artículos convincentes con solo presionar un botón. El señor de los anillos, dale una frase y te saldrá igual, pieza a pieza.
El cambio en la naturaleza de la organización de OpenAI comenzó en abril de 2018, cuando el laboratorio publicó sus estatutos. Los estatutos reafirman los valores fundamentales del laboratorio, cambiando sutilmente la declaración original.
Además de comprometerse a "evitar el uso de inteligencia artificial o AGI para dañar a los seres humanos o concentrar indebidamente el poder", la carta esta vez también enfatiza la necesidad de recursos.
“Necesitamos movilizar importantes recursos para cumplir nuestra misión”, se lee en los estatutos de la empresa, “pero siempre nos esforzaremos por tomar medidas que minimicen los conflictos de intereses entre los empleados y las partes interesadas y, en general, "Pero este año, el público y la mayoría de los empleados no estaban al tanto de los cambios silenciosos de OpenAI. Fue en ese momento cuando Musk decidió retirarse de OpenAI. Quizás en ese momento ya conocía la noticia sobre la inversión de Microsoft. Sintió que los valores de ambas partes serían diferentes.
Después de dejar OpenAI, no continuó donando, por lo que comenzó de nuevo y estableció su propio equipo AGI·RD.
El verdadero cambio estructural de OpenAI se produjo en marzo de 2009 en 2065438. Ya no es una organización puramente sin fines de lucro. El laboratorio se ha convertido en una organización con fines de lucro con un "límite máximo de ganancias" que limita el retorno para los inversores a 100 veces. Sin embargo, desde una perspectiva de estructura organizacional, no es una organización completamente sin fines de lucro. una organización con fines de lucro, ya que OpenAI se rige por la junta directiva de una entidad sin fines de lucro.
Poco después, OpenAI anunció que había recibido una inversión de 6.543,8 millones de dólares de Microsoft, pero las dos partes no revelaron si la inversión fue en efectivo o si la plataforma Azure de Microsoft, Azure, también tenía un descuento.
Ultraman se convirtió en el director ejecutivo de OpenAI durante este período. Esta vez, Musk volvió a criticar en Twitter la naturaleza organizativa de OpenAI, que no era más que una continuación de su descontento de hace cinco años.
Por qué de organización sin fines de lucro a empresa con fines de lucro
En la intersección de las calles 18 y Folsom en San Francisco, la oficina de OpenAI parece un almacén misterioso. El edificio histórico tiene paneles grises monótonos y ventanas polarizadas, con la mayoría de las cortinas cerradas. Las letras "Pioneer Building" muestran los restos de su antiguo propietario, Pioneer Truck Works.
El interior de la oficina es luminoso y transparente. Hay varias zonas comunes y dos salas de reuniones en el primer piso. Una, adecuada para grandes conferencias, se llama "A Space Odyssey"; otra sala, más parecida a una gloriosa cabina telefónica, se llama "Infinite Jest".
Hace tres años, Karen Hao, escritora de MIT Technology Review, entrevistó en profundidad a la empresa. En ese momento, sólo se le permitía moverse en el primer piso. El segundo y tercer piso eran áreas restringidas y se mantenían confidenciales. Estas dos plantas son las zonas de oficinas para los empleados y donde se colocan los robots.
Karen conoció a Greg Brockman, cofundador y conocido de OpenAI, en el primer piso. Ella escribió en el artículo: Parecía nervioso y alerta. Estaba vestido con ropa informal y, como muchos en OpenAI, tenía un peinado irregular que parecía encarnar una mentalidad simple y eficiente.
Greg Brockman, miembro del equipo central de OpenAI (en la foto) ▼Segunda fila▼
Brockman dijo que cuando el equipo estudió la tendencia de AGI, se dieron cuenta de que mantener la naturaleza de una organización sin fines de lucro organización No es viable en términos de sostenibilidad financiera. Los recursos informáticos utilizados por otros competidores en el campo para lograr resultados revolucionarios se duplican cada 3,4 meses, lo que requiere capital suficiente para igualar o superar este crecimiento exponencial. Esto requiere un nuevo modelo organizacional que pueda acumular capital rápidamente y al mismo tiempo ser fiel a su misión.
2065438 Este cambio en abril de 2009 provocó que muchas personas acusaran a OpenAI de violar su misión.
En un hilo en un foro relacionado con AGI poco después del anuncio, un usuario preguntó cómo llegó a ser el límite de 65.438.000x: "Los primeros inversores en Google lograron alrededor de 20 veces su tasa de rendimiento de capital", escribieron. . "¿Puedes apostar a que tendrías una estructura corporativa con rendimientos de órdenes de magnitud superiores a los de Google? ¿Al mismo tiempo, dices que no quieres una 'concentración excesiva de poder'? ¿Cómo funcionaría eso? ¿Qué es el poder si no? ¿Concentración de recursos?"
Esta medida también hizo que muchos empleados se sintieran incómodos y expresaron preocupaciones similares.
Pasamos mucho tiempo iterando internamente con nuestros empleados para lograr que toda la empresa aceptara un conjunto de principios y valores, lo que significaba que incluso cuando cambiáramos la estructura, debemos permanecer igual. .”
En el verano de 2019, pocas semanas después de cambiar a un modelo de límite de ganancias y de que Microsoft inyectara mil millones de dólares, la gerencia aseguró a los empleados que estas actualizaciones no cambiarían funcionalmente los métodos de investigación de OpenAI. Los valores de Microsoft y del laboratorio son muy consistentes. Cualquier esfuerzo de comercialización estará lejos y la búsqueda de cuestiones fundamentales seguirá siendo el centro del trabajo.
Durante un tiempo, estas garantías parecieron ser correctas y el proyecto continuó como de costumbre. Muchos empleados ni siquiera saben lo que OpenAI le ha prometido a Microsoft.
Pero a principios de 2020, la presión para la comercialización de OpenAI está aumentando y ganar dinero ya no está fuera de nuestro alcance. Cuando Altman compartió en privado su visión para el laboratorio en 2020 con los empleados, envió un mensaje claro: OpenAI necesita ganar dinero para realizar investigaciones.
La gerencia dice que se trata de un compromiso difícil pero necesario. Tiene que hacer esta concesión debido a la falta de donantes filantrópicos ricos.
Pero la verdadera razón detrás de esto es la compensación que enfrenta OpenAI, que no es solo presión financiera, sino también decisiones estratégicas. OpenAI intenta llegar a AGI antes que nadie.
Esta presión le obliga a tomar decisiones que parecen cada vez más alejadas de sus intenciones originales. En el proceso de atraer financiación y talento, ha tendido a exagerar, proteger su investigación para mantener su ventaja y seguir una estrategia computacionalmente intensiva, no porque se considere un camino necesario hacia la AGI, sino porque parece serlo. el más rápido.
En 2021, Microsoft volvió a invertir, esta vez hasta mil millones de dólares. Por tanto, Microsoft se ha convertido en el proveedor exclusivo de servicios en la nube de OpenAI. En 2023, Microsoft anunció oficialmente que su cooperación con OpenAI había entrado en la tercera fase.
Este artículo fue publicado originalmente por "Automotive Business Review"
Para reimpresión o cooperación en contenido, contáctenos.
La reimpresión ilegal será investigada y sancionada.
Este artículo proviene de "Automotive Business Review" y está escrito por Yichehao. Los derechos de autor pertenecen al autor. Para cualquier forma de reimpresión, comuníquese con el autor. El contenido sólo representa la opinión del autor y no tiene nada que ver con la modificación del coche.