El artículo de 10.000 palabras restaura la historia interna de "Gong Dou" de OpenAI.

El autor de este artículo: Wuji, fuente: Tencent Technology

Según The New Yorker, la startup de IA OpenAI había llegado a un acuerdo ambicioso pero seguro con Microsoft antes del incidente “Gong Dou” del mes pasado. Pero la entonces junta directiva de OpenAI interrumpió por completo el elaborado plan de Microsoft con OpenAI.

A continuación, el texto íntegro del artículo:

El viernes antes del Día de Acción de Gracias de este año (17 de noviembre), alrededor de las 11:30 a.m., el CEO de Microsoft, Satya Nadella, estaba en una reunión semanal con la alta gerencia de la compañía cuando un colega en pánico le pidió que contestara el teléfono. Un ejecutivo de la startup de IA OpenAI llamó para explicar que en los próximos 20 minutos, la junta directiva de la compañía anunciaría el despido del cofundador y CEO de OpenAI, Sam Altman. Este es también el comienzo del drama de cinco días de “pelea palaciega” de OpenAI. Internamente, Microsoft ha bautizado la crisis de OpenAI como “el Turkey-Shoot Clusterfuck”.

El tranquilo Nadella estaba tan sorprendido que no supo qué decir por un momento. Trabajó estrechamente con Ultraman durante más de cuatro años y comenzó a apreciarlo y confiar en él. Además, su colaboración acaba de dar lugar al mayor evento de lanzamiento de Microsoft en una década: una serie de asistentes de IA de vanguardia basados en la tecnología de OpenAI e integrados en las principales aplicaciones de productividad de Microsoft, como Word, Outlook y PowerPoint. Estos asistentes son esencialmente versiones especializadas y más potentes del aclamado ChatGPT de OpenAI, conocido como Office Copilots.

Sin embargo, sin que Nadella lo sepa, hay un problema en la relación entre Ultraman y la junta directiva de OpenAI. Algunos de los seis miembros de la junta consideraron que Altman era “astuto y traicionero”, cualidades comunes a los directores ejecutivos de empresas tecnológicas, pero desagradables para los miembros de la junta con antecedentes académicos o sin fines de lucro. “Sintieron que Altman estaba mintiendo”, dijo una persona familiarizada con las discusiones en la sala de juntas. Estas tensiones ahora están estallando frente a Nadella, amenazando una asociación vital.

Microsoft no ha estado a la vanguardia de la industria tecnológica durante años, pero su alianza con OpenAI, que comenzó como una organización sin fines de lucro en 2015 pero agregó una división con fines de lucro cuatro años después, le ha permitido a Microsoft superar a rivales como Google y Amazon. Copilots hace que sea tan fácil para los usuarios hacer preguntas al software como lo harían con un colega: “Cuénteme sobre los pros y los contras de cada plan descrito en la videollamada” o “¿Cuál es el producto más rentable en estas 20 hojas de cálculo?”- y obtenga respuestas instantáneas en inglés fluido. Los copilotos pueden escribir un archivo completo con instrucciones simples. (“Eche un vistazo a nuestros últimos diez resúmenes ejecutivos y cree un resumen financiero de la última década”). Los copilotos pueden convertir notas en presentaciones de diapositivas, escuchar reuniones de video del equipo, resumir reuniones en varios idiomas y compilar listas de tareas para los asistentes.

El desarrollo de Copilots por parte de Microsoft requiere una colaboración continua con OpenAI, una relación que está en el corazón de los planes de Nadella para Microsoft. En particular, Microsoft ha trabajado con ingenieros de OpenAI para instalar barandillas de seguridad. La tecnología central de OpenAI se llama GPT, que es un tipo de inteligencia artificial conocida como modelo de lenguaje grande. GPT ha aprendido a imitar la conversación humana, lee texto público en grandes cantidades de Internet y otros almacenes de datos, y luego utiliza matemáticas complejas para determinar la relación entre cada pieza de información y todas las demás. Si bien estos sistemas han tenido resultados significativos, también tienen debilidades significativas: una tendencia a “alucinar” o inventar hechos, ayudar a las personas a hacer cosas malas, como hacer fórmulas de fentanilo, y no distinguir entre preguntas razonables (“¿Cómo hablo con un adolescente sobre el consumo de drogas?”) y preguntas siniestras (“¿Cómo convenzo a un adolescente para que consuma drogas?”) Microsoft y OpenAI han desarrollado un protocolo para incorporar medidas de seguridad en las herramientas de IA. Esto, argumentan, les permite alcanzar sus ambiciones sin riesgo de desastre. El lanzamiento de Copilots es un pináculo para estas empresas y demuestra que Microsoft y OpenAI serán clave para llevar la IA al público en general. El lanzamiento de Copilots comenzó esta primavera con una selección de clientes empresariales y se amplió a una gama más amplia en noviembre. ChatGPT se lanzó a finales de 2022 y fue un éxito rotundo, pero solo tenía unos 14 millones de usuarios activos diarios. Microsoft tiene más de 1.000 millones de usuarios activos diarios.

Cuando Nadella se recuperó de la conmoción del despido de Ultraman, llamó a Adam D’Angelo, miembro de la junta directiva de OpenAI, para pedirle detalles. La breve explicación de D’Angelo a Nadella también apareció unos minutos después en el comunicado de la compañía: Altman no “mantuvo la franqueza habitual en sus comunicaciones con la junta”. ¿Se portó mal Ultraman? No, pero D’Angelo no quiso decir más. Él y sus colegas incluso hicieron que Nadella deliberadamente no supiera de su intención de despedir a Ultraman, ya que no querían que Nadella le advirtiera.

Nadella colgó frustrado. Microsoft posee casi la mitad de la división con fines de lucro de OpenAI, y Nadella ciertamente debería ser consultado cuando la junta directiva de OpenAI tome tal decisión. Además, sabía que el despido podría desencadenar una guerra civil dentro de OpenAI y podría extenderse a toda la industria tecnológica, que ha estado debatiendo acaloradamente si el rápido desarrollo de la inteligencia artificial es algo para celebrar o un motivo de preocupación.

Nadella llamó inmediatamente a Kevin Scott, director de tecnología de Microsoft, quien fue responsable de construir la asociación con OpenAI. Scott se había enterado de la noticia, y se difundió rápidamente. Inmediatamente mantuvieron una videoconferencia con otros ejecutivos de Microsoft. Se preguntaron si Altman fue despedido debido a la tensión entre la velocidad y la seguridad al lanzar productos de IA. OpenAI y Microsoft, así como algunos grandes nombres en los círculos tecnológicos, han expresado anteriormente su preocupación por el progreso imprudente de las empresas de IA. Incluso Ilya Sutskever, científico jefe y miembro de la junta directiva de OpenAI, ha hablado abiertamente sobre los peligros de la IA sin restricciones. En marzo de 2023, poco después de que OpenAI lanzara su servicio de IA más potente hasta la fecha, GPT-4, miles de personas, entre ellas Elon Musk, el “Iron Man de Silicon Valley”, y el cofundador de Apple, Steve Wozniak, firmaron una carta abierta en la que pedían una moratoria en el entrenamiento de modelos avanzados de IA. “¿Deberíamos dejar que la máquina inunde nuestros canales de información con propaganda y mentiras?”, preguntaba retóricamente la carta. “¿Deberíamos correr el riesgo de dejar que nuestra civilización se salga de control?”, muchos observadores de Silicon Valley creen que la carta es esencialmente una acusación contra OpenAI y Microsoft.

En cierto modo, Scott respeta sus preocupaciones. Argumenta que para aquellos que saben lo que quieren que haga una computadora, pero carecen de la capacitación para implementarla, la discusión en torno a la IA se ha centrado extrañamente en el escenario de la ciencia ficción -que las computadoras destruyen a la humanidad- e ignora en gran medida el potencial de la tecnología para “nivelar el campo de juego”. Scott cree que si la IA se construye con suficiente cuidado y paciencia, será capaz de comunicarse con los usuarios en un lenguaje sencillo, y puede ser una fuerza para el cambio y el equilibrio.

Scott y sus socios de OpenAI han decidido lanzar productos de IA de forma lenta pero continua: Microsoft observará cómo los usuarios sin educación interactúan con la tecnología, y los usuarios aprenderán por sí mismos las ventajas y limitaciones de la tecnología. Al lanzar un software de IA ciertamente imperfecto y obtener comentarios sinceros de los clientes, Microsoft ha encontrado una manera de mejorar la tecnología y fomentar el escepticismo en los usuarios. Scott argumenta que la mejor manera de gestionar los peligros de la IA es ser lo más transparente posible con el mayor número de personas posible, y permitir que la tecnología impregne gradualmente nuestras vidas, empezando por los usos monótonos. ¿Y qué mejor manera de enseñar a los humanos a usar la IA que a través de algo tan poco sexy como un procesador de textos?

Todo el cauteloso posicionamiento de Scott fue puesto en peligro por el fuego de Altman. A medida que más y más personas se enteraron del despido de Altman, los empleados de OpenAI, que rayaban en la creencia fanática en Altman y la misión de OpenAI, comenzaron a expresar su frustración en línea. Mira Murati, directora de tecnología de la startup, fue nombrada posteriormente directora ejecutiva interina, pero no aceptó el papel con entusiasmo. Pronto, Greg Brockman, el presidente de OpenAI, dijo en la plataforma social X: "Renuncio. Otros empleados de OpenAI también han comenzado a amenazar con renunciar.

Durante una videollamada con Nadella, los ejecutivos de Microsoft comenzaron a discutir una posible respuesta a la destitución de Altman. El Plan A es un intento de estabilizar la situación respaldando a Murati y luego trabajando con ella para ver si la junta directiva de la startup cambiará su decisión, o al menos explicará sus movimientos precipitados.

Si la junta directiva de OpenAI se niega a cumplir, los ejecutivos de Microsoft implementarán un plan B: usar su enorme influencia, incluidos miles de millones de dólares prometidos a OpenAI pero aún no pagados, para ayudar a Altman a regresar al papel de CEO y remodelar la estructura de gobierno de OpenAI reemplazando a los miembros de la junta. Durante la reunión en ese momento, los ejecutivos de Microsoft mencionaron: “Desde nuestra perspectiva, las cosas han ido bien, y la junta directiva de OpenAI ha hecho algunas cosas inestables, así que pensamos: ‘Dejemos que algunos adultos se hagan cargo y retomen todo lo que tenemos’”. '"

Si ambos planes fracasan, el plan C sería que Microsoft contratara a Altman y a sus colegas más talentosos para restablecer OpenAI dentro de Microsoft. En este caso, el gigante del software tendrá todas las nuevas tecnologías que vengan a medida que aparezcan, lo que significa que puede venderlas a otros, lo que podría generar mucho dinero.

Los equipos que participaron en la videollamada consideraron que los tres planes eran sólidos. Pero el objetivo de Microsoft es que todo vuelva a la normalidad. La creencia detrás de esta estrategia es que Microsoft ha descubierto algunos de los elementos importantes de la metodología, las garantías de seguridad y los marcos necesarios para desarrollar una IA responsable. No importa lo que suceda con Ultraman, la compañía está avanzando en la popularización de la inteligencia artificial de acuerdo con su propio plan.

Cifras clave de la asociación con OpenAI

Scott está convencido de que la IA puede cambiar el mundo, y esto se debe a que la tecnología ha revolucionado su propia vida. Creció en Gladys, Virginia, una pequeña comunidad no muy lejos de donde el general Lee, el principal comandante sureño durante la Guerra Civil, se rindió a Grant. Nadie en su familia había ido a la universidad, y el seguro médico era un concepto casi desconocido. Cuando era niño, Scott a veces dependía de sus vecinos para alimentarse. Su padre, un veterinario vietnamita, intentó dirigir una gasolinera, una tienda de conveniencia, una empresa de camiones y varios negocios de construcción, pero todos fracasaron y se declararon en bancarrota dos veces.

Scott quería una vida diferente. Sus padres le compraron una enciclopedia en entregas mensuales, y Scott la leyó de principio a fin, como un gran modelo lingüístico, Avant La Lettre. Para divertirse, desarmó la tostadora y la licuadora de alimentos en casa. Ahorró suficiente dinero para comprar la computadora más barata en Radio Shack, y luego aprendió a programar consultando libros de la biblioteca.

En las décadas previas al nacimiento de Scott en 1972, el área alrededor de Gladys fue el hogar de fábricas de muebles y textiles. Cuando llegó a la adolescencia, gran parte de la industria manufacturera se había trasladado al extranjero. Los avances tecnológicos (automatización de la cadena de suministro y telecomunicaciones) son ostensiblemente culpables porque han facilitado la producción de bienes en el extranjero, donde los gastos generales son más baratos. Pero, incluso cuando era adolescente, Scott sentía que la tecnología no era la verdadera culpable. “El país se dijo a sí mismo que la subcontratación era inevitable”, dijo Scott en una entrevista en septiembre. "Podemos hablarnos a nosotros mismos de los efectos sociales y políticos negativos de la pérdida de la industria manufacturera, o de la importancia de proteger a las comunidades. Pero eso nunca se hizo realidad. "

Después de asistir a Lynchburg College, una escuela local afiliada a Discípulos de Cristo, Scott obtuvo una maestría en ciencias de la computación de la Universidad de Wake Forest y comenzó a trabajar en su doctorado en la Universidad de Virginia en 1998. Estaba fascinado por la inteligencia artificial, pero se enteró de que muchos informáticos la veían como equivalente a la astrología. Los primeros intentos de crear inteligencia artificial fracasaron, y la noción de que el campo tenía el coraje de ser ingenioso estaba profundamente arraigada en el sector académico y en las empresas de software. Muchos de los mejores pensadores han abandonado la disciplina. En el año 2000, algunos académicos intentaron revivir la investigación de la IA renombrándola como “aprendizaje profundo”. Pero el escepticismo persiste: en una conferencia de inteligencia artificial en 2007, algunos científicos informáticos produjeron un video de parodia que sugería que la multitud de aprendizaje profundo estaba compuesta por sectarios.

Mientras Scott cursaba su doctorado, se dio cuenta de que algunos de los mejores ingenieros que había conocido enfatizaban la importancia de ser pesimistas a corto plazo y optimistas a largo plazo. “Es casi una obligación”, dijo Scott. "Ves todo lo que está roto en el mundo, y es tu trabajo tratar de arreglarlo. Incluso si los ingenieros no creen que la mayor parte de lo que están intentando tendrá éxito, y que algunos de los intentos podrían empeorar las cosas, “tienen que confiar en que pueden solucionar el problema hasta que las cosas finalmente mejoren”. "

En 2003, Scott se ausentó de su programa de doctorado para unirse a Google, donde supervisó la ingeniería de publicidad móvil. Unos años más tarde, renunció a Google para hacerse cargo de la ingeniería y las operaciones en AdMob, una startup de publicidad móvil que Google adquirió más tarde por 750 millones de dólares. Scott luego se mudó a LinkedIn, donde era conocido por su excepcional habilidad para crear proyectos ambiciosos de manera inspiradora y realista, y se unió a Microsoft en 2016 cuando se adquirió LinkedIn.

En ese momento, Scott ya era muy rico, pero poco conocido en los círculos tecnológicos porque le gustaba ser “anónimo”. Había planeado dejar LinkedIn después de que se completara la adquisición de Microsoft, pero Nadella, quien se convirtió en director ejecutivo de Microsoft en 2014, lo instó a reconsiderarlo. Nadella compartió información que despertó la curiosidad de Scott sobre la inteligencia artificial, gracias en parte a los microprocesadores más rápidos y a los desarrollos en el campo que hicieron famosa a la tecnología: Facebook ha desarrollado sofisticados sistemas de reconocimiento facial y Google ha construido una inteligencia artificial que puede traducir idiomas de manera experta. Nadella se apresuró a anunciar que en Microsoft, la inteligencia artificial “determinará todas nuestras acciones futuras”. "

Scott no está seguro de si él y Nadella tienen las mismas ambiciones. Envió un memorándum a Nadella explicando que si se quedaba, quería que parte de su agenda fuera elevar a aquellos que generalmente son pasados por alto por la industria tecnológica. Scott espera que la IA ayude a las personas que son inteligentes pero que no tienen una educación digital, y él creció con ellas. Es un argumento convincente: ¿pensarían algunos tecnólogos que es intencional, dado el temor generalizado de que la automatización asistida por IA elimine trabajos como cajeros de supermercados, trabajadores de fábricas o extras de películas?

Sin embargo, Scott cree en una historia más optimista. Dijo en una entrevista que hubo un tiempo en que alrededor del 70 por ciento de los estadounidenses trabajaban en la agricultura. Los avances tecnológicos han reducido la necesidad de mano de obra, ya que solo el 1,2% de la mano de obra se dedica a la agricultura en la actualidad. Pero esto no significa que millones de agricultores estén desempleados: muchos de ellos se convierten en camioneros, o vuelven a la escuela para convertirse en contadores, o encontrar otros caminos. “Quizás en mayor medida, la IA se puede utilizar para revivir el sueño americano más que cualquier revolución tecnológica anterior”, dijo Scott. Sintió que su amiga de la infancia, que dirige un hogar de ancianos en Virginia, podría usar la IA para manejar sus interacciones con Medicare y Medicaid, lo que permitiría a la agencia concentrarse en el cuidado diario. Otro amigo trabaja en una tienda que fabrica piezas de plástico de precisión para parques temáticos, y puede usar inteligencia artificial para ayudarlo a fabricar las piezas. Scott argumenta que la IA puede cambiar la sociedad para mejor al transformar “las transacciones de suma cero con ganadores y perdedores en un progreso de suma no nula”. "

Nadella leyó el memorándum y, como dijo Scott, “sí, eso suena bien”. Una semana después, Scott fue nombrado director de tecnología de Microsoft.

Si Scott quiere que Microsoft lidere la revolución de la IA, debe ayudar a la compañía a superar a Google. Google está tratando de atraer talento en el campo de la inteligencia artificial ofreciendo millones de dólares a casi cualquier persona, incluso si es solo un pequeño avance. Durante los últimos 20 años, Microsoft ha tratado de competir con Google gastando cientos de millones de dólares en proyectos internos de IA, con poco éxito. Los ejecutivos de Microsoft están empezando a pensar que una empresa tan grande como Microsoft, con más de 200.000 empleados y una enorme burocracia, no tiene la flexibilidad y el impulso necesarios para desarrollar la IA. “A veces más pequeño es mejor”, dijo Scott en una entrevista.

En este contexto, Scott comenzó a fijarse en varias startups, una de las cuales se destacó: OpenAI. La misión de la compañía es garantizar que “la inteligencia artificial general, con lo que nos referimos a sistemas altamente autónomos que superan a los humanos en los trabajos económicamente más valiosos, beneficie a toda la humanidad”. Antes de esto, Microsoft y OpenAI ya habían establecido una asociación: la startup utilizaba Azure, la plataforma de computación en la nube de Microsoft. En marzo de 2018, Scott organizó una reunión con algunos empleados de la startup con sede en San Francisco. Le encantó conocer a decenas de jóvenes que rechazaron millones de dólares pagados por las grandes tecnológicas para trabajar 18 horas al día para una organización que prometía que sus inventos no “dañarían a la humanidad ni estarían excesivamente centralizados”. El científico jefe de la compañía, Sutskovy, está particularmente preocupado por prepararse para el surgimiento de la inteligencia artificial, que es tan compleja que podría resolver la mayoría de los problemas de la humanidad, o conducir a la destrucción masiva y la desesperación.

Al mismo tiempo, Altman es un emprendedor carismático que está decidido a hacer que la inteligencia artificial sea útil y rentable. Según Scott, las sensibilidades de la startup son ideales. OpenAI, dijo, está comprometida a “dirigir la energía a las cosas que tienen el mayor impacto”. Tienen una cultura real de ‘esto es lo que estamos tratando de hacer, estos son los problemas que estamos tratando de resolver, y una vez que encontremos algo que funcione, vamos a hacer un esfuerzo adicional’. Tienen sus propias teorías sobre el futuro. "

OpenAI ya había logrado resultados impresionantes en ese momento: sus investigadores habían creado una mano robótica que podía jugar con el cubo de Rubik, incluso con desafíos que no se habían encontrado antes, como atar algunos de sus dedos. Sin embargo, lo que más entusiasma a Scott es que en una reunión posterior, la gerencia de OpenAI le dijo que habían renunciado a la mano robótica porque no era lo suficientemente prometedora. “Las personas más inteligentes son a veces las más difíciles de manejar porque tienen miles de ideas brillantes”, dijo Scott. Pero los empleados de la empresa están casi entusiasmados con su trabajo. Poco después de que Scott se reuniera con Scott en julio, Scott le dijo que la IA “alteraría todas las áreas de la vida humana” y podría hacer que áreas como la atención médica fueran “100 millones de veces mejores” de lo que son ahora. Esa confianza ahuyentó a algunos inversores potenciales, pero Scott la encontró atractiva.

Este optimismo contrastaba fuertemente con la atmósfera sombría que impregnaba a Microsoft en ese momento. Un ex ejecutivo de Microsoft dijo: “Todo el mundo piensa que la IA es un juego de datos, que Google tiene más datos y que Microsoft está en una gran desventaja que nunca podrá reducirse”. El ejecutivo agregó: “Recuerdo que me sentí muy desesperado hasta que Scott nos convenció de que había otra forma de jugar el juego”. "Las diferencias culturales entre Microsoft y OpenAI los convierten en socios especiales. Pero fue sabio para Scott y Altman, quienes dirigieron la aceleradora de startups Y Combinator antes de convertirse en CEO de OpenAI.

Nadella, Scott y otros en Microsoft están dispuestos a tolerar estas cosas extrañas porque creen que si pueden mejorar sus productos con la tecnología OpenAI y aprovechar el talento y la ambición de las startups, obtendrán una ventaja significativa en la carrera de la IA. En 2019, Microsoft acordó invertir 1.000 millones de dólares en OpenAI. Desde entonces, Microsoft ha adquirido una participación del 49 por ciento en la división con fines de lucro de OpenAI, así como los derechos para comercializar las invenciones pasadas y futuras de OpenAI, incluso en productos como Word, Excel, Outlook y las consolas Skype y Xbox.

Murati, que creció en la pobreza

La confianza de Nadella y Scott en esta inversión está respaldada por los lazos que han formado con Ultraman, Sutzke y el CTO Muratti. Scott concede especial importancia a su relación con Murati. Al igual que él, creció en la pobreza. Nacida en Albania en 1988, experimentó el auge del capitalismo de gángsters y el estallido de la guerra civil. Hizo frente a esta agitación participando en concursos de matemáticas.

Cuando Murati tenía 16 años, recibió una beca para una escuela privada en Canadá, donde se destacó. “Gran parte de mi infancia estuvo llena de sirenas, tiroteos y otras cosas horribles”, dijo Murati en una entrevista este verano. "Pero todavía hay cumpleaños felices, amor no correspondido por las adolescentes y océanos de conocimiento. Esto te enseña la virtud de la resiliencia: creer que las cosas mejorarán si sigues intentándolo. "

Mientras estudiaba ingeniería mecánica en Dartmouth, Murati se unió a un equipo de investigación que construía un coche de carreras impulsado por una batería de supercondensador capaz de generar enormes ráfagas de energía. Otros investigadores argumentan que los supercondensadores son poco prácticos, mientras que otros buscan tecnologías más esotéricas. Murati cree que ambos puntos de vista son demasiado extremos. Una persona así nunca habría podido caminar a través del cráter para llegar a su escuela. Hay que ser optimista y realista, dijo Murati, y "a veces la gente malinterpreta el optimismo como un idealismo descuidado. Pero esto tiene que estar bien pensado y bien pensado, con muchas barandillas, de lo contrario, estás asumiendo un gran riesgo. "

Después de graduarse, Murati se unió a TSL antes de unirse a OpenAI en 2018. Scott dijo que una de las razones por las que aceptó la inversión de mil millones de dólares fue que “nunca había visto a Murati entrar en pánico”. Comenzaron a hablar sobre cómo usar supercomputadoras para entrenar varios modelos de lenguaje grandes.

Las dos empresas pusieron rápidamente en marcha un sistema, y los resultados fueron impresionantes: OpenAI entrenó a un robot que puede generar imágenes impresionantes en respuesta a indicaciones como “Muéstrame un babuino lanzando pizza junto a Jesús, presentado al estilo de Matisse”. El otro creó GPT, capaz de responder a cualquier pregunta, aunque no siempre sea correcta, en inglés conversacional. Pero no está claro cómo la persona promedio puede usar esta tecnología para otra cosa que no sea entretenimiento ocioso, o cómo Microsoft recuperará su inversión. A principios de este año, se anunció que la inversión de Microsoft aumentaría a 10.000 millones de dólares.

Un día de 2019, un VP de OpenAI llamado Dario Amodei mostró a sus compañeros algo extraordinario: alimentó a GPT con parte de un programa de software y le pidió al sistema que completara la programación. Lo hizo casi de inmediato (utilizando una técnica que el propio Amoldei no tenía planes de usar). Nadie puede decir exactamente cómo lo hace la IA: los grandes modelos de lenguaje son básicamente una caja negra. El código real de GPT es relativamente pequeño, y sus respuestas se basan palabra por palabra en miles de millones de “pesos” matemáticos que determinan lo que debería generarse a continuación en función de probabilidades complejas. Al responder a la pregunta de un usuario, no es posible trazar todas las conexiones que realiza el modelo.

Para algunos dentro de OpenAI, las misteriosas capacidades de programación de GPT son aterradoras, después de todo, es el escenario de películas distópicas como Terminator. Es casi estimulante cuando los empleados se dan cuenta de que, a pesar de la destreza técnica de GPT, a veces se cometen errores de programación. Después de conocer las capacidades de programación de GPT, Scott y Murati se sintieron un poco aprensivos, pero más emocionados. Siempre están buscando aplicaciones prácticas de inteligencia artificial por las que la gente pueda pagar.

El nacimiento de Copilot

Hace cinco años, Microsoft compró GitHub por las mismas razones por las que invirtió en OpenAI. La cultura de GitHub es joven y de rápido movimiento, sin ataduras por la tradición y la ortodoxia. Después de ser adquirida, se convirtió en una división independiente dentro de Microsoft, con su propio CEO y poder de decisión independiente. La estrategia resultó ser exitosa, y GitHub fue tan popular entre los ingenieros de software que creció a más de 100 millones de usuarios.

Así que Scott y Murati estaban buscando una división de Microsoft que pudiera estar entusiasmada con una herramienta que pudiera automatizar el código, incluso si ocasionalmente sale mal, y recurrieron a Nat Friedman, el CEO de GitHub. Después de todo, el código publicado en GitHub a veces contiene errores, y los usuarios han aprendido a corregir imperfecciones. Friedman dijo que quería la herramienta. Señala que GitHub solo necesita encontrar una forma de decirle a la gente que no pueden confiar plenamente en el autocompletado. Los empleados de GitHub hicieron una lluvia de ideas sobre los nombres de los productos: Coding Autopilot, Automated Pair Programmer, Programarama Automat. Friedman, un piloto aficionado, y otros creen que los nombres implican falsamente que la herramienta hace todo el trabajo. Y esta herramienta se parece más a un copiloto: alguien que se mete en la cabina contigo y te hace recomendaciones, mientras que de vez en cuando hace algunas sugerencias inoportunas. Por lo general, escuchas al copiloto, a veces eliges ignorarlo. Cuando Scott escuchó el nombre favorito de Friedman, GitHub Copilot, le encantó. “El nombre transmite perfectamente sus pros y sus contras”, dijo Scott. "

Pero mientras GitHub se prepara para lanzar Copilot en 2021, algunos ejecutivos de otras divisiones de Microsoft protestan, argumentando que la herramienta ocasionalmente comete errores y daña la reputación de Microsoft. “Es una pelea dura”, me dijo Friedman. "Pero soy el CEO de GitHub, y sabía que era un gran producto, así que lo lancé. "Cuando se lanzó GitHub Copilot, fue un éxito inmediato. “Copilot simplemente me voló la cabeza”, tuiteó un usuario horas después de publicarlo. “Es mágico !,”, decía otra publicación. Microsoft comenzó a cobrar 10 dólares al mes por la aplicación, y en menos de un año, los ingresos anuales de GitHub superaron los 100 millones de dólares. Se ha premiado la independencia del sector.

Pero GitHub Copilot también ha causado una reacción menos positiva. En los tableros de mensajes, los programadores especulan que si alguien es demasiado perezoso o ignorante para verificar el código de autocompletar antes de implementarlo, esta técnica podría canibalizar su trabajo, o alimentar a los ciberterroristas, o causar caos. Destacados académicos, incluidos algunos pioneros de la IA, citan la declaración del difunto Stephen Hawking de 2014 de que “toda la IA podría significar el fin de la humanidad”. "

Es sorprendente que los usuarios de GitHub Copilot hayan descubierto tantas posibilidades catastróficas. Pero los ejecutivos de GitHub y OpenAI también han notado que cuantas más personas usan la herramienta, más matizada se vuelve su comprensión de sus capacidades y limitaciones. “Después de usarlo por un tiempo, te haces una idea de en qué es bueno y en qué no es bueno”, dice Friedman. “Tu cerebro aprenderá a usarlo correctamente”.

Los ejecutivos de Microsoft creen que han encontrado una estrategia de IA que es a la vez audaz y responsable. Scott comenzó a escribir un memorándum titulado “La era del copiloto de IA”, que se envió a los líderes técnicos de Microsoft a principios de 2023. Es importante destacar que, escribe Scott, Microsoft ha encontrado una poderosa metáfora para explicar la tecnología al mundo: "Copilot hace exactamente lo que su nombre sugiere: es un asistente experto para los usuarios que intentan realizar tareas complejas… Copilot puede ayudar a los usuarios a comprender los límites de sus capacidades. "

Después del lanzamiento de ChatGPT, introdujo la inteligencia artificial a la mayoría de las personas y rápidamente se convirtió en la aplicación de consumo de más rápido crecimiento en la historia. Pero Scott puede ver el futuro: las máquinas y los humanos interactúan a través del lenguaje natural, y las personas, incluidas las que no saben nada de programación, programan computadoras simplemente diciendo lo que piensan. Esta es la igualdad de condiciones que siempre ha estado persiguiendo. Como dijo el cofundador de OpenAI en las redes sociales: "El nuevo lenguaje de programación más popular es el inglés. "

“Nunca antes en mi carrera había experimentado un momento en el que mi campo haya cambiado tanto, y la oportunidad de reimaginar lo que es posible es tan real y emocionante”, escribió Scott. "La siguiente tarea fue llevar el éxito de GitHub Copilot, un producto boutique, al software más popular de Microsoft. Estos motores Copilot serán una nueva invención de OpenAI: un gran modelo de lenguaje. OpenAI lo llama GPT-4.

Microsoft intentó llevar la IA a las masas hace muchos años, pero terminó en un vergonzoso fracaso. En 1996, la compañía lanzó Clippy, un “asistente” para sus productos de oficina. Clippy aparece en la pantalla como un clip con grandes ojos de dibujos animados, que aparecen aparentemente al azar, preguntando al usuario si necesita ayuda para escribir una carta, abrir PowerPoint o completar otra tarea. Alan Cooper, un prominente diseñador de software, dijo más tarde que el diseño de Clippy se basó en un “trágico malentendido” de la investigación que mostraba que las personas podrían ser más capaces de interactuar con computadoras que parecían tener emociones. Los usuarios ciertamente tienen emociones hacia Clippy: lo odian. El Smithsonian lo llamó “uno de los peores errores de diseño de software en la historia de la computación”. "En 2007, Microsoft despidió a Clippy.

Nueve años después, Microsoft creó Tay, un chatbot de IA diseñado para imitar el tono y la atención de una adolescente, con el objetivo de interactuar con los usuarios de Twitter. Casi de inmediato, Tay comenzó a publicar contenido racista, sexista y homofóbico, incluida una declaración de que “Hitler tenía razón”. En las primeras 16 horas después de su lanzamiento, Tay fue publicado 96.000 veces, momento en el que Microsoft se dio cuenta de que era un desastre de relaciones públicas y lo cerró.

A finales de 2022, los ejecutivos de Microsoft se sintieron listos para comenzar a desarrollar Copilots para Word, Excel y otros productos. Pero Microsoft entiende que, al igual que las leyes cambian constantemente, la necesidad de generar nuevas protecciones seguirá aumentando, incluso después de que se lance un producto. Sarah Bird, jefa de ingeniería de IA, y Scott a menudo se sienten avergonzados por los errores de la tecnología. Durante la pandemia, cuando probaron Dall-E 2, un generador de imágenes para otro invento de OpenAI, descubrieron que si se le pedía al sistema que creara imágenes relacionadas con el coronavirus, a menudo generaba imágenes de estantes vacíos. A algunos empleados de Microsoft les preocupa que esa imagen exacerbe los temores de un colapso económico causado por la pandemia, y han sugerido cambiar las medidas de seguridad del producto para frenar la tendencia. Pero el resto de Microsoft piensa que estas preocupaciones son estúpidas y que no vale la pena el tiempo que dedican los ingenieros de software.

Scott y Byrd decidieron probar este escenario en un comunicado público limitado en lugar de juzgar este debate interno. Lanzaron una versión del generador de imágenes y luego esperaron a ver si los usuarios se molestarían al ver estantes vacíos en sus pantallas. No idean una solución a un problema del que nadie está seguro, como un clip con ojos redondos que te ayuda a navegar por un procesador de textos que ya sabes cómo usar, solo agregan una mitigación si es necesario. Después de monitorear las redes sociales y otros rincones de Internet, y recopilar comentarios directos de los usuarios, Scott y Byrd concluyeron que estas preocupaciones eran infundadas. “Tienes que experimentar en público”, dijo Scott. "No puedes tratar de encontrar todas las respuestas por tu cuenta y esperar que hagas todo bien. Tenemos que aprender a usar estas cosas juntos, de lo contrario ninguno de nosotros lo entenderá. "

A principios de 2023, Microsoft se prepara para lanzar la primera integración de GPT-4 en un producto de la marca Microsoft: el motor de búsqueda Bing. Bing, que integra tecnología de inteligencia artificial, ha sido muy bien recibido, con descargas que se han multiplicado por ocho. Nader bromeó diciendo que Microsoft había vencido al “gorila de 800 libras” como una burla a Google. (A pesar de lo impresionante que es esta innovación, no significa mucho en términos de cuota de mercado: Google todavía tiene más del 90% de la cuota de búsqueda). ）

Bing es solo el comienzo en la agenda de Microsoft. Posteriormente, Microsoft comenzó a implementar Copilot en otros productos. Cuando Microsoft finalmente comenzó a implementar Copilots esta primavera, el lanzamiento de las versiones fue cuidadosamente escalonado. Inicialmente, solo las grandes empresas podían usar la tecnología, y solo estará disponible para más y más usuarios a medida que Microsoft comprenda cómo la usan estos clientes y desarrolle mejores protecciones. A partir del 15 de noviembre, decenas de miles de personas ya están usando Copilots, y se espera que millones se inscriban pronto.

Dos días después, Nadella se enteró de que Ultraman había sido despedido. Algunos miembros de la junta directiva de OpenAI consideraron que Ultraman era un manipulador preocupantemente astuto. A principios de este otoño, por ejemplo, se enfrentó a Helen Toner, directora del Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown, por ser coautora de un artículo que parecía criticar a OpenAI por “alimentar las llamas de la exageración de la IA”. Tonna se defendió (aunque más tarde se disculpó con la junta por no esperar cómo se percibiría el periódico). Ultraman comienza a comunicarse con otros miembros de la junta individualmente para discutir su reemplazo. Cuando los miembros intercambiaron transcripciones de sus conversaciones, algunos creyeron que Ott las había malinterpretado como un apoyo al despido de Tona. “Mentirá sobre las ideas de otras personas y hará que se peleen entre sí”, reveló una persona familiarizada con las discusiones de la junta. "Algo así viene ocurriendo desde hace años. (Una persona familiarizada con los puntos de vista de Altman dijo que reconocía que “la forma de tratar de destituir a un miembro de la junta era torpe”, pero que no intentó manipular a la junta). ）

Planes A, B y C de Microsoft

Ultraman es considerado un astuto luchador corporativo. Esto ha ayudado a OpenAI en el pasado: en 2018, bloqueó el impulso de Elon Musk, uno de los primeros miembros de la junta, para comprar OpenAI. La capacidad de Ultraman para manipular la información y manipular la cognición, tanto abierta como encubierta, atrae a los capitalistas de riesgo a competir entre sí invirtiendo en varias startups. Sus habilidades tácticas eran tan intimidantes que cuando los cuatro miembros de la junta (Tona, D’Angello, Suzkwe y Tasha McCauley) comenzaron a discutir la posibilidad de destituirlo, estaban decididos a tomarlo por sorpresa. “Está claro que una vez que Sam lo sepa, va a hacer todo lo posible para debilitar a la junta”, dijo una persona familiarizada con esas discusiones.

Los miembros de la junta disgustados sintieron que la misión de OpenAI requería que estuvieran atentos a que la IA se volviera demasiado peligrosa, y sintieron que con Altman en el poder, no podrían cumplir con este deber. “La tarea es multifacética, garantizar que la IA beneficie a toda la humanidad, pero nadie puede hacerlo sin responsabilizar al CEO”, dijo otra persona que entiende el pensamiento de la junta. Ultraman ve el problema desde un ángulo diferente. Personas familiarizadas con sus puntos de vista dicen que él y la junta tuvieron un “debate muy normal y saludable”, pero algunos miembros de la junta no están familiarizados con las normas comerciales y se sienten intimidados por sus responsabilidades. El hombre dijo: "Cada vez que damos un paso más hacia la inteligencia artificial, todo el mundo sufre 10 puntos de locura. "

Es difícil decir si los miembros de la junta tienen más miedo de las computadoras sensibles o si están preocupados por las afirmaciones de Altman. De cualquier manera, la junta directiva optó por atacar primero, creyendo erróneamente que Microsoft los apoyaría y atacaría conjuntamente a Altman y apoyaría su decisión de eliminarlos.

Poco después de que Nadella se enterara del despido de Altman y llamara a Scott y a otros ejecutivos para una videoconferencia, Microsoft comenzó a ejecutar el Plan A: respaldar a Murati como CEO interino para estabilizar la situación mientras intentaba averiguar por qué la junta era tan impulsiva. Nadella ha aprobado la publicación de un comunicado en el que enfatiza que “Microsoft sigue comprometido con Mira y su equipo a medida que traemos la próxima era de IA a nuestros clientes” y expresó el mismo sentimiento en sus cuentas personales de X y LinkedIn. Mantiene contacto frecuente con Murati para mantenerse al tanto de la información que tiene de la junta.

La respuesta es: no mucho. La noche antes de que Ultraman fuera despedido, la junta informó a Murati de su decisión y recibió la promesa de ella de permanecer en silencio. Creen que su consentimiento significa que apoya el despido de Ultraman, o al menos no se opondrá a la junta directiva, y también piensan que otros empleados estarán de acuerdo. Se equivocaron. Internamente, Murati y otros ejecutivos de OpenAI expresaron su descontento, y algunos empleados vieron las acciones de la junta como un golpe de Estado. Los empleados de OpenAI hicieron preguntas directas a los miembros de la junta, pero la junta apenas respondió. Dos personas familiarizadas con el pensamiento de la junta dijeron que los miembros de la junta se sintieron obligados a permanecer en silencio debido a preocupaciones de confidencialidad. Además, a medida que la destitución de Altman se convirtió en noticia mundial, los miembros de la junta se sintieron abrumados, “ancho de banda limitado para interactuar con cualquiera, incluido Microsoft”. "

Al día siguiente del despido de Altman, el director de operaciones de OpenAI, LTC Brad Lightcap, envió un memorando a toda la empresa diciendo que se enteró de que “la decisión de la junta no es en respuesta a la malversación ni a nada relacionado con nuestras prácticas financieras, comerciales, de seguridad o de seguridad/privacidad”. Continuó diciendo: “Es una ruptura en la comunicación entre Sam y la junta”. Pero cada vez que se le pedía a Altman que diera un ejemplo de que no había sido “consistentemente sincero en sus comunicaciones”, como la junta se había quejado inicialmente, los miembros de la junta permanecían en silencio y se negaban incluso a mencionar la campaña de Altman contra Toler.

Dentro de Microsoft, todo el asunto parece increíblemente estúpido. Según los informes, OpenAI tiene un valor de alrededor de $ 80 mil millones hasta ahora. “A menos que el objetivo de la junta directiva de OpenAI sea destruir toda la empresa, siempre parecen estar tomando inexplicablemente las peores decisiones cada vez que toman una decisión”, dijo uno de los ejecutivos de la compañía. "Incluso cuando otros empleados de OpenAI renunciaron públicamente bajo el presidente Brockman, la junta permaneció en silencio.

El plan A fracasó claramente. Como resultado, los ejecutivos de Microsoft recurrieron al Plan B: Nadella comenzó a consultar con Murati para ver si había una manera de reinstalar a Altman como CEO. Mientras tanto, la Copa Mundial de Críquet está en marcha, con la querida India de Nadella enfrentándose a Australia en la final. Nadella ocasionalmente publica en las redes sociales para actualizarse sobre los desarrollos del evento, con la esperanza de aliviar la tensión, pero muchos de sus colegas no saben de qué está hablando.

Los empleados de OpenAI amenazaron con rebelarse. Murati y otros en la startup, respaldados por Microsoft, comenzaron a instar a todos los miembros de la junta a renunciar. Eventualmente, algunos de ellos aceptaron irse, siempre y cuando pensaran que el reemplazo era aceptable. Dijeron que incluso podrían estar abiertos al regreso de Altman, siempre y cuando no sea el CEO y no obtenga un puesto en la junta. Para el domingo antes del Día de Acción de Gracias, todos estaban agotados. La junta directiva de OpenAI invitó a Murati a unirse a ellos a solas para una conversación privada. Le dijeron que habían estado contratando en secreto a un nuevo director ejecutivo y que finalmente habían encontrado a alguien dispuesto a aceptar el trabajo.

Para Murati, los empleados de OpenAI y Microsoft, solo pueden agarrar la gota que colma el vaso y lanzar el Plan C. El domingo por la noche, Nadella invitó formalmente a Altman y Brockman a dirigir un nuevo laboratorio de investigación de inteligencia artificial dentro de Microsoft y proporcionar todos los recursos y toda la libertad que quisieran. Ambos aceptaron. Microsoft comenzó a preparar oficinas para los cientos de empleados de OpenAI que pensaban que se unirían al departamento.

Murati y sus colegas escribieron una carta abierta a la junta directiva de OpenAI: "No podemos trabajar ni trabajar con personas que carecen de competencia, juicio y que no se preocupan por nuestra misión y empleados. El autor de la carta prometió renunciar y “unirse a la recién formada subsidiaria de Microsoft” a menos que todos los miembros actuales de la junta renuncien y Altman y Brockmann sean reelegidos. A las pocas horas, casi todos los empleados de OpenAI firmaron la carta.

El Plan C y la amenaza de una salida masiva de OpenAI fueron suficientes para suavizar la actitud de la junta. Dos días antes del Día de Acción de Gracias, OpenAI anunció que Altman volvería a su cargo de CEO. Con la excepción de D’Angelo, todos los miembros de la junta renunciarán, mientras que figuras más conocidas, incluido el ex ejecutivo de Facebook y presidente de Twitter, Bret Taylor, y el ex secretario del Tesoro y presidente de la Universidad de Harvard, Larry Summers, formarán parte de las juntas. Los ejecutivos de OpenAI acordaron una investigación independiente sobre lo sucedido, incluidas las acciones pasadas de Altman como CEO.

Aunque el Plan C inicialmente parecía tentador, los ejecutivos de Microsoft concluyeron más tarde que la situación actual era el mejor resultado. Transferir a los empleados de OpenAI a Microsoft podría dar lugar a demandas costosas y que hagan perder tiempo, así como a investigaciones gubernamentales. Bajo el nuevo marco, a Microsoft se le ha dado un asiento de observador sin derecho a voto para OpenAI, lo que le da una mayor influencia sin atraer el escrutinio regulatorio.

La gran victoria de Microsoft

De hecho, el fin de este culebrón es visto como una gran victoria para Microsoft y un poderoso respaldo a su enfoque para desarrollar la inteligencia artificial. Un ejecutivo de Microsoft dijo: "Altman y Brockman son realmente inteligentes, pueden ir a cualquier parte. Pero eligieron a Microsoft, y toda esa gente de OpenAI está lista para elegir a Microsoft, tal como lo hicieron con nosotros hace cuatro años. Esta es una gran validación del sistema que hemos establecido. Todos saben que este es el mejor lugar, el lugar más seguro para continuar el trabajo que están haciendo. "

Al mismo tiempo, los miembros de la junta despedidos insistieron en que habían actuado sabiamente. “Va a haber una investigación completa e independiente, y en lugar de poner a un grupo de compinches de Sam en la junta, terminamos con nuevas personas que pueden enfrentarse a él”, reveló una persona familiarizada con las discusiones de la sala de juntas. "Sam es muy poderoso, es muy persuasivo, es bueno para hacer lo que quiere, y ahora se está dando cuenta de que la gente lo está mirando. El ex director Tonna dijo: "La Junta sigue centrada en cumplir con nuestras obligaciones con la misión de OpenAI. (Altman les dijo a los demás que acogía con beneplácito la investigación, en parte para ayudarlo a comprender por qué había ocurrido tal tragedia y qué cosas diferentes podría haber hecho para evitar que sucediera). ）

Algunos reguladores de IA no estaban particularmente satisfechos con el resultado. Margaret Mitchell, jefa de ética de Hugging Face, una plataforma de inteligencia artificial de código abierto, cree que “cuando la junta despidió a Ultraman, realmente estaba haciendo su trabajo”. Su regreso tendrá un efecto escalofriante. Vamos a ver cada vez menos personas hablando dentro de la empresa porque piensan que van a ser despedidos, y las personas en la cima van a ser aún más irresponsables. "

En lo que respecta a Ultraman, está listo para discutir otras cosas. “Creo que nos estamos moviendo hacia un buen gobierno y buenos miembros de la junta, y vamos a hacer una evaluación independiente, lo que me emociona mucho”, me dijo. "Solo quiero que todos sigan con sus vidas y sean felices. Continuaremos con esta misión. "

Para alivio de Nadella y Scott, todo ha vuelto a la normalidad en Microsoft con el lanzamiento masivo de Copilots. Sin embargo, Office Copilots se ve impresionante y mediocre a la vez. Facilitan las tareas mundanas, pero aún están muy lejos de reemplazar a los trabajadores humanos. Se sienten muy lejos de lo que predice la ciencia ficción, pero también son cosas que la gente podría usar todos los días.

Según Scott, este efecto fue intencional. “El verdadero optimismo significa tomarse su tiempo a veces”, dijo. Si él, Murati y Nadella consiguen su deseo, lo que ahora es más probable dadas sus recientes victorias, la IA continuará impregnando nuestras vidas de manera constante, lo suficientemente rápido como para acomodar las advertencias necesarias para el pesimismo a corto plazo, y solo si los humanos son capaces de absorber cómo se debe usar esta tecnología. Las cosas aún pueden salirse de control, y el desarrollo gradual de la IA evitará que seamos conscientes de estos peligros hasta que sea demasiado tarde. Pero, por ahora, Scott y Murati creen que pueden equilibrar el progreso y la seguridad.

“La inteligencia artificial es una de las cosas más poderosas que los humanos han inventado para mejorar la calidad de vida de todos”, dijo Scott. Pero lleva tiempo, y debería llevar tiempo. Siempre utilizamos la tecnología para resolver problemas muy desafiantes. Por lo tanto, podemos contarnos a nosotros mismos una buena historia sobre el futuro o una mala historia sobre el futuro: sea cual sea la que elijamos, tiene el potencial de convertirse en realidad. "

Fuente: Golden Finance