El nuevo responsable de OpenAI, un “apocalíptico” que quiere desarrollar inteligencia artificial | Tecnología

¿Quién es la persona adecuada para liderar una empresa de inteligencia artificial (IA) con Microsoft como principal socioprofesional? A pesar de Sam Altman, los asesores independientes de OpenAI pensaron que el ideal era Emmett Shear, una persona que tiene la inteligencia artificial como una amenaza para la humanidad y que se dirige a Microsoft. ChatGPT nunca fue detectado.

Cizalla, 40 años, fue definido como un sentenciado, un fatalista o un apocalíptico. Pertenece al grupo de quienes creen que existe un alto riesgo de que la inteligencia artificial tenga la misma conciencia, iniciando un proceso de mejora automática continua y destruyendo a la humanidad. algo como yo terminador, pero sin viajar en el tiempo. Se ha mostrado partidario del desarrollo de inteligencia artificial para minimizar riesgos.

En una entrevista de junio para un podcast Explique su posición. Aunque en general es a favor de las nuevas tecnologías que se dice: “Tengo una preocupación muy específica sobre la IA”. Shear explica que la inteligencia artificial será capaz de programar, diseñar microprocesadores, materiales, energía y todo lo necesario para construir una inteligencia artificial, entrando en un bucle para que cada inteligencia artificial sea cada vez mejor y más rápida. “Este tipo de inteligencia es algo intrínsecamente muy peligroso”, indicando, antes de referirse a la seguridad de los argumentos y las condiciones que se pueden explicar: “Sé que Eliezer (Yudkowsky, un activista de seguridad en la ‘inteligencia artificial) piensa que estamos Todos los capacitores con seguridad. Entendiendo su argumento de destrucción, entendiendo la cadena lógica, pero mi probabilidad de destrucción es como entre el 5% y el 50%, un rango muy amplio”, dice.

Además, lo consideró ofensivo: “Esto hay que hacerlo para que te escondas en los pantalones. No hay extinción a nivel humano. Extinguir a los seres humanos ya es malo. Así es como se produce la potencial destrucción de todo valor en el mundo de la luz. Esto no es sólo para nosotros, sino para cualquier especie alienígena atrapada en la estela de la explosión. Es como una bomba que destruye el universo”, añadió, comparando el riesgo de la inteligencia artificial con el de quien inventa una forma de bombas nucleares 10 veces más poderosas solo con la arena y la ley.

El nuevo asesor delegado de OpenAI ahora tiene su carrera en Twitch, la red social roja de vídeos. TI sobrealimentada, financiada justin tv con su compañero de clase Justin Kan. Fue entonces una empresa que evolucionó hasta convertirse en Twitch. Transformé una plataforma especializada en la retransmisión de videojuegos en una gigantesca industria del entretenimiento, que Amazon compró por 970 millones de dólares en 2014. También es un gran aficionado a los videojuegos: “Lo de Twitch me hizo disfrutar, mucho, mucho. , mucho Barco de estrellas«, dijo durante una conferencia de la empresa sobre el juego estratégico de Activision Blizzard, según Bloomberg. Casi nadie transmite juegos en transmisión. Dirigiste Twitch hasta agosto, cuando decidiste dedicarte a tu nueva carrera. La plataforma ha recibido críticas porque no es capaz de frenar el machismo, el sexismo, el racismo y también muchas cosas de nuestros usuarios en los comentarios.

Chovinismo masculino

La directiva no se corta en las redes sociales y por tanto se encarga por ejemplo de comentar hierientes comentarios contra Microsoft, principal socio, cliente y proveedor de OpenAI. «Cuando tengo prácticas en Microsoft, cada vez que reviso, apuesto a pagar por la devolución de mi alma por correo», dijo en julio. Pero también lo mostraré como machista y sexista. En agosto, antes de su nombramiento en OpenAI, Shear respondió a una publicación sobre mujeres que abogaban por el «uso gratuito», que siempre están sexualmente disponibles para sus parejas. confirmando que se trata de un «fetiche BDSM (dominación, sumisión y sadomasoquismo) de no consentimiento/humillación”. Agregar a otra publicación que “entre el 40 y el 60% de las mujeres tienen fantasías de violación/falta de consentimiento”, citando un artículo de Wikipedia.

El nuevo jefe interno de OpenAI es partidario del desarrollo de la inteligencia artificial: “Soy partidario de tomar las cosas con calma. No podemos construir una IA segura sin experimentar, y no podemos experimentar sin progresar, pero probablemente tendremos que avanzar a toda velocidad”. tuiteaba sólo ha estado dos meses.

Shear es una opción especial para una empresa con inteligencia artificial, pero con la idea de ingenieros independientes actuales que tienen el poder en OpenAI. Según el estatuto, para que los empleados intenten invertir, estos consejeros, que no pueden maximizar el valor de la empresa con respecto al bien de la humanidad, informan las directivas según las cuales «permitir la destrucción de la empresa será coherente con el misión.» «. El nuevo liderazgo se basa en el movimiento altruista eficaz, como lo hicieron los dos consultores independientes que trabajaron con el control de OpenAI. Este movimiento tiene reservas sobre la inteligencia artificial avanzada.

A diferencia del despido de Altman, OpenAI no ha anunciado públicamente el historial de Shear y, por lo tanto, no ha explicado sus razones o motivación para su viaje marítimo temporal. Presentó el nombre durante una comunicación interna y fue dirigido directamente a la persona que contactó el rojo social Sus razones para aceptar el punto: “Hoy recibió una invitación para considerar una oportunidad única en la vida: transformarme en el CEO interno de OpenAI. Después de consultar con mi familia y pensarlo durante sólo una hora, estuvo de acuerdo”, escribió.

“Me parece que mi cargo de CEO de Twitch se ha reducido debido al nacimiento de mi hijo, que ahora cumple un nuevo mes. Pasar tempo con el ha sido tan gratificante como pensaba que sería, et estaba evitando felizmente un empleo a temps po completo. Aceptó este trabajo porque cree que OpenAI es una de las empresas más importantes que existen en la actualidad. Cuando el consejo comparó la situación y me dijo que aceptaban el punto, no tomaron la decisión al más alto nivel. En definitiva, siento que tendrás el deber de ayudar si puedo», explicó este luna como parte de un mensaje largo.

El futuro en el aire

En su declaración de intenciones, debe garantizar la eficiencia y estabilidad de OpenAI y debe respetar su “respeto” por todo lo que ha construido la empresa hoy. “No se trata sólo de un proyecto de encuesta y un producto de software sorprendentes, sino también de un negocio increíble. Estoy aquí porque estoy y quiero hacer todo lo que esté a mi alcance para protegerme y crecer aún más”, afirmó.

La esquila no será fácil. El 95% de los empleados de OpenAI fueron contactados por el administrador de la empresa por el desprecio de Sam Altman. Microsoft ha presentado una disputa sobre los archivos si eso falla, pero otras compañías de tecnología también han lanzado ofertas. El futuro de la empresa de inteligencia artificial está en el aire ante una posible deserción masiva. El propio Shear pudo investigar en primer lugar las circunstancias del desacato de Altman y, según Bloomberg, impugna el límite si no se realizó ninguna prueba de comportamiento inapropiado por parte de la parte de su antecedente.

Por curiosidad, al considerar ChatGPT, que es un buen asesor delegado para OpenAI, su lista de cinco es: el fundador de Tesla y SpaceX, Elon Musk; el jefe de Microsoft, Satya Nadella; el cofundador de DeepMind, Demis Hassabis; la ex directora de operaciones de Facebook, Sheryl Sandberg, y el cofundador de Coursera, Andrew Ng.

Una alternativa para la mayoría de la gente en Estados Unidos será enfrentarse a la inteligencia artificial, pero esa es la idea de Emmett: «No hay ironía». La mayor parte del trabajo del director general (y la mayor parte de los puestos ejecutivos) es muy automatizable. Por supuesto, hay decisiones clave que no pueden ser reemplazadas», tuiteó la vida de desprecio de Sam Altman.

Puedes seguir un EL PAÍS Tecnología fr. FacebookX o haga clic aquí para recibir el nuestro boletín semanal.

Suscríbete para seguir el curso

Límites del pecado de Lee

_