Investigadores de OpenAI alertan sobre descubrimiento de IA que podría 'amenazar a la humanidad'

La controversia en torno a OpenAI continúa dando de qué hablar y es que en esta ocasión se reveló una carta enviada por investigadores de la empresa al Consejo de Administración. La misiva alertaba sobre un descubrimiento de inteligencia artificial que podría "poner en riesgo a la humanidad".

Dos fuentes allegadas a la empresa confirmaron a Reuters la existencia de esta carta, enfocada en el proyecto Q* y sus posibles consecuencias tras su comercialización precipitada. El proyecto Q*, que ha logrado avances notables en la resolución de problemas matemáticos al nivel de un estudiante de primaria, es el núcleo de la discordia. Aunque promete un hito en la ciencia, los expertos advierten un riesgo inminente para la humanidad.

El grupo de "científicos de IA" de OpenAI ha combinado los generadores de información "Code Gen" y "Math Gen" para mejorar los modelos de IA existentes y ampliar sus capacidades. A medida que los sistemas autónomos superan a los humanos en tareas valiosas, la creciente capacidad de Q* para razonar y realizar trabajo científico plantea inquietudes sobre su similitud con la inteligencia humana y sus posibles consecuencias.

La carta fue entregada antes del despido del CEO Sam Altman, aparentemente relacionado con discrepancias sobre la seguridad de la empresa, según informes. A pesar de ello, Altman fue contratado por Microsoft, lo que provocó que más de 500 empleados de OpenAI firmaran una carta exigiendo su retorno, logrando que Altman volviera a tomar el cargo de director ejecutivo en OpenAI.

Mientras tanto, advertencias sobre la seguridad en la IA provienen de líderes empresariales como Elon Musk y del reemplazo planeado de Altman, Emmett Shear. Estas controversias ocurren mientras la Unión Europea se acerca a su primera regulación de inteligencia artificial, previendo restricciones en su aplicación.

Elon Musk, propietario de X, compartió una carta de supuestos exempleados que acusaba a Altman y a Brockman, presidente de OpenAI, de manipulación y engaño en su obsesión por lograr la inteligencia artificial general. Esta polémica ha generado un debate intenso sobre los límites y la responsabilidad en el desarrollo de la IA.

Para más noticias, no dudes en seguirnos en Google News y en nuestro canal de WhatsApp para recibir la mejor información. Te invitamos a suscribirte gratis a nuestro Newsletter.