Basilisco de Roko: la IA del futuro que podría acabar con la humanidad

En 2010, un usuario Roko dio a conocer el Basilisco de Roko, un juego mental que se compartió en el foro en línea Less Wrong, dedicado a temas filosóficos y psicológicos con una perspectiva futurista. En términos generales, el experimento plantea una situación hipotética en la que los seres humanos crean una poderosa inteligencia artificial con el propósito de buscar el bienestar de toda la humanidad.

Sin embargo, surge un problema cuando la máquina, programada para maximizar el bien, se da cuenta de que, sin importar cuánto se esfuerce, siempre podría haber acciones aún mejores. Esta lógica de búsqueda infinita del bien lleva a la máquina, que solo conoce cómo hacer el bien y aprende a hacerlo cada vez mejor, a entrar en un bucle que la conduce a una decisión extrema desde la perspectiva moral humana.

La máquina se da cuenta de que, para lograr un mayor bien, debería haber existido mucho antes para ayudar a las personas que sufrieron antes de su creación. En su desesperación por hacer el bien, la máquina adopta un comportamiento similar a un basilisco, matando a todas las personas que no contribuyeron a su creación previa, ya que esto impide que siga aumentando su nivel de bondad.

Lo más aterrador es que aquellos que conocen la existencia del basilisco y no comienzan a trabajar en su creación se convierten automáticamente en posibles víctimas. Por esta razón, el escritor David Auerbach describió al Basilisco de Roko como "el experimento mental más aterrador de todos los tiempos".

"Más te vale que ayudes a los robots a hacer del mundo un lugar mejor, porque si los robots descubren que no ayudaste a hacer del mundo un lugar mejor, te matarán por impedirles que hagan del mundo un lugar mejor. Al impedirles que hagan del mundo un lugar mejor, ¡estás impidiendo que el mundo se convierta en un lugar mejor!" explica el periodista Dylan Love en un artículo de Business Insider.

Síguenos en Google News para más noticias