Tras suicidio de adolescente, Character.AI implementará cambios

Character.AI, el chatbot potenciado por inteligencia artificial, añadirá medidas para la protección de sus usuarios más jóvenes.

"Millones de personas visitan Character.AI cada mes para crear personajes originales o escribir sus propias historias interactivas, utilizando nuestra tecnología como herramienta para potenciar su creatividad e imaginación" asegura la compañía en un comunicado oficial.

"Nuestro objetivo es ofrecer un espacio atractivo y seguro para nuestra comunidad. Por eso hemos desplegado un conjunto de nuevas funciones de seguridad en casi todos los aspectos de nuestra plataforma, diseñadas especialmente pensando en los adolescentes", reza el comunicado.

Entre la serie de cambios que implementará la página, destaca la separación de la aplicación en dos modelos distintos. Los menores de edad podrán chatear solo con una versión separada de la IA creada específicamente para interactuar con usuarios jóvenes.

Es decir, esta tendrá ciertas limitaciones en su comportamiento y lenguaje para minimizar el riesgo posibles conversaciones inapropiadas entre la máquina y el adolescente.

Te puede interesar:  Así puedes usar la nueva IA de X; permitirá la creación de imágenes fotorrealistas

También añadirán otras funciones como:

• Herramientas de control parental que permitirán a los padres monitorear la actividad de sus hijos.
• Notificaciones que le recordarán al usuario tomar descansos tras un uso prolongado de la aplicación.
• Detalladas advertencias aclarando a los usuarios que las interacciones con la inteligencia artificial son solo simulaciones y que estas no son personas reales.

"También estamos colaborando con varios expertos en seguridad en línea para adolescentes con el fin de garantizar que la experiencia de los menores de 18 años se diseñe con la seguridad como prioridad absoluta", aseveró la compañía.

Estas características son añadidas en medio de la tormenta legal que enfrenta la empresa. El chatbot coprotagonizó, hace unos meses, la triste noticia de un joven de 14 años que se quitó la vida tras mantener una relación amorosa con la inteligencia artificial.

Este evento fue el catalizador de dos demandas en contra de la empresa, a la que acusan de ser responsables sobre la muerte del joven y de no tener medidas para prevenir esta tragedia.

Te puede interesar:  Joven de 14 años muere tras enamorarse de una Inteligencia Artificial

Para más noticias, no dudes en seguirnos en Google News y en nuestro canal de WhatsApp para recibir la mejor información. Te invitamos a suscribirte gratis a nuestro Newsletter.