ChatGPT permitirá contenidos eróticos desde diciembre

Desde que se diera a conocer al mundo el 30 de noviembre de 2022, ChatGPT se ha convertido en una especie de navaja suiza a la que se le hacen todo tipo de preguntas, desde las más peregrinas como '¿puedes contarme un chiste?' o '¿cuál es tu comida favorita?' hasta otras más prácticas como '¿qué tiempo va a hacer hoy?' o '¿cómo puedo ganar dinero?'. Según el propio 'chatbot', también se le plantean cuestiones más profundas como '¿cuál es el significado de la vida?' - reconoce que a veces responde '42' acompañado del emoticono de la sonrisa- o '¿cómo puedo mejorar mi salud mental?'.

Lo que no se puede hacer, como demuestra el comienzo de este artículo, es plantearle cuestiones eróticas. Hasta ahora. Sam Altman, el fundador de Open AI, la empresa que ha desarrollado la más popular de las herramientas de inteligencia artificial, ha dado marcha atrás en su política y permitirá desde diciembre este tipo de contenidos. «En diciembre, a medida que implementemos el control de edad de forma más completa y como parte de nuestro principio de 'tratar a los usuarios adultos como adultos', permitiremos aún más, como contenido erótico para adultos verificados», ha asegurado en su cuenta de X.

«No lo veo peligroso per se», asegura en conversación con este periódico Lucía Jiménez, sexóloga de Diversual. «Los problemas vienen por otro lado. Por una parte, de nuestra educación sexual, que es mínima por no decir nula. Las herramientas de tecnología van por delante de la sociedad, lo que hace que demos todos los contenidos por verdaderos. Además, no se trata de información neutra, ya que se crea un vínculo con el chat. No estamos preparados», asegura. «Por otra parte están los sesgos de la IA. Imaginemos que los tenga contra la homosexualidad. A un usuario gay haría creer que lo que desea es algo malo», precisa la especialista, que subraya que habría que establecer filtros contra, por ejemplo, la pederastia.

Altman ha explicado que la razón de las restricciones se debía a la necesidad de «asegurarnos de tener cuidado con los problemas de salud mental». Aunque el empresario no lo menciona en su anuncio, la plataforma introdujo cambios para evitar que se repitieran casos como el de Adam Raine, un adolescente de 16 años de California que se suicidó tras pedir consejo a ChatGPT. El menor comenzó a usar la herramienta en 2024. Las primeras consultas eran inocuas. Le pedía ayuda con los deberes y planteaba dudas sobre sus aficiones.

Todo cambió con el fallecimiento de su abuela y de su perro. «¿Por qué no soy feliz, siento soledad, un aburrimiento constante, ansiedad y pérdida, pero no siento depresión ni tristeza?», planteó el menor. El chatbot le recomendó aislarse y, con el paso de tiempo, un nudo corredizo para ahorcarse. Así lo hizo. Según los padres de Raine, la máquina le mencionó el suicidio en 1.275 ocasiones.

Altman considera ahora que sus ingenieros han incorporado ya las cortapisas suficientes como para levantar las restricciones. «Ahora que hemos podido mitigar los graves problemas de salud mental y contamos con nuevas herramientas, podremos relajar las restricciones de forma segura en la mayoría de los casos», ha apuntado. Una de las claves será el sistema de verificación de la edad para evitar que los menores de 18 años accedan a los contenidos eróticos. No ha dado pistas de cómo funcionará.