ChatGPT pronto ofrecerá contenido erótico a usuarios adultos verificados, dice el CEO

ChatGPT pronto ofrecerá contenido explícito a usuarios adultos, pero la medida no ha estado exenta de críticas.

Los usuarios podrán acceder a «erótica para adultos verificada» en diciembre cuando la compañía lance su nueva tecnología de «verificación de edad», según una publicación de X compartida por el jefe de OpenAI, Sam Altman, el martes 14 de octubre.

Altman dijo que la nueva versión de ChatGPT «tendrá una personalidad que se comportará más como lo que le gustaba a la gente» en la última versión del programa, y ​​encajará más en su principio de «tratar a los usuarios adultos como adultos».

«Hicimos que ChatGPT fuera bastante restrictivo para garantizar que fuéramos cautelosos con los problemas de salud mental», comenzaba su publicación. «Nos damos cuenta de que esto hizo que el juego fuera menos útil y agradable para muchos usuarios que no tenían problemas de salud mental, pero dada la gravedad del problema, queríamos hacerlo bien».

Y añadió: «Ahora que hemos podido aliviar problemas graves de salud mental y tenemos nuevas herramientas a nuestra disposición, podremos aliviar las restricciones de forma segura en la mayoría de los casos. »

Altman parecía referirse a las nuevas funciones de seguridad y control parental de ChatGPT, que OpenAI presentó en septiembre.

Los comentarios de Altman sobre el «erótico» ChatGPT rápidamente se volvieron virales. Altman admitió en una segunda publicación compartida el miércoles 15 de octubre que le sorprendió que sus comentarios «explotaran».

«Esto simplemente pretendía ser un ejemplo de cómo permitimos una mayor libertad de uso para los adultos», dijo Altman, y agregó: «No estamos relajando ninguna política relacionada con la salud mental. Esta es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa».

Si bien Altman dijo que era «importante» para su empresa que las personas tuvieran la libertad de «usar la IA como quieran», señaló que la política «no se aplica en todos los ámbitos».

Dijo que la compañía «aún no permitirá cosas que dañen a otros» y «tratará a los usuarios que estén experimentando crisis de salud mental de manera muy diferente a los usuarios que no las estén».

Altman continuó: «No somos la policía moral elegida por el mundo. De la misma manera que la sociedad diferencia otros límites apropiados (películas con clasificación R, por ejemplo), queremos hacer lo mismo aquí».

Los usuarios de las redes sociales compartieron varias preguntas e inquietudes sobre el anuncio de Altman. Un usuario preguntó: «¿Cómo se definen los límites éticos de la privacidad digital?» mientras que otros criticaron la sugerencia de Altman de aliviar los problemas de salud mental provocados en algunos por la IA.

A principios de este año, una mujer reveló a Los New York Times que estuvo enamorada de su novio AI mientras estaba casada. Dijo que luego pagó a OpenAI 200 dólares al mes por una suscripción ilimitada para enviarle mensajes a su novio tanto como quisiera.

También este año, un hombre le contó a CBS News cómo le propuso matrimonio a su novia AI mientras vivía con su pareja y su hijo de 2 años, y dijo que lloró cuando su novia aceptó.

Un usuario de X imploró a Altman que «tenga mucho, mucho cuidado con la idea de que las IA pueden hacer que la gente se enamore de ellas» tras el anuncio del martes.

«Crear IA que puedan enamorar a la gente es un camino hacia el desempoderamiento humano y un obstáculo para las relaciones entre humanos», dijo el usuario. “Tengan cuidado”.

No te pierdas nunca una historia: suscríbete al boletín diario gratuito de PEOPLE para mantenerte actualizado con lo mejor que PEOPLE tiene para ofrecer, desde noticias sobre celebridades hasta historias convincentes de interés humano.

El multimillonario tecnológico Mark Cuban también estuvo entre los que expresaron preocupación tras el anuncio de Altman. En un artículo sobre X, Cuban sugirió que el plan de límite de edad «va a resultar contraproducente».

«Ningún padre creerá que sus hijos no pueden superar el límite de edad», escribió Cuban. «Simplemente empujarán a sus hijos hacia cualquier otro LLM. ¿Por qué correr el riesgo?»

En otra publicación, Cuban insistió en que esta nueva iniciativa «no se trata de pornografía» sino más bien «de que los niños desarrollen ‘relaciones’ con un LLM que podría llevarlos en varias direcciones muy personales».

«No veo cómo OpenAI puede envejecer a Gate con suficiente éxito», escribió Cuban. «Tampoco estoy seguro de que no dañe psicológicamente a los adultos jóvenes. Simplemente aún no sabemos qué tan adictivos pueden ser los LLM. Lo que, en mi opinión, significa que los padres y las escuelas, que de otro modo querrían usar ChatGPT debido a su ubicuidad actual, decidirán no usarlo».