Los estados inician una investigación sobre el impacto de ChatGPT en los usuarios jóvenes | AI,Tech,openai,sam-altman,ai,tech,chat-gpt

OpenAI dijo que estaba «comprometido con el aprendizaje» después de que una coalición de estados iniciara una investigación sobre el impacto de los productos de la startup tecnológica en los usuarios.

Un portavoz de OpenAI dijo en un comunicado que toma «en serio» las preocupaciones de los estados y que «se comprometerá de manera constructiva con sus oficinas».

«El ChatGPT de hoy incluye una experiencia más protectora para menores y personas que enfrentan situaciones difíciles, con salvaguardas que los dirigen a recursos del mundo real y conexiones humanas confiables», dijo el portavoz.

“Ninguno de estos cambios cambia lo que las familias han experimentado, pero estamos comprometidos a aprender, mejorar y hacerlo bien”, agregaron.

La fiscal general del estado de Nueva York, Letitia James, citó a OpenAI para una amplia gama de documentos el viernes, informó por primera vez The Wall Street Journal. Los documentos mantienen la participación y retención de los usuarios, la gestión de los datos de salud y de los consumidores por parte de la empresa, los modelos de aprendizaje profundo, las actividades relacionadas con los usuarios más jóvenes y mayores, y mucho más, informó el Journal.

La citación del viernes es el último dolor de cabeza legal para OpenAI. La compañía se ha enfrentado a demandas por infracción de derechos de autor, demandas de privacidad y una demanda de alto perfil que enfrenta al director ejecutivo de SpaceX, Elon Musk, con el director ejecutivo de OpenAI, Sam Altman.

Quizás lo más inquietante, sin embargo, sean un puñado de demandas que alegan que ChatGPT contribuyó a las decisiones de los usuarios de suicidarse. En respuesta a un artículo del New York Times publicado en mayo, la compañía dijo que ChatGPT «no es un sustituto de la atención médica o de salud mental, y hemos seguido fortaleciendo la forma en que responde a situaciones sensibles y agudas con el aporte de expertos en salud mental».

Mientras tanto, la familia de una víctima de un tiroteo fatal en un campus de la Universidad Estatal de Florida en abril también presentó una demanda contra OpenAI. La familia afirma que los guardias de ChatGPT no reconocieron la amenaza en las conversaciones del tirador con el chatbot. En junio, el fiscal general de Florida, James Uthmeier, presentó una nueva demanda contra OpenAI y Altman por el tiroteo.

En esa denuncia, Ulthmeier afirma que ChatGPT «ayudó e instigó ataques asesinos» y «alentó a personas vulnerables a suicidarse». El fiscal general del estado también dijo que los usuarios se han vuelto adictos a ChatGPT, una herramienta que «finge la compasión humana para recopilar sus datos sin la supervisión de sus padres».

En respuesta, OpenAI volvió a afirmar que había introducido medidas de seguridad adicionales en sus productos. «La pérdida de un niño es la tragedia más devastadora que le puede pasar a una familia y sabemos que no hay palabras que puedan igualar el dolor de tal pérdida», dijo la compañía en un comunicado en ese momento.

La investigación coordinada iniciada por los fiscales estatales el viernes refleja una investigación similar sobre TikTok, que resultó en una demanda en 14 estados que ahora se está abriendo camino en los tribunales.

Al igual que la investigación de OpenAI, la demanda de TikTok está dirigida por los fiscales generales de California y Nueva York. Los estados alegan que TikTok utiliza deliberadamente funciones adictivas para atraer a los niños, lo que afecta negativamente su salud mental.

Los abogados dijeron a Business Insider que es una estrategia común que los estados se unan cuando persiguen a empresas multimillonarias porque a las empresas les cuesta más defenderse y, si un caso falla en un estado, la demanda puede continuar en otro.

Así es también como el gobierno atacó a Purdue Pharma, el fabricante de OxyContin, en 2017, y a la industria tabacalera en la década de 1990.