📂 Categoría: AI,Tech,grok,nsfw,consent,minors | 📅 Fecha: 1779324208
🔍 En este artículo:
Elon Musk ha apostado fuerte por la IA “picante”. Ahora es oficialmente un factor de riesgo.
SpaceX adquirió xAI tres meses antes de presentar sus documentos previos a la IPO S-1. Esto trajo la plataforma de redes sociales interna de xAI, el chatbot para consumidores y las funciones de Grok AI no seguras para el trabajo.
En la presentación del miércoles, SpaceX dijo que tales características podrían plantear «mayores riesgos» y «daños a la reputación» porque los modos Grok NSFW son «más irreverentes y más duros que nuestras ofertas estándar».
La presentación advierte sobre la posible “generación de contenido potencialmente explícito”, así como “posibles imágenes no consentidas o de explotación” y contenido que infrinja la propiedad intelectual. Dicho contenido también podría considerarse “dañino, acosador, abusivo o discriminatorio”, dice el S-1.
Es común que las empresas señalen riesgos potenciales para sus negocios en sus presentaciones previas a la IPO, incluidas cualquier investigación o demanda pendiente que podría tener un impacto material.
En enero, xAI enfrentó una reacción violenta después de que Grok creara imágenes de mujeres, incluidas menores, sexualizadas y no consensuadas por IA. Las imágenes provocaron condenas públicas de funcionarios gubernamentales, cambios de políticas y demandas.
SpaceX hizo referencia a estas demandas en la presentación S-1. La compañía es objeto de «investigaciones e investigaciones» en los Estados Unidos con respecto a «acusaciones de que nuestros productos de inteligencia artificial se utilizaron para crear imágenes o contenidos explícitos y no consensuados que representan a niños en contextos sexualizados y asuntos similares», se lee.
«La Compañía y ciertas subsidiarias han sido nombradas como demandadas en varias demandas derivadas de las funciones de generación y edición de imágenes de Grok», se lee en el S-1.
SpaceX dijo que tiene la intención de «defenderse enérgicamente en estas acciones». Elon Musk ha rechazado anteriormente las afirmaciones de que Grok generó imágenes sexualizadas de menores mediante IA. declarado en enero que «no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok».
La compañía realizó cambios en su Grok AI luego de la reacción, limitando la generación de imágenes a los clientes que pagan.
La empresa también advirtió que podría estar sujeta a “litigios adicionales en el futuro” sobre estos asuntos.
La compañía también promocionó a Grok como «uno de los modelos de frontera más avanzados en comparación con sus pares, incluidos OpenAI, Anthropic y Google».
La presentación de SpaceX también hacía referencia a la investigación de la Comisión Irlandesa de Protección de Datos sobre la empresa de inteligencia artificial.
«Esta investigación implica el procesamiento de datos personales de interesados de la Unión Europea, incluidos niños, utilizando la funcionalidad de IA generativa asociada con el modelo Grok dentro de la plataforma X», dice el documento.
«Ani», el chatbot de la aplicación Grok de XAI capaz de interactuar con NSFW. Ilustración de Cheng Xin/Getty Images
XAI también produce una variedad de compañeros de IA, como su personaje de anime de IA, Ani. En la presentación, SpaceX advirtió sobre una investigación de la Comisión Federal de Comercio sobre cómo las empresas de inteligencia artificial «evaluaron la seguridad de sus chatbots cuando actúan como acompañantes de niños y adolescentes».
Si bien SpaceX había redoblado su apuesta por las «irreverentes» ofertas de inteligencia artificial de Grok, sus competidores habían dudado. El director ejecutivo de OpenAI, Sam Altman, anunció un impulso hacia la “erótica para adultos” en octubre; Los proyectos están en suspenso.
