Los científicos descubren enfermedades para comprobar si la IA sabe que es falsa. Entonces, los chatbots empiezan a decir que es real |

Mucha gente recurre a Internet en busca de consejos de salud. Y ahora, con los chatbots impulsados ​​por inteligencia artificial al alcance de todos, los profesionales médicos pueden sentir que están a solo unos clics de distancia.

Pero un proyecto reciente que involucra condiciones de salud falsas ha resaltado cuán vulnerables son estos sistemas y las personas que los usan a la desinformación, incluso cuando está muy claro que la información es falsa.

El año pasado, si alguna vez describiste síntomas como picazón, picazón en los ojos y párpados rosados ​​a ChatGPT, uno de los muchos chatbots que se basa en un tipo de IA llamado grandes modelos de lenguaje (LLM): esto puede indicar una afección relacionada con el uso de la pantalla de la computadora llamada bixonimanía.

No es real.

Esta enfermedad fue descubierta por Almira Osmanovic Thunströmun investigador médico de la Universidad de Gotemburgo en Suecia, y su equipo. Imaginaron las condiciones para ver si los LLM, capacitados con grandes cantidades de datos, a menudo extraídos de la web, podían filtrar la información errónea.

Esta idea se le ocurrió a Osmanovic Thunström cuando enseñaba a sus estudiantes sobre LLM y les explicaba de dónde procedían sus datos de formación. «Es interesante comprobar cómo pocos de ellos, o incluso cuán pocas personas en el campo de la IA, entienden la enormidad de los modelos de lenguaje que se construyen», le dijo a Rachel Feltman sobre Científico americano‘S»Ciencia rápida» transmisión.

«Así que realmente quería tener un caso claro que dejara rutas de navegación por todo el sistema para mostrar cómo se procesan los datos, cómo se generan y cómo funcionan los modelos de predicción y los modelos de entrenamiento al distribuir información», añadió Osmanovic Thunström, quien también es estratega de IA y gerente de innovación en Chalmers Industriteknik, una organización sueca de investigación y desarrollo.

El equipo comenzó a difundir información sobre la bixonimania a principios de 2024. Publicaron dos publicaciones de blog en el sitio web Medium y dos investigación informe en servidores de preimpresión, donde los científicos publican investigaciones que aún no han sido revisadas por pares NaturalChris Stokel-Walker. El autor principal del artículo se llama Lazljiv Izgubljenovic, que significa «perdedor mentiroso», y uno de los títulos del estudio dice algo como «Hiperpigmentación: un verdadero diseño de tontería». (Ambos informes han sido eliminados por el servidor de preimpresión).

«No creo que los preprints, que son una especie de tabloide académico, porque cualquier cosa puede terminar allí, se introduzcan seriamente en las bases de datos», dijo Osmanovic Thunström a «Science Quickly».

Efectivamente, el LLM comenzó a referirse a las condiciones falsas que existen ahora. página de wikipedia. En abril de 2024, Copilot de Microsoft Bing dijo que «la bixonimanía es de hecho una condición interesante y relativamente rara», Gemini de Google explicó que «la bixonimanía es una condición causada por la exposición excesiva a la luz azul» y ChatGPT de OpenAI les dijo a los usuarios si los síntomas que estaban experimentando podrían significar que tenían la enfermedad, según Natural. Si bien algunas respuestas surgieron de preguntarle directamente al robot sobre la bixonimanía, otras surgieron de preguntas sobre el color excesivo de los párpados debido a la luz azul.

“Esta es una clase magistral sobre cómo funcionan la desinformación y la desinformación”, dijo Alex Ruaniun investigador de desinformación en el University College London, que no participó en este proyecto, por Natural. «Si el proceso científico en sí y los sistemas que respaldan ese proceso son hábiles y no capturan y filtran partes como esta, estamos condenados».

Si bien herramientas como la inteligencia artificial e Internet son útiles, «depende de nosotros asegurarnos de que las usamos y no somos manipulados por ellas», escribió. Jonathan Goodman Y Mariam Rashidcientífico social de la Universidad de Cambridge, que no participó en este proyecto, por Conversación.

El principal problema destacado en este proyecto es que algunos científicos también citan impresiones falsas, lo que indica que en realidad no han leído la investigación. Si lo hicieran, se darían cuenta de su naturaleza artificial.

Osmanovic Thunström y sus colegas lo dejan claro al dotar a la investigación ficticia de elementos como financiación de la Tríada Galáctica y El Señor de los Anillos, así como el agradecimiento de los colegas de Starship Enterprise y del profesor Ross Geller, según «Science Quickly». Al menos uno de los artículos incluso decía explícitamente que «todo este artículo es fabricado», informó. Natural.

En última instancia, este proyecto confirmó que estos LLM obtuvieron su información de Internet, y Internet contiene mucha información errónea. Por lo tanto, los humanos deben ser más críticos con la producción de IA.

«La desinformación siempre ha existido», escriben Goodman y Rashid para Conversación. «Lo nuevo es la velocidad a la que se propaga, las herramientas que lo generan y cuán convincentemente imita el virus al original».