📂 Categoría: AI,ai,philosophy,college-majors,artificial-intelligence,trending-uk,hustle-culture-big-bet | 📅 Fecha: 1777798879
🔍 En este artículo:
Durante años, los estudiantes de filosofía han sido el blanco de bromas sobre títulos no empleables.
Hoy en día, algunos de ellos son contratados por las empresas de inteligencia artificial más poderosas del mundo para ayudar a moldear la forma en que las máquinas piensan y se comportan, con salarios de seis cifras.
A medida que los sistemas de IA se vuelven más poderosos y más integrados en la vida cotidiana, las empresas enfrentan cada vez más preguntas sobre cómo deberían comportarse estos sistemas, qué valores reflejan y en qué medida se puede confiar en ellos.
Esto crea un nicho, pero una demanda creciente de personas capacitadas para pensar en estos problemas, incluidos los filósofos.
«Esta es definitivamente una tendencia creciente», dijo a Business Insider Ravin Jesusthasan, un experto en el futuro del trabajo.
«El escrutinio de la IA y las decisiones que toma/permite aumenta cada día, y estos roles son cruciales para afrontar este desafío», añadió.
Pequeño pero poderoso
Un pequeño pero creciente grupo de filósofos ya está integrado en los laboratorios de IA.
Amanda Askell, Ph.D. en filosofía de la Universidad de Nueva York, es el filósofo residente de Anthropic. Ella escribió en su sitio web que el papel de su equipo es entrenar al chatbot de Anthropic, Claude, para que sea más honesto y desarrolle mejores rasgos de carácter; esencialmente, para ser bueno.
Iason Gabriel, que anteriormente enseñó filosofía moral y política en la Universidad de Oxford, es el filósofo e investigador interno de Google DeepMind. Se centra en la ética de la IA y en garantizar que los sistemas de IA estén alineados con los valores y objetivos humanos.
También se espera que Henry Shevlin, especialista en ética de la inteligencia artificial y profesor de la Universidad de Cambridge, se una a DeepMind como filósofo en mayo.
Los expertos en el lugar de trabajo y los reclutadores dicen que este cambio es real, pero aún temprano.
«En los últimos meses, he visto más conversaciones en el mercado sobre empresas de IA que reclutan personas en roles consistentes con una formación en filosofía», dijo a Business Insider Ben Eubanks, director de investigación de la consultora de capital humano Lighthouse Research & Advisory.
Dijo que la evidencia sigue siendo en gran medida anecdótica y que el número de puestos de trabajo aún es demasiado pequeño para reflejarse claramente en los datos del mercado laboral.
Firas Sozan, director ejecutivo de Harrison Clarke, una firma de búsqueda y riesgo centrada en la nube, los datos y el talento de IA para nuevas empresas respaldadas por capital de riesgo, dijo que la campaña de contratación está impulsada por una preocupación más amplia dentro de la industria: cuántos usuarios, empresas y gobiernos pueden confiar en los sistemas de IA.
«A medida que la IA se desarrolla, el foco se convierte naturalmente en la confianza: ¿cómo podemos construir capas de gobernanza que nos permitan controlar la tecnología de una manera más humana?», dijo a Business Insider.
Sin embargo, Sozan advirtió contra la exageración de esta tendencia.
«No diría que es una tendencia todavía», dijo. «Los datos aún son embrionarios».
Empresas como Google DeepMind han comenzado a contratar candidatos con formación filosófica. Jakub Porzycki/NurPhoto vía Getty Images
Dando forma al modelo de IA
El atractivo de los filósofos es simple.
Ya se ha demostrado que los sistemas de IA producen resultados dañinos o se comportan de manera impredecible (desde agentes codificadores que eliminan bases de datos de producción y resultados de fabricación hasta modelos que intentan chantajear o sabotear los esfuerzos de cierre), lo que aumenta la presión sobre las empresas para garantizar su seguridad y su alineación con los valores humanos.
«Las empresas de IA ahora los están contratando porque no todos los problemas de desarrollo de la IA son técnicos», dijo Annette Zimmermann, profesora asistente de filosofía en la Universidad de Wisconsin-Madison. «Definir conceptos complejos y presentar argumentos basados en valores son el núcleo de la IA, y eso es exactamente para lo que están capacitados los filósofos».
Aunque las funciones de seguridad y ética existen en el sector tecnológico desde hace años, el trabajo está evolucionando.
“Los antiguos éticos corporativos eran asesores”, dijo Susanna Schellenberg, profesora de filosofía en la Universidad de Rutgers. «El trabajo en los laboratorios de IA de vanguardia es diferente porque los filósofos ayudan a dar forma al objeto en sí».
Su trabajo ahora incluye escribir especificaciones de modelos, constituciones y políticas de comportamiento, tareas que, según Schellenberg, dan forma directa al modelo de IA, no solo comentan sobre él.
De la teoría a los empleos bien remunerados
El salario medio de un estudiante de filosofía al comienzo de su carrera era de 52.000 dólares y de unos 80.000 dólares a mitad de carrera, según el Banco de la Reserva Federal de Nueva York. último informe sobre los resultados de los graduados universitarios en el mercado laboral. Estos salarios medios están en línea con los de otros graduados en humanidades.
En la parte superior de la escala, las funciones de ética, seguridad y gobernanza de la IA pueden exigir salarios base que oscilan entre 250.000 y 400.000 dólares, debido a la intensa competencia por el talento, dijo Sozan.
Algunos de estos puestos ya están surgiendo en la industria, pero a menudo son de nivel superior y altamente especializados.
Blackbaud, por ejemplo, está contratando a un especialista en gobernanza de IA con un salario base que oscila entre 117.200 y 157.500 dólares. La descripción del puesto exige experiencia en ética, incluidos candidatos con experiencia en filosofía.
Mientras tanto, Google DeepMind está contratando a un nuevo jefe de ética de IA e impactos de seguridad, con un salario base de entre 212.000 y 231.000 dólares. Requiere al menos 5 años de experiencia en ética y seguridad de la IA en una función de gobernanza, política, legal o de investigación.
Están empezando a surgir un puñado de roles más junior. Sony Research, por ejemplo, anunció recientemente una pasantía sobre ética de la IA centrada en la evaluación, las barreras de seguridad y la IA responsable. La descripción del puesto exige candidatos que obtengan títulos en IA sociotécnica, como ética y filosofía.
Sin embargo, los empleos siguen siendo escasos. Jesusthasan estima que la mayoría de las empresas contratan a menos de 10 personas para estos puestos.
Las empresas de IA contratan cada vez más candidatos con experiencia en ética y filosofía. Indranil Aditya/NurPhoto vía Getty Images
Escepticismo y límites
El ascenso de los filósofos en la IA ha sido descrito como una especie de “venganza de las humanidades”, a medida que las empresas redescubren el valor del pensamiento crítico y el razonamiento ético en un mundo impulsado por la IA.
Pero no todo el mundo está convencido de que este cambio produzca cambios tangibles.
Hace aproximadamente una década, varias empresas de tecnología crearon comités de ética de IA y grupos asesores para guiar el desarrollo de la tecnología, incluido el comité de ética interno de Google vinculado a su adquisición de DeepMind en 2014 y el comité Aether de Microsoft, creado en 2017 para supervisar la investigación de IA.
Empresas como Google, Facebook, Amazon e IBM también lanzaron AI Partnership en 2016 para abordar las implicaciones sociales y éticas de la tecnología.
«Lo que descubrimos fue que estas juntas directivas a menudo eran testaferros», dijo Eubanks, y agregó que las empresas a menudo priorizaban la comercialización por encima de las preocupaciones éticas.
La pionera en ética informática Deborah Johnson dijo que las empresas pueden estar más interesadas en señalar responsabilidad que en aceptarla.
«Mi visión cínica sería que las empresas de tecnología sólo quieren dar la impresión de que se preocupan por la ética», dijo.
Johnson dijo que las presiones que impulsan el desarrollo de la IA, como la velocidad, la competencia y las ganancias, podrían limitar la influencia real de los filósofos.
«Están bajo presión para sacar las cosas rápidamente», dijo. «Tener en cuenta consideraciones éticas los frenará».
“Tanto si tienen especialistas en ética como si no, dudo que escuchen algo que pueda frenarlos”, añadió.
