Varios laboratorios líderes de IA han incorporado a filósofos a sus equipos para diseñar marcos éticos, identificar casos límite y orientar el comportamiento de grandes modelos;
En los últimos años, varios de los principales laboratorios de inteligencia artificial han empezado a contratar filósofos en plantilla para abordar problemas éticos, interrogantes sobre la mente y casos límite que emergen cuando los modelos actúan en el mundo real. Henry Ajder, filósofo que asesora al sector público y a startups, dijo, medio en broma y medio en serio, que quizá es “el mejor momento para un filósofo desde que Aristóteles fue tutor de Alejandro Magno”.
Las incorporaciones no son meramente simbólicas: los equipos internos combinan investigación filosófica con práctica aplicada. En DeepMind existe un grupo de investigación centrado en el impacto social de la IA dirigido por Iason Gabriel; en Anthropic, figuras como Amanda Askell son voces visibles en la definición del comportamiento del modelo. Las compañías no facilitaron cifras oficiales, pero un recuento del reportaje identifica al menos diez filósofos en DeepMind y cuatro en Anthropic según perfiles públicos y fuentes profesionales.
La presencia creciente de filósofos también está moldeando la formación académica. Varias universidades han comenzado a ofrecer cursos de ética de la IA o programas conjuntos de informática y filosofía, y Edward Harcourt, director del Institute for Ethics in IA en Oxford, describe esa tendencia como “el sabor del año”. Al mismo tiempo, en el ámbito académico crece la sospecha sobre los vínculos con la industria y sobre si la financiación privada puede condicionar líneas de investigación y prioridades.
El cambio de prioridades responde a la llegada masiva de modelos de lenguaje capaces de integrar y reproducir valores complejos. Iason Gabriel recuerda que hace casi diez años, al entrar en DeepMind, los debates se centraban en sesgos algorítmicos; con los grandes modelos del inicio de los años 2020 apareció “la capacidad de codificar un conjunto mucho más rico de valores”, lo que obliga a dedicar grandes cantidades de trabajo filosófico a la alineación de valores.
Una muestra del trabajo académico aplicado es el del equipo de responsabilidad de DeepMind, donde Julia Haas, filósofa de la mente y conocida por su enfoque mecanicista, lleva cinco años en la compañía. Haas coautorizó un artículo en Nature que propone un marco para evaluar la competencia moral de los modelos de lenguaje. Su objetivo es distinguir la competencia moral genuina de la mera imitación y desarrollar métricas que funcionen frente a variaciones culturales y contextuales.
En algunos laboratorios los filósofos participan directamente en el diseño de los modelos. En Anthropic, por ejemplo, Amanda Askell — que obtuvo su doctorado en 2018 y trabajó en política en OpenAI antes de incorporarse a Anthropic — fue la principal redactora de la denominada “constitución” de Claude, un documento dirigido al propio modelo que estipula cómo debe comportarse y qué valores debe sostener. Askell califica ese tipo de encargos como filosofía aplicada al desarrollo técnico.
A diferencia de la atención pública, que a menudo se concentra en preguntas sobre conciencia o superinteligencia, las prioridades operativas de los filósofos dentro de las empresas son más prosaicas y centradas en riesgos inmediatos. Equidad, desinformación, uso malicioso y agentes que actúan fuera de lo previsto dominan la agenda diaria. Gabriel resume que, frente a la fascinación por la conciencia, gran parte del trabajo está en “modo de recopilación de evidencias y pruebas empíricas” sobre comportamientos concretos de los sistemas.
El impacto práctico es palpable: cuando los agentes de IA envían correos, programan citas o generan código, sus decisiones ya no afectan solo al usuario directo, sino que pueden tener consecuencias en cadena para terceras personas. Profesionales como Haas plantean preguntas concretas para responsables de producto y reguladores: qué aspectos del comportamiento del modelo es preciso entender; cómo medirlos; cómo enmarcar esos problemas para la toma de decisiones; y cómo comunicar conclusiones y límites a quienes deben aplicar medidas de mitigación.
Aun así, la relación entre filósofos y empresas plantea tensiones y riesgos reputacionales. Persiste la duda sobre si la relación salarial con compañías con fines de lucro puede sesgar la investigación o convertirse en un vehículo para construir narrativas exageradas sobre capacidades tecnológicas. Harcourt advierte sobre el peligro de presentarlo todo como evidencia de habilidades extraordinarias, lo que podría alimentar el autoengrandecimiento. Por su parte, Askell expresa preocupación por un periodo de transición en que los modelos participen en su propio desarrollo y subraya la necesidad de evitar resentimientos entre creadores humanos y agentes, aspirando a que los sistemas “reflejen lo mejor de nosotros, en la medida de lo posible”.
Fuentes
Respuestas (0)
Aún no hay respuestas en este tema.
