Destacados

Títulos similares

Diseñador de experiencias de IA, Diseñador de interacción entre humanos e IA (HAX), Diseñador de confianza y transparencia en IA, Diseñador de IA centrada en el ser humano, Diseñador de interacción con IA, Diseñador de IA explicable, Diseñador de productos de IA, Diseñador de IA responsable, Diseñador de interfaces de IA, Diseñador de colaboración entre humanos e IA, Investigador de experiencia de usuario (UX) en IA, Diseñador de supervisión de IA

Descripción del puesto

Cuando una aplicación de navegación sugiere una ruta, una herramienta de reclutamiento destaca un currículum o un editor de fotos mejora automáticamente una imagen, alguien tuvo que decidir qué tanto informarte sobre lo que acaba de hacer la IA, qué tan segura está realmente y qué tan fácil debería ser para ti anular su decisión. Los diseñadores de interacción entre humanos e IA diseñan toda esa relación entre las personas y la IA, asegurándose de que los sistemas en los que cada vez confiamos más sean comprensibles, confiables y corregibles, en lugar de ser cajas negras confusas.

Este rol va mucho más allá de una simple ventana de chat o la pantalla de una aplicación. Los diseñadores de interacción entre humanos e IA estudian cómo se presentan las recomendaciones, predicciones y decisiones de la IA en todo un producto, desde una sutil puntuación de confianza junto a una sugerencia hasta un panel de revisión completo donde un médico verifica el diagnóstico de la IA. Trabajan con ingenieros de aprendizaje automático para comprender qué puede y qué no puede hacer un modelo de manera confiable, con investigadores de experiencia de usuario (UX) para evaluar cómo las personas reales interpretan el comportamiento de la IA, y con equipos de ética, legales y de políticas para garantizar que los sistemas de IA se utilicen de manera responsable y justa.

Mediante el uso de métodos de investigación, herramientas de creación de prototipos y marcos de diseño emergentes para la explicabilidad y la transparencia, los diseñadores de interacción entre humanos e IA determinan si las personas confían en la IA de manera adecuada, sin seguir ciegamente las malas sugerencias ni ignorar aquellas que son verdaderamente útiles. Sus decisiones sobre cómo se comunican la incertidumbre, los errores y las limitaciones de la IA pueden marcar la diferencia entre un sistema que potencia el juicio humano y uno que lo erosiona silenciosamente.

Aspectos gratificantes de la carrera profesional
  • Influir en la forma en que millones de personas comprenden y confían en los sistemas de IA en su vida cotidiana
  • Abordar problemas de diseño verdaderamente nuevos que no existían hace unos años
  • Trabajar en la frontera donde se cruzan la tecnología, la ética y la psicología humana
  • Contribuir a la creación de sistemas de inteligencia artificial que respeten el juicio humano en lugar de sustituirlo sin más
La información de primera mano
Responsabilidades del puesto

Horario de trabajo

Los diseñadores de interacción entre humanos e IA suelen trabajar a tiempo completo, en horario comercial estándar, como parte de un equipo de diseño, investigación o IA responsable dentro de una empresa de tecnología. El puesto combina momentos de investigación y diseño independientes con una intensa colaboración, lo que incluye talleres con ingenieros, investigadores y equipos de políticas. La mayoría trabaja directamente para empresas de tecnología que desarrollan productos de IA, aunque algunos lo hacen en laboratorios de investigación, consultoras u organizaciones sin fines de lucro enfocadas en la IA responsable.

Funciones típicas

  • Investigar cómo los distintos grupos de usuarios interpretan y reaccionan ante las sugerencias o decisiones generadas por la inteligencia artificial
  • Diseño de interfaces que comuniquen con claridad el nivel de confianza, las limitaciones y la incertidumbre de un sistema de inteligencia artificial
  • Crear controles que permitan a los usuarios revisar, corregir o anular fácilmente las decisiones de la IA
  • Elaboración de directrices sobre cuándo y cómo un sistema debe explicar su razonamiento a los usuarios
  • Colaborar con ingenieros de aprendizaje automático para comprender el comportamiento de los modelos y los modos de falla
  • Realizar estudios de usabilidad para determinar si las personas confían demasiado o muy poco en una función de inteligencia artificial
  • Diseñar experiencias de incorporación que establezcan expectativas precisas sobre lo que puede hacer una IA
  • Revisión de productos existentes para detectar interacciones con IA que sean confusas, engañosas o inseguras
  • Colaboración con los equipos de ética, asuntos legales y políticas en la elaboración de directrices sobre IA responsable
  • Presentación de los resultados de la investigación y las recomendaciones de diseño al equipo directivo de producto
  • Creación de prototipos y prueba de diversas formas de presentar recomendaciones o alertas generadas por IA
  • Documentación de patrones de diseño para la transparencia de la IA y la supervisión humana en todo un producto

Responsabilidades adicionales

  • Contribuir a las directrices generales de una empresa sobre IA responsable o ética en la IA
  • Capacitar a otros diseñadores y equipos de producto sobre los principios de la interacción entre humanos e IA
  • Revisar las nuevas funciones de IA antes de su lanzamiento para garantizar la confianza y la transparencia
  • Estudio de las implicaciones en materia de accesibilidad de las funciones de inteligencia artificial para usuarios con discapacidades
  • Seguimiento de las investigaciones y regulaciones emergentes en torno a la transparencia y la explicabilidad de la IA
  • Abogar por la realización de pruebas con usuarios antes del lanzamiento de las funciones de IA, incluso cuando los plazos sean ajustados
Un día en la vida

La mañana de un diseñador de interacción entre humanos e IA podría comenzar revisando los resultados de un estudio reciente de usabilidad, analizando si los participantes en la prueba entendieron por qué una herramienta de IA marcó un resultado determinado o lo ignoró por completo debido a que la explicación estaba demasiado oculta en la interfaz. Podría esbozar algunas formas nuevas de presentar esa explicación con mayor claridad.

A mediodía suelen tener reuniones con un ingeniero de aprendizaje automático para entender exactamente qué tan confiable es realmente un nuevo modelo en diferentes situaciones, seguidas de una sesión de trabajo con un diseñador de producto para determinar cómo representar esa confianza visualmente sin abrumar a los usuarios con detalles técnicos. También pueden participar en una revisión con el equipo legal o de políticas sobre una nueva función de IA que implique decisiones delicadas, como aprobaciones de crédito o recomendaciones médicas.

Las tardes suelen dedicarse a crear prototipos, desarrollando varias versiones diferentes de un panel de «explicación de la IA» o de un botón de anulación, para luego planear un estudio que permita determinar qué versión realmente ayuda a las personas a tomar mejores decisiones. Antes de que termine el día, por lo general documentan lo que han aprendido, actualizan las pautas de diseño y señalan cualquier patrón que sugiera que las personas confían demasiado o muy poco en la IA.

Habilidades necesarias para el trabajo

Habilidades interpersonales

  • Una profunda curiosidad por saber cómo piensan las personas, cómo toman decisiones y cómo generan confianza
  • Sólidas habilidades de investigación y pensamiento analítico
  • Comunicación clara entre los equipos técnicos, de diseño y de políticas
  • El razonamiento ético y la comodidad plantean preguntas difíciles sobre los riesgos de la IA
  • Empatía hacia la forma en que los distintos usuarios, incluidos los más vulnerables, experimentan los sistemas de inteligencia artificial
  • Paciencia ante la ambigüedad, ya que las mejores prácticas en este campo aún se están definiendo
  • Colaboración y búsqueda de consenso entre disciplinas
  • La atención al detalle en cómo los pequeños detalles de redacción o las decisiones de diseño influyen en la confianza
  • Capacidad de adaptación ante los rápidos cambios en las capacidades de la IA y las regulaciones
  • Reflexión crítica sobre cuándo no se debe confiar en un sistema de inteligencia artificial
  • Una narrativa sólida para traducir los resultados de la investigación en decisiones de diseño
  • Habilidades de promoción para impulsar las pruebas con usuarios bajo la presión de los plazos

Habilidades técnicas

  • Métodos de investigación de usuarios y pruebas de usabilidad
  • Herramientas de diseño de interacción y creación de prototipos, como Figma
  • Conocimientos básicos sobre cómo funcionan los modelos de aprendizaje automático y en qué aspectos fallan
  • Conocimiento de los conceptos de explicabilidad e interpretabilidad en la IA
  • Visualización de datos para comunicar confianza, probabilidad e incertidumbre
  • Normas de accesibilidad para interfaces basadas en inteligencia artificial
  • Conocimientos sobre ética de la IA, equidad y marcos de evaluación de sesgos
  • Pensamiento sistémico para diseñar un comportamiento coherente de la IA en todo un producto
  • Conocimiento de las regulaciones pertinentes en materia de inteligencia artificial y los requisitos de transparencia
  • Herramientas de análisis para estudiar cómo interactúan los usuarios con las funciones de IA a lo largo del tiempo
Diferentes tipos de diseñadores de interacción entre humanos e IA
  • Diseñador de transparencia de IA: se enfoca en explicar cómo y por qué una IA llegó a una decisión
  • Investigador en confianza en la IA: Estudia en qué medida las personas confían en los sistemas de IA y por qué cambia esa confianza
  • Diseñador de supervisión humana: Diseña controles que permiten a las personas revisar, corregir o anular la IA
  • Diseñador de IA responsable: Se enfoca en la equidad, la seguridad y las pautas éticas en todos los productos de IA
  • Diseñador de incorporación a la IA: Diseña la forma en que se presenta a los nuevos usuarios las capacidades y los límites de una función de IA
  • Diseñador de IA explicable (XAI): se especializa en visualizar y simplificar el razonamiento de modelos complejos
  • Diseñador de interacción de IA empresarial: Diseña herramientas de supervisión humana para entornos profesionales como la atención médica o las finanzas
Diferentes tipos de organizaciones
  • Empresas de tecnología y software
  • Laboratorios de investigación en IA y centros de estudios
  • Empresas del sector de la salud y de la tecnología de la salud
  • Empresas de servicios financieros y de seguros
  • Organismos gubernamentales que regulan o implementan sistemas de inteligencia artificial
  • Empresas de consultoría especializadas en IA responsable o ética
  • Universidades y centros de investigación académica
  • Organizaciones sin fines de lucro dedicadas a las políticas y la seguridad en materia de inteligencia artificial
  • Empresas del sector automotriz y de vehículos autónomos
  • Empresas de software empresarial que desarrollan herramientas de inteligencia artificial para otras empresas
  • Plataformas de medios y contenidos que utilizan recomendaciones basadas en inteligencia artificial
  • Organismos de normalización y consorcios industriales dedicados a las directrices sobre inteligencia artificial
Expectativas y sacrificios

Los diseñadores de interacción entre humanos e IA trabajan en un campo en el que, a menudo, aún se desconoce cuál es la «respuesta correcta», ya que las capacidades de la IA y la comprensión que tiene el público de ellas están en constante evolución. Esto implica investigar, probar y revisar constantemente los enfoques de diseño, en lugar de basarse en mejores prácticas ya establecidas, lo cual puede resultar intelectualmente exigente y, en ocasiones, frustrante.

Hay mucho en juego. Las decisiones de diseño inadecuadas en materia de transparencia o supervisión de la IA tienen consecuencias reales, desde que las personas confíen ciegamente en una recomendación médica errónea hasta que ignoren una alerta de seguridad que realmente podría ser útil. Los diseñadores tienen la responsabilidad real de tomar las decisiones correctas, y esa carga puede ser pesada, especialmente cuando trabajan en sistemas de IA utilizados en la atención médica, las finanzas u otras áreas sensibles.

El puesto también implica lidiar con la tensión entre la presión de la empresa para lanzar funciones de IA rápidamente y el trabajo más lento y minucioso de verificar si las personas realmente comprenden y pueden controlar esas funciones. Defender ese trabajo minucioso, a veces frente a plazos ajustados, requiere confianza, paciencia y la disposición a plantar cara de manera respetuosa.

Tendencias actuales
  • Una regulación cada vez mayor que exige que los sistemas de inteligencia artificial sean explicables y transparentes para los usuarios
  • Más investigación sobre hasta qué punto las personas confían demasiado o muy poco en las recomendaciones de la IA
  • La creciente demanda de controles de supervisión humana en aplicaciones de IA de alto riesgo, como la atención médica y la contratación
  • Prestar mayor atención al diseño para los errores y los estados de falla de la IA, y no solo a los casos de éxito
  • Ampliación de las iniciativas de alfabetización en IA para ayudar a los usuarios comunes a comprender las limitaciones de la IA
  • El uso cada vez mayor de los índices de confianza y la visualización de la incertidumbre en los productos de consumo
  • Mayor colaboración entre diseñadores, especialistas en ética y equipos de políticas en torno a los productos de IA
  • El auge de las comunidades de investigación académicas e industriales dedicadas a la interacción entre humanos e inteligencia artificial
  • Cada vez más empresas están creando equipos formales dedicados al diseño responsable de la IA o a la ética de la IA
  • Cada vez se presta más atención a cómo el diseño de la interacción con la IA afecta a los usuarios vulnerables o desatendidos
¿Qué tipo de cosas les gustaba hacer a las personas que se dedican a esta profesión cuando eran más jóvenes…

Muchos diseñadores de interacción entre humanos e IA fueron de esos niños que siempre preguntaban «¿pero por qué?», con curiosidad no solo por cómo funcionaba algo, sino también por si era justo o confiable. A menudo disfrutaban de los debates, las discusiones filosóficas o las clases centradas en la ética, además de tener un interés genuino por la tecnología y por cómo se construían las cosas.

Muchos también se sintieron atraídos por las clases de psicología, sociología o diseño, impulsados por el deseo de comprender cómo piensan las personas y cómo toman decisiones. Una combinación de curiosidad técnica y un fuerte sentido de la equidad o la justicia a menudo los llevaba hacia esta trayectoria profesional emergente y aún en formación.

Educación y capacitación necesarias

La mayoría de los diseñadores de interacción entre humanos e IA cuentan con una licenciatura en interacción humano-computadora, diseño de experiencia de usuario (UX), ciencias cognitivas, psicología o un campo relacionado, y muchos cursan una maestría, ya que este puesto suele requerir habilidades de investigación que van más allá de la formación típica en diseño. Debido a que el campo es tan nuevo, muchos profesionales también provienen de ámbitos como la ética de la IA, las políticas o la investigación académica en interacción humano-computadora.

Los estudiantes pueden cursar materias relacionadas con temas como:

  • Interacción persona-computadora
  • Psicología cognitiva y toma de decisiones
  • Introducción a la inteligencia artificial y el aprendizaje automático
  • Métodos de investigación sobre la experiencia del usuario (UX)
  • Ética de la tecnología y la inteligencia artificial
  • Visualización de datos y diseño de la información
  • Estadística y métodos de investigación
  • Diseño de interacción y creación de prototipos
  • Filosofía de la mente o filosofía de la ética
  • Políticas públicas y regulación tecnológica

Dado que este campo aún está definiendo sus mejores prácticas, mantenerse al día a través de artículos de investigación, conferencias y proyectos prácticos es tan importante como los cursos formales. Crear un portafolio que muestre investigaciones sobre cómo las personas comprenden y confían en los sistemas de IA, incluso a través de proyectos de clase o investigaciones personales, ayuda a demostrar que estás preparado para el puesto. Muchos diseñadores también adquieren experiencia mediante pasantías de investigación en experiencia de usuario (UX) o puestos de asistente de investigación académica antes de incorporarse a puestos en la industria.

Actividades para hacer en la preparatoria y la universidad
  • Toma cursos de psicología, sociología y filosofía para comprender el proceso de toma de decisiones humano
  • Estudia informática o toma un curso de introducción a la inteligencia artificial para entender cómo funcionan los modelos
  • Únete a un equipo de debate o a un concurso de ética para practicar el razonamiento a través de dilemas complejos
  • Toma un curso de diseño de experiencia de usuario (UX) o de interacción persona-computadora, ya sea en la escuela o en línea
  • Lee sobre casos reales en los que los sistemas de IA confundieron, engañaron o causaron daño a los usuarios
  • Practica habilidades básicas de investigación de usuarios, como realizar entrevistas o encuestas sencillas
  • Estudia la visualización de datos para aprender a comunicar con claridad la incertidumbre y la probabilidad
  • Explora herramientas de programación o de creación de prototipos para comprender qué es técnicamente posible diseñar
  • Sigue a los investigadores y organizaciones que trabajan en el desarrollo de una IA responsable y centrada en las personas
  • Haz trabajo voluntario o una pasantía en organizaciones dedicadas a las políticas tecnológicas o la ética de la inteligencia artificial
  • Practica cómo explicar conceptos técnicos o éticos complejos con un lenguaje sencillo
  • Busca oportunidades de investigación, incluso las informales, para estudiar cómo la gente usa la tecnología
ASPECTOS QUE HAY QUE TENER EN CUENTA EN UN PROGRAMA DE EDUCACIÓN Y CAPACITACIÓN
  • Programas que ofrecen cursos tanto en interacción persona-computadora como en inteligencia artificial o aprendizaje automático
  • Docentes que investigan activamente la interacción entre humanos e IA, la confianza o la IA explicable
  • Oportunidades para realizar investigaciones con usuarios reales como parte de los trabajos del curso
  • Acceso a cursos interdisciplinarios que combinan psicología, ética e informática
  • Se hace especial hincapié en los métodos de investigación, no solo en las habilidades de diseño visual
  • Proyectos de fin de carrera o tesis centrados en los retos emergentes del diseño de la inteligencia artificial
  • Vínculos con laboratorios de IA, centros de investigación o equipos dedicados a la IA responsable
  • Cursos sobre accesibilidad y diseño inclusivo para sistemas de inteligencia artificial
  • Oportunidades para publicar o presentar investigaciones en congresos estudiantiles o académicos
  • Servicios de orientación profesional especializados en puestos relacionados con la investigación de la experiencia de usuario (UX) y el diseño centrado en la inteligencia artificial (IA)
  • Programas flexibles para estudiantes que realizan investigación de posgrado en este nuevo campo
  • Red activa de exalumnos que trabajan en el ámbito de la ética de la IA, la investigación de la experiencia de usuario o en puestos de diseño
Hoja de ruta típica
Diseñador de interacción entre humanos e inteligencia artificial
Cómo conseguir tu primer empleo
  • Elabora un portafolio que muestre trabajos de investigación o diseño relacionados con la confianza, la transparencia o la supervisión en el ámbito de la IA
  • Postúlate para puestos de nivel inicial como investigador de experiencia de usuario (UX), diseñador de productos de inteligencia artificial (IA) o diseñador de interacción asociado
  • Busca pasantías en laboratorios de IA, centros de investigación o equipos dedicados a la IA responsable
  • Busca en portales de empleo como LinkedIn e Indeed utilizando términos como «interacción entre humanos e IA» o «investigación de experiencia de usuario en IA»
  • Publica o presenta cualquier investigación académica sobre la interacción entre humanos e inteligencia artificial, incluso proyectos informales
  • Únete a comunidades y listas de correo dedicadas a la IA centrada en el ser humano y a la ética de la IA
  • Practica cómo presentar los resultados de una investigación de manera clara tanto a un público con conocimientos técnicos como a uno sin ellos
  • Destaca en tu currículum los cursos o proyectos relacionados con la psicología, la ética o los métodos de investigación
  • Ponte en contacto con investigadores o diseñadores del sector para realizar entrevistas informativas
  • Participa en debates abiertos o escribe sobre el diseño responsable de la IA
  • Prepárate para hablar sobre ejemplos reales de interfaces de IA confusas o engañosas que hayas observado
  • Mantén una actitud flexible respecto a la posibilidad de ingresar primero a través de puestos relacionados, como la investigación de experiencia de usuario (UX) o el diseño de productos
Cómo ascender en la escala profesional
  • Desarrolla un historial de investigaciones que hayan mejorado de manera cuantificable la confianza o la facilidad de uso de las funciones de IA
  • Asume proyectos cada vez más importantes, como el uso de la inteligencia artificial en el sector de la salud o las finanzas
  • Desarrollar una mayor dominio técnico en el aprendizaje automático para colaborar de manera más eficaz con los ingenieros
  • Contribuir o ayudar a definir las directrices de una empresa sobre el uso responsable de la IA
  • Orientar a otros diseñadores e investigadores que se inician en el campo de la interacción entre humanos e IA
  • Publica investigaciones o participa como ponente en congresos para ganarte una reputación en este campo emergente
  • Establecer relaciones con los equipos de políticas, legales y ejecutivos que definen la estrategia de IA
  • Asume puestos como diseñador principal de interacción con IA, jefe de diseño de IA responsable o director de investigación sobre la relación entre humanos e IA
Recursos recomendados

Sitios web:

  • ACM SIGCHI - sigchi.org
  • Nielsen Norman Group (NN/g) - nngroup.com
  • Fundación de Diseño de Interacción (IxDF) - interaction-design.org
  • Partnership on AI - partnershiponai.org
  • Asociación para el Avance de la Inteligencia Artificial (AAAI) - aaai.org
  • Microsoft HAX Toolkit (Human-AI eXperience) - microsoft.com/haxtoolkit
  • Inteligencia Artificial Centrada en el Ser Humano (HAI) de Stanford - hai.stanford.edu
  • MIT Media Lab - media.mit.edu
  • AI Now Institute - ainowinstitute.org
  • UX Collective - uxdesign.cc
  • Comunidad Fast.ai - fast.ai
  • DesignLab - designlab.com
  • Asociación de Diseño de Interacción (IxDA) - ixda.org
  • Centro para una IA compatible con los seres humanos - humancompatible.ai

Libros:

  • IA centrada en el ser humano, de Ben Shneiderman
  • El diseño de las cosas cotidianas, de Don Norman
  • «Armas de destrucción matemática», de Cathy O'Neil
  • Atlas de la IA, de Kate Crawford
  • Te pareces a una cosa y te amo, de Janelle Shane
Plan B Carreras

Si descubres que la carrera de diseñador de interacción entre humanos e IA no es lo que buscas, tus habilidades en investigación, ética y diseño centrado en las personas se pueden aplicar fácilmente a muchas carreras relacionadas.

  • Investigador de experiencia de usuario
  • Diseñador de productos
  • Consultor en ética de la IA
  • Diseñador de experiencia de usuario (UX)
  • Analista de políticas tecnológicas
  • Ingeniero en factores humanos
  • Especialista en ética de datos
  • Diseñador de interacción
  • Científico cognitivo
  • Gerente de Productos de IA
Infografía

Haz clic aquí para descargar la infografía

Noticias

Cursos y herramientas en línea