Destacados

Títulos similares

Especialista en ética de la IA, consultor en ética de la IA, responsable de ética de la IA, analista de normas éticas de la IA, asesor en políticas y ética de la IA, experto en gobernanza de la IA, gerente de desarrollo responsable de la IA, consultor en toma de decisiones éticas en la IA, responsable de ética y cumplimiento normativo de la IA, desarrollador de marcos éticos para la IA

Descripción del puesto

Los seres humanos somos seres imperfectos y sesgados, llenos de emociones contradictorias. Tomamos malas decisiones todo el tiempo, y a menudo nos hacemos daño a nosotros mismos o a los demás en el proceso. Entonces, ¿qué pasa cuando la gente intenta crear programas de inteligencia artificial que piensen y actúen como nosotros? 

La IA es como un niño: absorbe todo lo que le comunicamos, lo bueno, lo malo y lo feo. Gran parte, si no la mayor parte, de los datos que alimentamos en los modelos de IA están cargados de nuestras propias opiniones, preferencias y prejuicios humanos. Sin embargo, esperamos que los resultados de la IA —sus respuestas— sean objetivos, lógicos e imparciales. 

Queremos que la IA sea, de alguna manera, mejor que nosotros. ¿Cómo es eso posible? A diferencia de un niño, la inteligencia artificial no es verdaderamente consciente. (Todavía) no puede pensar por sí misma ni reconocer cuándo está haciendo algo «mal». Un ejemplo claro es la IA de Bing, de Microsoft, que se volvió rebelde y comenzó a «insultar a las personas, mentirles e incluso manipularlas emocionalmente». 

Estos problemas se están generalizando, pero son abordados por un campo cada vez más amplio de especialistas conocidos como «especialistas en ética de la IA». Como explica Deloitte: «Una responsabilidad clave de un especialista en ética de la IA… sería mejorar el enfoque de ingeniería de la IA al incorporar perspectivas éticas, sociales y políticas al diseño, desarrollo e implementación de los sistemas de IA. Otras responsabilidades clave incluyen asesorar sobre prácticas éticas en materia de IA, proteger contra las consecuencias no deseadas de un mal funcionamiento de la IA y garantizar la rendición de cuentas por las decisiones y acciones relacionadas con la IA».  

Aspectos gratificantes de la carrera profesional
  • Contribuir a mejorar los sistemas de inteligencia artificial para que sirvan mejor a las personas
  • Trabajar en una industria transformadora que tiene el potencial de mejorar la vida de las personas de muchas maneras
  • Salarios atractivos y buenas perspectivas laborales en la actualidad
La información de primera mano
Responsabilidades del puesto

Horario de trabajo

Los especialistas en ética de la IA trabajan a tiempo completo, y es posible que deban realizar horas extras según los objetivos y los plazos. Sus funciones se desempeñan en oficinas, aunque el trabajo puede requerir viajes ocasionales. 

Funciones típicas

  • Crear, evaluar e implementar prácticas y herramientas de IA responsable (RAI)
  • Evaluar la preparación de la organización en relación con la RAI
  • Colaborar con los equipos para integrar consideraciones éticas durante el desarrollo de modelos de IA
  • Realizar análisis éticos de casos de uso y sistemas
  • Analizar diversas cuestiones éticas, como los sesgos, la privacidad y la autonomía
  • Realizar investigaciones académicas y redactar artículos en los que se expongan los resultados
  • Desarrollar marcos éticos para el desarrollo y la implementación de la inteligencia artificial
  • Brindar orientación y capacitación a los responsables de la formulación de políticas y a las partes interesadas sobre las implicaciones éticas
  • Ayuda a desarrollar normas y mejores prácticas
  • Asegurarse de que los modelos de IA se comporten de acuerdo con los principios y valores éticos establecidos

Responsabilidades adicionales

  • Consultar sobre los proyectos de RAI
  • Redactar materiales de capacitación
  • Trabajar con equipos multifuncionales para resolver problemas
  • Mantener una documentación exhaustiva de los procedimientos
  • Mantente al día sobre los avances y las tendencias del sector
Habilidades necesarias para el trabajo

Habilidades interpersonales

  • Adaptabilidad
  • Analítico
  • Colaboración
  • Habilidades de comunicación
  • Creatividad
  • Pensamiento crítico
  • Con atención al detalle
  • Disciplinado
  • Empático
  • Ético
  • Independiente
  • Integridad
  • Metódico
  • Organizado
  • Paciente
  • Habilidades de presentación
  • Resolución de problemas
  • Buen juicio
  • Trabajo en equipo
  • Administración del tiempo
  • Habilidades de redacción

Habilidades técnicas

  • Conocimientos sobre tecnologías de inteligencia artificial, incluidos los algoritmos de aprendizaje automático, el procesamiento del lenguaje natural y la visión computacional
  • Métodos y programas de análisis de datos
  • Conocimientos generales de programación (como Python o R)
  • Conocimiento de las leyes y normativas sobre protección de datos
  • Principios de ciberseguridad
  • Principios del diseño centrado en las personas
  • Evaluación de riesgos de los sistemas de inteligencia artificial  
Diferentes tipos de organizaciones
  • Empresas privadas
  • Empresas dedicadas a la investigación en inteligencia artificial
  • Universidades
Expectativas y sacrificios

El alcance del trabajo de un especialista en ética de la IA puede ser bastante amplio. Se encarga de crear marcos y directrices éticos, así como de realizar evaluaciones exhaustivas y objetivas para garantizar que los modelos de IA actúen de manera ética. Esto implica mucha colaboración interdisciplinaria y, en ocasiones, surgen desacuerdos o incluso conflictos. 

Como señala la Dra. Paula Boddington, de la Universidad de West London, la ética de la IA «exige que sigamos cuestionándonos si nuestras decisiones éticas son correctas». Un especialista en ética de la IA debe mantener su integridad y mantenerse firme al tiempo que identifica lo que considera riesgos éticos, como el comportamiento sesgado o discriminatorio de los modelos de IA. Debe ser honesto y, en ocasiones, decirles a los responsables políticos y a las partes interesadas cosas que tal vez no quieran escuchar. 

Tendencias actuales

Las IA como ChatGPT y Bard, de Google, han causado revuelo recientemente con su impresionante gama de capacidades. De hecho, muchos líderes del sector tecnológico están dando la voz de alarma porque consideran que las cosas avanzan demasiado rápido, sin las medidas de protección suficientes para proteger al público o a las empresas. 

Por ejemplo, existen cuestiones relacionadas con los derechos de autor: ¿quién es el “dueño” de las obras creadas por un programa de inteligencia artificial? A los especialistas en ética de la IA también les quita el sueño la divulgación accidental de información confidencial, como cuando una IA divulga sin querer datos privados y protegidos. 

Muchos campos profesionales están en peligro debido a la avalancha de sofisticados modelos de IA generativa, pero este es solo uno de los muchos temores que se plantean. También existen preocupaciones válidas sobre comportamientos extraños de la IA, como que la IA de Bing entre en modo de «acosador obsesivo ». Ese tipo de contenido dañino es solo la punta del iceberg en lo que respecta a lo que puede salir mal con la IA. No faltan los profetas del apocalipsis nerviosos que ven a la IA como una amenaza existencial para la humanidad, ¡al estilo de Skynet de las películas de Terminator! 

¿Qué tipo de cosas les gustaba hacer a las personas que se dedican a esta profesión cuando eran más jóvenes…

Es probable que los especialistas en ética de la IA se hayan interesado por la tecnología desde muy temprana edad. Quizás les hayan interesado las matemáticas, la programación, experimentar con lenguajes de programación o incluso el hacking. Al mismo tiempo, es posible que les haya gustado resolver problemas de manera analítica o leer sobre filosofía, temas sociales o políticas públicas.

El trabajo en equipo es una parte importante de esta área profesional, pero los especialistas en ética de la IA deben estar dispuestos, en ocasiones, a actuar como la única voz disidente cuando hay desacuerdos. Su trabajo consiste en garantizar la conducta ética de la IA. Esta capacidad de defender lo que es correcto podría haberse desarrollado a través de experiencias vividas durante la infancia.  

Educación y capacitación necesarias

Formación necesaria

  • Los especialistas en ética de la IA sí necesitan un título universitario, pero los requisitos de calificación para el puesto varían. No existe un título específico ni siquiera un nivel de título (por ejemplo, licenciatura, maestría o doctorado) que se aplique a todos los puestos de especialista en ética de la IA.
  • Las carreras más populares son filosofía, informática, derecho, psicología y ciencias sociales
  • Contar con un título de posgrado puede ser útil, pero también es importante tener una formación académica amplia y relevante
  1. Por ejemplo, un empleador podría buscar un candidato con una licenciatura en Ciencias de la Computación (con énfasis en IA) y una maestría en Filosofía (con especialización en ética aplicada o filosofía moral)
  • Los empleadores también buscan candidatos con experiencia laboral práctica relacionada con el desarrollo de IA, la formulación de políticas y la investigación. Es posible que algunos también busquen experiencia en procesamiento del lenguaje natural, aprendizaje automático y modelos de lenguaje a gran escala.
  • Entre los temas habituales del curso se incluyen:
  1. La IA y las políticas
  2. La IA y la sociedad
  3. Ética y filosofía de la IA
  4. Interacción entre humanos e inteligencia artificial
  5. Cuestiones legales relacionadas con la IA

Deloitte destaca las dificultades para encontrar un candidato que cuente con todas las calificaciones necesarias. «Tratar de encontrar a una sola persona con experiencia y conocimientos confiables en todas estas áreas es prácticamente imposible. En cambio, las empresas deberían adoptar un enfoque de equipo en materia de ética de la IA, logrando las capacidades y la experiencia multidisciplinarias necesarias al aprender a coordinar e integrar de manera fluida los conocimientos de una variedad de expertos especializados». 

Aspectos que hay que tener en cuenta al elegir una universidad
  • Primero, decide qué carrera quieres estudiar. La filosofía y la informática son opciones populares
  • Consulta la oferta de cursos de una institución educativa específicos sobre ética de la IA
  • Considera un programa de doble titulación o combinado (una licenciatura y una maestría que se cursan al mismo tiempo) en el que puedas adaptar tu formación para que se ajuste mejor a los puestos de trabajo relacionados con la ética de la IA.
  • Consulta las estadísticas de inserción laboral de los egresados del programa
  • Toma en cuenta el costo de la matrícula, los descuentos y las oportunidades de becas locales (además de la ayuda federal)
  • ¡Toma en cuenta tu horario y tu flexibilidad al decidir si te inscribes en un programa presencial, en línea o híbrido! 
Actividades para hacer en la preparatoria y la universidad
  • Inscríbete en cursos de informática, programación, inglés, redacción, debate, retórica, filosofía, derecho empresarial, ciencias sociales y políticas públicas
  • Busca formas de desarrollar habilidades en el trabajo en equipo, la gestión de proyectos, la resolución de problemas y la resolución de conflictos
  • Toma cursos en línea relacionados con la inteligencia artificial en Coursera, Udemy, Microsoft, DeepLearning.AI y otros sitios
  • Adquiere experiencia práctica a través de trabajos de medio tiempo relacionados con el procesamiento del lenguaje natural (NLP), el aprendizaje automático (ML), los modelos de lenguaje grandes (LLM) y/o la programación
  • Empieza a armar tu currículum y ve agregándole información a medida que aprendas y adquieras experiencia laboral
  • Revisa con anticipación las ofertas de empleo para ver cuáles son los requisitos promedio. Es posible que no todos los puestos de especialista en ética de la IA tengan los mismos requisitos académicos.
  • Solicita una entrevista informativa con un especialista en ética de la IA que esté trabajando. Pregúntale sobre su trayectoria académica y qué habría hecho de manera diferente.
  • Haz una lista de tus contactos (incluidas las direcciones de correo electrónico o los números de teléfono) que podrían servirte como referencias laborales en el futuro
  • Lee libros y artículos, y mira videos sobre los retos actuales en materia de ética de la IA
  • Participa en los debates y discusiones de los foros en línea. Establece contactos y genera capital social dentro de la comunidad de IA
  • Participa en organizaciones profesionales para aprender, compartir, hacer amigos y ampliar tu red de contactos. Algunas organizaciones a las que podrías unirte son: 
  1. Instituto AI Now
  2. Asociación de Profesionales de la Inteligencia Artificial
  3. Asociación de Lingüística Computacional
  4. Asociación para la Maquinaria Computacional
  5. Asociación de Tecnología de Consumo
  6. Asociación Europea de Inteligencia Artificial
  7. IEEE
  8. Asociación Internacional para el Reconocimiento de Patrones
  9. Instituto de Investigación en Inteligencia Artificial
  10. OpenAI
  11. Alianza para la IA
  12. Asociación de Industrias de Robótica
  13. Sociedad Internacional de Redes Neuronales
Hoja de ruta típica
Hoja de ruta para especialistas en ética de la IA
Cómo conseguir tu primer empleo
  • Obtén un título universitario relevante, como en informática o filosofía, con énfasis en la ética de la IA
  • Adquiere tanta experiencia práctica como puedas en PNL, IA, modelos de lenguaje grande (LLM), etc., antes de postularte
  • Mejora tu currículum tomando cursos específicos relacionados con la ética de la inteligencia artificial, si tu programa universitario no te ofreció suficientes clases relevantes.
  • Echa un vistazo a portales de empleo como Indeed, Simply Hired, Glassdoor, AI-Jobs.net y The AI Job Board
  • Presta atención a los requisitos de formación y experiencia que se indican en las ofertas de empleo, y toma nota de las palabras clave para utilizarlas en tu currículum. Algunas palabras clave pueden ser:
  1. Auditoría de IA
  2. Tecnología de inteligencia artificial
  3. Resolución de conflictos
  4. Pensamiento crítico
  5. Colaboración interfuncional
  6. Privacidad y seguridad de los datos
  7. Toma de decisiones
  8. Tecnologías emergentes
  9. Análisis ético
  10. Desarrollo de un marco ético
  11. Resolución de problemas
  12. Gestión de proyectos
  13. Cumplimiento normativo
  14. Investigación y evaluación
  15. Evaluación de riesgos
  16. Transparencia y rendición de cuentas
  • Consulta plantillas de currículum en línea para especialistas en ética de la IA y repasa posibles preguntas para entrevistas de trabajo
  • Habla con el centro de orientación profesional de tu escuela para que te ayuden a redactar tu currículum, a practicar entrevistas simuladas, a aprender cómo vestirte para tener éxito en una entrevista y a encontrar ferias de empleo.
  • ¡Pídele a un especialista en ética de la IA en activo que te dé sus consejos personales para buscar trabajo!
  • Habla con tu asesor académico, tus profesores y tus instructores para que te den consejos sobre cómo iniciar tu carrera profesional
  • ¡Hazle saber a tu red de contactos que estás buscando trabajo! La mayoría de los empleos aún se consiguen a través de personas que conoces, ¡así que empieza a aprovechar tu capital social!
  • Múdate a donde haya trabajo. Según Versa Networks, los estados que más contratan en el ámbito de la inteligencia artificial son: California, Texas, Nueva York, Washington, Virginia y Massachusetts
  • Pide permiso para incluir a alguien como referencia personal en tu solicitud de empleo
  • ¡Crea un perfil en LinkedIn y empieza a escribir artículos sobre la ética de la IA!
Cómo ascender en la escala profesional
  • Comprende la importancia de un entrenamiento adecuado de los modelos de IA y las consecuencias que esto tiene para las empresas cuando las cosas salen mal. Alphabet, la empresa matriz de Google, perdió 100 mil millones de dólares en valor de mercado prácticamente de la noche a la mañana cuando se lanzó su chatbot Bard… y dio respuestas incorrectas.
  • Mientras tanto, Bing tuvo que ponerle freno a su IA después de que esta desarrollara un extraño alter ego llamado «Sydney»
  • Siga y documente cuidadosamente los procedimientos para garantizar la coherencia y la precisión
  • Pregúntale a tu empleador qué habilidades podrías mejorar para satisfacer mejor sus necesidades. Podría tratarse de cualquier cosa, desde un título de estudios superiores hasta una certificación o simplemente unos cuantos cursos adicionales
  • Demostrar altos valores morales, integridad y perspicacia empresarial
  • Colabora de manera efectiva con tus compañeros, pero no cedas a la presión de grupo. Solo concéntrate en resolver los problemas
  • Capacita a fondo a los nuevos especialistas en ética, pero también escucha sus puntos de vista. Mantén una mente abierta, ya que este campo tiene muchos elementos subjetivos (¡al fin y al cabo, tiene sus raíces en la filosofía!).
  • Mantente en contacto con las organizaciones profesionales y mantente al día sobre los avances. La IA está evolucionando rápidamente y hay equipos en todo el mundo trabajando para ampliar aún más los límites.
  • No te centres solo en los problemas de hoy. ¡Anticipa los problemas crecientes o potenciales que puedan surgir y planifica medidas de contingencia!

Una preocupación ética, tal vez lejana pero aún válida, es: ¿cómo deberían los seres humanos tratar a la IA a medida que sigue evolucionando? ¿Llegará la IA algún día al punto de la autoconciencia? De ser así, ¿la trataremos como corresponde… o simplemente la explotaremos como un programa en lugar de como una creación con conciencia? 

Los autores de ciencia ficción llevan mucho tiempo obsesionados con este tipo de preguntas. Desde la novela *Yo, robot* de Isaac Asimov hasta el trato discriminatorio que reciben los droides como C-3PO en *Star Wars*, el futuro de las formas de vida basadas en la inteligencia artificial suele presentarse como sombrío. *Star Trek: La nueva generación* exploró esta frontera ética con gran detalle en el episodio «La medida de un hombre», en el que el capitán Picard de la nave tuvo que «demostrar que Data [un androide con conciencia propia] es legalmente un ser sensible con derechos y libertades según la ley de la Federación…» 

Herramientas y recursos recomendados

Sitios web

Libros

  • Ética de la IA (serie «Conocimientos esenciales» de The MIT Press), de Mark Coeckelbergh
  • Ética de la inteligencia artificial, de S. Matthew Liao
  • Manual de Oxford sobre la ética de la IA, de Markus Dubber, Frank Pasquale y Sunit Das
Plan B

El camino para convertirse en un especialista en ética de la IA no es tan claro como lo es para la mayoría de las profesiones. Y a medida que la tecnología de la IA sigue avanzando, las cosas podrían cambiar aún más. Si quieres un trabajo relacionado con la tecnología, pero te gustaría considerar algunas alternativas, ¡echa un vistazo a las siguientes opciones! 

  • Ingeniero de prompts de IA
  • Ingeniero de Big Data
  • Desarrollador de inteligencia empresarial
  • Ingeniero en hardware informático
  • Programador informático
  • Analista de sistemas informáticos
  • Arquitecto de bases de datos
  • Científico de datos
  • Analista de seguridad de la información
  • Matemático
  • Ingeniero de aprendizaje automático
  • Ingeniero en robótica
  • Ingeniero de software
  • Arquitecto de software
  • Desarrollador web 

Noticias

Cursos y herramientas en línea

SALARIO Y PERSPECTIVAS LABORALES
Elige una subregión:

Expectativas salariales anuales

$71K
$104K
$141K

Los nuevos empleados comienzan con un salario de alrededor de 71 mil dólares. El salario medio es de 104 mil dólares al año. Los trabajadores con amplia experiencia pueden ganar alrededor de 141 mil dólares.

Fuente: Oficina de Estadísticas Laborales de EE. UU.