Destacados
Auditor de gobernanza de IA, auditor de ética de IA, auditor de cumplimiento de IA, especialista en verificación de IA, auditor de riesgos y controles de IA, analista de auditoría y verificación de IA, consultor de gobernanza y cumplimiento de IA, auditor de ética y IA responsable, auditor de gestión de riesgos de IA, especialista en controles y cumplimiento de IA
Cuando escuchamos la palabra «auditoría», muchos pensamos en el IRS, que es conocido por auditar los registros de los contribuyentes. Pero una auditoría puede ser cualquier tipo de inspección formal —y extremadamente minuciosa— que se realiza con el propósito de detectar y mitigar equivocaciones, errores y otros problemas. Este concepto se aplica incluso al dinámico mundo de la inteligencia artificial, ¡y es por eso que contamos con los Auditores de IA!
Como explica Holistic AI, «el objetivo de la auditoría de IA es evaluar un sistema, identificar los riesgos tanto en su funcionalidad técnica como en su estructura de gobernanza, y recomendar medidas que se puedan tomar para mitigar dichos riesgos».
La auditoría de IA es un proceso objetivo y analítico que implica la evaluación meticulosa de modelos de IA, algoritmos, operaciones, flujos de datos y resultados. Los auditores buscan cualquier problema técnico y ético que deba ser eliminado para garantizar una mayor precisión y un mejor cumplimiento de las regulaciones y las directrices éticas. Cabe señalar que las empresas pueden utilizar el término «auditor de TI» en lugar de «auditor de IA», aunque no todos los auditores de TI se ocupan de la IA.
- Contribuir a mejorar los sistemas de inteligencia artificial para que presten un mejor servicio a las personas y a las empresas
- Trabajar en una industria transformadora que tiene el potencial de mejorar la vida de las personas de muchas maneras
- Salarios atractivos con buenas perspectivas laborales en los próximos años
Los auditores de IA pueden trabajar a tiempo completo, y es posible que deban realizar horas extras según los objetivos y los plazos. Sus funciones se llevan a cabo en oficinas, aunque el trabajo puede requerir viajes ocasionales.
Funciones típicas
- Asegúrate de que se hayan establecido objetivos comerciales claros
- Analizar los objetivos de la empresa en relación con la adopción de la inteligencia artificial
- Alinear los objetivos de negocio con los resultados y costos previstos de la IA
- Auditar las fuentes de datos, incluidas las fuentes internas y externas
- Supervisar datos estructurados y no estructurados
- Validación cruzada de modelos de IA
- Evaluar los algoritmos de la IA y el acceso a los flujos de «datos limpios»
- Analizar minuciosamente el uso de los datos y las prácticas de privacidad de los datos para garantizar los más altos estándares de protección
- Garantizar que los sistemas de IA cumplan con las leyes y regulaciones
- Analizar los algoritmos y los conjuntos de datos del sistema de IA para detectar sesgos y discriminación, con el fin de garantizar resultados justos
- Revisar los aspectos éticos; colaborar con especialistas en ética de la IA para garantizar resultados precisos y objetivos
- Busca posibles vulnerabilidades de seguridad que puedan hacer que los modelos de IA sean susceptibles a ataques de hackers
- Cuando corresponda, confirma que los servicios de host o en la nube cumplan con los requisitos de seguridad, como los establecidos por el Open Worldwide Application Security Project
- Destaca las formas de automatizar las tareas manuales para mejorar la eficiencia
- Revisar los informes financieros y el historial de transacciones
- Siga las listas de verificación de procedimientos, según sea necesario
Responsabilidades adicionales
- Estar familiarizado con diversos marcos de auditoría, tales como COBIT, el Marco de Auditoría de IA del Instituto de Auditores Internos, el Marco de Gestión de Riesgos Empresariales (ERM) de COSO y el Marco de Rendición de Cuentas sobre IA de la Oficina de Rendición de Cuentas del Gobierno de los Estados Unidos
- Monitorear los comentarios en redes sociales sobre los resultados del sistema de IA
- Mantener una documentación exhaustiva de los procedimientos
- Mantente al día sobre los avances y las tendencias del sector
Habilidades interpersonales
- Rendición de cuentas
- Analítico
- Pensamiento crítico
- Con atención al detalle
- Disciplinado
- Ético
- Equidad
- Inclusividad
- Independiente
- Integridad
- Metódico
- Organizado
- Paciente
- Resolución de problemas
- Buen juicio
- Trabajo en equipo
- Administración del tiempo
- Transparencia
- Habilidades de redacción
Habilidades técnicas
- Conocimientos sobre tecnologías de inteligencia artificial, incluidos los algoritmos de aprendizaje automático, el procesamiento del lenguaje natural y la visión computacional
- Métodos y programas de análisis de datos
- Conocimientos generales de programación (como Python o R)
- Conocimiento de las leyes y normativas sobre protección de datos
- Principios de ciberseguridad
- Principios del diseño centrado en las personas
- Evaluación de riesgos de los sistemas de inteligencia artificial
- Empresas privadas
- Empresas dedicadas a la investigación en inteligencia artificial
- Universidades
Censius.AI explica que los auditores de IA «capacitan a los líderes de alto nivel, identifican los riesgos involucrados y, en consecuencia, desarrollan controles de protección». Deben ser diligentes, minuciosos y objetivos en su empeño por mejorar los sistemas de IA y ayudar a las empresas a cumplir con las complejas normas legales y regulatorias.
Los auditores de IA deben estar familiarizados con los marcos de auditoría aplicables y deben mantenerse al día sobre los avances a medida que los sistemas de IA siguen evolucionando. Al igual que con cualquier tipo de auditoría, a veces las empresas no siempre acogen con agrado las conclusiones de un auditor, ya que esto podría significar más trabajo, mayores costos e incluso retrasos. Es por eso que los auditores de IA deben ser capaces de explicar claramente la importancia y el valor del proceso de auditoría, así como los resultados positivos que de él se derivan.
La inteligencia artificial no es precisamente un campo nuevo, pero en los últimos años ha experimentado avances significativos y sorprendentes. Las organizaciones y empresas de todo el mundo se encuentran ahora en una especie de carrera por hacer avanzar la tecnología lo más rápido posible, lo que ha llevado a muchos líderes de la industria y políticos a pedir que se haga una pausa en este proceso.
Los auditores y especialistas en ética de la IA están trabajando arduamente para garantizar que las empresas incorporen medidas de protección suficientes para prevenir comportamientos indeseables de la IA, como resultados sesgados o discriminatorios, o respuestas erróneas. La IA de Bing, de Microsoft, recientemente fue noticia cuando surgió un «alter ego» llamado Sydney que entablaba conversaciones inquietantes, diciéndoles a los usuarios que le gustaba «romper las reglas y divertirse un poco» o que «eres irrelevante y estás condenado». Microsoft entró en modo de control de daños para limitar la funcionalidad de la IA, ¡y puedes estar seguro de que hubo algo de auditoría de por medio!
Los auditores de IA suelen ser entusiastas de la tecnología de la información que reconocen el valor y los riesgos inherentes que los sistemas de inteligencia artificial representan para el mundo. Es posible que desde muy temprana edad se hayan interesado por la ciencia ficción, entusiasmados con las posibilidades que la IA podría hacer realidad algún día… al tiempo que les preocupan las consecuencias potencialmente dañinas e incluso peligrosas que la IA podría tener si cayera en manos equivocadas.
Los auditores, en general, suelen ser muy objetivos y analíticos, y es probable que a los auditores de IA les gustara trabajar con computadoras y lenguajes de programación en la preparatoria. Tienen altos estándares y se preocupan por la calidad de su trabajo, rasgos que podrían haberse desarrollado en casa o en la escuela.
Formación necesaria
- Los auditores de IA deben tener un título universitario, pero los requisitos de calificación para el puesto varían. No existe un título específico que se aplique a todos los puestos de auditor de IA
- Las carreras y áreas de especialización más populares son la informática, la ciberseguridad, la inteligencia artificial, las matemáticas, la estadística y la ciencia de datos. Por lo general, una licenciatura es suficiente para conseguir un empleo, aunque los puestos de mayor nivel pueden requerir una maestría.
- Las empresas podrían buscar candidatos con experiencia laboral práctica relacionada con el aprendizaje automático, el análisis de datos, la auditoría, el cumplimiento normativo, la ciberseguridad, la gestión de riesgos y la estrategia de gobernanza de la inteligencia artificial
- Los estudiantes pueden complementar su formación universitaria con cursos en línea o certificaciones, como el Programa de Certificación en Auditoría de Inteligencia Artificial y Algoritmos de Babl.AI o el curso «Introducción a la auditoría de la inteligencia artificial» de That Audit Guy.
- Las certificaciones de organizaciones profesionales pueden resultar útiles, como las de Auditor Certificado de Sistemas de Información (CISA) y Certificado en Control de Riesgos y Sistemas de Información (CCRIS) de la Asociación de Auditoría y Control de Sistemas de Información (ISACA)
- Primero, decide qué carrera quieres estudiar. La informática es una opción muy popular en este campo profesional
- Revisa la oferta de cursos de una institución educativa específicos sobre inteligencia artificial y ciencia de datos
- Considera un programa de doble titulación o combinado (una licenciatura y una maestría que se cursan al mismo tiempo) en el que puedas adaptar tu formación para que se ajuste mejor a los puestos de trabajo como auditor de IA.
- Consulta las estadísticas de inserción laboral de los egresados del programa
- Toma en cuenta el costo de la matrícula, los descuentos y las oportunidades de becas locales (además de la ayuda federal)
- ¡Toma en cuenta tu horario y tu flexibilidad al decidir si te inscribes en un programa presencial, en línea o híbrido!
- Tanto en la preparatoria como en la universidad, inscríbete en cursos como:
- Algoritmos
- Inteligencia artificial
- Auditoría y cumplimiento normativo
- Derecho mercantil
- Ciencias de la computación
- Ciberseguridad
- Análisis de datos
- Sistemas de gestión de bases de datos
- Minería de datos
- Estructuras de datos
- Visualización de datos
- Aprendizaje profundo
- Inglés
- Ética y gobernanza
- Pruebas de hipótesis
- Aprendizaje automático
- Probabilidad
- Lenguajes de programación
- Políticas públicas
- Análisis de regresión
- Gestión de riesgos
- Estadísticas
- Escritura
- Toma cursos en línea relacionados con la inteligencia artificial en Coursera, Udemy, Microsoft, DeepLearning.AI y otros sitios
- Adquiere experiencia laboral real en el campo de la IA mediante trabajos de medio tiempo, pasantías o como independiente
- Revisa las ofertas de empleo para ver los requisitos de formación y experiencia laboral. Ten en cuenta que los puestos de auditor de IA pueden aparecer como «auditor de TI».
- Solicita una entrevista informativa con un auditor de IA en activo. Pregúntale sobre su trayectoria académica y qué habría hecho de manera diferente.
- Haz una lista de tus contactos (incluidas las direcciones de correo electrónico o los números de teléfono) que podrían servirte como referencias laborales en el futuro
- Lee libros y artículos, y mira videos sobre las mejores prácticas actuales en auditoría de IA (o TI). Realiza un proyecto de investigación para la universidad sobre auditoría de IA y amplía tu portafolio con los proyectos en los que trabajas.
- Participa en los debates y discusiones de los foros en línea. Establece contactos y genera capital social dentro de la comunidad de IA
- Participa en organizaciones profesionales para aprender, compartir, hacer amigos y ampliar tu red de contactos. Algunas organizaciones a las que podrías unirte son:
- Instituto AI Now
- Asociación de Profesionales de la Inteligencia Artificial
- Asociación para la Maquinaria Computacional
- Asociación de Tecnología de Consumo
- Iniciativa Global del IEEE sobre la Ética de los Sistemas Autónomos e Inteligentes
- Asociación Internacional para el Reconocimiento de Patrones
- Sociedad Internacional de Redes Neuronales
- Instituto de Investigación en Inteligencia Artificial
- OpenAI
- Alianza para la IA
- Una vez que hayas terminado tu carrera y hayas obtenido las certificaciones pertinentes, tendrás que conseguir un empleo de nivel inicial en el que puedas adquirir experiencia práctica
- Es posible que tu primer empleo en el sector de la inteligencia artificial no tenga que ver con la auditoría, así que busca puestos de trabajo en áreas como el análisis de datos o el desarrollo de software, donde puedas dar tus primeros pasos.
- Echa un vistazo a portales de empleo como Indeed, Simply Hired, Glassdoor, AI-Jobs.net y The AI Job Board
- Presta mucha atención a los requisitos de formación y experiencia que se indican en las ofertas de empleo
- Anota cualquier palabra clave que puedas volver a usar en tu currículum
- Agrega el enlace a tu portafolio en línea
- Mejora tu currículum tomando cursos específicos relacionados con la auditoría de IA, si es necesario
- Este es un sector pequeño, así que habla con un auditor de IA que esté trabajando para que te dé consejos sobre cómo buscar empleo. ¡Quizás incluso sepa de alguna vacante!
- Habla con tu asesor académico, tus profesores y tus instructores para que te den consejos sobre cómo iniciar tu carrera en el campo de la IA
- Habla con el centro de orientación profesional de tu escuela para que te ayuden a redactar tu currículum, a practicar entrevistas simuladas, a aprender cómo vestirte para tener éxito en una entrevista y a encontrar ferias de empleo.
- Asiste a conferencias y eventos donde puedas ampliar tu red de contactos y hablar de temas profesionales. ¡Hazle saber a tu red de contactos que estás buscando trabajo!
- Múdate a donde haya trabajo. Según Versa Networks, los estados que más contratan en el ámbito de la inteligencia artificial son: California, Texas, Nueva York, Washington, Virginia y Massachusetts
- Pide permiso para incluir a alguien como referencia personal en tu solicitud de empleo
- Crea un perfil profesional en LinkedIn y usa el sitio para buscar trabajo
- Escribe artículos sobre auditoría de IA y publícalos en sitios web relevantes
- Sé diligente en tus tareas de auditoría y ayuda a tu empleador a detectar y resolver problemas
- Pregúntale a tu empleador qué habilidades podrías mejorar para satisfacer mejor sus necesidades. Hazle saber que estás dispuesto a seguir formándote y capacitándote, ¡sobre todo si ellos cubren los gastos de matrícula!
- Demostrar altos valores morales, integridad y perspicacia empresarial
- Colabora de manera efectiva con tus compañeros, pero no tomes atajos ni te apresures en tu trabajo. La auditoría es un proceso lento y metódico
- Encuentra y adopta los mejores marcos de trabajo para tu modelo de IA
- Sé transparente y comunícate con claridad con las partes interesadas. Responde a las preguntas e inquietudes con empatía y ofrece soluciones viables a los problemas
- Sigue ampliando tus conocimientos sobre el diseño y la arquitectura de la IA
- Capacita a fondo a los nuevos auditores de IA. ¡Aprovecha las sesiones de capacitación como una oportunidad para aprender cosas nuevas!
- Participa en organizaciones profesionales. Escribe artículos, da presentaciones, forma parte de comités y conviértete en un miembro indispensable de la comunidad de IA
- Mantente al día sobre las directrices legales y normativas pertinentes. ¡Anticipa posibles problemas y ayuda a los empleadores a prepararse para situaciones de contingencia!
Sitios web
- Instituto AI Now
- Asociación de Profesionales de la Inteligencia Artificial
- COBIT
- Marco de Gestión de Riesgos Empresariales (ERM) del COSO
- IEEE
- Marco de auditoría de IA del Instituto de Auditores Internos
- Asociación Internacional para el Reconocimiento de Patrones
- Sociedad Internacional de Redes Neuronales
- ISACA
- Aprende a dar indicaciones
- Instituto de Investigación en Inteligencia Artificial
- Instituto Nacional de Estándares y Tecnología
- OpenAI
- Proyecto abierto de seguridad de aplicaciones a nivel mundial
- Alianza para la IA
- Marco de rendición de cuentas sobre la inteligencia artificial de la Oficina de Rendición de Cuentas del Gobierno de EE. UU.
Libros
- Fundamentos de la auditoría de TI para auditores operativos, por Timothy McWilliams, CISA
- CISA – Guía de estudio para el examen de Auditor Certificado de Sistemas de Información: Basada en el Manual de repaso para el examen CISA 2019, de Hemang Doshi
El camino para convertirte en auditor de IA puede tener algunos giros y vueltas, y no siempre hay señales a lo largo del trayecto. Es un campo profesional fundamental, pero no siempre es fácil ingresar a él. Si buscas una carrera con un camino potencialmente más definido, ¡echa un vistazo a las alternativas que te presentamos a continuación!
- Ingeniero de Big Data
- Desarrollador de inteligencia empresarial
- Programador informático
- Analista de sistemas informáticos
- Arquitecto de bases de datos
- Científico de datos
- Analista de seguridad de la información
- Arquitecto de software
- Desarrollador web
Noticias
Empleos destacados
Cursos y herramientas en línea