El responsable de ética de IA es un profesional que podría considerarse como el filósofo del mundo tecnológico moderno, ya que trabaja con el análisis social y humano, pero tiene también que tener conocimientos técnicos.
De hecho, para todas aquellas personas que les gusten las humanidades, pero quieran formarse en inteligencia artificial para encontrar trabajo, la profesión de responsable de ética de IA, seguramente les llame mucho la atención.
Por eso, en este artículo, vamos a analizar esta profesión, hablando sobre sus funciones y el papel que cumplen en la nueva era de la IA, además de darte algunas recomendaciones para que puedas convertirte en responsable de ética de IA y trabajar de ello.
¿Quién es responsable de la ética de la IA?
Cuando se analiza el futuro del trabajo en la era de la inteligencia artificial y el uso que se hace día a día de esta tecnología, hay una pregunta que genera bastante debate y que, de hecho, ya está en el aire con algunas denuncias que se han producido.
¿Quién debe responder cuando algo sale mal, cuando la IA copia contenido protegido por derechos de autor, o cuando aplica sesgos ideológicos? La verdad es que la respuesta no es para nada simple, y es un marco legal y social que todavía está en construcción.
Los equipos técnicos tienen la tarea diaria de tomar decisiones que afectan a cómo la IA interpreta el mundo, de tal manera que su una IA para recursos humanos utiliza un algoritmo para seleccionar currículos aprende de datos históricos sesgados, replicará esas desigualdades.
Por eso es que la ética de la IA es importante desde la etapa de diseño y hay que elegir fuentes de datos diversas, así como probar el modelo para evitar posibles discriminaciones.
Pero los ingenieros trabajan por lo general para otros, y muchas de las empresas que los emplean ya forman comités internos donde juristas, especialistas en sesgos y hasta filósofos, revisan los proyectos de IA antes de su lanzamiento.
Los marcos legales dan forma a los límites de lo permitido, y muchos países avanzan en leyes que exigen evaluaciones de impacto ético para sistemas de alta sensibilidad, especialmente en los sectores de la salud, o la justicia.
En este sentido, la regulación actúa como una red de seguridad, pero también como un faro que señala qué valores merecen una protección colectiva.
¿Qué hacen los responsables de ética de la IA?
Quienes trabajan en la ética de sistemas inteligentes tienen como labor integrar la crítica dentro de los proyectos técnicos, en el punto exacto donde las capacidades de la máquina se encuentran los valores humanos.
Por eso, una parte central de su trabajo es similar al de los científicos de datos, puesto que tienen que analizar los datos de entrenamiento de la IA en busca de errores estadísticos, además de localizar patrones históricos de exclusión que el sistema podría perpetuar.
Después, documentan estas brechas y colaboran con los ingenieros para corregir el desequilibrio antes del entrenamiento del modelo, lo que requiere de algo de conocimiento técnico para entender la arquitectura de datos.
Además, esta profesión es de mediación constante entre departamentos, ya que colaboran con los especialistas legales en inteligencia artificial para tratar los derechos de autor y la privacidad.
También, explican a los equipos comerciales por qué ciertas funcionalidades, aunque rentables, presentan riesgos inaceptables de manipulación, algo que claramente puede ser contrario a la ética, incluya esta el uso de la IA o no.
Y cuando todo está en marcha y ya funciona, monitorean su comportamiento en condiciones reales, y establecen protocolos para recibir informes de sesgo, o error de usuarios finales y equipos internos.
¿Cuál es la diferencia entre IA ética y ética de IA?
Esta diferencia es algo que genera confusión incluso entre los especialistas, y es que cuando hablamos de sistemas inteligentes, estos dos términos parecen intercambiables, pero la verdad es que apuntan a realidades totalmente distintas.
Así que para entender cada uno de estos conceptos, ten en cuenta que la IA ética nace en el laboratorio, y se gestiona a través de decisiones técnicas que moldean el comportamiento del sistema desde su creación.
Pero la ética de IA, sin embargo, es lo relativo al sector social y define los principios para gobernar el uso de sistemas ya existentes.
Lo realmente interesante y que de hecho, es lo que crea confusión, es cuando ambos mundos colisionan, ya que se puede tener un sistema técnicamente ‘ético’ en su diseño, usado de forma no ética.
Por supuesto, necesitamos trabajar las dos facetas, puesto que la IA ética evita que los sesgos se incrusten en el ADN de la tecnología, y la ética de IA impide que, aún siendo técnicamente impecable, se convierta en un arma de vigilancia masiva, discriminación, o manipulación.
¿Cómo convertirse en consultor de ética de inteligencia artificial?
Tal como estamos analizando, si te interesa esta profesión, ya te habrás dado cuenta de que nace de la intersección entre la tecnología y la reflexión sobre sus consecuencias, así que lo que sí necesitas es una combinación de conocimientos técnicos, de comprensión legislativa y de sensibilidad social.
Por supuesto, si quieres dedicarte a esto, lo mejor sería empezar por entender cómo funcionan los sistemas de aprendizaje automático en la IA.
Con ello, no te estamos diciendo que debas programar redes neuronales complejas, pero sí comprender sus fundamentos. Saber qué es un conjunto de entrenamiento, cómo se mide el rendimiento de un modelo, o por qué ciertos algoritmos amplifican sesgos históricos.
Un curso sobre fundamentos de ciencia de datos te da esa base, y es que si trabajas con equipos técnicos, hablar su lenguaje evita que te ignoren cuando señales problemas en el preprocesamiento de datos, o en la selección de variables.
De forma paralela, tendrás que trabajar en la filosofía moral aplicada, a través del estudio de las teorías de justicia distributiva, autonomía individual, o dignidad humana. Por supuesto, no como un ejercicio académico abstracto, sino para analizar casos concretos.
Por nuestra parte, podemos ofrecerte nuestra certificación CAIO, en la que formamos a los futuros directores de proyectos de IA, lo que puede ser tu formación para adentrarte en el mundo de la IA si vienes de la carrera de derecho, filosofía, o alguna otra relacionada con el ámbito jurídico o social.
También, ponemos a tu disposición nuestra plataforma trabajosia.com, en la que puedes crear una cuenta gratuita para una vez tenga la formación adecuada, puedas encontrar trabajo como responsable de ética de IA.
Así que ya solo nos queda decirte, que si tienes alguna duda que quieres que te resolvamos de forma personalizada, puedes contactar con nosotros.
