Cómo Desarrollar un Enfoque Ético Organizacional para la IA

La IA está transformando el lugar de trabajo, pero ¿cómo separamos los casos de uso reales y prácticos de las tendencias exageradas que no ofrecen resultados? ¿Y qué riesgos éticos debemos tener en cuenta?

El presentador David Rice conversa con Jonathan Conradt—ex Principal AI Scientist en Amazon y Consejero de la Junta Directiva en Synerise—sobre el verdadero impacto de la IA en recursos humanos y liderazgo. Exploran cómo la IA está influyendo en la contratación, el bienestar de los empleados y la toma de decisiones, además del papel crucial de una IA responsable. Jonathan también revela por qué las empresas a menudo invierten mal en IA y cómo los líderes pueden tomar decisiones más inteligentes.

Puntos destacados de la entrevista

  • Conozca a Jonathan Conradt [00:52]
    • Jonathan tiene una amplia experiencia en tecnología.
    • Trabajó en el equipo original de Chrome en Google, centrándose en las versiones para Mac y Linux.
    • Gestionó marketing e integró IA/ML en eBay.
    • Pasó 12 años en Amazon, donde notó que los proyectos de IA a menudo eran mal evaluados.
    • El liderazgo de Amazon tenía dificultades para evaluar las inversiones en IA debido a la falta de comprensión.
    • Pasó su último año en Amazon educando a vicepresidentes y directores sobre IA/ML.
    • Dejó Amazon para ayudar a las empresas a comprender mejor las oportunidades y riesgos de la IA.
  • IA en RRHH: Aplicaciones Prácticas [02:37]
    • La IA generativa es popular, pero el aprendizaje automático tradicional también ha avanzado.
    • Uno de los avances más significativos es el aprendizaje automático automático (AutoML).
    • AutoML automatiza tareas repetitivas en la creación de modelos.
    • El paquete de código abierto AutoGluon hace que la IA sea accesible para quienes tienen conocimientos básicos de SQL y Python.
    • AutoML permite la creación rápida de modelos de alta calidad que antes tomaban meses.
    • La IA es útil en RRHH para tareas como la clasificación de empleados, predicción de rotación y la identificación de personas para formación en liderazgo.
    • Ayuda con predicciones numéricas, como necesidades de contratación y planificación de la plantilla.
    • Soporta análisis de series temporales para detectar tendencias estacionales.
    • Se puede construir un modelo de clase mundial con solo tres líneas de código.
  • Consideraciones Éticas en IA [05:03]
    • Recursos Humanos juega un papel crucial en el desarrollo de la IA, asegurando el cumplimiento legal y ético.
    • Los científicos a menudo carecen de experiencia en leyes y sesgos relacionados con RRHH.
    • Los modelos de IA pueden aprender y reforzar sin querer sesgos históricos (por ejemplo, favorecer candidatos que jugaron lacrosse).
    • La IA responsable se enfoca en la equidad, la transparencia y el manejo ético de los datos.
    • Los profesionales de RRHH están bien preparados para guiar la equidad en IA, especialmente en modelos de contratación y promoción.
    • Se debe mitigar el sesgo de IA en las predicciones de promoción (por ejemplo, favorecer graduados de la Ivy League o a los hombres).
    • Están surgiendo regulaciones sobre ética en IA, siendo la UE líder y los EE. UU. considerando legislación.
    • RRHH puede ayudar a los científicos a entender e implementar prácticas responsables en IA.
    • Modelos de IA como ChatGPT no utilizan directamente las entradas de los usuarios para el entrenamiento, para evitar corromper datos valiosos.
    • Aprenden de las interacciones de los usuarios, como preguntas reformuladas que señalan insatisfacción con una respuesta.
    • Pueden surgir sesgos si las interacciones reflejan prejuicios sociales (por ejemplo, género, ingresos, preferencias geográficas).
    • Un ejemplo rumoroso sugiere que los modelos de OpenAI adoptaron patrones lingüísticos parecidos a los de los contratistas kenianos involucrados en el aprendizaje por refuerzo.
    • Los sesgos en la retroalimentación humana, como preferir respuestas más largas, influyeron en el comportamiento del modelo.
    • La IA puede favorecer inconscientemente los patrones de habla, temas o preferencias de los grupos de usuarios dominantes.
    • Los sesgos en la IA pueden aparecer de formas inesperadas, reforzando patrones de los grupos demográficos de usuarios más activos.

Para hacer lo correcto en cuanto a IA responsable, debe eliminar los factores que no deberían ser considerados. No deje que el modelo vea o infiera cosas que usted no tomaría en cuenta en una promoción real.

Jonathan Conradt
  • Directrices y formación ejecutiva [12:36]
    • Los sistemas de IA utilizan modelos de resguardo para filtrar consultas dañinas o poco éticas antes de procesarlas.
    • Los empleados encontrarán formas de usar herramientas de IA si las empresas no proporcionan accesos seguros y autorizados.
    • Subir datos corporativos sensibles a modelos públicos de IA presenta riesgos de seguridad graves.
    • Las cuentas corporativas de IA pueden ofrecer entornos controlados para mitigar los riesgos.
    • Los ejecutivos, a pesar de su experiencia, pueden tener dificultades para distinguir entre herramientas de IA seguras y no seguras.
    • Ofrecer formación y herramientas oficiales de IA puede ayudar a prevenir brechas de seguridad.
    • Las estrategias de adopción de IA varían:
      • Adoptadores tempranos: Invirtieron mucho, asumieron altos riesgos y a menudo tuvieron dificultades.
      • "Never evers": Escépticos y resistentes, corren el riesgo de quedar obsoletos.
      • Seguidores rápidos: Aprenden de los adoptadores tempranos, adoptan IA a un costo menor y probablemente tendrán éxito.
    • La IA alcanzará un techo de rendimiento, permitiendo a los seguidores rápidos alcanzar a los adoptadores tempranos.
  • Comprensión de la formación y adopción de IA [20:03]
    • Muchas personas, incluidos profesionales técnicos, carecen de una comprensión profunda del aprendizaje automático.
    • La IA es, esencialmente, una función matemática que recibe una entrada, la procesa y genera un resultado.
    • La IA no "piensa" ni "recuerda" entre usos: solo existe cuando se la utiliza.
    • Las capacidades impresionantes de la IA provienen de código adicional y una mejor organización de los datos.
    • La formación debe adaptarse a los diferentes roles dentro de una organización (usuarios, técnicos, ejecutivos, etc.).
    • Un enfoque de formación genérico para todos no funcionará.
    • RRHH debe determinar estrategias de formación en IA adecuadas para los distintos grupos de empleados.
    • Los empleados, incluidos los no técnicos, necesitan formación en IA para reducir el temor y permitir la adopción.
    • Los ejecutivos requieren una formación en IA diferente a la de los empleados de primera línea.
  • Bienestar de los empleados y IA [23:20]
    • Jonathan está trabajando con investigadores en la medición y mejora del bienestar de los empleados impulsada por IA.
    • La IA es paciente y puede proporcionar retroalimentación accionable a los empleados.
    • Su trabajo anterior con StrengthsFinder de Gallup buscaba mejorar las relaciones entre directivos y empleados para el bienestar general.
    • Las evaluaciones tradicionales se basan en respuestas de elección forzada, que pueden no capturar completamente el sentimiento de los empleados.
    • El nuevo enfoque permite a los empleados expresarse abiertamente, sumando datos cualitativos valiosos.
    • La IA puede convertir texto en vectores matemáticos, lo que permite un mejor análisis.
    • Un experimento previo que utilizó IA para analizar artículos de investigación mejoró las predicciones en un 14%.
    • Aplicar técnicas similares de IA a encuestas de satisfacción de empleados podría mejorar significativamente la comprensión.
  • El futuro de la IA en el lugar de trabajo [26:35]
    • Probablemente los profesionales de RRHH utilicen agentes de IA para ayudar a gestionar tareas complejas, recopilar información y simplificar procesos.
    • La IA puede actuar como asistente ejecutiva, organizando tareas, leyendo correos electrónicos y brindando sugerencias, mientras que las decisiones finales recaen en los humanos.
    • Las IAs son especialmente buenas sintetizando información, lo que las hace eficaces para cargos como vicepresidencias que necesitan una visión amplia de la organización.
    • Los asistentes potenciados por IA (por ejemplo, los co-pilotos de Microsoft) ahorrarán tiempo y mejorarán la comprensión empresarial.
    • Las empresas pueden usar IA para aumentar la productividad, pero deben evitar reducir personal; en cambio, deberían centrarse en incrementar el rendimiento con la misma plantilla.
    • Las empresas que adopten IA para mejorar la eficiencia superarán a las que reduzcan empleados pero mantengan el mismo nivel de producción.

Las empresas que opten por reducir personal y mantener el mismo nivel de trabajo con menos empleados serán superadas por aquellas que mantienen el mismo número de personas pero aumentan drásticamente la cantidad de trabajo realizado y el valor que pueden entregar a los clientes.

Jonathan Conradt

Conozca a Nuestro Invitado

Jonathan Conradt es un experto experimentado en inteligencia artificial y aprendizaje automático, que actualmente se desempeña como Asesor de la Junta Directiva de Synerise, una empresa especializada en soluciones de inteligencia artificial y big data. Antes de este cargo, fue Principal Científico de Inteligencia Artificial y Aprendizaje Automático en Amazon, donde desarrolló y enseñó el plan de estudios para la Universidad de Aprendizaje Automático de Amazon. Su amplia experiencia incluye puestos en eBay como Director de Ingeniería de Producto para Internet y Correo Electrónico, en Google como gestor de producto de ingeniería para el navegador web Chrome, y en Microsoft como gestor de producto para un producto de televisión por IP. Jonathan posee ocho patentes relacionadas con aprendizaje automático y marketing y fue uno de los creadores de la popular herramienta de gestión StrengthsFinder. También es reconocido por sus contribuciones a la automatización del aprendizaje automático, especialmente con herramientas como AutoGluon.

Una de las grandes ventajas de la inteligencia artificial es que es muy paciente. Puede ser una valiosa fuente de información porque se le puede proporcionar datos precisos y procesables, y la IA puede responder a las personas, ofreciéndoles ese tipo de conocimientos.

Jonathan Conradt

You may also like