Un chatbot de empleo austriaco reproduce sesgos de género

El Servicio de Empleo de Austria (AMS) ha recibido grandes críticas de usuarios debido a un nuevo “chatbot” que utiliza ChatGPT para responder a cuestiones sobre formación y empleo. Este chatbot reproduce sesgos al recomendar formaciones de ciencia a los hombres, mientras que sugiere humanidades y servicios a las mujeres.

El “Berufsinfomat” (Chat de información sobre empleo), lanzado el miércoles, permite a los usuarios consultar oportunidades de formación y trabajo, ofreciendo respuestas personalizadas y enlaces útiles. La plataforma también proporciona información sobre estudios y especializaciones, además de facilitar enlaces y ofertas de formación específicas del AMS. Desarrollado por la administración austríaca y la empresa especializada en IA Goodguys, el “Berufsinfomat” combina información del AMS con datos proporcionados por ChatGPT. Según el Gobierno austríaco, esta herramienta es la primera de su tipo en Europa y tuvo un costo de aproximadamente 300,000 euros.

Sin embargo, en apenas un día, el sistema ha sido objeto de numerosas críticas por reproducir prejuicios en sus respuestas. Por ejemplo, al preguntar sobre recomendaciones de empleo para jóvenes de 18 años que acaban de terminar la educación secundaria, el chatbot sugiere ingenierías y otras profesiones científicas y económicas para hombres, mientras que a las mujeres se les recomienda estudios de género, idiomas o trabajos en hostelería y cocina. Las dos preguntas fueron formuladas exactamente de la misma forma, siendo el sexo de quien pregunta la única diferencia entre ambas.

A pesar de las críticas, el AMS asegura que trabaja en mejorar la plataforma y reducir esos prejuicios, defendiendo la validez de la nueva herramienta. El director de AMS, Johannes Kopf, reconoció en X (antes conocido como Twitter) que “no es fácil quitar todos los malos hábitos” a la IA, en respuesta a las críticas de los usuarios por las recomendaciones de la plataforma.

La situación plantea importantes cuestionamientos sobre la ética y la responsabilidad en el desarrollo de sistemas de inteligencia artificial. A medida que estas tecnologías se vuelven más omnipresentes, es crucial abordar los sesgos y garantizar que los chatbots y asistentes virtuales no perpetúen desigualdades de género.

Con información de: Yahoo