17/01/2025
😑 ¿Sabías que los sistemas de inteligencia artificial, como el reconocimiento facial, a menudo discriminan a mujeres y personas racializadas debido a sesgos en su programación? 🥲
👉🏽 Joy Buolamwini, investigadora, activista y artista computacional aborda la discriminación algorítmica, evidenciando cómo los sistemas de inteligencia artificial perpetúan sesgos de género y raza debido a datos de entrenamiento no inclusivos.
Su trabajo se originó a partir de experiencias personales con tecnología que no reconocía adecuadamente su rostro debido a su tono de piel y género. Esto la llevó a explorar cómo los sesgos en los datos y algoritmos perpetúan la discriminación y las desigualdades.
🎓 Mientras cursaba su maestría en el MIT Media Lab, Joy trabajaba con un sistema de reconocimiento facial que no podía detectar correctamente su rostro, a menos que utilizara una máscara blanca. ⚪️ Este problema la llevó a investigar más profundamente cómo los algoritmos de IA reflejan y amplifican los prejuicios presentes en los datos utilizados para entrenarlos. A partir de estas experiencias, desarrolló el concepto de “Coded Gaze” (mirada codificada), que describe cómo los prejuicios humanos se integran en los sistemas de IA. 🤖
📉 Su investigación, publicada en el informe “Gender Shades”, analizó cómo los principales sistemas de reconocimiento facial de empresas como IBM, Microsoft y Face++ tenían tasas de error significativamente más altas para mujeres y personas racializadas.
Joy utiliza el arte como herramienta para sensibilizar sobre los problemas éticos de la IA. Ha creado performances y cortometrajes, como su video-poema “AI, Ain’t I A Woman?”, que muestra cómo los sistemas de IA no logran reconocer adecuadamente a mujeres icónicas como Oprah Winfrey y Serena Williams, evidenciando los prejuicios incorporados en los algoritmos. 👁️👁️ 👆🏽Te dejamos el enlace del video en los comentarios.
💪🏽💜✨ Joy Buolamwini aborda la tecnología desde una perspectiva interseccional, mostrando cómo la IA no solo refuerza el patriarcado, sino también las desigualdades raciales. Su trabajo critica el poder concentrado en las grandes empresas tecnológicas lideradas mayoritariamente por hombres blancos, mientras aboga por una representación más equitativa en el diseño y la implementación de tecnologías que afectan la vida de todas las personas.
