Sesgos y poder
Timnit Gebru
Una investigadora útil para entender daños reales, sesgos y quién decide la agenda de la IA.
Perfil
Investigadora en ética de IA, fundadora y directora ejecutiva de DAIR, el Distributed AI Research Institute. Antes cofundó Black in AI y trabajó en equipos de ética de IA en Google.
Qué aporta
Aporta una pregunta incómoda: qué intereses dominan la investigación en IA y qué daños quedan fuera cuando el desarrollo lo marcan unas pocas grandes empresas. Su trabajo señala sesgos, discriminación, costes laborales, impacto ambiental y dependencia de modelos cada vez más grandes.
También aporta algo institucional: la necesidad de investigación independiente y arraigada en comunidades afectadas, no solo en agendas corporativas.
Qué observar
Conviene observar que su caso muestra un problema de gobernanza: si quienes investigan daños dentro de una empresa tienen poco margen para discrepar públicamente, la conversación social puede llegar tarde y llegar incompleta.
También es importante no reducirla a una polémica laboral. Su valor está en el enfoque: mirar quién se beneficia, quién asume los daños y qué tipo de futuro tecnológico se considera inevitable.
Pregúntate
- ¿Qué comunidades cargan con los errores de un sistema de IA?
- ¿Quién financia la investigación que define qué problemas importan?
- ¿Qué daños se presentan como inevitables cuando quizá son decisiones de diseño?
- ¿Qué voces quedan fuera de los equipos que crean y evalúan IA?