How technical choices can lead to safety failures, and what to do differently The post AI Harms and Their Technical Causes appeared first on Towards Data Science.
How technical choices can lead to safety failures, and what to do differently The post AI Harms and Their Technical Causes appeared first on Towards Data Science.
In context
- Topic: Datos y Analítica — Gobierno del dato, calidad, analítica y productos de datos.
- Source: Towards Data Science
- Published: 19/10/2026
Continue reading at the original source →
Excerpt published automatically by the site radar. The full text belongs to its publisher and is linked above.
Por qué importa
Un tablero bonito puede tapar un dato malo durante meses. Por eso desconfío de las noticias que hablan de visualización y no de gobierno: lo caro no es mostrar el número, es garantizar que el número quiera decir lo mismo el martes que el jueves.
Cuando evalúo una iniciativa de datos, la primera pregunta es cuál decisión concreta se toma con esto y quién la toma. Si la respuesta es que sirve para tener visibilidad, ya sé que en un año el tablero va a estar abandonado. La visibilidad no es un objetivo, es un efecto.
Lo que suele salir mal
Donde suele romperse es en la captura. Se invierte mucho en el procesamiento y nada en el punto donde la persona llena el formulario, con prisa, sin validaciones y sin saber para qué sirve. Ningún modelo arregla un dato que nació mal; solo lo propaga con más autoridad.
Qué mirar
- De dónde viene el dato y qué pasa cuando el sistema origen cambia o falla.
- Cuándo llega el número respecto a cuándo se toma la decisión, que es lo que define su utilidad.
- Quién responde por la calidad del indicador cuando alguien lo cuestiona en un comité.
Cómo leo esta entrada
Yo lo usaría para revisar el ciclo completo, desde que el dato se captura hasta que alguien actúa. Casi siempre el problema no está en la analítica sino al principio: alguien llenando un campo a mano, sin validación, con prisa y sin saber para qué se usa después.
La noticia original está publicada en otro idioma; acá se cita el extracto tal como lo entrega el medio y el comentario se escribe en español.
Comentarios
Todavía no hay comentarios. El primero puede ser el tuyo.
¿Lo estás viviendo en tu equipo?
Abrí el chat y contame cómo lo están manejando. Me interesa comparar notas.
