Por Mariana Navarro
“No es que la tecnología piense por nosotros…es que empieza a decidir sin que sepamos cómo lo hace.”
Antes, cuando alguien rechazaba un crédito, había una persona detrás de un escritorio.Alguien que podía explicar una decisión.Alguien a quien mirar a los ojos.
Hoy, cada vez más, las decisiones llegan desde sistemas invisibles:una pantalla,un puntaje,un modelo entrenado con millones de datos.
Y muchas veces, nadie sabe exactamente cómo decidieron.
México, finalmente, empieza a reconocerlo.
No con discursos.Con algo más serio:una ley.
⸻
DEL USO A LA RESPONSABILIDAD
El Senado mexicano perfila lo que sería la primera ley integral de inteligencia artificial en el país. No se trata de una regulación superficial ni de una moda legislativa: es un intento por establecer reglas en un terreno donde la tecnología ha avanzado más rápido que la comprensión social de sus efectos.
La propuesta apunta a algo clave:no solo regular el uso de la inteligencia artificial,sino definir responsabilidades.
Esto implica supervisar todo el ciclo de vida de los sistemas: desde su diseño y entrenamiento, hasta su implementación y monitoreo. También introduce una lógica que ya se discute en organismos y marcos internacionales —como la Unión Europea y recomendaciones impulsadas por la UNESCO—: clasificar la inteligencia artificial según su nivel de riesgo.
Pero el punto de quiebre no está en la ley.Está en la realidad que intenta ordenar.
Hoy, por ejemplo, sistemas de inteligencia artificial ya pueden influir en la aprobación de un crédito, en procesos de selección laboral o en la visibilidad de ciertos contenidos digitales.
Y en muchos de esos casos, la decisión ya no pasa completamente por una persona.Pasa también por modelos entrenados con datos que no siempre son neutrales.
Distintos análisis internacionales estiman que una parte importante de las decisiones automatizadas en sectores financieros y de consumo ya incorporan algún tipo de inteligencia artificial.
Y eso abre una pregunta que ya no es solamente técnica:
¿qué ocurre cuando una decisión que afecta la vida de alguien no puede explicarse completamente?
⸻
CUANDO EL ERROR DEJA DE SER TÉCNICO
Uno de los puntos más delicados es el de las sanciones.La iniciativa contempla consecuencias legales que podrían ir desde multas hasta responsabilidades en casos de uso indebido o daños comprobables.
Esto incluye escenarios que hace unos años parecían lejanos:manipulación de información,uso de identidades digitales sin consentimientoo interferencias en procesos sociales.
Pero el fondo del asunto no es el castigo.
Es el reconocimiento de algo más profundo:
los errores de la inteligencia artificial ya no son solamente técnicos.Pueden tener impacto real en la vida de las personas.
No se trata solo de fallas aisladas.
Se trata de sistemas capaces de amplificar errores a gran escala:un sesgo en los datos puede replicarse miles de veces, afectando a personas que quizá nunca sepan por qué fueron excluidas.
En ese punto, el error deja de ser técnico.Y se convierte en un problema ético.
⸻
LA INSPIRACIÓN EUROPEA… Y LA REALIDAD MEXICANA
México no está construyendo esta ley en el vacío.La referencia más visible es el modelo europeo, que ha optado por una regulación basada en riesgos, con distintos niveles de supervisión según el impacto de los sistemas.
Sin embargo, el reto no es replicar un modelo.Es hacerlo viable en un contexto como el mexicano.
Porque legislar sobre inteligencia artificial no solo implica entender la tecnología.
Implica tener capacidad institucional para supervisarla, auditarla y, sobre todo, hacer cumplir las reglas.
Y ahí aparece la tensión central:
la tecnología avanza a velocidad exponencial…mientras la regulación se construye en tiempos lineales.
⸻
MÁS ALLÁ DE LA NORMA
Regular la inteligencia artificial es, en el fondo, intentar poner orden en sistemas que evolucionan más rápido que cualquier marco legal.
No se trata únicamente de tener una ley.Se trata de comprender el entorno en el que esa ley pretende operar.
Porque hoy el problema no es solo la ausencia de regulación.Es la velocidad con la que la tecnología transforma la realidad.
Y, sobre todo,la velocidad con la que empieza a participar en decisiones relevantes para la vida cotidiana.
⸻
CUANDO DECIDIR DEJA DE SER HUMANO
La inteligencia artificial ya no solo automatiza tareas.Está empezando a intervenir en procesos de decisión.
Y eso cambia muchas cosas.
Porque cuando una decisión se delega parcialmente a un sistema,también se vuelve más compleja la responsabilidad sobre sus consecuencias.
Pero hay algo aún más profundo:
cuando un algoritmo decide,no solo ejecuta una función.
También interpreta patrones,prioriza variablesy establece criterios de relevancia.
Y toda interpretación implica valores:qué se prioriza,qué se descarta,qué se considera importante.
Y esos criterios no siempre son visibles.Ni necesariamente discutidos de forma pública.
El riesgo no es solamente que la inteligencia artificial se equivoque.
El riesgo es acostumbrarnos a no preguntar cómo decidió lo que decidió.
Porque una sociedad que deja de comprender cómo se toman ciertas decisiones…también empieza a perder capacidad de cuestionarlas.
⸻
CONCLUSIÓN
México no está regulando únicamente una tecnología.
Está enfrentando una realidad:los sistemas automatizados ya forman parte de decisiones que impactan la vida cotidiana.
Y en ese escenario, la discusión deja de ser solamente técnica,para convertirse en un tema de responsabilidad,transparenciay vigilancia institucional.
Porque cuando las decisiones se vuelven opacas,también se vuelve más difícil exigir cuentas.
Y ahí aparece uno de los grandes desafíos de nuestra época.
No en que las máquinas piensen como nosotros.
Sino en el momento en que nosotros dejemos de cuestionar cómo están pensando ellas.
Los contenidos, expresiones u opiniones vertidos en este espacio son responsabilidad única de los autores, por lo que A Fondo Jalisco no se hace responsable de los mismos.
