Más allá de las visiones apocalípticas relacionadas con la inteligencia artificial (IA) que predicen un aniquilamiento de la humanidad por decisiones algorítmicas y de las bravatas de los tecno oligarcas que aseguran que el poderío de la IA es inevitable y hasta incontrolable, es imperioso preguntarnos para qué queremos herramientas tan poderosas o en general cuál es nuestra relación con sistemas que parecen hechos para ayudarnos pero que terminan por enajenarnos de mundo. En este pequeño texto hablo de un poco sofisticado ejemplo de la relación humanos/sistema informático que tiene lugar en los Centros de Conciliación y que ilustra la valía de esas preguntas.
Caso 1.
Hace unos meses, una mujer jubilada fue citada por su ex trabajadora del hogar para una conciliación y me contrató para ayudarle con la negociación. Tras una plática al inicio tensa en donde afloraron las emociones, logramos ponernos de acuerdo sobre la cantidad a pagar. La conciliadora redactó el convenio pero insertó un salario mensual de 12 mil pesos en el propio convenio, algo alejado de la realidad pues la empleada solo acudía 1 vez a la semana a laborar y se le pagaban $400 pesos (es decir, ganaba un promedio de $1,600.00 mensuales por los 4 días que trabajaba). Al expresar nuestra inconformidad con ello, la conciliadora señaló que así aparecía en el sistema y que no podía hacer nada, que si no queríamos entonces mejor nos expedía la constancia de no conciliación, lo que a su vez impediría formalizar el acuerdo pactado verbalmente. Para no sabotear el arreglo, aceptamos suscribir el convenio que contenía un dato salarial falso.
¿Por qué ocurrió lo anterior y porqué era un problema? En primer lugar, porque aunque no había una disputa en torno al salario ($400 por cada día trabajado), la plataforma informática que utiliza el Centro Local de Conciliación morelense está diseñada para calcular el salario mensual a partir del diario asumiendo que todas la relaciones laborales son de tiempo completo (por eso arrojaba los doce mil pesos del ejemplo). Como la propia plataforma no permite asentar datos de relaciones laborales con características distintas a las predominantes (o al menos eso nos asegura la conciliadora), el personal ya ha introyectado que no puede hacer nada que el sistema no permita. Al final quedó asentado un salario que la trabajadora nunca tuvo (los doce mil mensuales).
Lo anterior es un potencial problema porque si bien el conflicto laboral concluye, si la empleada o su representación legal decidieran llevar alguna acción ante el seguro social con base en el convenio, podrían generarle un problema mayúsculo a la empleadora. Este riesgo no debería siquiera existir, pero por no poder apartarse del “sistema”, existe.
Caso 2.
Un trabajador bancario que ha tenido documentos laborales en donde aparecen 3 personas morales distintas como patrón citó a las 3 para su conciliación. De acuerdo al notificador del Centro Federal fue imposible notificar a quien es la institución de banca múltiple y por ello se emitió una “constancia de conclusión por imposible notificación”. Ya en sede judicial, al advertir dicha situación el Tribunal Laboral ordenó remitir el expediente al Centro de Conciliación a fin de asegurar la citación del banco que fue “imposible de notificar”.
Al realizar la nueva solicitud de conciliación, la parte actora (que represento) hizo llegar al Centro de Conciliación dos enlaces de internet en donde se apreciaba que tanto en el Diario Oficial de la Federación como en la CONDUSEF, existe un registro oficial del domicilio del banco e insistimos se llevara a cabo la notificación en dicho sitio con esa evidencia. Al acudir nuevamente el notificador, le dijeron que ahí se encontraba otra de las morales demandadas, pero no el banco. A pesar de haber explicado al conciliador que si el banco tiene registrado como su domicilio de forma oficial (es decir, ante diversas autoridades) el que se propuso, el notificador tenía la obligación de llevar a cabo la notificación en ese lugar, el conciliador volvió a expedir una segunda “constancia de conclusión por imposible notificación”. Su explicación fue que el sistema no les permitía hacer otra cosa si no le proporcionábamos un domicilio diferente. La evidencia oficial respecto al domicilio del banco resultó irrelevante porque ante el sistema y debido al plegamiento humano a sus límites, no existía margen de acción.
Esclavos del sistema.
Lo que ambas anécdotas ilustran es que los funcionarios del Centro de Conciliación parecen haber perdido su capacidad de discernimiento ante los dictados del “sistema” (o quizá simplemente nunca la tuvieron). Ningún sistema informático puede contener o prever todas las posibilidades que pueden presentarse en el mundo de lo humano. Y para esos casos excepcionales o fuera de lo previsto es que los humanos deberían ser decisivos y tomar la última decisión.
A pesar de lo anterior, en los hechos funcionarios como los de los centros de conciliación de los ejemplos han optado por abdicar de su función y acogerse a los estrechos márgenes de acción que sus plataformas digitales les brindan. En un sentido, han decidido deponer su capacidad de interpretar las normas, analizar los hechos y tomar decisiones, dejando todo ello en manos del “sistema”.
Estos ejemplos tan simples permiten atisbar el gran problema que se avecina con el uso y abuso de la IA: al apoyar sus actividades en mayor medida en lo que permitan o arrojen como resultado los sistemas informáticos, los funcionarios involucrados en la impartición de justicia ceden sus responsabilidades a unas herramientas que, aunque poderosas, distan mucho de ser infalibles o de ofrecer soluciones adecuadas. Dentro de esa delegación de responsabilidades se anida una pérdida que se antoja insalvable: la de la capacidad de dimensionar un problema y tomar la mejor decisión posible para hacerle frente.