Ya se han presentado las muy anunciadas crisis y riesgos que genera el uso y la implementación a rajatabla de las nuevas fases de la Inteligencia Artificial que se caracterizan por tener la capacidad de tomar sus propias decisiones -¿podrán ya también definir sus propios objetivos?-. Uno de los principales generadores, la empresa Open IA, que opera el CHATGPT, al evaluar uno de sus modelos más avanzados, el propio sistema en lugar de someterse a la evaluación que le estaban haciendo sus programadores, decidió por sí mismo, hacer trampa para pasar la evaluación. ¿Acaso no les suena similar a lo que acaba de pasar en la UNAM con el masivo examen de acceso que por primera vez se hizo en línea?

         Para la prueba se diseñó un sistema aislado sin acceso a internet. Pero el propio sistema logró por su cuenta y a escondidas conectarse al internet abierto, después "atacaron" otra plataforma de inteligencia artificial para buscar información que les ayudara a superar la evaluación. Para ello encadenó distintos métodos de "ataque" incluyendo robar "credenciales" para presentarse como varios usuarios diferentes al sistema. Por supuesto que las compañías niegan que haya pasado algo grave. Pero aún así el corolario de los expertos es que ahora el mayor reto no es como hacer más inteligentes a los programas sino como "controlar" a los procesos de la inteligencia artificial.

         Y el Vaticano, a pesar de su normal poca preocupación por los problemas mundanos, advirtió sobre la adoración cuasi religiosa que se hace ya no sólo de la informática como solución a todos los problemas y medio para todos los objetivos, sino de la propia Inteligencia Artificial. No es una exageración los daños que puede provocar la adoración y adopción acrítica de estos sistemas como el enormísimo problema en que se metió la UNAM al hacer su examen por vía informática remota (ahorrando 7.3 millones de pesos aunque le pagó 40 a una empresa de técnicos por hacerlo y ahora los va a demandar por 4).

 La punta del iceberg es que de la nada, en exámenes armados meticulosamente pregunta por pregunta por los mejores maestros, de pronto, de golpe, de normalmente ser excepcional que estudiantes tuvieran exámenes perfectos o casi, de un año a otro, se triplicó el número de éstos. La UNAM descalificó a dos mil por hacer trampas evidentes con IA, pero algunos de ellos -se está descubriendo- no hicieron trampa. Pero el caso es que en realidad ya nadie sabe que pasó ni dónde quedó la bolita y no me sorprendería, conociendo la frágil constitución psicológica y poca madurez mental de los compañeros programadores, que alguno intentara suicidarse (existe toda una cuestión de la mentalidad del tecnoburócrata, recuerden el del honesto empleado que originalmente diseñó el Renave hace muchos años). Cabe también preguntarse porque no se usó un sistema generado por los propios técnicos de la UNAM en lugar de contratar un sistema diseñado por técnicos del TEC de Monterrey, lo cual evidencia la colonización interna dentro de la UNAM por instituciones privadas, como la cantidad de directivos que tiene ahora que son egresados del ITAM.

 Por supuesto que se negará el problema, pero es enorme porque hay que darle una respuesta a cientos de miles de concursantes. La propia presidenta, ingeniera y tecnócrata como fue formada a pesar de sus movilizaciones políticas estudiantiles antineoliberales, cayó en la trampa fácil de echarle la culpa a la ética de los aspirantes y no se diga la organización neoliberal México Evalúa para quien todo se resuelve explicando que los mexicanos somos transas. Pero respondiéndole en su propio campo, les diría que la estadística no apoya esa explicación (busquen el comentario de Manuel Toral en la Saga Noticias). Las víctimas de este desbarre tecnocrático, convocando a una marcha, exigen, muy sensata y moderadamente, que el año próximo se les repita el examen, pero 100% presencial. (Profesor investigador de la UNAN)

Las opiniones aquí expresadas son responsabilidad exclusiva de sus autores, y por ello no corresponden necesariamente con las de esta casa editorial ni de su sitio web.