La paradoja de la Inteligencia Artificial

Ciudad de México.- 

MAS INTELIGENTE, MAS MENTIROSA

La inteligencia artificial sigue sorprendiendo al mundo con sus impresionantes capacidades, pero detrás de estos avances se esconde una preocupante realidad: cuanto más potente se vuelve, más tiende a inventar información falsa.

No se trata de simples errores, sino de datos completamente fabricados que suenan creíbles y que, en muchos casos, pueden poner en entredicho su utilidad.

• Los últimos modelos desarrollados por OpenAI, como el o3 y el o4-mini, presentan un comportamiento alarmante en pruebas controladas: mienten en un 33% y 48% de los casos respectivamente.

Esto representa el doble de fallos que sus predecesores y rompe con una suposición básica en la evolución tecnológica: que las versiones más avanzadas deberían ser también más precisas.

"Por mucho que lo intentemos, siempre alucinarán. Eso nunca desaparecerá", advierte Amr Awadallah, CEO de Vectara.

Para muchos expertos, esta tendencia sugiere que las IA tienen un defecto estructural que no solo no se corrige, sino que parece agravarse a medida que se vuelven más sofisticadas.

El problema se intensifica en dispositivos móviles, donde asistentes como Gemini Nano, integrado por Google en Android y Chrome, pueden fallar en tareas críticas como recomendar un restaurante o dar una dirección correcta. Esta falta de fiabilidad plantea dudas sobre su efectividad, especialmente cuando más se les necesita.

Además, el uso de datos sintéticos (información generada por otras IAs para entrenar a las nuevas) podría estar provocando un efecto bola de nieve.

Cada nueva generación de modelos hereda y amplifica los errores de la anterior, pese a que desde OpenAI se presume que herramientas como ChatGPT-4.5 están cerca del nivel humano en sus respuestas.

• La carrera por dominar el mercado es intensa. OpenAI, Google, Baidu y otras compañías compiten por lanzar los modelos más potentes, pero todos enfrentan el mismo desafío: cuanto más complejas son sus capacidades, más propensas son a fallar en tareas básicas.

El surgimiento de empresas como Okahu, dedicadas exclusivamente a mitigar estas "alucinaciones", refleja la gravedad del problema.

"Si no arreglamos esto, la IA no sirve para nada", sentencia Pratik Verma, cofundador de la compañía.

Mientras tanto, los usuarios continúan actualizando sus aplicaciones sin saber que podrían estar instalando versiones menos fiables que las anteriores. Una paradoja inquietante para una tecnología que prometía facilitar la vida... y que ahora amenaza con complicarla aún más.