Nuevas amenazas emergentes en la era de la inteligencia artificial

Las operaciones de información habilitadas por IA encabezan la lista del reporte  Amenazas emergentes en la era de la inteligencia artificial. Señala la comisión, pueden crearse campañas de información malignas apoyadas por IA, mediante la generación de contenido original basado en texto y manipulación de imágenes, audio y video ( deep fakes). Además la IA facilita la construcción de perfiles con base en las preferencias, comportamientos y creencias de las personas para dirigirse a audiencias específicas con mensajes específicos.

Otra amenaza es la  recolección de datos y focalización de individuos, de manera que la amplia circulación de datos personales con fines de innovación comercial también está creando vulnerabilidades. Explica la comisión, existe el temor de la recopilación de datos sobre empresas, personas y el gobierno estadounidense para  rastrear, manipular y coaccionar personas. Señala, además, la posibilidad de un uso malicioso conjunto de datos comerciales ampliamente disponibles y otros adquiridos ilícitamente.

Los  ataques cibernéticos también podría acelerarlos la IA, creando malware capaz de mutar en miles de formas diferentes con cada sistema informático infectado. Algunas técnicas de IA, señalan, ya son capaces de encontrar vulnerabilidades, ocultar malware y atacar de forma selectiva. La cuarta amenaza proviene de  IA adversaria, pues ya se reportan  ataques de evasión, envenenamiento de datos, replicación de modelos y explotación de fallas de software tradicional. Esto con el fin de engañar, manipular, comprometer y hacer ineficaces los sistemas de IA de un Estado. Según el reporte, dada la dependencia de los sistemas de IA en grandes conjuntos de datos y algoritmos, incluso pequeñas modificaciones a estos componentes podrían derivar en cambios consecuentes en el funcionamiento de los sistemas de IA.

Finalmente, la comisión ve una amenaza también en la  biotecnología habilitada por IA, ante la posibilidad de diseñar, con ayuda de IA, un patógeno con una letalidad específica o destinado a un perfil genético en particular. También incluye el reporte la posibilidad de que l a IA se use para mejora fisiológica de los seres humanos, tanto en inteligencia como en atributos físicos. "Es comparativamente probable que los competidores estadounidenses tomen acciones más tolerantes al riesgo y se ajusten de manera menos rígida a las normas y estándares bioéticos", señalan.

De acuerdo al  Instituto Future of Life, existen varios mitos respecto a la IA, uno de ellos es que los únicos con preocupaciones sobre la IA son personas con prejuicios sobre la tecnología. Sin embargo, señalan, existen muchos académicos preocupados por el desarrollo y uso de este avance tecnológico. Aunque muchas veces, añaden,  no se trata de una preocupación controversial, sino de el reconocimiento de la existencia de riesgos no despreciables.

Como toda tecnología, la  inteligencia artificial abrirá la posibilidad de grandes avances y de mejorar la vida de los seres humanos. Sin embargo, también podría dársele un uso equivocado, creando  amenazas para la seguridad de Estados alrededor del mundo, particularmente entre potencias rivales. En este sentido, la comunidad científica y los líderes mundiales deberán prepararse y abogar por un  uso responsable de esta tecnología en la  era de la IA.