El desarrollo vertiginoso de la inteligencia artificial aspira a transformar, de forma radical, la vida misma del ser humano. Desde el exitoso lanzamiento de ChatGPT a finales del año pasado, compañías de todo tamaño y condición corren, cada vez más rápido, para poner a disposición de los usuarios herramientas capaces de generar contenido a demanda. Actualmente, cualquiera puede emplear esta tecnología para crear texto o imágenes de forma sencilla. Sin necesidad de tener el más mínimo conocimiento sobre los peligros que esconden estas plataformas. Entre ellos destacan, sin duda, la proliferación de información sesgada y falsa.
Lo hemos dicho muchas veces: los sistemas basados en inteligencia artificial no se inventan nada. Todo el contenido que crean es producto directo de la ingente cantidad de información con la que han sido entrenados por los desarrolladores. Alguna procede directamente de los propios usuarios que utilizan las herramientas. El resto, de todos los rincones de internet.
Evidentemente, si los datos que comparte una persona pueden contener errores, o sesgos, los que crea una máquina que ha sido capacitada con la misma información tendrán los mismos problemas. Los sistemas están lejos de ser infalibles. El problema es que el usuario, como señala Kidd, tiende a aceptar como bueno el contenido que generan gracias a la seguridad con la que ofrecen sus respuestas y a la enorme expectación que generaran. Todo esto provoca que la persona al otro lado de la pantalla tienda a acomodarse y dar por bueno lo que el sistema le dice. Y eso puede ser un problema grave. De hecho, ya lo ha sido.
Hace apenas unas semanas, un abogado neoyorquino recurrió a ChatGPT para buscar precedentes que apoyasen un caso en el que estaba trabajando. ¿Qué ocurrió? Que no comprobó los datos que escupió la máquina y terminó presentando un montón de información falsa ante el juez. Y este no es un caso aislado.
El pasado abril, un alcalde de una localidad australiana amagó con demandar a OpenAI, desarrolladora de ChatGPT después de descubrir que la máquina afirmaba erróneamente que había pasado por la cárcel por sobornar a funcionarios extranjeros. En Estados Unidos, incluso, un profesor universitario amenazó con suspender a toda una clase después de que una IA le dijese que los estudiantes habían copiado sus trabajos.
