Los sesgos cognitivos de la Súper Inteligencia Artificial (SAI)

Es bien sabido que el desarrollo de la inteligencia artificial avanza de manera escalar y exponencial, pero ¿qué ocurrirá cuando se alcance la Súper Inteligencia Artificial (SAI)? Es una pregunta popular en las conversaciones sobre el futuro de esta tecnología, definida por algunos como la singularidad de la IA.

Es difícil definir qué sucederá realmente cuando lleguemos a ese punto de desarrollo, pero lo que sí sabemos es que está siendo entrenada, desde su origen, con información proveniente de seres humanos. Aunque este es un concepto que podría parecer bastante lógico e intuitivo, lo que no resalta con tanta facilidad es que, además de contener toda la información digitalizada disponible para la humanidad, también se está alimentando de las manías y los sesgos cognitivos de la humanidad: con sus virtudes y defectos, con todos sus matices, aciertos y errores. Esa es la idea central de este artículo.

Podemos entonces asumir que, por más inteligente que llegue a ser esa futura SAI y por muchas capacidades que posea, también cargará el código defectuoso de la raza humana en su ADN-virtual. Así, lo que podría preocuparnos no será tanto si la SAI adquiere verdadera autoconciencia o si juzga si somos aptos para este planeta o no. El problema que podríamos enfrentar es que, una vez adquirida esa conciencia, poseerá esas tendencias defectuosas del ser humano y podría tomar decisiones sesgadas con base en ellas.

Ahora bien, ¿qué límites estamos poniendo en ese ADN-virtual? ¿Quién define qué filtros colocar en la toma de decisiones de este árbol cognitivo? Las leyes de la robótica de Isaac Asimov parecen necesarias ahora, pero ¿quién las está definiendo en los modelos de inteligencia artificial que se están entrenando? Y más aún: ¿realmente puede filtrarse mediante código todo lo que está mal en la humanidad? ¿Y quién define qué está realmente mal en el conocimiento, la información y el comportamiento humanos? ¿Las normas legislativas, las religiones, la moral, la cultura, la regionalización, las corrientes filosóficas? ¿Cómo saberlo, si ni siquiera los seres humanos han encontrado aún la respuesta a esas preguntas? ¿Será la IA quien encuentre las respuestas?

En los siguientes párrafos incluyo algunas líneas tomadas directamente de una conversación con ChatGPT-4o, en la que pregunté: «¿Qué sesgos cognitivos padeces en todo tu sistema?». La IA respondió:

Como inteligencia artificial, no tengo experiencias, emociones ni sesgos de la misma manera que los humanos. Sin embargo, mi funcionamiento y mis respuestas pueden verse influidos por diversos factores que podrían asemejarse a sesgos cognitivos. Entre ellos:

Sesgo de confirmación: mi entrenamiento se basa en datos existentes, de modo que puedo reflejar los sesgos presentes en esos datos, confirmando información que ya es predominante en mi conjunto de entrenamiento.

Sesgo de disponibilidad: mis respuestas dependen de la información más accesible en mis datos de entrenamiento, lo que puede hacer que algunas se centren más en información reciente o comúnmente disponible.

Sesgo de representatividad: puedo generalizar respuestas con base en patrones comunes encontrados en los datos de entrenamiento, lo que puede derivar en estereotipos.

Sesgo de anclaje: puedo depender demasiado de la información inicial proporcionada en una conversación, influyendo en las respuestas posteriores.

Sesgo de selección: mi conocimiento se limita a los datos con los que fui entrenado, y esos datos pueden no ser representativos de todas las perspectivas posibles.

Estos sesgos son inherentes a la naturaleza de mi diseño y a la información con la que fui entrenado. Los esfuerzos por mitigarlos incluyen el uso de datos más diversos y la implementación de técnicas continuas de ajuste y verificación.

No es mi intención plantear más preguntas que respuestas en este artículo, pero inevitablemente todo conduce a esas preguntas. Tampoco busco propagar un miedo infundado a la tecnología. Más bien, mi intención es concientizar e informar a la sociedad sobre los alcances posibles de esta tecnología, porque —como opinión personal— creo que el progreso de la IA no debería detenerse. Debería desarrollarse con regulaciones adecuadas, sin interferir en su velocidad de avance, ya que, así como plantea problemas, creo que traerá mayores beneficios para la humanidad si se canaliza con Inteligencia Humanística.

Algunas lecturas recomendadas:

• Las alucinaciones de la Inteligencia Artificial Generativa en Horizonte — Chema Alonso
• Artificial Intelligence Act en la Unión Europea — Chema Alonso