‘La IA es auxiliar a la humana, no competidora’: filósofo y ensayista vasco Daniel Innenarity

El filósofo y ensayista vasco Daniel Innerarity, invitado al congreso de Asofondos, abordó en un apasionante conversatorio la influencia de la inteligencia artificial (IA) en la democracia. “La autodeterminación de los humanos que decidimos cómo nos queremos organizar choca con los sistemas de decisión automatizados”, es uno de sus reparos.

Usted vino a Cartagena, invitado por el congreso de Asofondos, a hablar de un tema absolutamente apasionante: la influencia de la inteligencia artificial (IA) en la democracia.

Empecemos diciendo que eso puede ser bueno y puede ser malo…
Lo bueno: le va a quitar un poco de carga ideológica a la política y va a objetivar la medición, por ejemplo, del acto legislativo, la gestión de la complejidad social, eso nos puede ser útil.

¿Usted cree, entonces, que la inteligencia artificial (IA) puede ser como una especie de puente entre las creencias de la gente con las propuestas, digamos, de un candidato de cualquier orden en una democracia? O sea, ¿puede hacer más compatible lo que cree la gente con lo que la gente escoge, sin que en el intermedio lo distraigan con cuentos populistas?

Bueno, es que hay que ir un poco hacia atrás. La inteligencia artificial, fundamentalmente, desde el punto de su impacto en la democracia modifica dos cosas que son la conversación y la toma de decisiones. Entonces, en la conversación lo que ha pasado ya con el inicio de internet es que ha propiciado una conversación más horizontal, menos regulada por los clásicos medios de comunicación, más abierta a todo el mundo.

Pero mucho más emocional…

Claro, la parte, digamos, inquietante de eso es que lo ha hecho a costa de producir una gran desorientación, de abrir un espacio para la desinformación con las noticias falsas, etcétera. Estamos en un momento como de reconstruir una cierta autoridad informativa, en un mundo en el que ya ella no viene dada por las grandes cabeceras, los clásicos medios de comunicación.

¿Y cómo influye la IA en la toma de decisiones?

Es indudable que los gobiernos van a tener que decidir muchas cosas de gran complejidad, y para eso necesitan instrumentos tecnológicos muy potentes. Los algoritmos son un ejemplo. Hay una parte del proceso político que está muy bien llevado a cabo por estos procedimientos. Lo que ocurre es que la democracia es un sistema de gobierno de libre decisión, de libre autodeterminación, en la que los humanos decidimos cómo nos queremos organizar y eso choca con unos sistemas de decisión automatizados. Tenemos que encontrar el punto de equilibrio: ¿qué tipo de decisiones nos tenemos que reservar los humanos?

Otro problema es que a la IA hay que saberle preguntar y contar con la información necesaria para hacerlo. Si no se tienen los elementos del problema, pues la IA no lo podrá resolver o dará una respuesta equivocada. Ahí tenemos un bache, porque la humanidad apenas va conociendo sus alcances y ni idea de hasta dónde va a llegar el día de mañana…

Claro, claro. La IA tiene una función auxiliar básicamente, y depende del servicio al que la pongamos y bajo qué valores y criterios. Y eso lo determina el ser humano.
Decía usted en una reunión de la Cepal que humanos y máquinas son dos realidades que pensamos similarmente, pero que son de naturaleza absolutamente diferente. Y que no se trata de hacer competir la una con la otra, sino de generar un ecosistema en el cual nos beneficiemos los unos de los otros. Es decir, la IA como un auxiliar de la inteligencia humana…

Decía usted en una reunión de la Cepal que humanos y máquinas son dos realidades que pensamos similarmente, pero que son de naturaleza absolutamente diferente. Y que no se trata de hacer competir la una con la otra, sino de generar un ecosistema en el cual nos beneficiemos los unos de los otros. Es decir, la IA como un auxiliar de la inteligencia humana…

Eso se hace con buenas políticas, buena regulación, con leyes, con códigos. Y precisamente eso es lo que acaba de ser aprobado en el acta de IA de la Unión Europea. Unesco sacó un documento sobre ética y ahora saca uno que he hecho yo, de democracia e inteligencia artificial. Esto va a requerir grandes debates, grandes acuerdos entre actores muy diferentes, porque el llamado ‘sur global’ tiene una sensibilidad diferente a la de los Estados Unidos, Europa, o Asia; y va a requerir grandes debates que no se harán de la noche a la mañana, pero en los que nos jugamos muchísimas cosas.

En medio de todo usted parece ser optimista, porque opina que la democracia no va a acabar arruinada con la intromisión del conjunto de nuevas tecnologías…

Así lo creo y además tengo buenas razones. La fundamental es que la inteligencia artificial es un procedimiento muy adecuado para cierto tipo de decisiones. Fundamentalmente aquellas para las cuales hay muchos datos. Los humanos en cambio somos generalmente, simplifico un poco las cosas, bastante buenos en la toma de decisiones con poca información, poco tiempo, en situaciones de ambigüedad y esa es precisamente la reflexión que hay que hacer: cómo combinamos y para qué cosas el tipo de inteligencia más adecuado.

En su muy prolífera bibliografía se preocupa mucho por la democracia. Y dice, como una de las conclusiones, que no está funcionando bien la correa de transmisión entre la ciudadanía, la representación pública y las instituciones. Me explica, por favor, qué significa esa preocupación…

Sí, sí, en el sentido de que tenemos un problema de desconocimiento. Los ciudadanos tenemos que conocer en qué va el juego político y no lo entendemos bien porque es muy complicado. Por otro lado, los políticos tienen que conocer bien lo que nosotros queremos, que tampoco es tan fácil. No es simplemente una cuestión de hacer encuestas, porque a veces lo que nos conviene no es exactamente lo más inmediato; hay que tener en cuenta, por ejemplo, los intereses de las generaciones futuras, etcétera. Entonces, en ese ámbito de conocimiento bastante limitado, tenemos que hacer una política que acierte con las decisiones más correctas y eso no nos está resultado nada fácil.

¿Cree que IA nos puede ayudar a tomar la decisión correcta y a que no nos equivoquemos tanto?

Sí, nos puede ayudar en una parte de las decisiones y mucho. Pero no perdamos de vista que hay un tipo de decisiones para las cuales la inteligencia artificial es completamente incapaz, que tiene que ver con aquellas para las que hay pocos datos, hay poco tiempo, poca información y no está muy claro lo que hay que hacer.

Sí, usted mismo afirma que se trata de una cuestión política ambigua, discutible y controvertida, pues no puede ser abordada por un algoritmo…

Claro, claro. En cambio, hay otras cosas que se pueden saber, como el impacto que tiene una determinada legislación, eso se tiene y se puede saber. En todo lo que tiene que ver con datos, hacen falta muchos para la política, que tienen que ser bien puestos al servicio de los valores que hayamos decidido promover.

Y si se tienen pocos datos, como usted mismo afirma, y no se tiene claro el objetivo, si hay incertidumbre, ambigüedad, pues la decisión la tenemos que tomar los humanos, no las máquinas…

Exactamente y además lo haremos relativamente bien, dentro de la dificultad de la tarea.

Ahora, la otra cuestión, profesor, es que hoy el ciudadano parece estar guiado más por los instintos emocionales que por la racionalidad, en la toma de sus decisiones políticas, y eso pues ha traído problemas, como grandes equivocaciones. ¿Eventualmente la inteligencia artificial podría devolvernos por la senda de la racionalidad?

Bueno, en parte sí, porque es verdad que la técnica proporciona objetividad a las decisiones y a los debates. Pero no olvidemos que la idea de confiar toda la solución de nuestros problemas a la técnica es una idea ya ensayada en la historia de la humanidad y que no ha dado muy buenos resultados. Soy partidario de que la ciencia, el conocimiento, la técnica, intervengan en el proceso político y sean cada vez más escuchados y tomados en consideración, pero no soy un ingenuo de pensar que con la gentrificación de la política íbamos a resolver nuestros problemas colectivos.

¿A eso se refiere usted cuando dice que considera sobrevalorada la inteligencia de las máquinas e infravalorada la humana? O sea, estamos pensando que las dos están caminando en la misma dirección y que se dedican a las mismas cosas, y no es así…

Claro, claro. Es que, efectivamente, cuando una máquina ve una radiografía, no ve lo mismo que un médico. Una máquina de reconocimiento visual ve pixeles, un médico ve menos pixeles, es menos exacto en esa visión. Ven la misma cosa de maneras muy diferentes. Uno se fija en lo general, en las conexiones, en las interconexiones, y pierde los detalles; y otra ve pixeles. ¿Viendo pixeles se ve todo? No, pero se puede ayudar a quien tiene que realizar un determinado diagnóstico. Es otro ejemplo más de cómo no se trata de a quién le confiamos el diagnóstico médico, si a la máquina radiológica o al médico. No. Hagamos un equipo… Hay otro ejemplo que es muy ilustrativo sobre eso: ¿quién es mejor jugando al ajedrez, los humanos o las máquinas? Las máquinas nos ganaron hace mucho tiempo, con Kasparov. Ahora mismo, quienes mejor están jugando al ajedrez son equipos mixtos: de máquinas y de humanos. Eso no lo están logrando las máquinas solas.

Finalmente, usted sostiene que la inteligencia artificial parece muy prometedora desde el punto de vista democrático, pero que al mismo tiempo es amenazante para el propio sistema democrático. ¿Entonces, con cuál de las dos tesis se despide de esta entrevista?

Con las dos, porque las dos cosas al mismo tiempo representan una amenaza, si no se entiende bien la IA, si no se regula bien. Pero también puede representar una oportunidad excelente, bien entendida y bien regulada. Esa es la cuestión. El asunto es que hoy por hoy lo que tenemos que hacer es un gran esfuerzo por entenderla y explicarla bien.

¿Usted cree que ya comenzamos a regular, desde el punto de vista ético, el uso de la inteligencia artificial en ámbitos internacionales, o nos hace falta un gran esfuerzo mundial, global, para ponernos de acuerdo sobre las reglas de juego?

Sí. La transformación digital no es una operación hecha desde un lugar privilegiado, desde una institución, dirigida hacia la sociedad, sino que es una autotransformación de toda la sociedad en su conjunto, que requiere la implicación de todos, de todas las instituciones y culturas y de todos los países. Por eso es muy importante que se haga también a escala global, cosa que hoy por hoy es muy difícil, porque tenemos una tecnología tremendamente fragmentada en modelos muy distintos. Pero la solución que se encuentre tendrá que ser incluyente, o no habrá una buena configuración del nuevo entorno digital.
​
​MARÍA ISABEL RUEDA
Especial para EL TIEMPO