Ciudad de México, México 14 de noviembre de 2022.-  Según el estudio realizado por la Sociedad para la Investigación Innovadora de Mercado (GIM), publicado en 2020, el 82 por ciento de los ciudadanos alemanes temen una vigilancia generalizada por parte de la inteligencia artificial (AI). Un número similar (79 por ciento) cree que los sistemas tomarían decisiones poco éticas y tres de cada cuatro encuestados ven amanezadas nuestra seguridad por el creciente poder de las maquinas que actúan de manera autónoma. El hecho de que el gran hermano observe nuestra sala de estar y nuestro dormitorio es para una mayoría una realidad que se siente hace tiempo. ¿Se acerca de manera inminente el dominio de los bits y los bytes?

Es cuestión extraña de una pregunta técnica: ¿Es, en principio, la IA capaz de hacer algo así? En cierto modo, sí. Los algoritmos inteligentes ya se están utilizando, por ejemplo, como instrumentos de espionaje y manipulación, por parte de personas y organizaciones que persiguen objetivos. Sin embargo ello no significa que la propia IA aspire a algo parecido a la dominación. Los filósofos de la tecnología discuten esta cuestión bajo el término de intencionalidad, es decir, la cualidad de llevar acabo acciones deliberadas y orientadas a un objeto. Muchos autores consideran la intencionalidad como un componente permanente de la conciencia.

La intencionalidad de atribuye principalmente a estados mentales, como las percepciones, las creencias o los deseos. La vida subyacente es que siempre nos podemos dirigir a objetos escogidos, individuales, pero nunca al mundo  como totalidad. Cuando pensamos o sentimos, utilizamos  una suerte de reflectores que limusina secciones limitadas del mundo; no todo a la vez, como hace el sol. Lo que accede a nuestra conciencia (percepciones, pensamientos, sentimientos u otros contenidos de la experiencia) posee en cada caso propiedades experienciales subjetivas, también llamadas qualia (por ejemplo, la sensación de dolor).

Pensamientos como eventos puramente físicos

Por el contrario, los materialistas reducen los estados mentales a los estados físicos. Desde su punto de vista, pensar en una mesa o una manzana depende de ciertas circunstancias físicas de mi cerebro. Es una cuestión abierta si a estas también se les puede atribuir intencionalidad. Los materialistas equiparan los pensamientos con eventos neuronales. Otros, en cambio, sostienen que un proceso en el cerebro es intencional solo si se pueden explicar el sentido, los motivos y la verdad tambien sin estados mentales (por ejemplo, aludiendo a que simplemente se dan en el lenguaje de las neuronas o de las máquinas). Desde este punto de vista, la IA (sobre todo la que se basa en estructuras neuronales) tendría intencionalidad.

Pero, ¿cómo podría confirmarse tal característica de la inteligencia de las maquinas? ¿Qué podría confirmarse tal característica de la inteligencia de las maquinas? ¿Qué podría servir como prueba? Ya en 1950, el matemático Alan Turing desarrollo el test que hoy lleva su nombre: el test de Turing. En él, una persona se sienta ante un ordenador y se comunica con dos interlocutores desconocidos para él. Uno es un ser humano; el otro, un ordenador. La persona hace preguntas que responden ambos, el humano y el ordenador. Si no puede diferenciar si las preguntas provienen de una persona o de un ordenador, este último ha superado el test. Según Turing, debemos entonces reconocer que la maquina tiene inteligencia en el mismo sentido que su compañero humano.

Google presento una nueva interpretación del test Turing en una conferencia de desarrolladores en 2018 con un sistema Duplex. Esta IA es capaz de realizar llamadas telefónicas con voz humana, por lo que el usuario apenas puede reconocer que no se trata de una persona. Sin embargo, esto tiene cierros límites: en cuanto se quiere hablar con Duplex de otra cosa que no sean las reservas de las citas que gestiona, la IA no funciona. Con todo, dentro del marco fijado, los humanos y las IA no son fácilmente distinguibles. Entonces, ¿ha superado Duplex el test Turing?

¿Solo una cuestión de progreso técnico?

En vista de las posibilidades técnicas en constante crecimiento, se dice que la IA conquistara en breve el último bastión de lo humano: la intencionalidad. Pero al atribución de esta es el resultado de una necesidad humana primera. Como seres sociales, dependemos tanto de no perder de vista las propias intenciones como de atribuírselas también a nuestros respectivos compañeros. Una sociedad sin intencionalidad que le sirva de base no seria solo disfuncional, sino también carente de sentido. Dado que por ahora no hay ningún otro método comparable para demostrar la intencionalidad, es muy difícil consultarla. Sin embargo un equipo de chinos desarrolló en 2016 un método que podía hacer comparables los crecientes intelectuales de sistemas artificiales y naturales. La IA del asistente de Google abstuvo así una puntuación de apenas 50 (más o menos el nivel de un niño pequeño). Sin embargo, esta atribución es, en el mejor de los casos, un indicio débil. y de ninguna manera suficiente, para acreditar la intencionalidad de una IA. 

Las dudas relativas a que las maquinas puedan desarrollar alguna vez intencionalidad se alimentan de otra fuente: la lógica. Dado que calcular y pensar son procesos fundamentalmente diferentes, es de suponer que solo a partir del primero no se llega nunca al segundo. Las operaciones de cácelo no llegan más a allá de las premisas establecidas para ellas; la mente humana, en cambio, gracias a la intencionalidad, tiene la capacidad de reflejarse a sí misma. 

La intencionalidad constituye una facultad humana original. Crea la posibilidad de reconocer el sentido, al que solo nosotros tenemos acceso como seres pensantes y sociales. Por tanto, el dominio mundial de la IA debería seguir siendo, también en el futuro, una pesadilla.