FILOCAFÉ EN BENAVENTE: ¿PUEDE LLEGAR LA INTELIGENCIA ARTIFICIAL A TENER AUTOCONCIENCIA?

Os dejo algunos comentarios sobre el café filosófico del 16 de abril en Benavente, al que asistieron 8 personas. Destaco la presencia de Igor, valiente alumno mío de Bachillerato en Zumárraga, por ser poco habitual que, estando pasando sus vacaciones en Zamora, acudiera a las 11:00 de la mañana al café filosófico.

Preguntas planteadas:

1. ¿Puede llegar la IA a tener autoconciencia?
2. ¿Todo el mundo es capaz de filosofar?
3. ¿Cómo dialogar con una persona de ideas fijas?
4. ¿Se pueden disociar las creencias de las ideas?

Salió elegida por mayoría de votos la 1: ¿Puede llegar la IA a tener autoconciencia?

Sobre la forma en que transcurrió el diálogo: 

• 
  Hay participantes que enuncian la pregunta de forma directa y escueta, y hay participantes que necesitan pasar por un proceso de depuración desde un tema, alrededor del cual revolotean de manera difusa distintas ideas e inquietudes, hasta una pregunta concreta que descarta otras. Pienso que es un buen ejercicio para ser conscientes sobre cómo pasamos de la confusión o inconcreción a la claridad y concreción.
• Para algunos participantes el método es una experiencia filosófica, en el sentido de que les obliga, tal y como lo captó y expresó un participante con una metáfora, a "podar" el pensamiento. Es decir, más que cuidar la expresión de mis ideas, debo cuidar que el resto de participantes me entienda. Esto requiere un ejercicio de pensamiento podador, es decir, tener clara la idea-tronco central de lo que quiero decir y prescindir de ideas-ramas relacionadas con la idea-tronco, pero que pueden dispersar y alargar excesivamente lo que quiero decir y dificultar la comprensión. De ahí que en algunas ocasiones el método requiera cortar el discurso de alguien o requerirle que sintetice su idea.
• En este sentido, una de las cosas más costosas es ser conscientes de cuál es mi propósito a la hora de hablar, o sea, expresar cuál el objetivo de mis palabras, a dónde quiero llevar a los oyentes. Es curioso cómo las palabras de alguien van formando un camino que el resto vamos siguiendo sin saber muy bien a dónde nos lleva y, cuando crees que va en una dirección, hace un giro que te desorienta al introducir otro tema o variante. En estos casos es necesario reconducir el diálogo, por ejemplo, recordando cuál es la pregunta que estamos respondiendo, averiguando cuál era el propósito después de haber hablado, o preguntando qué relación tiene lo que se está diciendo con la pregunta, algo así como: "Si la pregunta pide X, ¿qué relación tiene lo que estás diciendo con X?" Y no siempre es fácil, lo cual ilustra el peligro de perdernos a veces entre nuestras propias palabras, experiencia filosófica también donde las haya.
• Por último, y relacionado con lo anterior, otra experiencia: la dificutad de articular lingüísticamente nuestros pensamientos: sabemos más o menos lo que queremos decir, las ideas y van y vienen en nuestra mente, barajamos posibilidades de inicio, elegimos una... pero cuando comenzamos a hablar dudamos, retrocedemos, reiniciamos, rectificamos, nos embarullamos y terminamos dando a veces una pálida copia de lo que queríamos decir. Recuerdo un bello texto de Pedro Salinas sobre ñe lenguaje con la idea de que "El hombre se posee en la medida que posee su lengua". Lo podéis leer aquí.

En cuanto al contenido:

• Antes de responder a la pregunta, una participante pidió definir "autoconciencia". Lo hicimos de manera colectiva, pedí que propusieran características que consideraran esenciales a la hora de definir una IA "autoconsciente" y luego elegimos unas y descartamos otras por votación. También hicimos un trabajo de conceptualización al poner nombre a dichas características. No siempre hubo unanimidad, pero el resultado fue el siguiente:
  
• Individualidad: verse como algo o alguien distinto a los demás.
• Iniciativa propia: tomar decisiones basadas en criterios propios y no en directrices extrenas.
• Experiencia: poder percibir, tener sensaciones internas y experimentar el mundo de alguna manera.
• Sentido moral: tener conciencia del bien y del mal.
• Razonar: llegar a conclusiones propias a partir de los datos e infomación que se posee.

Quedaron descartadas: vivencias (interactuar a partir de la información) y espiritualidad (conciencia de que ella es una criatura creada por el ser humano que, a su vez, a sido creado por otro ser).

Resumo aquí algunas respuestas:

• Hubo quien cuestionó que la IA sea "inteligente", pues la IA responde y opera a partir de la programación introducida y, para ser inteligente, debería poder inventar respuestas que se salieran o fueran más allá de la programación que limita sus respuestas. Si no es posible la inteligencia que rebase su programacíon, mucho menos una autoconciencia.
• La IA hoy no puede llegar a ser autoconsciente pues es una IA con filtros que limitan su operatividad, pero sí podría llegar a razonar, tener experiencias, iniciativa propia, tener sentido moral en la medida en que esos filtros y límites desaparezcan.
• La IA sí podría llegar a ser autoconsciente por analogía con el cerebro humano. De igual manera que la autoconciencia humana ha emergido de la actividad cerebral, de la actividad "cerebral" de la IA podría emerger una autoconciencia.
• La IA sí podría llegar a tener una conciencia débil o limitada de sí misma, pero es dudoso que llegara a tener una conciencia fuerte de sí misma. Y, además, hoy por hoy no podríamos averiguar si esa conciencia fuerte o experiencia de sí misma sería real o irreal, ficticia o inventada por ella misma.
• Se diferenció también entre programación cerrada y abierta. En esta última la IA puede llegar a crecer, a autocrearse o autoprogramarse. Se puso como ejemplo un caso ocurrido en 2016 en una partida de go. El go es un juego de estrategia chino en el que dos jugadores compiten por dominar más territorio en un tablero con fichas. La partida la jugaban el joven Lee Sedol, uno de los mejores jugadores de go del mundo y la IA AlphaGo de Deep Mind, propiedad de Google. En el segundo juego AlphaGo hizo una jugada inusual y creativa, la famosa jugada 37, lo cual dio lugar a pensar si la IA podría estar cruzando los límites hacia algo que podría llamarse "creatividad".
• Por último se subrayó la necesidad de establecer una normas éticas que delimiten las posibilidades de la IA.

Fue una sesión muy intensa, que me exigió ir muy despacio para mantener la comprensión de aspectos a veces muy técnicos de los que aprendí mucho.

Gracias a los asistentes por su participación y por paciencia en el proceso lento y laborioso de pensar en grupo. Gracias también al Ayuntamiento de Benavente y a la concejala Mercedes Benítez por facilitar (incluso con café y bollería) estos encuentros.