Inteligencia artificial, creatividad y miedo

9 abril 2019

Fuente: Wikipedia

La inteligencia artificial provoca muchos miedos infundados mientras, curiosamente, se dejan de tomar precauciones para situaciones peligrosas más que predecibles.

Hay personas, algunas científicos reputados, que advierten de que si/cuando las máquinas tomen autoconciencia y capacidad de autorreplicación pasarán a eliminarnos porque somos un competidor en recursos que no les aportará nada que les interese.

Otros creen que nuestros propios algoritmos (mal programados) podrían llevar a hacerles pensar que acabar con nosotros es la mejor opción. Por ejemplo: Si el objetivo a conseguir de nuestro algoritmo es reducir el gasto sanitario sin más consideraciones, podría empezar a valorar matar enfermos.

En muchos artículos ya se nos cuenta que hoy, ahora, en estos momentos, los algoritmos de decisión resultan sesgados por los datos con los que se les entrena y que eso a veces nos pasa desapercibido. De esto habla mucho @HelenaMatute

También tenemos en el horizonte los vehículos autónomos, su fiabilidad, su capacidad de decidir en situaciones complicadas. Por ejemplo: un peatón entra en la calzada y dar un volantazo salvará su vida, pero comprometerá la del conductor. ¿Qué debe hacer?

Pero yo quería hablaros de otro miedo, menos tangible, que tiene que ver con que el desarrollo de la inteligencia artificial nos plantea preguntas inquietantes sobre qué es lo que somos.

Para empezar, digamos que no tenemos una definición concreta y detallada  de la IA, y no os creáis que es por la “A”… es por la “I”. El problema es que tampoco tenemos una teoría satisfactoria sobre la mente, qué es la inteligencia o qué es ser inteligente.

Se suele asumir como “prueba de IA” lo que se conoce como el Test de Turing, que podría resumirse en que si te estás escribiendo mensajes con “algo” y es capaz de hacerse pasar por una persona, siendo una máquina, sin que puedas detectarlo, diremos que es una inteligencia artificial.

Como ves, un “desastre” de definición: subjetiva, poco detallada…

Nuestras tradicionales definiciones de inteligencia solían tener que ver con diferenciarnos del “resto de animales” y ponernos en una situación superior: autoconsciencia, uso de herramientas, cultura… pero, la verdad es que se han ido encontrando animales cuyo comportamiento difería más en grado que en algo cualitativamente diferente de nosotros, respecto de estas categorías.

Hoy creo, y ese el miedo del que os quería hablar, que nos preocupa sentirnos inferiores a las máquinas.

– Oye, que hay un bicho que corre más rápido que tú.

– Ya, pero correr rápido no es lo que me hace humano.

Y así con muchas características en animales y máquinas: la capacidad sensorial, la fuerza, la resistencia, la capacidad manipulativa, la rapidez de cálculo, juegos como el ajedrez o el Go…

Uno de los últimos bastiones de la “humanidad superior” es la creatividad, y a mí se me junta con mis cosas de profes… ya sabéis que los profesores nos dedicamos a matarla. (Me niego a enlazar al listillo que dice esto, pero es la charla TED más vista… grrrr).

Primer problema… el de siempre, ¿qué es la creatividad? ¿Qué es hacer algo nuevo? ¿Es posible la novedad? ¿Es sólo un remix? ¿Quién “valida” esa novedad? ¿Con qué criterio?

Preguntas no resueltas para humanos, así que imagina cómo conseguir saber si una máquina ha sido creativa en alguna tarea.

En educación se invoca constantemente la creatividad, sobre todo desde fuera del aula, porque desde dentro del aula sabemos bien que no puede crearse sin tener “elementos” para crear, sin tener conocimientos concretos sobre las técnicas, los objetos y procedimientos del campo en el que quiere uno ser creativo.

Es el problema de las cosas abstractas, se aprenden a través de lo concreto y se expresan a través de lo concreto. Por eso también es tan difícil medir la inteligencia, porque resulta inseparable, en la práctica, del lenguaje, de las matemáticas, de conceptos de otras disciplinas. Estudiando esas cosas desarrollamos la inteligencia y preguntándolas la evaluamos. Para algunos que sólo escuchen a gurús educativos supongo que esto será un descubrimiento.

Por lo tanto, cuando me pregunto si la música que compone una IA ha sido un acto creativo, debería ser capaz de responder primero si la música que compone un humano lo es.

Si pienso que una IA sólo reconoce patrones, extrae “leyes” de su experiencia, y las recombina y que eso no es crear, debería ser capaz de explicar si mi proceso creativo de entrenamiento de mi red neuronal de mi encéfalo y mi desempeño no puede explicarse de una manera similar.

En un artículo que leí recientemente apelaba a algún músico revolucionario de principios del siglo XX y fundamentaba su defensa de la creatividad humana en que cambió la estructura y la forma de pensar la música, que no se limitaba a escribir una “partitura más”. Si aceptáramos eso, aunque triste defensa me parece, date cuenta de que no marca como superior la creatividad de todos, sino sólo la de grandes genios reformadores. Fíjate también que deja en el saco de los “remezcladores”, además de a ti y a mí, a exponentes relevantes que se desenvolvieron dentro de movimientos artísticos ya iniciados. Me hizo recordar que en la película “Yo, robot”, un personaje interpretado por Will Smith le decía a un robot que él era sólo “relojería” que no podía escribir una sinfonía, y el robot le contestó: ¿puedes tú?

Al leer el artículo no podía dejar de acordarme de aquel programa que jugaba al Go, y que en lugar de aprender de partidas humanas, jugaba con versiones anteriores de sí mismo (AlphaGo Zero) de forma que “dedujo”, sólo a partir de las reglas del juego, estrategias ganadoras. Un comentario muy curioso de los jugadores de Go es que jugaba de una forma “diferente”, ejem, ejem… otro mito que se nos cae. Si este programa pudiera enseñarnos ahora a nosotros, lo haría con un estilo diferente, nuevo, rompedor. Entonces, ¿ha sido creativo?

Quizá deberíamos asumir nuestra limitada condición mental, emocional, artística y vivir tranquilos con eso. Todos sabemos que no tenemos el genio de Mozart, y que eso no nos hace menos humanos ni menos personas. Ya hemos asumido que no hacemos cálculos con la fiabilidad o la rapidez de un ordenador, ¿somos menos por eso? ¿Tenemos que ser más en algo para considerarnos “valiosos?

Hay que tener mucho ojo con esto, porque a veces se infiltra en nuestras creencias sin que nos demos cuenta y, efectivamente, estemos “midiendo” el valor de las personas por lo que son capaces de hacer, haciendo “rankings” y, disculpadme, pero me da casi tanto asco hacer una lista de gente por sueldo que por cociente intelectual. No olvidemos que no tenemos mayor título que ser humano y que esto es lo único y necesario para hacernos acreedores de respeto.

Siguiendo con la creatividad, si entendemos que dar pinceladas al azar no es un acto creativo porque tenemos un sistema de “validación” que tiene que ver con conceptos como “belleza”, “provocar una emoción”, etc., recordad momentos en los que habéis visto tocar con emoción cosas escritas sin ella, o viceversa, y a algunos os ha provocado emoción y a otros no. Es perfectamente posible emocionarse con una composición artificial que ejecute un humano o una composición humana ejecutada por una máquina. Mucho ojo aquí también que es muy fácil empezar a asumir una forma de dualismo “alma”/cuerpo, que es una postura filosófica respetable, pero entonces asúmase también que ya no se habla desde la perspectiva científica del asunto, que es eminentemente materialista y en la que “la mente” es la consecuencia de la fisiología.

Es muy probable que nos veamos de nuevo “descentralizados” de la creación como en tantas revoluciones científicas (copernicana, darwiniana, etc.) y no pasará nada, porque quizá nos estamos equivocando y, como en tantas cosas en la vida, no se trata tanto de ser “el mejor de tu portal” como de la experiencia que vives y de cómo la vives. Qué sientes TÚ al cantar esa canción, cómo aprendes TÚ a dibujar, cómo es tu viaje…

Somos habitantes de La zona intermedia cuyos logros quizá no sean reseñables en los libros de Historia del Universo, pero cuyas aventuras fueron apasionantes. Así que, tranquilos: Vivan, disfruten, quiéranse, permiten que les quieran… y dejen que ganen otros.

Anuncios

11011011 ¡Qué bonito!

11 abril 2016

Cualquier obra de arte puede escribirse como una cadena finita de unos y ceros.

Para un texto es sencillo, ¿verdad? Por ejemplo, la “a” el 1, la “b” el 2, etc. de forma que si pongo 2 1 2 1 será “baba”. Como querríamos distinguir las letras mayúsculas y minúsculas, los signos de puntuación, etc. usamos el código ASCII. Cada carácter se representará con un byte (ocho bits) en decimal sería un número entre cero y 255. En el enlace puedes ver la correspondencia.

Si estuviésemos hablando de un sonido, podríamos representarlo de muchas formas. Por ejemplo, la intensidad en cada “momento”, como esa onda que te aparece cuando te pones a hacer el ganso con la grabadora de sonidos del PC. Si tomas valores cada muy poco tiempo, no notaríamos que está entrecortado. Así que tendríamos de nuevo una sucesión de números, que representaría ese sonido.

Wave sound digital representation splitted channels

Para una imagen no resulta tampoco complicado, dividimos la imagen en puntos y si asignamos un número a cada punto, podíamos tener ahí el nivel de intensidad, de forma que se representase una imagen en blanco y negro, siendo el cero el negro y el 255 el blanco.

Quizá estés pensado en que se verán los puntos y no será una imagen tan bonita como una “real”, pero en esto nos ayuda tu sentido de la vista. Recuerda esos anuncios del metro. En los de tu andén se distinguen los puntos, de hecho parecen enormes. En cambio, en los del andén de enfrente no se distinguen. Piensa también en tu tele, en tu portátil, en tu móvil. Todos están formados por puntos y si los puntos son suficientemente pequeños, o van a ser vistos desde suficiente distancia, lo verás “bien”.

De esta forma una sucesión de valores:

231 234 200 198 …

Representarían la luminosidad de los puntos de una fila. Si lo ponemos en binario veríamos de nuevo una ristra de unos y ceros.

Como ves, hemos elegido 256 tonos de gris, siendo el cero el negro y el 255 el blanco. Resulta más que suficiente para dar una impresión “suave” y realista.

Si quieres una imagen en color, tampoco es problema. El color de cada punto lo expresaremos como una combinación de los tres colores primarios luz: rojo, verde y azul. A cada punto le asignaremos ahora tres bytes, uno por color. El número de colores que podemos conseguir así es 256 x 256 x 256. Haz la cuenta, casi diecisiete millones de tonos de color distintos. De nuevo más que suficiente para parecer “realista”.

Pixel geometry 01 Pengo

Para un vídeo, sólo tengo que guardar suficientes “fotógramas” y que no aprecies el parpadeo. Te sonará que con unos veinticuatro por segundo ya funciona, y cada fotograma lo guardo como guardábamos antes la imagen.

Sea lo que sea, al final, pasando los números a binarios, cualquier obra de arte que se haya hecho (que se haga en el futuro) podrá expresarse como una ristra finita (no infinita) de unos y ceros.

¿Qué me impide hacer un análisis de esa cadena de números? ¿Buscar repeticiones, patrones, estructuras que se relacionan o combinan?

Quizá hayáis leído la noticia, unos investigadores han analizado cuadros de Rembrandt y han “pintado” uno “nuevo”. El resultado es muy interesante, pero más aún el aspecto filosófico del asunto, y nos lleva de nuevo a preguntarnos qué es el arte.

¿Dónde está el arte? ¿Dónde la emoción estética? ¿En la del el artista, en la del público?

Una profe de música que tuve me decía que hay gente que toca el violín como el que hace fotocopias. Yo pensé más tarde que hay gente que hace fotocopias con tal esmero que parecería que estuviera tocando un violín, pero aún así, no pude dejar de asombrarme con el hecho de que alguien tocara algo sin sentimiento y a mí me emocionara.

Si tenemos una emoción estética al contemplar ese “nuevo” Rembrandt, ¿de dónde viene? ¿Es “lícita”? Quiero decir, no se pintó con esa emoción… Lo hizo una máquina que replicó y recombinó patrones que extrajo del conjunto de sus obras. ¿Se espera del espectador que sienta en la línea que el artista desea?

Preguntémonos también, ¿hace otra cosa nuestro encéfalo? ¿Estamos sólo recombinando y reproduciendo patrones percibidos en nuestra experiencia? ¿Existe la creación? ¿Qué sería?

La indiscutible emoción estética que sentimos ante la manifestación artística, la que le guste a cada uno, ¿qué es? ¿Es pura ilusión de la ilusión de una ilusión de identidad que llamamos “yo”? ¿Soy algo más que una pila de filetes?

Sea cual sea el proceso creador, se plasmará de una forma concreta, en pintura, mármol o sonido. Estamos entrando en un tiempo en el que una máquina va a poder producir resultados finales comparables y “originales”, indistinguibles de la producción artística humana. ¿Será eso arte? Si no lo fuera, ¿lo percibiríamos como tal? Y si lo percibiéramos como tal, ¿eso lo convertiría el arte?

Una vez más el suelo se mueve bajo nuestros pies, las certezas se caen y la solidez se vuelve humo.

No debería caber duda de lo ilusorio de lo que llamamos real, la pregunta que toma importancia es, ¿qué hay cuando se disipa el humo? ¿Algo, nada? ¿Qué?

Le dedico esta entrada a César, que siempre ayuda a ver el humo y se pone a soplar, y a Déborah que seguro podrá iluminarnos en el aspecto artístico del asunto.


No conozco un sabio serio

12 junio 2011

Cuando les hablo de inteligencia artificial a mis alumnos siempre les digo que, en mi opinión, el principal obstáculo para definir o conseguir inteligencia artificial es poder definir qué es la inteligencia “natural”. Supongo que estaremos de acuerdo en que no estamos hablando de hacer cuentas rápido…

Para ilustrar esto siempre apelamos a conceptos como la belleza y estoy más que de acuerdo, como sabréis los que pasáis por aquí. Pero hoy querría hacer hincapié en otro aspecto que con frecuencia no tiene una valoración tan “espiritual” como la belleza. Me refiero al humor.

Yo diría que tan difícil de parametrizar qué es la belleza o qué hace bello un cuadro o una melodía, es parametrizar qué es ser divertido o qué hace que un chiste nos haga reír… o más  misterioso aún, sonreír.

Y no añadiré mucho más, sólo quería que os asomarais con asombro al misterio que es la risa, a lo humana que es, a que pertenece a esa parte aún indefinible que nos hace personas, a que os muráis de risa siempre que podáis, y a que os sonriáis al pensar en lo profundo que llega algo tan sencillo como reír.

Bueno, sólo una cosa más… ¿os imagináis a un verdadero sabio que no sonría?


A propósito de Henry…y de ti

15 mayo 2010

En estos días estamos hablando en clase de inteligencia artificial.

Cuando les digo a mis alumnos que aún no existe tal cosa, me preguntan que para qué lo estudiamos. Les digo que eso nos hace pensar en “qué es la conciencia” y “qué eres tú“.

A menudo se dice que puedes perder tus posesiones o tu dinero, pero que no pueden arrebatarte lo que has aprendido. Y con frecuencia también se usa este argumento para estimular el gusto por el estudio en los alumnos.

Pero ya sabemos que accidentes o enfermedades como el Alzheimer nos pueden arrebatar la memoria, algo que no sólo atesoramos, sino con lo que solemos definir nuestro “yo”.

¿Qué queda de nosotros sin nuestra memoria?

En casos de Alzheimer hay quien haciendo gala de una gran fortaleza y un tremendo amor es capaz de ser consuelo para esos enfermos y encuentra una respuesta de amor en ellos, como a otros les sucede con los discapacitados psíquicos.

En la película “A propósito de Henry”, Harrisond Ford sufre un accidente y pierde la memoria. Durante la película va “conociéndose”, (conociendo la vida que había llevado) y no le gusta lo que ve, ni lo siente como suyo. Decide comenzar un camino en el que se “reinventa” a sí mismo eligiendo ser como quiere ser, dejando atrás el pasado.

Dos cuestiones a considerar:

1. ¿Somos entonces algo más que nuestra memoria? ¿Es justo eso lo que somos?

2. ¿Podemos hacer el ejercicio de renunciar a nuestro pasado (bueno o malo) para poder elegir el presente y futuro que deseamos? ¿O somos esclavos de nuestros errores y, no te olvides, también de nuestros aciertos?

Foto: El caminante sobre el mar de bruma de Caspar David Friedrich (Wikipedia)


A %d blogueros les gusta esto: