Según Raymond Kurzweil (Ingeniero Jefe en Google y autor de «How to create a mind?») AI superará al cerebro humano en 2025 y en 2050 superará a la suma de todos los humanos juntos.
Según Daniel Kahneman (Psicologo y Nobel de Economía en 2002) la Inteligencia Artificial ya ha superado a la Humana.
En este post quiero reflexionar sobre qué significa esto, sobre aspectos comunes y diferencias de Inteligencia Artificial vs. Inteligencia Humana. Para ello me apoyaré en referencias a Kahneman y Andrew Ng.
En «Pensar rápido, pensar despacio», Daniel Kahneman describía sus estudios sobre la Inteligencia Humana, su funcionamiento y principales limitaciones.
En «La Inteligencia Artificial es la Nueva Electricidad«, Andrew Ng nos contaba cómo la Inteligencia Artificial va camino de transformar todas las industrias sin excepción. En sus cursos de formación Andrew Ng nos muestra lo actualmente viable mediante Inteligencia Artificial.
Por eso, no se me ocurre mejor forma de enfrentar Inteligencia Artificial vs. Inteligencia Humana que partiendo de sus opiniones.
Daniel Kahneman
Por si alguien no lo conoce, Kahneman es psicólogo, premio Nobel de Economía en 2002 y, como muestra en multitud de declaraciones, entusiasta de la Inteligencia Artificial.
Mientras leía su libro «Pensar rápido, pensar despacio», pensaba que muchos de sus conceptos asociados a la Inteligencia Humana, eran lecciones aprendidas para aplicar en Inteligencia Artificial.
Esa idea es el origen de este post pero, según investigaba en declaraciones de Kahneman sobre Inteligencia Artificial vs. Inteligencia Humana, el post mutó.
En este post emplearé diversos artículos además de charlas y entrevistas suyas. Podéis ver todas las referencias al final. Es especialmente interesante la de «AI podcast with Lex» de Lex Fridman.
Andrew Ng
Para empezar, me pareció que podía ser interesante contrastar su opinión con la de Andrew Ng.
Andrew Ng es profesor de la Universidad de Stanford y director de su laboratorio de Inteligencia Artificial. Es también el co-fundador de Coursera y creador de algunos de los cursos y charlas online sobre Inteligencia Artificial de mayor impacto.
Ng fue uno de los creadores de Google Brain en 2011 y Chief Scientist en Baidu.
De él, al igual que de Kahneman, destacaría por su sentido práctico siendo capaz de aterrizar las expectativas en lo técnicamente viable. Una virtud que ojalá fuera más común cuando se habla de IA.
En este post emplearé diversos artículos, charlas y entrevistas suyas. Podéis ver todas las referencias al final. Es especialmente interesante «La Inteligencia Artificial es la Nueva Electricidad«.
Definición de la Inteligencia Artificial vs la Inteligencia Humana
Empecemos por definir Inteligencia Artificial e Inteligencia Humana.
Cuando John McCarthy, introdujo en 1956 el término Inteligencia Artificial lo hizo de la siguiente forma:
«Inteligencia Artificial es la ciencia e ingenio de hacer máquinas inteligentes, especialmente programas de cómputo inteligentes«
John McCarthy
Si el objetivo es crear máquinas inteligentes, deberíamos preguntarnos qué significa que sean inteligentes. Según la RAE: Inteligente es un adjetivo que significa «Dotado de inteligencia».
En ese caso, ¿qué es la Inteligencia? Preguntemos al psicólogo.
“La inteligencia no es solo la capacidad de razonar; es también la capacidad de encontrar material relevante en la memoria y enfocar la atención cuando se necesita,”
Daniel Kahneman
Interesante que Kahneman de tanto peso a la capacidad de focalizar la atención y la memoria en lugar de únicamente el razonamiento.
¿Esta matización de Kahneman nos acerca a lo realizable mediante IA? Desde luego, no se queda visión novelesca de una Super Inteligencia Artificial General.
Desde un punto de vista práctico, Andrew Ng considera que:
«Todo lo que un humano puede decidir o ejecutar en menos de un segundo es susceptible de ser automatizado a través de Inteligencia Artificial»
Andrew Ng
Inteligencia Artificial vs. Inteligencia Humana: los 2 Sistemas
Kahneman define, en su libro «Pensar rápido, pensar despacio», 2 Sistemas de pensamiento:
- El Sistema 1 es rápido e instintivo. Opera automáticamente y con muy poco esfuerzo y control.
- El Sistema 2 es lento, consciente y requiere esfuerzo. Determina la respuesta a preguntas complejas como 27+52.
Estos 2 sistemas no existen neurológicamente ni psicológicamente pero sí permiten entender el funcionamiento de nuestra mente.
Nos gusta pensar que todas nuestras decisiones son en su mayoría sesudas y vienen del Sistema 2 pero, en realidad, la influencia del Sistema 1 es mucho mayor que la del Sistema 2.
Inteligencia Artificial vs. Sistema 1 Humano
En «La Inteligencia Artificial es la Nueva Electricidad«, Ng destaca que cualquier decisión o acción que un humano pueda realizar en menos de un segundo podrá ser automatizada mediante Inteligencia Artificial porque:
- El hecho de que lo pueda hacer un humano significa que es posible
- Que existen datos de ello
- Y existen «insights» (claves)
Si pensamos en Inteligencia Artificial, empleando Machine Learning, somos capaces de identificar patrones y anticipar lo que va a suceder.
De esta forma ambos coinciden en que, en la comparación Inteligencia Artificial vs. Inteligencia Humana, la IA actual sería similar al Sistema 1 de la mente humana. Capaz del pensamiento rápido pero incapaz de razonar o mostrar causalidad ante problemas complejos.
Según declaraciones de Kahneman, la Inteligencia Artificial es capaz de tomar decisiones con menos errores que el Sistema 1 de los humanos.
Inteligencia Artificial General vs. Inteligencia Humana
Pero la Inteligencia Artificial que empleamos es la conocida como «Narrow AI» o IA débil. Aquella que solo es capaz de actuar en un dominio de conocimiento concreto, por ejemplo, predecir demanda de un producto, recomendar películas o conducir.
Kahneman considera que, esta «Narrow AI», ya ha demostrado su capacidad de superar a las personas en áreas concretas. Pero la Inteligencia Artificial General es la que puede hacer cualquier cosa como un humano incluyendo razonar.
En este momento, esa Inteligencia Artificial General no es real.
Como Ng advierte en una entrevista:
«Desconozco si tardaremos 100, 500 0 1.000 años en lograr una Inteligencia Artificial General»
Andrew Ng
Para Ng, la discusión sobre la Inteligencia Artificial General y la ética asociada a ella desvía el foco de los problemas reales a los que nos enfrentamos: sesgos, desigualdad, «deep fakes», etc.
Inteligencia Artificial vs. Inteligencia Humana: Razonamiento
En la comparación entre Inteligencia Artificial y Humana, un factor calve es el razonamiento.
Kahneman muestra enorme interés en Deep Learning. Deep Learning es capaz de resolver multitud de problemas pero no es capaz de explicar cómo lo hace. No es capaz de razonar.
Según comenta, existen fantásticos traductores que son capaces de traducir tan bien como sus homólogos humanos pero, a diferencia de los humanos, estos traductores basados en IA no están entendiendo el significado de lo que traducen.
Para lograr este razonamiento, sería necesaria una IA que tuviera sensaciones, emociones, contacto con el mundo y, quizás, conciencia. Eso nos vuelve a acercar a una Inteligencia Artificial General cosa que ambos coinciden que está muy lejos de ser posible.
Para Andrew Ng, no debemos hablar de una «General Artificial Intelligence» sino de muchas «Narrow Artificial Intelligence» diferentes que aportan valor en dominios de conocimiento específicos.
Por lo tanto, estamos lejos de crear una IA semejante a un Sistema 2 o, incluso, a un Sistema 1 generalizado.
Explicabilidad de las Decisiones en Inteligencia Artificial vs. Inteligencia Humana
Probablemente la palabra explicabilidad no existe, es una traducción libre de «explainability» que determina la capacidad de explicar la forma en que nuestro pensamiento ha llegado a tomar una decisión.
Relacionado con el punto del razonamiento, uno de los limitantes del uso de Inteligencia Artificial en ciertos entornos (por ejemplo, la aplicación de justicia) es no ser explicable.
Muchas veces se trata de una caja negra que da un resultado que tenemos que creer sin entender cómo ha llegado al mismo.
Lo interesante es que, según Kahneman, las personas pensamos que razonamos pero, en muchos de los casos, tampoco razonamos: justificamos. En estos casos los humanos nos comportamos también como caja negra.
Las personas tomamos la mayor parte de nuestras decisiones mediante el Sistema 1. Son decisiones rápidas e inconscientes en las que no ha habido un esfuerzo consciente de encontrar una solución.
La diferencia es que si alguien pregunta a una persona cómo ha llegado a cierta conclusión, el Sistema 1 pasa la pregunta al Sistema 2. El Sistema 2 es capaz de crear una explicación, una historia lógica que justifique la decisión.
Entonces, ¿bastaría con que las máquinas fueran capaces de crear argumentos para explicar sus decisiones?
Si eso fuera así, la complejidad del problema sería totalmente diferente. La Inteligencia Artificial funcionaría como la humana, tomando decisiones rápidas y dedicando un esfuerzo posterior a justificar con una historia convincente (no razonar) dicha decisión.
Ese es el camino que han seguido algunas iniciativas que trabajan en productos que permitan lograr esa justificación de las decisiones. Estos productos no necesitan conocer la forma en que el sistema de Inteligencia Artificial ha llegado a la conclusión sino la conclusión y los datos para hacer algo parecido a ingeniería inversa: justificar.
¿Sería esto suficiente para fiarnos de un juez robótico basado en Inteligencia Artificial? Las consecuencias de esta decisión son importantes.
Si os interesa profundizar en este asunto, os recomiendo «¿Quién controla nuestros datos?«. En ese post resumo la visión de Jaron Lanier respecto a este y otros controvertidos temas de actualidad.
Las decisiones humanas se basan en recuerdos y las de IA en datos.
Según Kahneman las personas tienen experiencias y, normalmente, las olvidan. Pero, en ocasiones, cuando hay un punto final, un hito, las personas tratamos de evaluar el episodio creando un recuerdo.
En «Pensar rápido, pensar despacio», Kahneman identifica 2 YO en cada persona:
- El YO que experimenta y vive la realidad
- El YO que evalúa lo sucedido y recuerda
Los recuerdos no coinciden con lo vivido, son la ficción que hemos creado al respecto de lo vivido y sufre multitud de sesgos. Por ejemplo: no tiene en cuenta la duración, las emociones negativas pesan más que las positivas y las emociones al final más que durante todo el episodio.
La paradoja es que nuestras decisiones se basan en esos recuerdos y no en lo realmente vivido.
Al igual que las personas, la Inteligencia Artificial debe mirar al pasado para aprender y, a partir de ahí, poder tomar decisiones con los nuevos datos.
Quizás se diferencian en la capacidad de trabajar con los datos en crudo lo que puede garantizar un menor sesgo que el de los recuerdos humanos. Para Ng, la mejora de calidad y volumen de los datos ha sido y seguirá siendo clave en el desarrollo de IA.
Por eso las decisiones basadas en datos e Inteligencia Artificial pueden reducir el sesgo y mejorar la calidad. Los datos, si son de calidad, reflejan lo sucedido realmente y permiten tomar mejores decisiones.
Sesgos y Errores en Inteligencia Artificial vs. Inteligencia Humana
El libro «Pensar rápido, pensar despacio» describe multitud de sesgos del pensamiento que nos hacen tomar decisiones erróneas.
Me sorprende que en la entrevista de Fridman a Kahneman, no surgieran preguntas al respecto de ello. ¿Podemos heredar los sesgos del pensamiento humano en el artificial? ¿Qué debemos hacer para eliminarlos? ¿Existen sesgos diferentes en Inteligencia Artificial vs. Inteligencia Humana?
Sin embargo, Andrew Ng sí muestra en «AI Podcast with Lex» su preocupación respecto a los sesgos y desigualdad que la Inteligencia Artificial puede generar o ampliar.
Si no somos conscientes de esos sesgos podemos crear Inteligencia Artificial que eternice y amplifique los sesgos existentes. Por el contrario, si los tenemos en cuenta, podemos crear Inteligencia Artificial adaptada para evitarlos o minimizarlos.
Pero no todo es tan facil.
Según Kahneman Inteligencia Artificial e Inteligencia Humana tienen en común que ambas sufren de sesgos pero eso no significa que los sesgos que aplican a la Inteligencia Humana sean los mismos que aplican a la Inteligencia Artificial.
Kahneman considera que los sesgos humanos son más peligrosos que los de las máquinas porque siempre es posible analizar lo sucedido en un algoritmo para entender lo sucedido (por ejemplo, una decisión sexista). En el caso de los humanos es mucho más complejo entender el origen de una decisión ha tenido ese mismo sesgo.
Andrew Ng ha colaborado en diversas iniciativas sobre la ética en Inteligencia Artificial. En ellas trata de huir de los grandes dilemas filosóficos y aterriza en la prevención, monitorización y mitigación de sesgos y discriminación garantizando una IA inclusiva.
En ese sentido, Ng considera clave la validez de los datos. En la búsqueda de datos es necesario realizar un contraste desde diversas perspectivas por personas de los colectivos afectados por esos datos.
También destaca la importancia de crear modelos explicables y generar visualizaciones que faciliten la comprensión de los mismos.
Inteligencia Artificial vs. Inteligencia Humana: Velocidad y Dificultad
Veamos similitudes y diferencias en Velocidad y Dificultad de las decisiones.
Velocidad en la Inteligencia Artificial vs. Inteligencia Humana
Los humanos aprenden rápido. Un niño no necesita millones de ejemplos para aprender algo, sin embargo, el mismo aprendizaje en IA requiere millones de ejemplos.
El aprendizaje humano, especialmente en los niños, nos ayuda a anticipar, a identificar patrones, a predecir las consecuencias de nuestros movimientos, etc. de una forma sorprendentemente rápida.
Para Kahneman, este factor es un claro limitante de Inteligencia Artificial vs. Inteligencia Humana.
Como anécdota, en 2017 Andrew Ng comentaba que el gran reto era entender como funciona el aprendizaje en los niños. También comentaba que quería tener un hijo. En 2019, ante el nacimiento de su hija recibió divertidas felicitaciones en las que le animaban a entrenar su nueva red neuronal y a aprender de ella.
Si en lugar de pensar en velocidad de aprendizaje pensamos en velocidad de evolución, la velocidad de los avances en Inteligencia Artificial y, especialmente, en Deep Learning, es impresionante.
Se dice que IA, y sobre todo Deep Learning, está evolucionando al doble de la velocidad de la Ley de Moore: duplicando su capacidad cada 9-12 meses. (ver post «El Origen de la Transformación Digital: Moore, Metcalfe y Gilder»).
Kahneman se asombra de la transición de pasar a ganar a campeones humanos en Ajedrez a campeones humanos en Go ha sido vertiginosa. El salto de Alpha Go (una Inteligencia Artificial entrenada durante meses para vencer en Go) a Alpha Zero (enfoque más generalista capaz de vencer en Ajedrez, Go y Shogi tras pocas horas de auto-entrenamiento) es extraordinario.
Si comparamos estos cambios con la evolución humana, probablemente cambios de esta dimensión nos hubieran llevado cientos de generaciones. Volvemos a la clásica comparación entre evolución exponencial de la tecnología frente a lineal en los humanos.
El Grado de Dificultad en Inteligencia Artificial vs. Inteligencia Humana
No existe una relación directa entre la complejidad de una tarea para la Inteligencia Humana y la complejidad de automatizarla a través de Inteligencia Artificial.
Un ejemplo claro del que habla Kahneman con Fridman es conducir.
Conducir es sencillo para la mente y por eso parece que debería serlo también para una máquina. La realidad es que conducir un vehículo con un nivel de autonomía 4 o 5 es un trabajo increíblemente complejo para una máquina.
Por el contrario, jugar a Ajedrez parece una tarea compleja para un humano. Los grandes maestros son capaces de jugar con el Sistema 1 a partir de los aprendizajes automatizados pero, para el resto, requiere la concentración y esfuerzo del Sistema 2. Sin embargo, para Inteligencia Artificial, jugar al Ajedrez o, incluso, Go es una asignatura ya superada.
La causa es que en el Ajedrez existe un tablero y unas reglas totalmente cerradas. Eso limita el número de posibilidades y ejemplos a incorporar al sistema. Por contrario, conducir se produce en el mundo real, un entorno mucho más abierto en el que la cantidad de posibilidades es mucho mayor (si no infinita).
Inteligencia Artificial vs. Inteligencia Humana: Colaboración y Competencia
Colaboración Humanos-Máquinas
Dado que la Inteligencia Artificial equivale al Sistema 1, superando a la humana en dominios específicos parece razonable una colaboración en la que las máquinas participen como Sistema 1 y los humanos como Sistema 2.
¿Puede ser ese el esquema de colaboración Inteligencia Artificial – Inteligencia Humana a largo plazo?
Según Kahneman, no:
«En cualquier tarea en la que colaboren personas y máquinas, las personas acabarán siendo superfluas.»
Daniel Kahneman
Para Kahneman, si la máquina es capaz de ayudar al humano, con su aprendizaje y evolución, llegará un momento en que no necesite al humano para continuar haciendo la actividad.
Además, este modo de colaboración parte de un error.
En el pensamiento humano, cuando el Sistema 1 es incapaz de resolver un problema, lo reconoce y pasa el control al Sistema 2. A partir de ahí, el Sistema 2 asume el control y con esfuerzo busca una solución.
Por contrario, si no es capaz de reconocer que no puede resolver un problema, nunca pasaría el control. Eso es lo que sucedería en AI como Sistema 1. La máquina no puede identificar esa situación problemática y tratará de responder desde el Sistema 1 sin pasar el control al Sistema 2 (humano).
Según Kahneman, identificar esa situación requiere ser capaz de razonar entendiendo el contexto de lo que está haciendo. Veremos si la evolución de la «narrow AI» permite lograr el «razonamiento» aunque sea solo en contextos de dominios específicos.
Ese limitante garantiza a corto plazo un papel humano como supervisor pero dificulta llegar a un nivel de colaboración de mayor intensidad y aprovechamiento.
Inteligencia Artificial anticipando el comportamiento de Inteligencia Humana
Kahneman indica que las personas son complicadas pero es posible anticipar parte de sus comportamientos mediante Inteligencia Artificial. Un ejemplo de la interacción entre vehículos autónomos y peatones.
Según Kahneman, es un error intentar entender a los peatones (razonamiento propio del Sistema 2) en lugar de simplemente anticipar su comportamiento (propio del Sistema 1).
Los vehículos tienen la capacidad de capturar millones de ejemplos del comportamiento de los peatones. Eso debería permitir a la Inteligencia Artificial anticipar el comportamiento, sin necesidad de entenderlo.
Con IA deberíamos hacer lo mismo que hace el Sistema 1 de la Inteligencia Humana, a partir de la intuición y los aprendizajes automatizados como conducir.
Solo la Inteligencia Humana puede hacerlo
En las comparaciones Inteligencia Artificial vs. Inteligencia Humana, un argumento recurrente es que hay tareas o decisiones que solo un humano puede tomar.
Cuando hablamos de áreas de dominio específico, Daniel Kahneman, en una conferencia en la Universidad de Toronto en 2018, fue tajante:
«Es muy difícil imaginar que con datos suficientes seguirá habiendo tareas y decisiones que solo los humanos puedan tomar.«
Daniel Kahneman
En la misma conferencia también expresó que:
«La Inteligencia Artificial será fabulosa tomando decisiones y, de hecho, actualmente ya lo es en muchos aspectos. No veo ninguna razón para imponer límites a lo que la IA puede hacer.»
Daniel Kahneman
Daniel Kahneman hablando de Inteligencia Artificial vs. Inteligencia Humana
Quizás te haya sorprendido tanto como a mi el conocimiento y las opiniones que Daniel Kahneman muestra respecto a la Inteligencia Artificial. Unas opiniones que parten de sus investigaciones psicológicas y se alejan de los estereotipos establecidos respecto a la Inteligencia Artificial.
Kahneman tiene una visión clara de la relación Inteligencia Artificial vs. Inteligencia Humana. Ambas le entusiasman aunque parece más convencido del potencial de la primera que de la segunda.
A continuación os dejo 2 momentos de Daniel Kahneman hablando de esta comparativa:
- El primero, un vídeo de su conferencia en 2018 en la Universidad de Toronto (duración 11 minutos, idioma Inglés)
El segundo, el audio de su entrevista en «AI Podcast with Lex» (duración 1h 20 minutos, idioma Inglés).
También es posible ver el vídeo en la siguiente URL: https://www.youtube.com/watch?v=UwwBG-MbniY
Andrew Ng hablando de Inteligencia Artificial vs. Inteligencia Humana
A continuación podéis ver la entrevista de Andrew Ng en «AI Podcast with Lex».
Inteligencia Artificial vs Humana: 10 Conclusiones
Lo primero es destacar que, si ya me parecía brillante el enfoque de la mente humana de Kahneman, al verle hablar de áreas que esperas que le sean más lejanas, me quito el sombrero.
A continuación mostraré 10 conclusiones de mi interpretación de la visión de Kahneman de esta relación entre Inteligencia Artificial vs. Inteligencia Humana:
- La Inteligencia Artificial es comparable al Sistema 1 de la Inteligencia Humana.
- La principal limitación de la IA es el razonamiento aunque esa limitación está también presente en la Inteligencia Humana.
- El aprendizaje de las personas es rápido y requiere menos ejemplos que en las máquinas.
- Los avances evolutivos de la Inteligencia Artificial son mucho más rápidos que la evolución de las personas.
- Es posible anticipar el comportamiento de las personas sin entenderlas, basta con observar y anticipar su comportamiento. Así es como funciona el Sistema 1 de la Inteligencia Humana y también la Inteligencia Artificial.
- En cualquier trabajo en el que colaboren personas y máquinas, las personas acabarán siendo superfluas.
- No existe una relación directa entre la complejidad de una tarea para la Inteligencia Humana y para la Inteligencia Artificial.
- La Inteligencia Artificial emplea datos y la Inteligencia Humana recuerdos. Los datos, si son de calidad, reflejan la realidad. Los recuerdos, no.
- Existen multitud de sesgos en el razonamiento humano y otros en la IA. Conocerlos permite crear una IA menos sensible a ellos.
- IA General sigue estando lejana.
REFERENCIAS
Este post no ha sido sencillo. Apoyar la comparativa Inteligencia Artificial vs. Inteligencia Humana en Kahneman y Ng ha requerido esfuerzo de lectura y visionado de entrevistas y declaraciones.
En el siguiente listado están las que finalmente he utilizado.
- Digital-Rocks: ¿Qué es la Inteligencia Artificial?
- Digital-Rocks: Pensar rápido, pensar despacio de Daniel Kahneman
- Digital-Rocks: ¿Quién controla nuestros datos?
- Digital-Rocks: La IA es la nueva electricidad
- Digital-Rocks: El Origen de la Transformación Digital: Moore, Metcalfe y Gilder
- AI podcast with Lex
- RAE: Inteligente
- Pensar rápido, pensar despacio de Daniel Kahneman
- AI ethics with Andrew Ng
- Where Humans Meet Machines: Intuition, Expertise and Learning
- Must-Watch: Joshua Gans: Danny Kahneman on AI versus Humans
- The Atlantic: Daniel Kahneman on ‘Emergent Weirdness’ in Artifical Intelligences
The Smashing Pumpkins
Si has llegado aquí, mereces un respiro.
En 1995. Billy Corgan y compañía lanzaron lo que según el propio Corgan debía ser “The Wall for Generation X”. Se trataba de un doble álbum de 28 canciones y casi 2 horas titulado “Mellon Collie and the Infinite Sadness”.
Me ha costado elegir una canción de un disco lleno de temas que marcaron una época como “Zero” o “Tonight, tonight”.
Finalmente os dejo con “1979”, la banda sonora de este post.
