La Inteligencia Artificial no te hace experto
llega la era de los "singermornings"
Buenos días, vamos con el primer lunes del mes 🤙
Una conversación con un compañero (y casi amigo) me hizo plantearme el tema de la newsletter de esta semana.
La Inteligencia Artificial no te da criterio, pero te hace pensar que tienes más del que realmente tienes.
Yo mismo pensaba que la IA nos iba a hacer más inteligentes y mejores humanos, pero no. Nos está haciendo más rápidos, y eso no es siempre algo positivo.
Mi abuelo siempre me dice: “la velocidad se demuestra andando” y tengo una tortuga de peluche en mi escritorio.
La velocidad que nos da la IA algunas veces es un acelerador del efecto Dunning-Kruger.
Sabes muy poco de algo, pero lo justo para creer que ya lo entiendes completamente.
A mi me pasa a veces, me pongo un video de YouTube de mi colega Rajesh para arreglar el microondas, que lleva 2 años sin funcionar y ya siento que podría dedicarme a la reparación de cualquier artefacto.
Es muy fácil, le preguntas a ChatGPT, recibes una respuesta muy bien formulada y con un tono muy seguro. Suena muy bien y tienes la sensación de haber investigado. PELIGRO.
No es lo mismo tubérculo…
No es lo mismo una respuesta bonita que una respuesta correcta.
No es lo mismo velocidad que comprensión y criterio.
La IA no te quita la necesidad de criterio. Ahora mismo puedes sonar convincente sin entender lo que estás diciendo.
He visto como alguien generaba un plan estratégico sin saber si tiene sentido. He visto defender decisiones técnicas sin mirar los datos. He visto incluso generar reportes de la base de datos que no corresponde.
Siempre nos ha gustado opinar y, ahora, el peligro es aumentar la seguridad de nuestras opiniones sin realmente haber profundizado en ello.
Quizá el nuevo analfabetismo digital no es el hecho de usar o no la IA, sino, usarla sin saber auditar su respuesta.
Vamos con los 5 tokens de esta semana.
📡 El token de actualidad
Esta semana no puedo hablar de otra cosa en el token de actualidad que no sea de la primera encíclica del Papa León XIV, Magnifica humanitas, cuyo tema central es la inteligencia artificial y la dignidad humana y que no puedo hacer más que recomendarte su lectura.
Lo que me parece realmente interesante es que la Inteligencia Artificial está empezando a dejar de ser un tema técnico, va mucho más allá de modelos, tablas comparativas, agentes o videos chulos.
El tema empieza a tener que ver con el trabajo, el mercado laboral, el poder, la desigualdad y de quién es el que decide.
La discusión es necesaria porque estamos ante una tecnología que influye cómo trabajamos, cómo aprendemos, cómo nos informamos incluso cómo buscamos consejo.
Esto ya no es sólo software o una herramienta. Es impacto directo.
Y aquí es donde, para mi, aparece el punto interesante de la encíclica, no se trata de “la IA es mala”, porque eso se queda en un titular facilón y aburrido.
Lo importante es que esta tecnología no es neutral cuando concentra el poder, sustituye juicio o afecta directamente a la dignidad humana.
Esto conecta con algo que cada vez me preocupa más, delegar la cognición. Estamos construyendo sistemas que parecen ayudarnos a pensar, pero muchas veces están haciendo justo lo contrario.
¿Formulas mal una pregunta? no pasa nada, tienes una respuesta igual.
¿No entiendes ni defines el problema? no pasa nada, tienes la solución.
¿No tienes criterio? no pasa nada, tienes la herramienta.
Aquí quiero ser muy claro, no se trata de no usar la Inteligencia Artificial ni las herramientas, se trata de no delegar el 100% de la cognición.
Antes de cerrar este token hay algunas cosas que me parecen curiosas en la publicación de esta encíclica.
La presencia de Christopher Olah, co-fundador de Anthropic, advirtiendo de los riesgos de la Inteligencia Artificial y la necesidad de que el debate no quede solo en las grandes empresas tecnológicas.
Un guiño a Gandalf y a Tolkien.
«No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza».
Curioso que el Papa hable con más sentido común en este tema que muchos divulgadores de Inteligencia Artificial.
🧪 El token laboratorio
Sin ser yo un seguidor del panorama futbolístico actual, te traigo:
El Getafe C.F. está utilizando Inteligencia artificial y esta temporada sus resultados son los mejores desde hace tiempo. ¿Tendrá que ver la Inteligencia Artificial?
Primero, no quiero quitar ningún mérito a José Bordalás, actual entrenador del club aunque pinta que no seguirá la siguiente temporada. Demostrando que las herramientas técnicas tienen cabida en el deporte y pueden ser diferenciadoras.
Entre las temporadas 2017/2018 y 2019/2020 el Getafe usaba herramientas de Inteligencia Artificial, concretamente de predicción de lesiones. Dónde medían hasta 200 parámetros de los jugadores para equilibrar bien la carga en los entrenamientos y partidos.
Lo novedoso es que este año han pisado el acelerador. Se sitúan en la posición 7 de la liga.
Pero aquí no hay magia. No hay un prompt que les haya hecho llegar a ese puesto. Ha habido planificación, estudio y entrenamiento tanto técnico como táctico.
Han recabado todos los datos disponibles, tanto de sus jugadores como de sus rivales y muy inteligentemente los han utilizado a su favor.
Y, por supuesto, hay un equipo técnico que decide qué hacer con esa información. La IA no ha sustituido al equipo, lo ha dado más herramientas que, en este caso, han sido muy útiles.
El Getafe no ha metido a ChatGPT a hablar con los jugadores en el banquillo. Ha integrado un sistema de análisis predictivo en su forma de entrenar y de competir en los partidos
Esto no es IA quitando el trabajo a un humano. Es IA convirtiéndose en una parte más del cuerpo técnico.
No decide por Bordalás, le da señales. El criterio sigue en el banquillo. Por eso me gusta este caso, no va de delegar la cognición, va de amplificar capacidades.
💨 El token para no tragarte el humo
El concepto de “singermorning” me gusta especialmente. Viene de una traducción literal de cantamañanas y vas a entender por qué te digo esto.
Hemos hablado mucho en esta edición de no delegar la cognición.
Pues bien, como siempre, en política todo vale.
Esta semana he visto una historia bastante curiosa, por decirlo de alguna manera.
Resulta que el presidente de Canarias utilizó ChatGPT para argumentar que las ratas pueden nadar ante el Ministerio de Sanidad.
Y aquí está la escena de cine perfecta, tenemos una crisis sanitaria que requiere de una decisión política. ¿Qué hacemos?
Pues vamos a utilizar la Inteligencia Artificial como un perito de emergencia. Maravilloso.
Y aquí lo que me mata no es preguntar a una inteligencia artificial si una rata puede nadar o no. Lo duro es que no podemos utilizar la respuesta como si sustituyera un criterio técnico.
ChatGPT te puede dar muchísima información sobre las ratas, el ecosistema, razas… lo que sea, pero ¿realmente lo relevante es si las ratas nadan?
Para mi no, para mi la pregunta que habría que hacerse es cuál es el riesgo real en ese contexto. No es una pregunta fácil que se puede resolver con un prompt…
Hace falta criterio, datos, expertos…
Pero este hombre se hizo abanderado del efecto Dunning-Kruger y la inteligencia artificial le hizo parecer muy informado sin realmente estarlo. Le dio seguridad y ese es el problema real.
Antes de la IA, un cuñao’ decía “lo he escuchado por ahí”
Ahora, te dice que “lo ha contrastado” por haber escrito en ChatGPT una pregunta que ni siquiera era la correcta.
La IA no te hace experto, te guía. Pero si no sabes dónde estás, puede ser que te guíe hacia un precipicio.
🧠 El token que me tiene quemando neuronas
El equilibrio entre la mentalidad ingeniera y la mentalidad científica.
Hace ya unos días, Elon Musk perdió el juicio más importante por el control sobre la inteligencia artificial.
Parece que lo exagero, pero Elon Musk ha tenido un juicio contra OpenAI, empresa que apoyó económicamente en sus inicios, como él dice, con fines puramente filantrópicos.
Esta derrota me sabe a que OpenAI va a recibir más dinero que el tío Gilito en los próximos meses…
Pero lo importante es que el hecho de que haya perdido implica 3 puntos fundamentales.
El modelo de la compañía será comercial cerrado y exclusivo, el control seguirá liderado por Sam Altman y el destino de las patentes será propiedad intelectual protegida.
Todo esto en contraposición a lo que Elon defendía, que es código abierto y social, patentes públicas y algo de intervención judicial externa en el liderazgo.
Seguramente te estás preguntando ¿qué tiene esto que ver con la mentalidad ingenieril o científica?
Pues bien, el duelo entre estas dos mentes me hace pensar en sus posiciones frente a la tecnología, el producto y la empresa.
Por un lado tenemos a Elon Musk, con una mente ingeniera total, que se puede ver en su forma de ser y sus compañías son el vivo ejemplo.
Tesla, SpaceX, Twitter todas ellas buscan lanzar rápido, iterar, medir, optimizar, reducir costes, sacar producto, hacer que funcione.
Por otro lado tenemos la mente científica, que acepta la incertidumbre, va mucho más lento, no fuerza conclusiones. Quiere entender, busca mecanismos, duda.
Las dos son necesarias.
No puedes quedarte toda tu vida investigando sin construir, pero tampoco puedes construir sistemas sin entender en profundidad.
En el mundo de la inteligencia artificial es especialmente delicado, porque la velocidad no se puede confundir con el tocino.
Estamos viviendo empresas que quieren aumentar productividad, recortar, más márgenes y todo funcionando para ayer, pero lo divertido viene cuando entiendes que la IA es estocástica, tiene incertidumbre.
¿Estamos abusando de la mente ingeniera y abandonando la científica?
Me da en la nariz que una buena parte del sector está loquita por moverse rápido sin pararse a entender lo que significa esa velocidad.
Cuidado con estrellarse.
📌 El token CHUNK
Esta sección será simplemente una frase que me resuena, relacionada o no con la inteligencia artificial. Lo he llamado chunk como guiño a los trocitos de contenido.
Aquí va:
La inteligencia artificial no te hace experto, te hace más rápido pareciendo experto.
Con la cantidad de respuestas rápidas que tenemos ahora, el verdadero diferencial va a ser saber cuándo parar y pensar.
Quiero cerrar la edición de esta semana con una prueba muy simple que creo que deberíamos aplicar cada vez más.
Cuando estes utilizando IA para entender un tema que realmente no dominas, hazte las siguientes preguntas:
¿Qué parte de esta movida que me está respondiendo puedo verificar?
¿Hay alguna fuente externa que confirme o desmienta esto?
¿Este cacharro está suponiendo algo sin decirlo explícitamente?
¿Conozco algún humano que sabría ayudarme a matizar esto?
¿Qué pasa si decido en base a esto y está mal?
El coste del error es muy importante. No necesitas saberlo todo amigo mío, pero sí necesitas saber cuándo no sabes lo suficiente.
Eso es criterio.