Episodio 025 - La I.A. no puede ser neutral

Metadatos

• Número: 025
• Título: La I.A. no puede ser neutral
• Invitados:
• Duración: 0:19:29
• Publicado: 2025-08-17
• Categoría: Get from description
• Etiquetas: inteligencia artificial, gemini, chatgpt, LMStudio, deepseek

Escuchar

(De momento solo disponible en iVoox)

• iVoox
• Copia en hosting

Descripción

Otra ración de opinión. Hay gente y empresas que consideran la Inteligencia Artificial como un ente neutral, imparcial y sin sesgos. Ya te digo yo que eso es imposible: ha sido programada por humanos, y se ha nutrido con datos generados por humanos.

Es inevitable que un LLM tenga tendencias ideológicas y que siga unas reglas impuestas, como cualquier programa. Motivo de más para no tomarte en serio todo lo que te diga, y que no dejes tu criterio propio en manos de una máquina.

¿Por qué el software no puede ser imparcial? ¿Cómo bastantes empresas se benefician precisamente de esto, incluso para manejar seguros de salud? ¿Por qué es tan mala idea usarla como terapia psicológica?

Y también te cuento por encima cómo puedes usar LLM / GPT en local, aunque te vaya a ir mucho más lento que online.

Referencias

LMStudio: https://lmstudio.ai/download

Newelle (para Linux): https://newelle.qsk.me/

Sintonías: https://opengameart.org/content/as-fast-as-you-can-drums-and-bass https://opengameart.org/content/forest-ambient-game-music https://opengameart.org/content/horizon-surfer

Transcripción

(Generada con Whisper ggml-medium, sin revisar)

¡Muy buenas, soy Titani Verde y estás escuchando Panda Disk System, cultura en peligro de extinción!
¿Y qué se ha extinguido hoy? El criterio propio de la humanidad.
Bueno, lo digo como si no se hubiera extinguido ya millones de veces a lo largo de la historia.
Siempre han habido herramientas para que el líder de turno, para que el gobernador de turno, anule la capacidad intelectual del pueblo.
Entiéndase ejércitos, religión, medios de comunicación, o simplemente un sistema económico tan intrincado en el cual todos nos sintamos atrapados.
¿Y qué herramienta tenemos hoy para anular nuestro criterio?
La inteligencia artificial.
Entiéndase los GPT o LLM.
¿Y por qué mata nuestro criterio?
Pues porque mucha gente le hace preguntas y toma su respuesta como si fuera la verdad absoluta.
Poca gente se molesta en contrastarla.
Incluso si por ejemplo Gemini, o por lo visto la última versión de ChatGPT, indique fuentes de dónde ha sacado esa información.
Lo cual me parece un gran detalle.
Pero claro, ¿cuánta gente se molesta realmente en leerlas al detalle?
Igual que cuánta gente se molestaba en leer las referencias en Wikipedia, o en los vídeos de divulgación de YouTube.
Lo primero que nos llega, nos lo tomamos por verdad y ya está.
Y a ver, es la tendencia de nuestro cerebro.
El cerebro humano busca el esfuerzo mínimo.
Siempre intentamos acomodarnos a hábitos, a fuentes de confianza, a tomar atajos.
No queremos esforzarnos todo el tiempo.
Y es humanamente normal.
Y por eso precisamente hay que tener cuidado y dudar de todo lo que nos digan.
Cuestionarlo todo, sobre todo a mí.
Pero antes de entrar en este debate interminable, me quiero centrar en un punto cuestionable sobre la inteligencia artificial.
Uno de muchos.
Cuando la gente lo considera neutral.
Ya os adelanto yo que ninguna pieza de software puede ser 100% neutral.
No puede ser imparcial.
Una pieza de software va a hacer lo que le ha dictaminado un humano o varios humanos que lo hayan programado.
Que le hayan indicado que reglas exactas debe seguir.
Y de hecho, si hay alguna regla no especificada, lo normal es que el software falle, se cuelgue, muestre un error y haya que volver a empezar.
O directamente no se puede hacer eso.
Sí, se puede argumentar que hay softwares que solo ofrecen la verdad.
Por ejemplo, la pieza de software más básica de toda la historia.
Una calculadora.
Una calculadora solamente te va a mostrar los resultados matemáticos de las operaciones que le pidas.
Pero hay que entender que las matemáticas son reglas puestas por humanos.
La única diferencia es que son reglas que todo el mundo más o menos tenemos en común.
Todos damos por entendido, todos damos por asumido que 2+2 son 4, 4 y 2 son 6, 6 y 2 son 8 y 8, 10 y 6.
Ahora bien, si viene otro gobierno y nos dice que 2+2 son 5, pues las calculadoras también tendrán que decir eso.
Habrá que reprogramarlas para que muestren esta nueva lógica.
Cualquier software corporativo, cualquier software para una empresa, de lo que se va a asegurar es de seguir las reglas de esa compañía o de ese sector.
Si es concretamente un software programado para una empresa específica, le van a meter todas las reglas de negocio de esa empresa para asegurarse de que esas reglas se están cumpliendo.
El objetivo es prevenir que los empleados sigan sus propias reglas o se las salten cuando les convengan o incluso cuando quieran favorecer a un cliente.
El objetivo es evitar esos casos de corrupción y que la empresa pierda dinero.
Por lo tanto, ese software no es neutral o es madre.
Lo puedes llamar neutral si tomas las reglas de esa empresa como la verdad absoluta.
Pero si las reglas de la empresa dicen que los clientes negros están prohibidos, ¿cómo se lo vas a discutir al software?
Las inteligencias artificiales de hoy día son un software tan sofisticado y tan complejo que no solo nadie sabe cómo funcionan exactamente.
Ni siquiera quienes los han programado. No lo tienen 100% claro.
Un día funcionó de una manera y, mira, explotó el negocio.
Hay gente que está poniendo la IA como un ejemplo de software neutral para tomar decisiones imparciales que no dependan de las emociones de un ser humano.
¿Cuáles son sus impresiones en ocasión tan solemnes o neutralidad?
No tengo impresiones ni en un sentido ni en otro.
Lo cual también es falso.
Un LLM se ha entrenado con muchos datos, los cuales han sido generados previamente por humanos.
Habrán tendencias inevitables.
Y además cada empresa le puede añadir su propio material de entrenamiento, con lo cual le puede indicar una tendencia u otra.
Por ejemplo, la IA que se puso en Estados Unidos para barajar pólizas de seguros de salud, pues ¿qué iba a buscar la empresa?
¿Qué es lo que quiere la inmensa mayoría de empresas en el capitalismo?
Ahorrar dinero.
Si pueden encontrar excusas para no pagar sus pólizas, vamos, para no entregar el dinero que corresponde a sus usuarios, pues lo van a hacer.
Si con eso se pueden ahorrar dinero, lo van a hacer.
La gran diferencia es que con un humano, pues bueno, le puedes llorar, puedes negociar, el agente estará en un compromiso.
Una IA no.
Es una máquina a la cual le puedes echar la culpa y le va a dar igual, como mucho te dirá "ay, lo siento, tienes toda la razón".
Pero solo hace eso porque está entrenado para eso, nada más.
No tiene sentimientos, no tiene moral, no tiene criterio.
Solamente hace eso porque es lo que le beneficia a la empresa, es el empleado perfecto.
Pero sigue siendo algo creado por humanos y han sido humanos quienes le han dicho, directa o indirectamente, que se comporte de esta manera.
Y claro, si los usuarios quieren echarle culpas a alguien, pues "ay no, es que ha sido la máquina, la máquina tiene toda la culpa, no es lo que nosotros queríamos exactamente, lo lo lo lo lo".
En estos casos, los LLMs no tienen opinión ni criterio.
Hacen lo que se les ha dicho que tienen que hacer.
El único objetivo de esas empresas es, pues, quitarse gastos y responsabilidades de encima.
Así funciona el capitalismo, o sea, siempre que crecer, siempre que obtener más beneficios, siempre, da igual de qué manera.
De todas maneras, me parece más peligroso todavía que la gente utilice estos chats como terapia psicológica.
Porque se están tomando lo que dicen como una verdad absoluta también.
Sería raro que un psicólogo humano te diga que te suicides, que consideres estas ideas contradictorias entre ellas.
Pero un robot perfectamente te lo puede decir.
Porque en ese momento considera, en base a su material de entrenamiento, que esa es la respuesta probablemente más correcta.
No considera entre medio que "hmm, podría poner a mi usuario en peligro".
No, eso no entra en sus reglas.
Si al menos la IA tuviera las reglas de la robótica de Isaac Asimov, pues, bueno, tal vez se podría evitar.
Pero están tardando mucho en introducirlas en su material de entrenamiento.
Igualmente, para ser justos, el peligro aquí de tomarse un chatbot totalmente en serio es el mismo peligro que tomarte libros de autoayuda totalmente en serio.
Usar estos recursos como guía, como apoyo para sacar alguna información útil y filtrarla, pues, bueno, vale.
Puede servir como un suplemento para una terapia de verdad.
Pero no te lo puedes tomar totalmente en serio.
Un libro de 10 o 20 euros no es sustituto para una terapia de verdad.
Aunque sí sucede que siempre va a haber gente que no se pueda permitir un psicólogo de verdad.
Que no se pueda permitir 40, 50, 60 o más euros por cada sesión.
De las cuales puede que las primeras cinco sesiones no le sirvan para nada.
O vamos, o sea, no sean suficientes para encontrar una solución a los problemas que pueda tener.
Por supuesto, hablando de terapia psicológica en base a reestructurarte, reprogramarte, cambiar tu conducta, etcétera.
No simplemente tomar pastillas.
Y esto, pues, seguirá siendo un problema mientras en la seguridad social sigamos sin tener suficientes psicólogos.
Con lo cual lo normal es tenerte que esperar meses para que te atiendan para una sesión.
Y luego tener que esperar varios otros meses para otra sesión.
Para una depresión suficientemente arraigada puedes necesitar 20 sesiones, 30 o más.
Calcula cuánto cuesta todo eso y cuánto tiempo te lleva.
Usar un chatbot, un LLM, para sentir compañía, para sentirte escuchado, para buscar respuestas, pues, bueno.
Habrá gente a la que no le quede más remedio, pero dista mucho de ser lo ideal.
También en según qué estados, pues, es difícil buscar amigos, buscar gente de confianza.
Pero para eso está la familia.
Hay gente que no o no tiene familia o la familia que tiene es un desastre.
Y lo que le va a aportar será peor que estar solo.
En cualquier caso, te digo tanto a ti como a quien conozcas que esté en una situación desesperada.
No utilices los chatbots como un apoyo psicológico serio.
Úsalo para buscar términos, entender términos, buscar herramientas, lo que sea.
Pero ahí lamentablemente el trabajo lo tiene que hacer uno mismo, por muy duro que sea.
Ahí un buen psicólogo puede orientarte para encontrar tú tus propias respuestas.
Nadie puede darte las respuestas por ti.
Como muchos te pueden indicar la dirección, pero el camino lo tienes que hacer tú.
Bueno, ¿y esto qué tiene que ver con la preservación?
Qué mejor que preservar tu propio cerebro.
Ah sí, sí te puedo dar un consejo de preservación, ya que hablamos de LLMs.
El uso de chat, GPT, Gemini y demás tiene varios inconvenientes que no vemos desde nuestro
lado.
Desde nuestro ordenador o nuestro móvil, o nuestras gafas, o lo que sea que utilicemos
para hablar con esa maquinita.
Los modelos de LLM tienen un consumo eléctrico brutal para simplemente escribir una frase.
Cosa que no vemos desde nuestro lado, porque para eso tienen un montón de servidores muy
potentes con mucha memoria que se encargan de ese trabajo.
Les mandas la orden, lo procesan todo ellos y te vuelve instantáneamente.
Porque tendrán esos miles de procesadores especializados en ello.
Técnicamente ese trabajo lo puedes hacer tú en casa.
Hay programas como LM Studio o hace poco salió para Linux Newel, al cual le puedes cargar
un modelo en local, este se mete en la memoria RAM de tu ordenador y le puedes formular tus
preguntas en local, de manera que nunca salga a internet.
De cara a privacidad, te puedes imaginar que esto es lo mejor.
Toda esa información te la quedas solo tú.
No se utiliza como material de entrenamiento, no se usa para nada fuera de tu ordenador
o de tu red.
Pero como he dicho antes, tiene un consumo computacional enorme.
Para que te funcione mínimamente bien, necesitas tener un procesador gráfico, o sea, una GPU
suficientemente potente, o sea, vamos, una Nvidia, una AMD ATI, con eso, o sea, procesador
gráfico.
Quiero decir, tu ordenador portátil barato sin procesador gráfico, que solo tenga gráfica
integrada, Intel Graphics por ejemplo, pues te puede servir, pero va a ir más lento que
el caballo del malo.
Puede tardar dos minutos en escribirte una frase en castellano.
Todo dependiendo del modelo que elijas, de qué longitud de frase, o sea, cuántos tokens
le has solicitado, etc.
Pero igualmente eres libre de bajar este programa y probar LM Studio.
Es el propio programa, puedes elegir modelos de Meta, de Google, de Mistral, programados
en Francia, de DeepSec, y varios otros.
Incluso la propia OpenAI lanzó la última versión también de esta manera, antes no
estaba disponible.
Ahora, eso sí, para abrir este, para tener algo muy parecido a ChatGPT en local, necesitas
más de 20 GB de RAM.
Eso es otro inconveniente, todo el modelo que puede ocupar entre medio gigabyte a más
de 100 GB, según el tamaño de modelo que pidas, todo eso va a la memoria RAM.
Todo, enterito, no lo va leyendo de disco.
Será mejor todavía si tienes un procesador de tipo NPU, que son portátiles, pues aparte
de los que te venden aptos para Microsoft Copilot, pues no sé si hay otros modelos.
Con una GPU mínimamente potente, pues te puedes apañar y lo tienes todo en casita.
Y si no tienes actualmente máquina para esto, pues al menos te puedes bajar una copia del
modelo y tenerla guardada, especialmente el de OpenAI, por si en un futuro cambien de
opinión y las quitan de la red.
Así al menos lo tienes guardadito.
Te puedes reservar unos 100 GB en algún disco duro externo y tener guardados ahí las últimas
versiones.
Y con eso ya tendrás tiempo para jugar en un futuro.
Y ya, hasta aquí el briconsejo de preservación y de psicología.
El criterio propio es muy importante, pero también es muy fácil que se duerma, que lo
tengamos ahí perdido, guardado en un cajón, pensar que no lo necesitamos para nada, que
habrá otra persona, otra entidad, otra máquina, que tome esas decisiones por nosotros, que
decida por nosotros que nos gusta y que podemos hacer.
Ahí lo dejo, hasta pronto.