Como ya he comentado en esta serie de artículos, no todo es un camino de rosas en el fascinante mundo de la búsqueda de la productividad a través de la IA. Durante mis experimentos para ser más productiva con estas tecnologías, no he podido evitar darme cuenta de algunas limitaciones que pueden llevarte a ser menos productivo o incluso a liarla parda.
Las alucinaciones
La limitación más preocupante que tiene la IA generativa, a mi entender, es ¡que a veces se inventa cosas! Pasa tanto que ya tiene hasta un nombre: Alucinación de la Inteligencia Artificial.
Pasa porque los LLM (Large Language Models), simplificando mucho, son como una versión poderosa de una herramienta de autocompletar. Es decir, no son verdaderamente inteligentes, sino que se basan en estadísticas predictivas para generar un texto, basándose en ingentes cantidades de otros textos. Por eso, no te cuestionan cuando les preguntas por cinco Beatles, te dan los nombres de los cuatro de verdad y el quinto se lo inventa con el nombre más estadísticamente probable.
Aunque las herramientas disponibles trabajan duro para evitar estas alucinaciones, y por ejemplo la de los Beatles es probable que no te la encuentres a estas alturas, existen y pueden meterte en problemas. Te da una información que parece veraz y confiable, incluso, si le corriges, dice que tienes razón y te da otra información corregida… que también puede ser inventada.
El lenguaje que utiliza suele ser el de cualquier fuente seria adaptada a la información que buscas, así que es fácil caer en el error de confiarse. Se hizo famoso el caso del abogado que perdió su trabajo por presentar en un juicio un montón de jurisprudencia inventada por una IA, pero hay infinitos ejemplos.
Cómo combatir las alucinaciones de la IA
Si no quieres meterte en problemas, es tan fácil como no confiar en ella. Como ya he dicho en artículos anteriores, es una herramienta para elevar tu productividad, pero el último responsable eres tú. Y, de todas formas, para que el trabajo tenga verdadero valor, debes siempre darle un último toque personal. Seguir estos consejos puede ahorrarte disgustos:
- Pregúntale sus fuentes y de dónde lo ha sacado, o pídele que extraiga la información de lugares de confianza concretos.
- Verifica lo que te ha dado, especialmente si es información sensible. Una búsqueda rápida de las afirmaciones que realiza o de los datos que proporciona te ayudará a saber hasta qué punto va por el buen camino.
- No la dejes volar y acota lo que le estás pidiendo. Cuanto más lo hagas, menos probable es que se invente cosas solo por llenar un cupo que se ha impuesto a sí misma. Daré más trucos sobre los prompts próximamente para ayudarte a pedirle justo lo que quieres.
Sesgos y limitaciones en los datos de entrenamiento
Una de las cosas que tienes que tener en cuenta con la Inteligencia Artificial es que depende por completo de los datos con los que haya entrenado. Si esos datos están sesgados o limitados, las respuestas que te proporcione estarán también sesgadas y limitadas
Esto es especialmente descarado cuando trabajas en lugares que gestionan personas (recursos humanos, aseguradoras…) porque muchas veces los datos de entrenamiento excluyen a minorías y al usar la IA se penaliza a las personas que lo son. Pero puedes encontrártelo en todas partes: desde las traducciones (profesiones tradicionalmente femeninas usando el pronombre ella pero las tradicionalmente masculinas usando el pronombre él) hasta los generadores de imagen (le pides que te pinte una familia y te saca al papá, a la mamá y a dos niños caucásicos).
Nuevamente, si la IA te ha dado una serie de parámetros para tomar una decisión y esta decisión está sesgada, la culpa es tuya y no de la IA. Aquí van algunas claves para que no te pase.
Cómo combatir los sesgos de la IA
- Si es posible, interésate por los datos con los que se ha entrenado la IA y pregunta al desarrollador por qué variables se han tenido en cuenta a la hora de realizar el modelo.
- Prueba los resultados con preguntas inventadas que testen las variables sensibles. Por ejemplo, si la única diferencia entre dos inputs es género hombre o mujer, ¿hay alguna diferencia en el output? Si la hay, está claro que tenemos un sesgo.
- Usa el sentido común. ¿Los datos que proporciona son demasiado normativos? ¿Con qué frecuencia aparecen minorías?
Problemas de privacidad, derechos de autor…
Los problemas pueden venir tanto al hacer preguntas (puedes estar regalando datos sensibles y violando la privacidad de tus datos) como al recibir respuestas (según con qué esté entrenado, te puedes encontrar con que el output no respeta los derechos de autor, proporciona datos que no deberías tener…).
Cómo evitar problemas de privacidad, derechos de autor… de la IA
- Lee los términos y condiciones y asegúrate de conocer la respuesta a estas preguntas: ¿la herramienta que usas está en entornos cerrados o abiertos?, ¿tienen derecho a usar los inputs que le des para entrenar?
- Asegúrate de que el modelo que uses se haya entrenado con textos e imágenes libres de derechos, o de tener los permisos necesarios.
- Asegúrate de que tienes permiso de la plataforma para usar lo que hayas creado con ella para los fines con que lo has generado.
No usar la IA correcta
Un último punto muy tonto, pero que te ahorrará problemas. Cada IA está entrenada y concebida para cumplir un objetivo. Por ejemplo, puedes usar GPT para que te genere código de programación, para que resuma un texto o para que te lo genere, pero te invito a que le pidas que haga matemáticas complejas (o no tan complejas, se lía hasta con los porcentajes): te hará un desarrollo con un texto aparentemente lógico pero que generalmente no tiene ningún sentido a nivel matemático.
Igualmente, hay algunas IA que sirven para buscar información, u organizarla, pero que son un desastre para generar contenido a partir de esa información. Hay modelos de imagen que están especializados y si le pides algunos estilos saldrá algo potentísimo, pero si les pides otros saldrá un truño… Y así hasta el infinito.
Cómo elegir la IA correcta
- Investiga un poco para qué se está usando cada IA y rebusca un poco en los foros para ver qué puntos fuertes y débiles tiene para cada función.
- Tantea con las pruebas gratuitas de varias para averiguar cuál proporciona mejores outputs para tus fines.
- Especialmente si es de pago, ¿lo puede hacer una persona subcontratada mejor o igual por el mismo dinero? Seamos realistas, la IA es maravillosa, pero para algunas cosas es más eficiente contratar a una persona.
Y con esto dejo en pausa (porque según evolucione todo lo mismo hay que actualizar esta entrada) los consejos para evitar las limitaciones de la IA. Pronto hablaré también de cómo hacer los prompts más efectivos para conseguir el output más eficiente.
Sígueme en…
O apúntate a la newsletter y no te pierdas nada.
Dispara tu productividad en el trabajo con La oficina eficiente
«No sé qué hago, pero acaba mi jornada y no he avanzado nada, así que tengo que quedarme para acabar el trabajo». «Tengo que sustituir la baja de un compañero y ni siquiera tenía tiempo para hacer mi curro, ¿cómo voy a hacer el suyo?». «Llego tarde a todas las reuniones y encima no he podido avanzar con los entregables». «En cualquier momento acabo de baja por estrés». «Mi agenda es el caos». «No paro de apagar fuegos y no puedo centrarme en lo importante».
¿Te suena alguna de estas frases? La solución a todas ellas es una gestión más eficiente de tu tiempo en el trabajo. Tener buen método y aprender a aplicarlo a tus circunstancias puede ayudarte a lidiar con todos estos problemas y a ser más productivo: este libro puede acompañarte, precisamente, en esa odisea que supone poner un poco de orden en el caos de tu trabajo.
