En Acción: Desmintiendo Mitos de GenAI con Ejemplos Reales

Imagen generada por DALL-E.

Explorando Mitos Comunes con Escenarios Prácticos

En el artículo del lunes, desmentimos algunos de los mitos más extendidos sobre GenAI. Hoy, pondremos en práctica esos conocimientos con ejemplos específicos que ilustran dónde GenAI puede fallar. Al observar los resultados reales, entenderemos mejor cómo aprovechar sus capacidades y lidiar con sus limitaciones.

La Herramienta de la Semana: Usar Restricciones para el Resultado

Antes de empezar, destaquemos la herramienta de la semana:

Establecer restricciones como límites de palabras, formato específico o el tipo de contenido ayuda a guiar las respuestas de GenAI para que se ajusten a nuestras necesidades particulares. Aunque los resultados no siempre son perfectos, demuestran cómo el usar límites puede modelar los resultados de la GenAI como queramos.

1. GenAI No Sabe Todo

Intenté pedirle a GenAI información sobre mis trabajos de investigación que etsán en internet, y respondió con un simple “No tengo información sobre eso”. Esto muestra que, aunque GenAI pueda parecer un asistente omnisciente, está limitado por los datos en los que fue entrenado.

    
Sin buscar en internet: háblame de un artículo de investigación de Fernando Yánez, candidato doctoral en la Universidad de Toronto.

Copia el prompt y pruébalo con ChatGPT

Resultado: La IA reconoció sus límites y dejó claro que sus resultados pueden no incluir contenido que no sea ampliamente divulgado, especialmente si no forma parte de sus datos de entrenamiento. (Y por alguna razón decidió cambiarme el apellido).

Conclusión: Usa GenAI para obtener información general, pero verifica de forma independiente los detalles sobre temas específicos o trabajos personales.

2. GenAI No Siempre Da la Respuesta Correcta

Incluso después de hacer otra pregunta sobre mis investigaciones antes de octubre de 2023, GenAI no pudo dar una respuesta. Esto muestra que GenAI a veces puede no recuperar información menos conocida, incluso si está disponible públicamente, porque es posible que dichos datos no estén suficientemente representados en el conjunto de datos con el que fue entrenado.

    
Sin buscar en la web: entonces, háblame de sus investigaciones antes de octubre de 2023.

Copia el prompt y pruébalo con ChatGPT

Observación: En este caso, GenAI no pudo proporcionar la información solicitada, lo cual demuestra que, incluso con una amplia base de datos, las respuestas pueden no coincidir con la realidad o los hechos disponibles.

Conclusión: Usa las respuestas de GenAI como puntos de partida para explorar más a fondo, no como respuestas definitivas.

3. El Resultado que dá GenAI es Tan Bueno Como el Prompt

La calidad de la respuesta de GenAI depende de la claridad y el detalle del prompt. Uno genérico puede generar contenido básico, mientras que un prompt detallado orienta a GenAI para que produzca resultados más enfocados y significativos.

Ejemplo de un prompt genérico:

    
Genera contenido creativo en 100 palabras.

Copia el prompt y pruébalo con ChatGPT

Resultado: La respuesta suele ser muy general y poco personalizada.

Ejemplo de un prompt detallado:

    
En 100 palabras, ni más ni menos, crea una historia ambientada en un planeta al revés donde las plantas hablan y los animales son mudos. En este mundo, no hay viento; aun así, las plantas se mueven conscientemente como parte de su lenguaje multimodal. El tercer elemento de este lenguaje es la conexión sináptica entre sus raíces.

Copia el prompt y pruébalo con ChatGPT

Resultado: Un prompt detallado permite a GenAI crear narrativas más vívidas y precisas.

Conclusión: El dar más contexto y detalles en tu prompt eleva la calidad de la respuesta. Invertir tiempo en una instrucción clara y específica nos lleva a resultados más impresionantes.

4. GenAI No Entiende el Contexto Tan Bien Como los Humanos

En el ejemplo del prompt anterior, mencionamos que las plantas de este mundo ficticio tienen un medio de comunicación multimodal con tres elementos. Describimos explícitamente los aspectos sinápticos y de movimiento, pero el sonido estaba implícito en la frase “un planeta al revés donde las plantas hablan y los animales son mudos”. Para nosotros, es fácil inferir que, a diferencia de los animales mudos, las plantas emiten sonidos. Sin embargo, GenAI mencionó que “los secretos del universo estaban escritos en raíces y movimientos”, enfocándose en solo dos de los tres elementos del lenguaje de esas plantas, destacando su dificultad para reconocer contextos no explícitos.

Conclusión: Incluso con prompts detallados, GenAI puede no captar completamente las relaciones complejas o detalles implícitos, subrayando la necesidad de que revisemos sus resultados para asegurar precisión y profundidad.

5. GenAI No Maneja Todas las Tareas a la Perfección

Añadir restricciones a los prompts pone a prueba la precisión de GenAI. Incluso cuando le di la instrucción precisa de escribir 100 palabras, ni más ni menos, las historias generadas tenían 97 y 99 palabras. Esto muestra que GenAI puede fallar en tareas que requieren el cumplimiento exacto de criterios detallados.

Conclusión: Aunque GenAI puede acercarse al objetivo, nuestra supervisión debería garantiza que se cumplan los detalles precisos.

Reflexión sobre la Herramienta de la Semana

El uso de restricciones, como límites de palabras, puede guiar eficazmente a la IA. A pesar de no alcanzar la perfección, se mantuvo dentro del rango general, evitando respuestas demasiado largas. Esto muestra cómo usar restricciones enfoca la producción, incluso si no se logra la perfección.

Reflexiones Finales: Balance, No Perfección

Estos ejemplos demuestran que, aunque nuestro Compañero de Ideas es una herramienta poderosa, tiene sus limitaciones. Conocer dónde puede fallar—ya sea en el manejo de instrucciones precisas, la interpretación de prompts complejos o el acceso a información específicos—nos permite usarla de manera más efectiva como un Compañero de Ideas. Con prompts claros y restricciones bien definidas, el apoyo de GenAI puede ser invaluable, pero la supervisión humana es clave para obtener los mejores resultados.