Escrito por: LUIS MERINO

Si hace poco descubriste ChatGPT o un modelo de lenguaje similar (Gemini, LlaMA, etc.), y te pusiste a trastear con él para «saber de qué va eso», o te acercaste de forma profesional con la intención de innovar en tu área de negocio, lo más probable es que en ambos casos hayas pasado un tiempo experimentando por tu cuenta, entre otras cosas porque no existe una única fórmula mágica exacta para dar instrucciones al modelo y, además, la manera en la que se interactúa con cada modelo (prompting) difiere en algunos aspectos. Si al poco tiempo has obtenido buenos resultados, lo más probable es que te vengas arriba y pises a fondo sin ser consciente de si vienen curvas. La mala noticia es que las hay.

¿Te has preguntado qué ocurre con la información que proporcionas al modelo?, ¿de dónde sale el texto que te devuelve?, ¿cómo es de seguro?

Pasar por alto estas cuestiones puede acarrearte problemas como los que sufrió el año pasado Samsung, después de que se filtrara información confidencial de la empresa, debido a que varios empleados usaron datos corporativos en ChatGPT. O los que generó Google por un despiste técnico que filtró inadvertidamente chats privados de Bard en sus resultados de búsqueda y, por si no te habías enterado, ChatGPT tuvo que ser desconectado en marzo del año pasado porque los títulos de los historiales de algunos usuarios eran visibles para otros.

Tienes que asumir que cuando utilizas esta tecnología de forma gratuita, el producto eres tú. Te estarás preguntando ¿qué es lo que obtienen de mí?, pues lo que más necesitan: la información que manejas.

Conviene saber que después de crear la arquitectura de un modelo de lenguaje y antes de ser entrenado, el modelo es tan inútil como un coche sin gasolina. Para ponerlo en marcha hay que alimentarlo con textos. Cuanta más información recibe durante el entrenamiento, más desarrolla su «inteligencia», por esta razón se les entrena con todo lo que esté disponible; esto incluye lo que escribes cuando interactúas con ellos. Por otro lado, los resultados que muestra están basados en los textos con los que han sido entrenados; en definitiva, dicen lo que han visto utilizando «sus propias palabras» y cuando desconocen la respuesta a una petición, en muchos casos, se la inventan (hallucination).

Ahora que sabes dónde están las curvas, te va a resultar fácil tomarlas si lo haces con prudencia y sentido común. Imagina que el modelo es una persona conocida, un tipo muy inteligente y resolutivo, con buena disposición para ayudarte tanto en lo profesional como en lo personal, pero del que no puedes fiarte demasiado, pues contará a tus vecinos lo que has hablado con él y, como le gusta fantasear, en algunas ocasiones vendrá con milongas.

Con alguien que se comporta de esa manera, hay que tomar ciertas precauciones:

nunca proporciones información personal, financiera o de cualquier tipo sensible. Si necesitas aportar ciertos datos porque el contexto lo requiere, invéntalos, miente como si no hubiera un mañana, al modelo no le va a molestar en absoluto.

Valida la veracidad de todo lo que sale de él. Comprueba los resultados generados con fuentes confiables y verificadas, sobre todo si vas a compartir esa información con terceros.

Mucho cuidado con la integridad del contenido. Si vas a utilizar de forma pública la información que te ha proporcionado, asegúrate de que no esté sesgada o sujeta a derechos de autor. Estamos en los comienzos en cuanto al uso de esta tecnología, aún se desconocen muchas de las vulnerabilidades y por lo tanto la protección ante ellas. Hay avances constantes y en unos meses el panorama habrá cambiado de nuevo en todos los sentidos. El escenario que se presenta es fascinante e invita a lanzarse de lleno, pero si no se utiliza el sentido común y la prudencia, será como entrar a pleno gas en una curva con baches.