El modelo matemático sin sesgo que se inventa lo que no tiene registrado

La revolución de la Inteligencia Artificial ha llenado de aplicaciones los smartphone y ordenadores de medio mundo. Imágenes representativas por regiones, deseos en cuatro palabras transformadas en imágenes, y búsqueda de información que elabora textos completos. Son algunas de las aplicaciones que la gente está usando con más asiduidad. Pero el potencial adivina la llegada de una nueva revolución a la sociedad.

Ya se usa en trabajos de clase, en presentaciones, pero ¿es fiable?. El profesor de Informática de la UBU y coordinador grupo de investigación GICAP, Bruno Baruque, aclara que «el sistema tiene una información ingente guardada, en el caso de Chat GPT hasta una fecha concreta, y alimentan al modelo matemático y el sistema llega a una solución a una pregunta, es una respuesta coherente, pero hay datos que no son ciertos, se inventa lo que no sabe y los programadores no saben muy bien por qué»

Hemos probado ChatGPT para analizar el perfil de los candidatos a la alcaldía de Burgos y acertaba algo, pero muchas cosas eran falsas. Daniel de la Rosa nunca fue concejal en Miranda, Cristina Ayala ya había intentado acceder a la alcaldía en 2019 cuando este era su primer intento o nos colocaba al candidato de Vox, Fernando Martínez-Acitores, como actor de teatro. No dio una. «El sistema te da un texto coherente, pero es probable que no sea 100% fiable», explica el profesor de la UBU. Advertencia para estudiantes que ya ven en ChatGPT, Bing y otras herramientas de inteligencia artificial como una solución para acelerar la presentación de trabajos y proyectos.

Hay cosas positivas. Para Baruque la posibilidad para realizar cálculos y predicciones en procesos de investigación como la biología será muy útil. «En investigación biológica hay procesos muy complejos, predecir cadenas químicas de una proteína que a los científicos les lleva mucho tiempo de trabajo, aquí se puede realizar en minutos». La razón es que sobre proteínas hay muchos textos que abordan este aspecto, hay publicaciones científicas y eso permite al sistema ir por el camino correcto. «Es una información perfectamente clara». 

Otra cosa es simular un texto, con la miscelánea de publicaciones sobre diferentes asuntos que pueden llegar al sistema como fuente. De ahí que «el modelo matemático no tiene sesgo ni dobles interpretaciones, ofrece información sobre todo el material fuente que tiene». Es decir, si la mayoría de las publicaciones que son su punto de partida hablan de enfermeras y no de enfermeros, su texto definirá enfermera. Si las referencias son masculinas, el sistema hablará en masculino. «Es lo que ha aprendido». 

También se cuida muy mucho de no ofrecer opiniones. «Como modelo de lenguaje, no tengo capacidad para…» es su respuesta. Otra de sus incapacidades es llegar a simular el habla de una persona. Eso es algo que no se ha podido replicar. Por el momento.