El Club de Opinión Lucas Mallada recibió el pasado 5 de noviembre a Cristina Aranda, que ofreció en la sede de Caja Rural de Aragón, en Huesca, la conferencia “La inteligencia artificial a examen: progreso, poder y responsabilidad”. A través de ejemplos cotidianos, humor, demostraciones con el público y numerosas referencias al mundo empresarial, la ponente invitó a reflexionar sobre una tecnología que ya forma parte de nuestras vidas y cuyo impacto trasciende ampliamente las herramientas de generación de textos e imágenes.
La experta oscense analizó en el Club de Opinión Lucas Mallada las oportunidades de la IA, los sesgos que reproducen sus algoritmos, los riesgos de la desinformación y la necesidad de mantener el control humano sobre la tecnología.
Doctora en Lingüística Teórica y Aplicada y licenciada en Filología Hispánica, Cristina Aranda es consultora de innovación, digitalización e inteligencia artificial. Cuenta con una amplia trayectoria asesorando a empresas e instituciones, y ha participado en proyectos como la estrategia de IA del Gobierno de Aragón y el Plan Director de IA de Turismo de Tenerife. Es cofundadora de MujeresTech, Spain AI Aragón y ELLIS Alicante, y autora del libro “Vidas futuras” (Aguilar, 2024). Su perfil, que une humanidades y tecnología, marcó el enfoque de una intervención tan divulgativa como crítica.
Cristina Aranda y Fernando Palacín, presidente del Club de Opinión «Lucas Mallada»
Una revolución que se explica desde los datos y el lenguaje
Aranda comenzó recordando cómo ha cambiado el acceso al conocimiento: de las enciclopedias y las bibliotecas físicas a los buscadores de internet y, ahora, a las plataformas con las que conversamos mediante lenguaje natural. Subrayó que la inteligencia artificial no nació con ChatGPT. Los modelos y las técnicas ya existían, pero los avances en capacidad de computación, la disponibilidad de enormes cantidades de datos y las interfaces conversacionales han facilitado su utilización por millones de personas.
Para explicar su funcionamiento recurrió a una comparación culinaria: antes de obtener resultados útiles hay que disponer de buenos ingredientes. En este caso, datos suficientes, adecuados, organizados y de calidad. “El gran reto de todo esto es la gobernanza y la calidad del dato”, señaló. A partir de ellos es posible automatizar procesos, personalizar servicios, detectar patrones, anticipar necesidades o mejorar la toma de decisiones.
En este escenario, reivindicó el papel del lenguaje. La expansión de la IA generativa permite encargar tareas mediante instrucciones escritas, sin necesidad de dominar un lenguaje de programación. Esa facilidad de uso ofrece oportunidades para profesionales y pequeñas empresas, pero no elimina la necesidad de saber qué se quiere conseguir, con qué información se trabaja y cómo se evaluará el resultado.
Automatizar tareas, no renunciar al criterio profesional
La ponente puso ejemplos próximos al público: una inmobiliaria que combina información de sus clientes y propiedades con fuentes externas, una empresa que analiza la demanda para organizar sus recursos o un profesional que utiliza la IA para resumir documentación y preparar una solicitud. También habló de la gestión de boletines oficiales, la revisión de requisitos de ayudas, la clasificación de consultas y la elaboración de propuestas comerciales.
No presentó estas posibilidades como una sustitución automática de las personas. Al contrario, planteó una pregunta que, a su juicio, deben hacerse las organizaciones al implantar sistemas de automatización: qué harán con los trabajadores cuyas tareas cambien y cómo podrán capacitarlos para aportar valor en otras funciones. La mejora de la productividad, defendió, debe acompañarse de decisiones responsables sobre el empleo y la organización del trabajo.
Recomendó formular instrucciones precisas: definir el papel que debe adoptar la herramienta, aportar contexto, especificar a quién va dirigido el resultado, fijar formato y tono, y contrastar las respuestas. También insistió en no introducir información confidencial en servicios que no ofrezcan las garantías necesarias. En las empresas, advirtió, es frecuente que los equipos utilicen cuentas personales para trabajar con contratos o documentos internos sin una política clara de uso.
“Y luego yo reviso. Muy importante la revisión”, recalcó. La IA puede ahorrar tiempo, pero el conocimiento previo sigue siendo imprescindible para identificar errores, omisiones y respuestas aparentemente convincentes que no se corresponden con los hechos.
Las máquinas no son personas
Una parte central de la charla estuvo dedicada a distinguir la inteligencia artificial de la inteligencia humana. Aranda recordó que las personas tenemos cuerpo, experiencias subjetivas, emociones, intenciones, intuición, conciencia del contexto y juicio moral. Las máquinas procesan información y generan respuestas, pero no deben confundirse sus capacidades lingüísticas con una experiencia humana equivalente.
El lenguaje resulta especialmente importante en esa confusión. La naturalidad con la que una herramienta conversa, responde con amabilidad o parece comprender nuestras inquietudes facilita que le atribuyamos cualidades humanas. La ponente utilizó el humor para cuestionar esa tendencia y advertir sobre los sistemas diseñados para complacer al usuario, incluso cuando no disponen de una respuesta fiable. Además, para Aranda, la fluidez verbal puede ocultar la falta de comprensión del contexto, y el usuario debe aprender a detectarlo.
Un experimento en Huesca para hacer visibles los sesgos
Uno de los momentos más participativos llegó cuando invitó a los asistentes a utilizar sus teléfonos móviles. La propuesta consistía en pedir a distintas plataformas de IA una imagen promocional de una familia disfrutando de los Pirineos de Huesca. Las respuestas tendieron a representar el mismo modelo familiar: padre y madre, hijos, personas blancas y de aspecto idealizado.
El ejercicio sirvió para mostrar cómo los sistemas reproducen patrones presentes en los materiales con los que se han entrenado. Si una campaña de turismo se limita a una única representación, puede dejar fuera a muchas personas y realidades familiares. “Si ya sabes que están sesgadas desde el principio”, explicó, debes introducir instrucciones que contemplen esa diversidad y revisar lo que la máquina produce.
Aranda extendió el análisis a ámbitos de consecuencias más graves, como los procesos de selección de personal, la orientación profesional y las recomendaciones salariales. Expuso casos y estudios sobre respuestas diferentes para hombres y mujeres, y sobre herramientas de contratación que favorecen determinados perfiles cuando aprenden de datos históricos desequilibrados. Su conclusión fue clara: “los algoritmos no inventan, sino que pueden reproducir e incluso amplificar desigualdades existentes, si nadie detecta y corrige esos sesgos de género o raza, por ejemplo”.
La diversidad de los equipos que crean, entrenan y supervisan estas tecnologías apareció así como una cuestión de calidad y justicia, no solo de representación. Cuando faltan perspectivas distintas en su diseño, se multiplican los riesgos de desarrollar productos que no funcionen igual para todas las personas.
Desinformación, poder tecnológico y responsabilidad
La facilidad para producir imágenes falsas, contenidos manipulados y mensajes personalizados ocupó otro bloque destacado. Aranda recordó el caso de Cambridge Analytica y el Brexit para ilustrar cómo el tratamiento masivo de datos y la comunicación dirigida pueden influir sobre las creencias y los comportamientos. En un contexto en el que resulta cada vez más difícil distinguir lo auténtico de lo generado, reivindicó una actitud crítica ante las fuentes y los mensajes.
También cuestionó los relatos apocalípticos que presentan a la inteligencia artificial como una entidad autónoma e inevitablemente fuera de control. En su opinión, ese enfoque puede desplazar la atención de los problemas actuales: quién diseña los sistemas, qué intereses económicos intervienen, qué decisiones toman las compañías y qué mecanismos de control se aplican. La responsabilidad, insistió, no desaparece detrás del algoritmo.
Defendió la necesidad de normas eficaces, transparencia, auditorías y supervisión humana, junto a una ciudadanía capaz de reclamar explicaciones. En este punto vinculó los riesgos de la IA con la concentración de poder en grandes empresas tecnológicas y con la protección de la propiedad intelectual, especialmente cuando los modelos se entrenan con obras y conocimientos creados por otras personas.
Durante el coloquio posterior surgieron preguntas sobre los ciberataques, las noticias falsas, la protección de los creadores y la dependencia de los proveedores tecnológicos. La conferenciante señaló la importancia de prever fallos, disponer de medidas de continuidad y estudiar soluciones ajustadas al tamaño y las necesidades reales de cada organización, incluidos los modelos más pequeños o instalados en entornos propios cuando resulten adecuados. Frente a la información dudosa recomendó comprobar las fuentes originales y no conceder veracidad a una afirmación solo por estar bien redactada: “Por favor, verificad todo, por favor, cuestionadlo todo”. Y recordó que “la IA nunca responderá como un humano y además hay que ser conscientes de que intentan ser complacientes con nosotros, te hacen la pelota”.
Una IA útil para la educación y los fines sociales
Lejos de limitarse a enumerar amenazas, Aranda mostró aplicaciones positivas de la tecnología. “La tecnología no es mala, es el uso incorrecto que se puede hacer de ella”, recordó. Y citó herramientas educativas capaces de adaptar materiales a necesidades de aprendizaje diferentes y recordó una experiencia con estudiantes que utilizaron la IA para acercarse al arte y a la figura histórica de Cristina de Suecia. Estas posibilidades, sostuvo, obligan también a revisar cómo se enseña, cómo se aprende y cómo se evalúan los conocimientos.
Presentó asimismo iniciativas que utilizan la tecnología para detectar dificultades de aprendizaje, como la dislexia, y proyectos de investigación orientados a identificar señales de riesgo y facilitar ayuda especializada en el ámbito de la salud mental. Los mencionó como ejemplos de una inteligencia artificial que puede tener impacto social cuando trabaja al servicio de objetivos humanos y con intervención profesional.
Su recomendación para empresas y profesionales fue comenzar por conocer los sistemas que ya utilizan, identificar dónde interviene la IA y qué efectos puede tener, establecer criterios de protección de datos, comprobar posibles sesgos y redactar pautas de uso responsable. La formación, la colaboración entre disciplinas y la evaluación de resultados son, según expuso, condiciones necesarias para aprovechar la tecnología sin delegar ciegamente en ella.
El futuro exige más humanidad y pensamiento crítico
En el tramo final, Cristina Aranda defendió que esta transformación abre una etapa de cooperación entre perfiles técnicos, jurídicos, humanísticos, empresariales y sociales. Las soluciones más valiosas pueden surgir de equipos diversos, capaces de formular preguntas distintas y conectar conocimientos que habitualmente permanecen separados. Para explicarlo recurrió también a ejemplos de innovación abierta y creación colectiva.
La ponente invitó a preservar habilidades que ninguna automatización debería desplazar: escuchar, conversar, pensar antes de escribir, cuestionar lo que recibimos y dejar espacio al aburrimiento y a las ideas inesperadas. “No dejéis nunca de utilizar lápiz y papel”, recomendó, especialmente al hablar de educación y de la importancia de desarrollar capacidades cognitivas propias.
Su mensaje final fue optimista, aunque alejado del entusiasmo acrítico: aprovechar la inteligencia artificial sin renunciar al criterio, a la empatía y a la responsabilidad. “La IA es una nueva forma de trabajo, no de pensamiento. Esto es como un nuevo paquete de Office empoderado”, bromeó. Y cerró reivindicando el pensamiento crítico, la empatía, la emoción, la conciencia, la autenticidad, la sensibilidad, el arte, la curiosidad y el valor de las relaciones humanas como elementos esenciales para decidir qué futuro queremos construir.
Para cerrar el evento, Fernando Palacín, presidente del Club de Opinión «Lucas Mallada», entregó a Cristina Aranda un obsequio en nombre de todos los socios, en agradecimiento por su charla.
Fernando Palacín, presidente del Club de Opinión «Lucas Mallada», entregando un obsequio del Club a Cristina Aranda
Fernando Palacín, presidente del Club de Opinión «Lucas Mallada», con Cristina Aranda
Deja tu comentario