InfoHuella
La IA ofrece herramientas de gran impacto: sistemas capaces de generar textos, analizar grandes volúmenes de datos y responder de forma casi instantánea. Sin embargo, como advierte el profesor experto en IA Francesc Pujol de la Universidad de Navarra, “es imposible interactuar con ChatGPT sin pensar” (El País, 12/3/2025). Esto subraya que, pese a la sofisticación de estos sistemas, el verdadero aprendizaje surge cuando cuestionamos, validamos y reflexionamos sobre la información.
En su libro La Inteligencia Artificial: ¿Necesitamos una nueva educación? (2024), Roxana Morduchowicz, doctora en comunicación, destaca:
“Comprender el sesgo de la tecnología no es un lujo, sino un requisito. [...] Necesitamos una comprensión crítica de la tecnología para aprovechar mejor su potencial y para entender sus limitaciones, así como las dimensiones éticas y no éticas de su funcionamiento.”
La autora resalta que no solo las “personas expertas” deben enfrentarse a la complejidad técnica, sino que cualquier persona que interactúe con herramientas digitales debe reconocer sus implicaciones. Este entendimiento de los sesgos contribuye a mejorar el uso de la IA y a evitar la validación automática de conclusiones que perpetúen desigualdades.
Por su parte, Pujol profundiza su reflexión sobre cómo interactuar con herramientas como ChatGPT, subrayando que ello exige un ejercicio constante de pensamiento crítico:
“Los alumnos deben presentarme dos documentos, uno con el ensayo, y otro con el making of del texto. En este último pido que me identifiquen todas las partes del ensayo, las instrucciones que han seguido para elaborar cada párrafo, qué han hecho para mejorar una respuesta si es demasiado simplista o las repreguntas que han ejecutado.”
El pensamiento crítico implica analizar, evaluar y sintetizar información de manera objetiva y reflexiva. Es la habilidad de cuestionar ideas preconcebidas, detectar sesgos y formar un juicio propio con base en evidencias. En educación, resulta esencial para que las y los estudiantes aprendan a interpretar y aplicar conocimiento de forma autónoma.
La experta en Inteligencia Artificial Rebeca Hwang, en su artículo La fórmula del bisonte: cómo hacer frente a la tempestad de la Inteligencia Artificial (La Nación, 7/3/2025), señala:
“El mejor paraguas contra la tormenta de la IA es el amplificar las capacidades intrínsecamente humanas que nos otorgan resiliencia contra los cambios”.
Esta metáfora del “paraguas” sugiere protección activa: más que un escudo pasivo, es un recurso que desplegamos ante la incertidumbre. De este modo, Hwang propone una resiliencia que trasciende lo técnico, recordándonos que fortalecer nuestras habilidades humanas nos permite adaptarnos sin quedar atrapados en la ola del cambio tecnológico.
La IA no es neutral. Los algoritmos se entrenan con datos que reflejan los sesgos y valores de sus creadores, y las empresas que los desarrollan persiguen objetivos comerciales. Se trata entonces de experimentar con la IA de forma crítica, como un investigador con protocolos claros. Contrastar y comprender sus limitaciones nos aleja de una aceptación o un rechazo ciego, permitiéndonos usarla como aliada cuando asumimos la responsabilidad de analizarla y decidir cómo y cuándo emplearla. Por ello, el pensamiento crítico resulta fundamental para saber gestionar las principales limitaciones y riesgos de la IA generativa:
Dependencia de datos:
La calidad de la información generada depende de la calidad de los datos con que se entrena.
Alucinaciones:
En algunos casos, la IA generativa “alucina” o inventa datos con apariencia verosímil. Es vital contrastar la información con bases confiables y ejercer un criterio crítico.
Límite de conocimiento:
El conocimiento del modelo se restringe a la fecha de corte de los datos de entrenamiento, por lo que no incorpora información o eventos posteriores.
Riesgos de privacidad:
Se requiere ajustar políticas de manejo de datos y configuración de privacidad para proteger la información sensible.
Falta de comprensión contextual:
La IA puede no captar matices o intenciones más sutiles, especialmente en contextos complejos o culturales.
Sesgos y estereotipos:
La IA puede reproducir o amplificar sesgos existentes en los datos de entrenamiento, y generar resultados parciales o injustos.
Falta de transparencia y explicabilidad:
Los procesos internos de toma de decisiones de la IA suelen ser opacos, lo que dificulta comprender cómo se generan sus respuestas.
Riesgos de seguridad y uso malintencionado:
La posibilidad de que se use para difundir desinformación o contenido dañino exige implementar mecanismos de supervisión y control ético.
Por otra parte, es importante señalar que la desigualdad en el desarrollo de habilidades de interacción con estas tecnologías podría ampliar la brecha digital entre quienes aprovechan las innovaciones de la IA y quienes quedan rezagados.
A pesar de los avances en procesamiento de datos, hay escenarios donde el juicio humano prevalece:
Interpretación de contextos culturales y éticos
En dilemas morales, como priorizar pacientes en una crisis de salud, las y los profesionales valoran factores emocionales y culturales que la IA no puede captar en profundidad.
Análisis y debate en temas políticos o filosóficos
La IA recopila datos, pero las personas reconocen ambigüedades, matices y valores subjetivos esenciales para un debate sólido.
Identificación de sesgos y desinformación
En periodismo, la IA detecta patrones de manipulación, pero las y los analistas humanos desentrañan intenciones, matices y contextos ocultos.
Resolución de problemas creativos y estratégicos
La IA sugiere soluciones basadas en patrones históricos, mientras que el pensamiento humano integra experiencias, intuición y creatividad para idear estrategias disruptivas.
Estos ejemplos evidencian cómo el pensamiento crítico humano —capaz de contextualizar, empatizar y evaluar en múltiples dimensiones— sigue siendo insustituible en situaciones complejas.
En síntesis, La IA y la brújula destaca la relevancia de un pensamiento crítico que sirva de guía en la era digital acelerada. En un entorno en constante transformación, la resiliencia y la habilidad de examinar con criterio se convierten en los puntos cardinales que nos permiten navegar con confianza entre la inmensa marea de datos en la que rol docente tiene un rol protagónico insoslayable: dotar a la IA de un sentido pedagógico y humanístico. Al colocar en el centro las capacidades humanas —como la empatía, la creatividad y el análisis crítico—, el profesorado revitaliza su vocación de liderazgo, al asegurar que cada estudiante aprenda a relacionarse con la tecnología de manera consciente, en un espacio donde la innovación y el pensamiento se fusionen para expandir la experiencia educativa.
(*) Autor del artículo / Juan Pablo Neveu: Apasionado de la tecnología y la educación, Licenciado en Tecnología Educativa (UTN) y Diplomado en Análisis de Datos (UBA), ha coordinado proyectos nacionales y provinciales de educación digital y brindado talleres sobre Inteligencia Artificial generativa desde un perspectiva humana centrada en el desarrollo del pensamiento crítico para aprender a pensar con y sobre tecnologías. Actualmente brinda asesorías y capacitaciones a instituciones educativas, empresas y organizaciones como profesional independiente.
MÁS ARTÍCULOS DEL AUTOR:
