Investigadores de la Universidad de Microsoft y Carnegie Mellon recientemente publicaron un estudio acerca de cómo el uso de la IA generativa en el trabajo afecta las habilidades de pensamiento crítico.
«Utilizadas de manera incorrecta, las tecnologías pueden dar como resultado el deterioro de las facultades cognitivas que deben preservarse», dice el documento.
Cuando las personas confían en la IA generativa en el trabajo, su esfuerzo cambia para verificar que la respuesta de una IA es lo suficientemente buena como para usar, en lugar de usar habilidades de pensamiento crítico de orden superior como crear, evaluar y analizar información. Si los humanos solo intervienen cuando las respuestas de AI son insuficientes, dice el documento, los trabajadores se ven privados de «oportunidades de rutina para practicar su juicio y fortalecer su musculatura cognitiva, dejándolos atrofiados y no preparados cuando surgen las excepciones».
En otras palabras, cuando confiamos demasiado en la IA para pensar para nosotros, empeoramos para resolver problemas nosotros mismos cuando la IA falla.
En este estudio de 319 personas, que informaron usar IA generativa al menos una vez a la semana en el trabajo, se les pidió a los encuestados que compartieran tres ejemplos de cómo usan la IA generativa en el trabajo, que se dividen en tres categorías principales: creación (escribir un correo electrónico formulado para un colega, por ejemplo); información (investigar un tema o resumir un artículo largo); y consejos (solicitar orientación o hacer una tabla de los datos existentes). Luego, se les preguntó si practican habilidades de pensamiento crítico al hacer la tarea, y si usar IA generativa provoca que usen más o menos esfuerzo para pensar críticamente. Para cada tarea que mencionaron los encuestados, también se les pidió que compartieran cuán seguros estaban en sí mismos, en IA generativa y en su capacidad para evaluar las salidas de IA.
Alrededor del 36% de los participantes informaron que usaron habilidades de pensamiento crítico para mitigar los posibles resultados negativos del uso de IA. Una participante dijo que usó ChatGPT para escribir una revisión de rendimiento, pero verificó dos veces la salida de IA por temor a que pudiera presentar accidentalmente algo que la suspendiera. Otro encuestado informó que tenía que editar correos electrónicos generados por IA que enviaría a su jefe, cuya cultura pone más énfasis en la jerarquía y la edad, para que no cometiera un paso en falso. Y en muchos casos, los participantes verificaron las respuestas generadas por la IA con búsquedas web más generales de recursos como YouTube y Wikipedia, posiblemente derrotando el propósito de usar IA en primer lugar.
Para que los trabajadores compensen las deficiencias de la IA generativa, deben comprender cómo ocurren esas deficiencias. Pero no todos los participantes estaban familiarizados con los límites de la IA.
«Los posibles daños aguas abajo de las respuestas de GenAI pueden motivar el pensamiento crítico, pero solo si el usuario es consciente de tales daños», dice el documento.
De hecho, el estudio encontró que los participantes que informaron confianza en la IA utilizaron un esfuerzo de pensamiento menos crítico que aquellos que informaron tener confianza en sus propias habilidades.
Si bien los investigadores se protegen en contra de decir que las herramientas generativas de IA lo hacen menos reflexivo, el estudio muestra que la dependencia excesiva de las herramientas de IA generativas puede debilitar nuestra capacidad de resolución de problemas independiente.
