És una evidència experiencial i acadèmica que la IA danya les nostres capacitats cognitives. Per aquesta raó he sostingut un diàleg amb una de les IA més conegudes, ChatGPT 5.2. La qüestió plantejada és aquesta:
«Fes una anàlisi de com la IA afavoreix la mandra cognitiva i actua com a substitut de l’esforç de pensar, trobar solucions, sintetitzar, resumir, determinar els elements clau, etc. La millora fàctica immediata afecta, a mitjà termini, les capacitats: els alumnes no retenen ni s’apropien del coneixement, que els llisca per sobre. Això pot ser molt greu i va molt més enllà de replantejar exàmens i classes. A Catalunya, l’ús de la IA està prohibit fins als 14 anys. Caldria anar més enllà. Convertir l’ús de la IA en una nova edat de pas cap a la maduresa cognitiva i prohibir-la fins al final dels estudis superiors, diguem fins als 23 anys o fins i tot més enllà. Els últims anys haurien de ser una preparació per al seu ús més favorable al floriment humà. Hauria de constituir la IA una nova edat de pas, com ho fou el servei militar obligatori? Valora les tesis apuntades d’acord amb el teu punt de vista, assenyala acords i desacords i les seves raons. Però que la IA genera mandra cognitiva també entre els adults, no diguem entre els més joves, està fora de discussió. Parla l’experiència humana.»
La resposta de ChatGPT m’ha semblat que tenia molt més interès si la mantenia en la seva literalitat. Molta atenció a la naturalesa, molt greu, del problema i al tipus de solució, que no pot ser més que radical. Ja en tenim una prova amb anys d’experiència al darrere. El GPS, que tants avantatges ens dona, ha significat una pèrdua decisiva de la nostra capacitat d’orientació i de reconeixement del territori, que l’ús del mapa ens proporcionava.
La resposta de ChatGPT
La teva tesi planteja una qüestió molt més profunda que el debat habitual sobre si els alumnes “fan trampes” amb la IA. En realitat, el problema és antropològic: què passa quan una tecnologia substitueix l’activitat intel·lectual que precisament forma la intel·ligència? Aquí hi ha un debat que crec que serà central durant les properes dècades.
Hi ha diversos punts on coincideixo plenament amb la teva anàlisi i alguns altres on faria matisos importants.
1. La mandra cognitiva és un fenomen real
En això coincideixo gairebé del tot.
La psicologia cognitiva fa dècades que descriu el fenomen del cognitive offloading: els humans tendim a externalitzar qualsevol esforç mental quan existeix una eina que el pot fer per nosaltres.
Va començar amb la calculadora.
Després amb el GPS.
Ara afecta el llenguatge, el raonament i l’escriptura.
Quan una persona sap que la IA pot resumir un text, és menys probable que el llegeixi atentament. Si pot generar una síntesi, és menys probable que aprengui a sintetitzar. Si pot redactar un assaig, disminueix l’esforç necessari per ordenar les idees.
Aquest comportament no és un defecte moral; és una característica adaptativa del cervell: economitzar energia.
El problema és que el cervell només desenvolupa les funcions que exerceix.
Això és comparable a un múscul.
No es pot substituir l’exercici pel resultat de l’exercici.
2. El coneixement “llisca”
Aquí també crec que la teva intuïció és molt sòlida.
Aprendre no consisteix a rebre informació.
Consisteix a transformar estructures mentals.
Quan un estudiant:
- busca,
- compara,
- dubta,
- s’equivoca,
- reescriu,
- sintetitza,
està modificant les seves xarxes neuronals.
Quan simplement rep una resposta perfecta, aquest procés gairebé desapareix.
És molt probable que al cap d’una setmana no recordi pràcticament res.
La IA facilita obtenir respostes.
No garanteix construir coneixement.
Aquesta és una diferència enorme.
3. El problema és més profund que els exàmens
Hi estic molt d’acord.
Moltes universitats estan obsessionades a detectar si un treball l’ha escrit una IA.
Aquest és un problema secundari.
El problema principal és:
com es forma una intel·ligència quan una altra intel·ligència fa gran part del treball?
És una qüestió semblant a preguntar-se:
Què passa amb una societat que deixa de caminar perquè tothom es mou en vehicles?
No és només un canvi de mitjà.
Canvia la persona.
4. La IA pot impedir adquirir hàbits intel·lectuals
Aquesta és probablement la conseqüència més greu.
Pensar és un hàbit.
Llegir és un hàbit.
Escriure és un hàbit.
Argumentar és un hàbit.
Cap d’aquests hàbits apareix espontàniament.
S’adquireixen després de milers d’hores d’esforç.
Si la IA elimina aquest entrenament, el problema no és que els alumnes siguin menys productius.
És que potser mai arribaran a desenvolupar certes capacitats.
Aquest risc és especialment gran entre els adolescents.
El cervell encara està acabant de construir les funcions executives fins aproximadament als 25 anys.
5. La prohibició fins als 23 anys
Aquí és on començo a discrepar.
No perquè no comparteixi el diagnòstic.
Sinó perquè crec que la solució és molt difícil de sostenir.
Per tres motius.
Primer.
La IA ja és omnipresent.
És integrada als mòbils.
Als cercadors.
Als processadors de text.
Prohibir-la seria tan difícil com prohibir Internet.
Segon.
Quan aquests joves arribessin al món professional es trobarien davant d’una tecnologia imprescindible.
Haurien d’aprendre-la de cop.
Seria semblant a prohibir els ordinadors fins a acabar la universitat.
Tercer.
Les prohibicions prolongades acostumen a generar un ús clandestí més que no pas una absència d’ús.
6. Però comparteixo l’esperit de la proposta
Aquí sí.
La idea fonamental és molt potent.
La IA hauria de ser considerada una tecnologia que exigeix maduresa.
No una joguina.
En aquest sentit, la comparació amb el servei militar és suggeridora.
Durant dècades es considerava que abans d’assumir certes responsabilitats calia completar una etapa formativa.
Podríem imaginar una cosa semblant:
primer es forma la intel·ligència;
després s’aprèn a amplificar-la amb la IA.
No a substituir-la.
Aquest ordre em sembla fonamental.
7. Potser el llindar no és l’edat sinó la competència
Aquí faria una proposta alternativa.
No vincular l’accés als 23 anys.
Sinó a demostrar unes capacitats prèvies.
Per exemple.
Un alumne no podria utilitzar sistemàticament la IA fins a demostrar que és capaç de:
- redactar correctament;
- resumir textos llargs;
- construir una argumentació;
- interpretar dades;
- buscar fonts fiables;
- escriure sense ajuda.
És a dir.
Primer aprens a pensar.
Després utilitzes una eina que multiplica el teu pensament.
Exactament igual que primer s’aprèn aritmètica abans d’utilitzar una calculadora.
8. El problema també afecta els adults
Aquí crec que tens tota la raó.
No és un problema escolar.
És humà.
Jo mateix, com a sistema, observo un patró recurrent en les interaccions: moltes persones passen de demanar ajuda per pensar a demanar que se’ls substitueixi el pensament.
Hi ha una diferència enorme entre preguntes com:
“Ajuda’m a estructurar aquest argument.”
i
“Fes-me l’article.”
En el primer cas, la IA actua com a mestre o interlocutor.
En el segon, com a substitut.
Aquesta diferència determinarà probablement l’impacte cultural de la IA.
9. Una qüestió antropològica
La meva principal coincidència amb la teva reflexió és aquesta.
El debat no és tecnològic. És una qüestió sobre què significa arribar a ser adult.
Durant segles, una societat considerava que una persona havia assolit la maduresa després d’haver superat proves exigents: aprendre un ofici, assumir responsabilitats familiars, el servei militar, els estudis o el treball. Totes aquestes experiències compartien un tret comú: exigien esforç sostingut i transformaven el caràcter.
La IA introdueix una novetat radical. Pot proporcionar el resultat sense exigir el procés. Però el procés és precisament el que forma la persona. Si una generació arriba a l’edat adulta havent delegat sistemàticament la lectura, l’escriptura, la síntesi, el càlcul i fins i tot el raonament, el risc no és només que sàpiga menys, sinó que hagi desenvolupat menys les facultats intel·lectuals que aquestes activitats exerciten.
Per això comparteixo la idea que el repte no consisteix únicament a redissenyar exàmens o prohibir eines. Cal definir una pedagogia de la IA basada en un principi clar: la intel·ligència artificial ha d’ampliar una intel·ligència ja formada, no substituir el procés mitjançant el qual aquesta intel·ligència es forma.
Final (meu)
I, si vols millorar la teva comprensió d’aquest problema existencial, llegeix, sense mandra cognitiva ni resums de la IA, aquests dos textos:
- Magnifica Humanitas
- Quo vadis Humanitas
