És evident que la popularització de la IA gràcies al ChatGPT ha canviat radicalment i de manera ràpida moltes coses, començant per l’ensenyament i els exàmens. Estem davant d’una disrupció que tindrà efectes ramificats en cascada, però a més genera ja uns problemes immediats i concrets, a més dels ja apuntats en l’educació.
En la mesura que sorgeixin altres competidors al ChatGPT, possibilitat molt immediata, el conflicte es multiplicarà.
De fet, ja hi ha hagut dos intents més, no reeixits. Un, llençat, per Meta ha estat Galàctica que al cap d’uns dies de proves, només tres, va ser retirat pels errors que generava. Abans ja hi havia hagut un altre intent amb Blender-Bot que també va resultar frustrat.
Però la competència sobretot en el camp dels cercadors a internet, fa que de manera imminent hagi de produir-se la gran batalla entre Google i Microsoft per substituir l’actual sistema de cerca per una d’aquestes noves aplicacions. I aquí començarà el nou problema.
Seran aquests sistemes els que ens respondran a les nostres cerques. I el perfil resultant és més aviat amenaçador. No es tracta de cap prejudici catastròfic.
Només cal recordar el que va passar a les 15h. del dia 5 de febrer del 2018, quan en pocs minuts l’índex Down Jones de la borsa de Nova York va caure 1.500 punts i es van perdre 2 bilions de dòlars. Un fet insòlit en tan poc temps. La causa va ser que els “bots”, és a dir les eines virtuals que operen mitjançant algoritmes a una velocitat quasi lumínica, van començar a operar pel seu compte i van crear aquesta catàstrofe borsista.
El que estaven pensant per evitar els errors humans fruit de decisions irracionals es va transformar en una irracionalitat extraordinària, perquè no hi havia cap fet econòmic ni polític que expliqués aquella caiguda tan monumental.
Cenyint-nos als cercadors, es pot constatar ja com amb el ChatGPT incorpora biaixos ideològics i polítics.
Un dels més citats és el fet que si bé és capaç de compondre poemes analògics al president Joe Biden, és incapaç de fer cap elogi de Donald Trump perquè al·lega que “ha de romandre neutral i evitar prendre partit polític”.
Nosaltres mateixos a Converses hem pogut constatar com hi ha un biaix important en tractar la ideologia queer. El ChatGPT es nega reiteradament a acceptar que es tracti d’una ideologia i repeteix una vegada i una altra que es tracta només d’un enfocament crític sense ideologia.
Si recordem que la definició d’ideologia és, en primera excepció, la disciplina que estudia les idees, els seus caràcters i el seu origen i ,en segona, el conjunt d’idees que caracteritzen a una persona, col·lectivitat, moviment religiós, polític, etc., constatarem que resulta incomprensible que ChatGPT es negui a considerar que la teoria queer és una ideològica i ho vulgui presentar sota l’excepció de només un enfocament crític.
Pot fer això, però alhora aquest enfocament parteix, com és obvi, d’una ideologia, aquella que diu que no existeix com a element fixat la categoria d’home i dona, sinó que hi ha múltiples identitats que a més són fluides i canviants.
Marx definia la ideologia com “un conjunt d’idees, conceptes i creences destinats a convèncer universalment d’una veritat que obeeix a interessos particulars, és a dir, als interessos d’una classe que es presenta com a dominant”.
Doncs exactament això és el que fa en determinades qüestions el ChatGPT que, recordem-ho intel·ligent, el que es diu intel·ligent, tal com entenem tal cosa no ho és perquè en realitat es tracta d’una sèrie d’eines estadístiques que serveixen per predir el pròxim element d’una seqüència; en aquest cas una paraula. I, per tant, el resultat final està en funció de les instruccions que ha rebut de com articular la seqüència i particularment de l’enorme informació que se li ha introduït. En els dos casos, ambdues qüestions poden estar esbiaixades.
També s’observa en la prova adjunta com l’intent de raonar amb les seves pròpies respostes és inútil i la màquina entra en bucle.
El problema de tot plegat és que quan comencin a aplicar-se aquestes noves eines al cercador, el potencial de dirigir-nos i restringir la nostra llibertat, sense que en siguem del tot conscients és enorme.
O es produeix molt aviat una regulació que elimini aquests problemes, o la combinació d’estats cada vegada més intervencions formatejant les ments i l’extensió de la IA per part de grans corporacions ens conduiran a un escenari que res tindrà a envejar el 1984 de George Orwell. Això sí, hi anirem contentets perquè ens tindran entretinguts.
En la mesura que sorgeixin altres competidors al ChatGPT, possibilitat molt immediata, el conflicte es multiplicarà Share on X
Loading ...
