Es evidente que la popularización de la IA gracias al ChatGPT ha cambiado radicalmente y de forma rápida muchas cosas, empezando por la enseñanza y los exámenes. Estamos ante una disrupción que tendrá efectos ramificados en cascada, pero además genera ya problemas inmediatos y concretos, además de los ya apuntados en la educación.
En la medida en que surjan otros competidores del ChatGPT, posibilidad muy inmediata, el conflicto se multiplicará.
De hecho, ya ha habido otros dos intentos, no exitosos. Uno, lanzado, por Meta ha sido Galáctica que al cabo de unos días de pruebas, sólo tres, fue retirado por los errores que generaba. Antes había habido otro intento con Blender-Bot que también resultó frustrado.
Pero la competencia sobre todo en el campo de los buscadores en internet, hace que de forma inminente deba producirse la gran batalla entre Google y Microsoft para sustituir al actual sistema de búsqueda por una de estas nuevas aplicaciones. Y aquí empezará el nuevo problema.
Serán estos sistemas los que responderán a nuestras búsquedas. Y el perfil resultante es más bien amenazador. No se trata de ningún prejuicio catastrófico.
Sólo hace falta recordar lo que ocurrió a las 15h. del 5 de febrero de 2018, cuando en pocos minutos el índice Down Jones de la bolsa de Nueva York cayó 1.500 puntos y se perdieron 2 billones de dólares. Algo insólito en tan poco tiempo. La causa fue que los «bots», es decir las herramientas virtuales que operan mediante algoritmos a una velocidad casi lumínica, empezaron a operar por su cuenta y crearon esa catástrofe bursátil.
Lo que estaban pensando para evitar los errores humanos fruto de decisiones irracionales se transformó en una irracionalidad extraordinaria, porque no había ningún hecho económico ni político que explicara esa caída tan monumental.
Ciñéndonos a los buscadores, se puede constatar ya cómo con el ChatGPT incorpora sesgos ideológicos y políticos.
Uno de los más citados es que si bien es capaz de componer poemas analógicos al presidente Joe Biden, es incapaz de hacer ningún elogio de Donald Trump porque alega que «debe permanecer neutral y evitar tomar partido político».
Nosotros mismos en Converses hemos podido constatar cómo existe un sesgo importante al tratar la ideología queer. El ChatGPT se niega reiteradamente a aceptar que se trate de una ideología y repite una y otra vez que se trata sólo de un enfoque crítico sin ideología.
Si recordamos que la definición de ideología es, en primera excepción, la disciplina que estudia las ideas, sus caracteres y su origen y, en segunda, el conjunto de ideas que caracterizan a una persona, colectividad, movimiento religioso , político, etc., constataremos que resulta incomprensible que ChatGPT se niegue a considerar que la teoría queer es una ideológica y lo quiera presentar bajo la excepción de sólo un enfoque crítico.
Puede hacer esto, pero al mismo tiempo este enfoque parte, como es obvio, de una ideología, aquella que dice que no existe como elemento fijado la categoría de hombre y mujer, sino que existen múltiples identidades que además son fluidas y cambiantes.
Marx definía la ideología como «un conjunto de ideas, conceptos y creencias destinados a convencer universalmente de una verdad que obedece a intereses particulares, es decir, a los intereses de una clase que se presenta como dominante».
Pues exactamente esto es lo que hace en determinadas cuestiones el ChatGPT que, recordémoslo inteligente, lo que se llama inteligente, tal y como entendemos tal cosa no lo es porque en realidad se trata de una serie de herramientas estadísticas que sirven para predecir el próximo elemento de una secuencia; en ese caso una palabra. Y, por tanto, el resultado final está en función de las instrucciones que ha recibido de cómo articular la secuencia y particularmente de la enorme información que se le ha introducido. En ambos casos, ambas cuestiones pueden estar sesgadas.
También se observa en la prueba adjunta cómo el intento de razonar con sus propias respuestas es inútil y la máquina entra en bucle.
El problema de todo ello es que cuando empiecen a aplicarse estas nuevas herramientas en el buscador, el potencial de dirigirnos y restringir nuestra libertad, sin que seamos del todo conscientes de ello es enorme.
O se produce muy pronto una regulación que elimine estos problemas, o la combinación de estados cada vez más intervenciones formateando las mentes y la extensión de la IA por parte de grandes corporaciones nos conducirán a un escenario que nada tendrá que envidiar a 1984 de George Orwell. Eso sí, iremos contentitos porque nos tendrán entretenidos.
En la medida en que surjan otros competidores en el ChatGPT, posibilidad muy inmediata, el conflicto se multiplicará Share on X
Cargando ...
