{"id":64705,"date":"2023-02-10T12:18:03","date_gmt":"2023-02-10T11:18:03","guid":{"rendered":"https:\/\/conversesacatalunya.cat\/?p=64705"},"modified":"2023-02-10T12:18:03","modified_gmt":"2023-02-10T11:18:03","slug":"amenazas-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/conversesacatalunya.cat\/es\/amenazas-inteligencia-artificial\/","title":{"rendered":"Las amenazas inmediatas de las aplicaciones de la Inteligencia Artificial (IA)"},"content":{"rendered":"

Es evidente que la popularizaci\u00f3n de la IA gracias al ChatGPT ha cambiado radicalmente y de forma r\u00e1pida muchas cosas, empezando por la ense\u00f1anza y los ex\u00e1menes<\/strong>. Estamos ante una disrupci\u00f3n que tendr\u00e1 efectos ramificados en cascada, pero adem\u00e1s genera ya problemas inmediatos y concretos, adem\u00e1s de los ya apuntados en la educaci\u00f3n.<\/p>\n

En la medida en que surjan otros competidores del ChatGPT, posibilidad muy inmediata, el conflicto se multiplicar\u00e1.<\/strong><\/h4>\n

De hecho, ya ha habido otros dos intentos, no exitosos<\/strong>. Uno, lanzado, por Meta ha sido Gal\u00e1ctica<\/strong> que al cabo de unos d\u00edas de pruebas, s\u00f3lo tres, fue retirado por los errores que generaba. Antes hab\u00eda habido otro intento con Blender-Bot<\/strong> que tambi\u00e9n result\u00f3 frustrado.<\/p>\n

Pero la competencia sobre todo en el campo de los buscadores en internet, hace que de forma inminente deba producirse la gran batalla entre Google y Microsoft<\/strong> para sustituir al actual sistema de b\u00fasqueda por una de estas nuevas aplicaciones. Y aqu\u00ed empezar\u00e1 el nuevo problema.<\/p>\n

Ser\u00e1n estos sistemas los que responder\u00e1n a nuestras b\u00fasquedas. Y el perfil resultante es m\u00e1s bien amenazador. No se trata de ning\u00fan prejuicio catastr\u00f3fico.<\/strong><\/h5>\n

S\u00f3lo hace falta recordar lo que ocurri\u00f3 a las 15h. del 5 de febrero de 2018, cuando en pocos minutos el \u00edndice Down Jones de la bolsa de Nueva York<\/strong> cay\u00f3 1.500 puntos y se perdieron 2 billones de d\u00f3lares. Algo ins\u00f3lito en tan poco tiempo. La causa fue que los \u00abbots\u00bb, es decir las herramientas virtuales que operan mediante algoritmos a una velocidad casi lum\u00ednica, empezaron a operar por su cuenta y crearon esa cat\u00e1strofe burs\u00e1til.<\/p>\n

Lo que estaban pensando para evitar los errores humanos fruto de decisiones irracionales se transform\u00f3 en una irracionalidad extraordinaria, porque no hab\u00eda ning\u00fan hecho econ\u00f3mico ni pol\u00edtico que explicara esa ca\u00edda tan monumental.<\/p>\n

Ci\u00f1\u00e9ndonos a los buscadores, se puede constatar ya c\u00f3mo con el ChatGPT incorpora sesgos ideol\u00f3gicos y pol\u00edticos.<\/strong><\/h4>\n

Uno de los m\u00e1s citados es que si bien es capaz de componer poemas anal\u00f3gicos al presidente Joe Biden, es incapaz de hacer ning\u00fan elogio de Donald Trump porque alega que \u00abdebe permanecer neutral y evitar tomar partido pol\u00edtico\u00bb.<\/p>\n

Nosotros mismos en Converses<\/em> hemos podido constatar c\u00f3mo existe un sesgo importante al tratar la ideolog\u00eda queer<\/a><\/strong>. El ChatGPT se niega reiteradamente a aceptar que se trate de una ideolog\u00eda y repite una y otra vez que se trata s\u00f3lo de un enfoque cr\u00edtico sin ideolog\u00eda.<\/p>\n

Si recordamos que la definici\u00f3n de ideolog\u00eda<\/strong> es, en primera excepci\u00f3n, la disciplina que estudia las ideas, sus caracteres y su origen y, en segunda, el conjunto de ideas que caracterizan a una persona, colectividad, movimiento religioso , pol\u00edtico, etc., constataremos que resulta incomprensible que ChatGPT se niegue a considerar que la teor\u00eda queer es una ideol\u00f3gica y lo quiera presentar bajo la excepci\u00f3n de s\u00f3lo un enfoque cr\u00edtico.<\/p>\n

Puede hacer esto, pero al mismo tiempo este enfoque parte, como es obvio, de una ideolog\u00eda, aquella que dice que no existe como elemento fijado la categor\u00eda de hombre y mujer<\/strong>, sino que existen m\u00faltiples identidades que adem\u00e1s son fluidas y cambiantes.<\/p>\n

Marx defin\u00eda la ideolog\u00eda<\/strong> como \u00abun conjunto de ideas, conceptos y creencias destinados a convencer universalmente de una verdad que obedece a intereses particulares, es decir, a los intereses de una clase que se presenta como dominante\u00bb.<\/p>\n

Pues exactamente esto es lo que hace en determinadas cuestiones el ChatGPT que, record\u00e9moslo inteligente, lo que se llama inteligente, tal y como entendemos tal cosa no lo es porque en realidad se trata de una serie de herramientas estad\u00edsticas<\/strong> que sirven para predecir el pr\u00f3ximo elemento de una secuencia; en ese caso una palabra. Y, por tanto, el resultado final est\u00e1 en funci\u00f3n de las instrucciones que ha recibido de c\u00f3mo articular la secuencia y particularmente de la enorme informaci\u00f3n que se le ha introducido. En ambos casos, ambas cuestiones pueden estar sesgadas.<\/p>\n

Tambi\u00e9n se observa en la prueba adjunta<\/strong><\/a> c\u00f3mo el intento de razonar con sus propias respuestas es in\u00fatil y la m\u00e1quina entra en bucle.<\/p>\n

El problema de todo ello es que cuando empiecen a aplicarse estas nuevas herramientas en el buscador, el potencial de dirigirnos y restringir nuestra libertad,<\/strong> sin que seamos del todo conscientes de ello es enorme.<\/p>\n

O se produce muy pronto una regulaci\u00f3n que elimine estos problemas,<\/strong> o la combinaci\u00f3n de estados cada vez m\u00e1s intervenciones formateando las mentes y la extensi\u00f3n de la IA por parte de grandes corporaciones nos conducir\u00e1n a un escenario que nada tendr\u00e1 que envidiar a 1984<\/a> de George Orwell. Eso s\u00ed, iremos contentitos porque nos tendr\u00e1n entretenidos.<\/p>\nEn la medida en que surjan otros competidores en el ChatGPT, posibilidad muy inmediata, el conflicto se multiplicar\u00e1 <\/a><\/span>Compartir en X<\/a><\/span>\n

\n\t
\n\t\t

<\/p>\n\t\t

<\/p>\n\t\t

A Barcelona moren cada mes 6 persones sense sostre. Creus que l'Ajuntament est\u00e0 actuant b\u00e9 davant aquesta trag\u00e8dia?<\/strong><\/p>