{"id":78360,"date":"2024-05-28T10:48:46","date_gmt":"2024-05-28T08:48:46","guid":{"rendered":"https:\/\/conversesacatalunya.cat\/les-5-grans-amenaces-segons-la-ia-i-les-publicacions-cientifiques-iintelligencia-artificial\/"},"modified":"2024-05-28T15:35:05","modified_gmt":"2024-05-28T13:35:05","slug":"5-amenazas-inteligencia-artificial-2","status":"publish","type":"post","link":"https:\/\/conversesacatalunya.cat\/es\/5-amenazas-inteligencia-artificial-2\/","title":{"rendered":"Las 5 grandes amenazas seg\u00fan la IA y las publicaciones cient\u00edficas (y II). El caso de la Inteligencia Artificial"},"content":{"rendered":"

Sam Altman, el creador del ChatGPT, ha estado en Madrid y se ha entrevistado con el presidente del gobierno. Lo ha hecho para intervenir en una mesa redonda celebrada en la IE University.<\/span><\/p>\n

En el transcurso de su viaje, han formulado declaraciones muy contundentes sobre los\u00a0<\/span>riesgos de la IA<\/span><\/strong>\u00a0. En concreto, adem\u00e1s de asegurar que es la\u00a0<\/span>tecnolog\u00eda m\u00e1s poderosa que la humanidad haya visto nunca<\/span><\/strong>, ha apuntado que sus\u00a0<\/span>efectos pueden ser \u00abcatastr\u00f3ficos\u00bb<\/span><\/strong> . \u00abCon la IA hay que tener el mismo cuidado que con un arma nuclear\u00bb. Y en este sentido, pide la creaci\u00f3n de una entidad internacional similar al Organismo Internacional de la Energ\u00eda At\u00f3mica de la ONU para controlar esta tecnolog\u00eda.<\/span><\/p>\n

Cabe recordar que Altman ha sido criticado por numerosos cient\u00edficos y expertos por poner la IA en manos del usuario corriente, a pesar de que la tecnolog\u00eda es imperfecta y presenta sesgos que pueden desinformar. Por tanto, quien denuncia es a la vez denunciado por poco responsable.<\/span><\/p>\n

Pero, \u00bfcu\u00e1l es la dimensi\u00f3n real del problema? Las dos IA m\u00e1s extendidas en ese momento, Gemini adem\u00e1s del ChatGPT, contestan a la cuesti\u00f3n sobre la amenaza que significa para la sociedad.<\/span><\/p>\n

Su respuesta puede resumirse en estos puntos:<\/span><\/h3>\n
    \n
  1. P\u00e9rdida de control y toma de decisiones aut\u00f3nomas<\/span><\/strong>. Algunos expertos creen que la IA, que se educa a s\u00ed misma, puede llegar a ser tan sofisticada que supere el control humano y tome decisiones por su cuenta que podr\u00edan tener consecuencias terribles en todos los \u00e1mbitos en los que ella opera, que ya son pr\u00e1cticamente todos aquellos que tienen significaci\u00f3n cultural, militar, pol\u00edtica o econ\u00f3mica.<\/span><\/li>\n
  2. Paro masivo y crecimiento de la desigualdad social<\/span><\/strong>. La IA puede generar un paro masivo aunque en esta cuesti\u00f3n no se pongan de acuerdo, porque al mismo tiempo se considera que dar\u00e1 lugar a nuevos puestos de trabajo. En todo caso lo que parece claro es que entre el proceso de destrucci\u00f3n y creaci\u00f3n no habr\u00e1 sincron\u00eda y que, por tanto, el problema estar\u00e1 ah\u00ed, lo que hay que ver es si su magnitud es s\u00f3lo cr\u00edtica o catastr\u00f3fica. Se considera que ser\u00e1n los trabajos repetitivos y rutinarios los m\u00e1s afectados, pero hay otros muchos que no responden a estas caracter\u00edsticas y que tambi\u00e9n recibir\u00e1n el impacto. En el \u00e1mbito del derecho, en todo lo referente a la documentaci\u00f3n, tratamiento de datos, elaboraci\u00f3n de s\u00edntesis, tareas de an\u00e1lisis financiero. Siempre acabar\u00e1 existiendo un receptor humano, pero moldes de las tareas intermedias que ahora llevan a cabo titulados universitarios, desaparecer\u00e1n. Este hecho y la ganancia que provoque a los mayores niveles profesionales y empresariales aumentar\u00e1 la desigualdad, que s\u00f3lo es un fen\u00f3meno que se va acentuando a lo largo del presente siglo.<\/span><\/li>\n
  3. Manipulaci\u00f3n y control social<\/span><\/strong>. Es evidente que la IA puede utilizarse para manipular a la opini\u00f3n p\u00fablica, no s\u00f3lo desde el punto de vista del texto sino de la imagen, de la imitaci\u00f3n de la voz, de crear personajes que reproducen lo real para hacerle decir lo que quieran. Hace poco el arzobispo de Urgell y copr\u00edncipe de Andorra, vio c\u00f3mo una grabaci\u00f3n suya recomendando unas determinadas inversiones aparec\u00eda en la red. Todo era un montaje realizado con la ayuda de la IA. Tambi\u00e9n gobiernos y empresas pueden utilizarlo para influir en las elecciones. De hecho, ya lo est\u00e1n haciendo, y de la misma forma pueden promover agendas espec\u00edficas. Nunca ha habido tantas posibilidades de manipular a la opini\u00f3n p\u00fablica.<\/span><\/li>\n
  4. Invasi\u00f3n de la privacidad y vigilancia masiva<\/span><\/strong>. Los propios usuarios de la IA lo facilitan interactuando con ella, pero es que adem\u00e1s todas las grandes empresas tecnol\u00f3gicas, empezando por Amazon, disponen de una informaci\u00f3n brutal sobre los usuarios, que sumado al uso del potencial de la IA puede representar la desaparici\u00f3n de la privacidad. Tambi\u00e9n facilita las pr\u00e1cticas de vigilancia masiva y, por tanto, la degradaci\u00f3n de las libertades civiles.<\/span><\/li>\n
  5. Armas aut\u00f3nomas<\/span><\/strong>. El uso de la IA en la guerra, que ya se est\u00e1 aplicando con sistemas de armamento que pueden operar sin intervenci\u00f3n humana directa, puede dar lugar a situaciones de descontrol que se multiplicar\u00edan cuando los terroristas accedieran a estas tecnolog\u00edas.<\/span><\/li>\n
  6. Discriminaci\u00f3n<\/span><\/strong>. Son numerosos los casos en los que los algoritmos que aplica la IA acent\u00faan los sesgos iniciales de los datos que han sido entregados, provocando un aumento de la discriminaci\u00f3n hacia determinados grupos sociales.<\/span><\/li>\n
  7. Quiebras y errores<\/span><\/strong>. La IA comete numerosos errores o incluso enga\u00f1a o se autoenga\u00f1a invent\u00e1ndose respuestas a lo que no conoce. Por ejemplo, para el ChatGPT Jordi Pujol, el que fue durante muchos a\u00f1os presidente de la Generalitat de Catalu\u00f1a, est\u00e1 muerto y adem\u00e1s ha pasado por prisi\u00f3n. Estos errores si se producen en el \u00e1mbito de la atenci\u00f3n m\u00e9dica, de la infraestructura de transportes o de la gesti\u00f3n de la energ\u00eda pueden tener efectos catastr\u00f3ficos.<\/span><\/li>\n<\/ol>\n

    En resumen, la IA presenta cuatro grandes tipos de riesgo que deben ser abordados y controlados:\u00a0<\/span>el riesgo existencial, el relacionado con las transformaciones sociales y econ\u00f3micas, su incidencia en los conflictos militares y la p\u00e9rdida de autonom\u00eda humana<\/span><\/strong>.<\/span><\/p>\n

    La esperanza es que los gobiernos e instituciones intencionales sean capaces de encontrar remedio, si bien, si observamos c\u00f3mo han ido muchos aspectos que puedan servir como precedente, la confianza con que esta esperanza se haga realidad es modesta. Basta con ver c\u00f3mo el tel\u00e9fono m\u00f3vil se ha convertido en una dependencia. O la extensi\u00f3n generalizada de la droga. Tambi\u00e9n la dificultad de poner puertas al mercado, cuando existe una expectativa de beneficio alguien entra en zona de riesgo para conseguirla realizar. Tambi\u00e9n la pugna entre potencias y, en \u00faltimo t\u00e9rmino, la gran cuesti\u00f3n: d\u00f3nde est\u00e1 el imperativo moral que permita canalizar para bien la IA. En el armamento nuclear existe por negativa. Es el riesgo de la destrucci\u00f3n mutua, pero en la IA quien se salte la norma por una ventaja determinada puede pensar que el da\u00f1o s\u00f3lo ser\u00e1 para los dem\u00e1s. Detr\u00e1s del problema, como de tantos otros que sufre nuestra sociedad, lo que late es una\u00a0<\/span>crisis moral<\/span><\/strong>.<\/span><\/p>\n

    \n\t
    \n\t\t

    <\/p>\n\t\t

    <\/p>\n\t\t

    Est\u00e0s d'acord que Espanya reconegui a Palestina com a Estat?<\/strong><\/p>