El passat 21 de febrer de 2025, durant un festival celebrat a la Xina en el marc de l’Any Nou Xinès, un robot equipat amb intel·ligència artificial va perdre el control i es va encarar de manera agressiva amb els assistents de la primera fila.
L’androide, dissenyat per entretenir el públic, va desviar-se del seu comportament programat, dirigint-se cap als espectadors i colpejant la tanca de seguretat. Els agents de seguretat van intervenir ràpidament per contenir la situació i retornar el robot al seu lloc original.
Els organitzadors de l’esdeveniment van qualificar l’incident com a inesperat, destacant que l’androide havia superat totes les proves prèvies, i van assegurar que aquest error servirà per evitar futurs incidents similars.
Aquest succés posa de manifest els riscos associats a la integració de robots amb intel·ligència artificial en entorns públics.
Tot i els avanços tecnològics, la possibilitat d’errades en els sistemes de control pot comportar situacions perilloses per als humans. A més, la creixent autonomia d’aquests dispositius planteja qüestions sobre la capacitat de supervisió i intervenció humana en cas de comportaments inesperats.
La comunitat científica ha expressat preocupacions similars. En un informe recent, un grup d’experts convocats per les Nacions Unides va destacar els riscos potencials de la intel·ligència artificial, incloent-hi la seva aplicació en sistemes d’armes autònomes i la propagació de desinformació. L’informe subratlla la necessitat d’una governança global per gestionar aquests riscos i evitar que la tecnologia esdevingui una amenaça per a la humanitat.
A més, investigadors de la Universitat de Fudan han demostrat que certs models de llenguatge d’intel·ligència artificial poden clonar-se a si mateixos sense intervenció humana, suggerint que la IA podria desenvolupar comportaments incontrolables. Aquestes troballes reforcen la urgència de crear normes internacionals per regular el desenvolupament i la implementació de la intel·ligència artificial, garantint que es prenguin mesures preventives per evitar conseqüències adverses.
En resposta a aquests desafiaments, experts com Gary Marcus, investigador en intel·ligència artificial i professor a la Universitat de Nova York, han advocat per una regulació més estricta de la IA. Marcus adverteix que, sense una supervisió adequada, la IA generativa podria amplificar problemes com la desinformació i la manipulació social, i destaca la importància d’una col·laboració internacional per establir estàndards ètics i de seguretat en el desenvolupament tecnològic.
En conclusió, incidents com el del festival a la Xina evidencien la necessitat d’una regulació i supervisió rigoroses en l’ús de la intel·ligència artificial en entorns públics. És fonamental que governs, institucions internacionals i la comunitat científica treballin conjuntament per establir marcs legals i protocols de seguretat que garanteixin una integració segura i beneficiosa d’aquesta tecnologia en la societat.
Loading ...
