Investigadores analizan si es viable aplicar un interruptor de emergencia ante una IA autónoma y los niveles de complejidad que implica su interrupción.
Expertos en inteligencia artificial debaten sobre la posibilidad de detener un sistema de IA que opere de forma autónoma y represente un riesgo. La discusión se centra en la viabilidad técnica de un «interruptor de emergencia» o «kill switch».
Nicolas Papernot, profesor en la Universidad de Toronto y especialista en seguridad informática e IA, define el kill switch como «la capacidad de interrumpir la ejecución de la acción de un agente de IA», un programa construido sobre un modelo de IA generativa capaz de encadenar por sí solo una serie de tareas. Según el investigador, una IA sigue siendo un «programa informático» y «la persona o la organización que lo ha creado puede detenerlo negándole el acceso a la potencia de cálculo necesaria para su ejecución».
La situación se complejiza cuando se autoriza al programa a actuar más allá de su entorno inicial. Papernot explicó que esto puede ocurrir si un «gusano informático» controlado por la IA se propaga utilizando los recursos de otros aparatos para duplicarse. «En ese caso, habría que interrumpir simultáneamente todas las copias generadas por el gusano, aparato por aparato», añadió.
Jean-Gabriel Ganascia, profesor de informática en la Universidad de la Sorbona, sostuvo que la cuestión sobre el kill switch puede alimentar la idea de «un riesgo metafísico» con una IA que tendría una voluntad propia. Para él, el peligro más concreto es la creciente dependencia de estos sistemas.
Thierry Poibeau, director de investigación en el Cnrs y especialista en IA, afirmó que la imagen de un único botón que permita «apagar la IA» es engañosa. «No se puede realmente cortar la IA así como así, hay una gran cantidad de empresas en todo el mundo, de programas, de servicios distintos», declaró. «No hay nadie que controle la IA» en su conjunto, agregó. No obstante, indicó que sí es técnicamente posible detener un sistema concreto cuando se controlan las máquinas y los servicios de los que depende.
Hussein Abbass, profesor de informática en la Universidad de Nueva Gales del Sur de Canberra, presentó en un artículo publicado en LinkedIn tres niveles de complejidad. En el primero, el sistema permanece en el entorno controlado por su operador: la puesta en marcha de un dispositivo de parada de emergencia es «en teoría y en la práctica realizable». En el segundo nivel, el agente dispone de permisos para intervenir en otros programas, archivos o máquinas: se vuelve más difícil detenerlo, especialmente las acciones que ya desencadenó. En el tercero, el sistema amplía su acción a varios sistemas, la IA se convierte en un electrón libre y el objetivo ya no es tanto «apagarla», sino identificar los elementos que hay que detener antes que los otros. «Una vez que se ha puesto en marcha, es un poco como un virus informático», zanjó Poibeau.
Cuanto más se integre la IA en las actividades cotidianas, más probabilidades habrá de que su interrupción bloquee también usos legítimos. A medida que «automatizamos cada vez más aspectos de la vida diaria gracias a la IA», «cada vez [será] más difícil distinguir una IA mala de una IA inofensiva y, por lo tanto, saber qué hay que ‘apagar'», explicó Papernot. Detener un sistema de IA podría deteriorar servicios de los que ya dependen empresas, administraciones o centros de salud. «En una hipótesis de pérdida real de control» de los agentes de IA, «sería posible desactivar la IA desconectando toda la potencia de cálculo», pero «los costes y las consecuencias negativas serían considerables», alertó Papernot.
«Siempre podemos detener las máquinas», insistió Ganascia. Pero, en la medida en que estos dispositivos ocupan cada vez más lugar en la sociedad, «al mismo tiempo, no podemos detenerlas».
AFP