Los científicos advierten de la “amenaza existencial” de la IA incontrolada

• Los científicos de IA advierten sobre las posibles amenazas de la IA si los humanos pierden el control.
• Los expertos instan a las naciones a adoptar un plan de contingencia global para hacer frente a los riesgos.
• Lamentaron la falta de tecnología avanzada para enfrentar los daños de la IA.

Los científicos de IA han hecho sonar la alarma sobre los peligros potenciales de la inteligencia artificial. En un comunicado, un grupo de expertos advirtió sobre la posibilidad de que los humanos pierdan el control sobre la IA y pidió un sistema regulatorio coordinado a nivel mundial.

Los científicos, que desempeñaron un papel en el desarrollo de la tecnología de IA, expresaron su preocupación por sus posibles efectos nocivos si no se controlan. Hicieron hincapié en la actual falta de ciencia avanzada para “controlar y salvaguardar” los sistemas de IA, afirmando que “la pérdida de control humano o el uso malicioso de estos sistemas de IA podría conducir a resultados catastróficos para toda la humanidad”.

Lea también: OpenAI lanza un nuevo modelo de IA diseñado para ‘pensar’ antes de responder

Gillian Hadfield, jurista y profesora de la Universidad Johns Hopkins, subrayó la necesidad urgente de medidas regulatorias. Destacó la falta actual de tecnología para controlar o restringir la IA si superara el control humano.

Convocatoria de un Plan de Contingencia Global

Los científicos enfatizaron la necesidad de un “plan de contingencia global” para permitir que las naciones identifiquen y aborden las amenazas que plantea la IA. Hicieron hincapié en que la seguridad de la IA es un bien público mundial que requiere cooperación y gobernanza internacionales.

Los expertos propusieron tres procesos clave para regular la IA:

• Establecimiento de protocolos de respuesta a emergencias
• Aplicación de un marco de normas de seguridad
• Llevar a cabo una investigación exhaustiva sobre la seguridad de la IA

Al abordar la emergencia de la adopción de nuevas directrices regulatorias, los expertos afirmaron que la seguridad de la IA es un bien público mundial que necesita cooperación y gobernanza internacionales. Presentan tres procesos clave que involucran la regulación de la IA. Los científicos recomendaron establecer protocolos de respuesta a emergencias, implementar un marco de estándares de seguridad y realizar investigaciones adecuadas sobre la seguridad de la IA.

Los países de todo el mundo están tomando medidas para desarrollar regulaciones y directrices que mitiguen los crecientes riesgos de la IA. En California, se han propuesto dos proyectos de ley, AB 3211 y SB 1047, para salvaguardar al público de posibles daños de la IA. AB 3211 se centra en garantizar la transparencia al distinguir entre la IA y el contenido generado por humanos. La SB 1047 responsabiliza a los desarrolladores de IA por los daños potenciales causados por sus modelos.