El senador Bernie Sanders lanza una advertencia sobre la amenaza existencial de la IA

Sanders enfatizó que, incluso cuando la mayoría de los científicos de la IA reconocen la posibilidad de que la IA escape al control y se convierta en un peligro para nuestra existencia, no se han tomado medidas importantes para evitarlo. “Debemos asegurarnos de que la IA beneficie a la humanidad, no que nos perjudique”, afirmó.

Conclusiones clave:

• Bernie Sanders advierte que la humanidad podría perder el control de la IA, lo que traería consecuencias nefastas.
• Respaldado por 1,000 expertos, Elon Musk advirtió sobre los riesgos de la tecnología de IA; después, Sanders busca una congelación de centros de datos.
• Sanders y Alexandria Ocasio-Cortez anunciaron un proyecto de ley para implementar una moratoria sobre los centros de datos de IA.

Bernie Sanders advierte sobre un futuro al estilo Skynet con “consecuencias catastróficas”

Mientras algunos líderes de la industria se aseguran de que la inteligencia artificial (AI) dará inicio a una nueva era de productividad y abundancia super, otros se preocupan por la evolución incontrolada de la tecnología.

Bernie Sanders, senador de Vermont, ha advertido sobre un futuro en el que los agentes de IA se vuelvan más inteligentes que los seres humanos y evadan las salvaguardas diseñadas para proteger a la raza humana.

En redes sociales, Sanders destacó que, incluso cuando científicos como Geoffrey Hinton, el llamado “Padrino de la IA”, y Yoshua Bengio reconocen la posibilidad de que la IA se vuelva contra la raza humana, no se ha hecho nada para evitarlo.

Se refirió al documento “Pause Giant AI Experiments: An Open Letter”, firmado por más de 1,000 científicos, incluido Elon Musk, que pedía una moratoria sobre el entrenamiento de sistemas de IA poderosos en 2023 debido al riesgo de perder el control de la civilización frente a estos modelos.

“¿Se ha establecido una pausa en el desarrollo de la IA? No. ¿Ha habido algún tratado internacional para regular la IA? No. ¿Ha habido un debate serio en el Congreso sobre esta amenaza existencial? No,” Sanders criticó.

“El desarrollo de la inteligencia artificial puede ser el avance tecnológico más trascendental en la historia de la humanidad. Debemos asegurarnos de que la IA beneficie a la humanidad, no que nos perjudique”, concluyó.

Sanders está tomando medidas para garantizar que ocurra una moratoria de este tipo al presentar en el Congreso la Ley de Moratoria de Centros de Datos de Inteligencia Artificial (AI) junto con la representante Alexandria Ocasio-Cortez. La legislación propone una moratoria sobre estos centros de datos para “garantizar la seguridad de la humanidad.”

Esto no es la primera vez que él ha planteado preocupaciones sobre los efectos perniciosos de la IA en la vida de los ciudadanos estadounidenses. Sanders ha dicho que la IA podría reemplazar hasta 97 millones de empleos en 10 años, y que las empresas ya están usando IA para recortar nóminas.