Por riesgos para la humanidad, Elon Musk y científicos piden pausar experimentos con IA
¿Debemos desarrollar mentes no humanas, con el riesgo de que estas podrían acabar superándonos en número, siendo mejores que nosotros?
Por considerar que “pueden plantear profundos riesgos para la sociedad y la humanidad”, un grupo de empresarios del sector tecnológico, expertos y políticos, entre ellos el magnate Elon Musk, solicitaron en una carta que se suspendan durante seis meses los experimentos con Inteligencia Artificial (IA).
“La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí. Disfrutemos de una larga pausa veraniega de la IA y no nos apresuremos a caer sin estar preparados”, dice la misiva publicada por el organismo Future of Life Institute.
Además de Musk, entre los firmantes de la carta están el cofundador de Apple, Steve Wozniak, los investigadores estadounidenses Yoshua Bengio, Stuart Russel o los españoles Carles Sierra y Ramón López De Mantaras.
Los firmantes enarbolan todos los miedos y peligros que en los últimos meses han resonado en foros, artículos y conversaciones cotidianas, lo hacen con un tono apocalíptico.
“¿Debemos desarrollar mentes no humanas, estas podrían acabar superándonos en número, ser más inteligentes que nosotros, que nos dejen obsoletos y nos reemplacen? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?, tales decisiones no deben delegarse en líderes tecnológicos no electos”.
Finalmente, piden que la investigación, junto al desarrollo de la IA se reenfoque en hacer que “los sistemas potentes y de última generación sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales”.