Anthropic y OpenAI advierten ante la ONU sobre riesgos de la IA para la humanidad
Sesión de este miércoles constituye la primera vez que se habla en el Consejo de las amenazas de los ciberataques autónomos
Los directores de las principales empresas de inteligencia artificial, Anthropic y OpenAI, advirtieron este miércoles ante la Asamblea General de la ONU que una mala gestión de esta herramienta podría ser un riesgo para la humanidad.
Dario Amodei, director ejecutivo de Anthropic, quien tuvo una participación vía remota, dijo ver dos categorías principales de peligro, una que tiene que ver con el mal uso de los modelos de la IA, y la otra con la pérdida de control.
“Veo dos categorías principales de riesgo. La primera es el mal uso de los modelos de inteligencia artificial; por ejemplo, el uso indebido por parte de bioterroristas para crear armas biológicas.
“Estas cuestiones son de alcance global y conciernen a toda la humanidad. Son lo suficientemente graves como para creer que representan preguntas importantes para este Consejo, y no solo para los ministerios de economía o de TIC. Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto”, alertó.