Anthropic y OpenAI advierten ante la ONU sobre riesgos de la IA para la humanidad

Sesión de este miércoles constituye la primera vez que se habla en el Consejo de las amenazas de los ciberataques autónomos

Imagen de contexto generada con IA
Imagen de contexto generada con IA

Los directores de las principales empresas de inteligencia artificial, Anthropic y OpenAI, advirtieron este miércoles ante la Asamblea General de la ONU que una mala gestión de esta herramienta podría ser un riesgo para la humanidad.

Dario Amodei, director ejecutivo de Anthropic, quien tuvo una participación vía remota, dijo ver dos categorías principales de peligro, una que tiene que ver con el mal uso de los modelos de la IA, y la otra con la pérdida de control.

"Veo dos categorías principales de riesgo. La primera es el mal uso de los modelos de inteligencia artificial; por ejemplo, el uso indebido por parte de bioterroristas para crear armas biológicas.

"El segundo riesgo es la pérdida de control: que las capacidades de los modelos se aceleren más allá de la habilidad de los desarrolladores para controlarlos.

"Estas cuestiones son de alcance global y conciernen a toda la humanidad. Son lo suficientemente graves como para creer que representan preguntas importantes para este Consejo, y no solo para los ministerios de economía o de TIC. Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto", alertó.

imagen-cuerpo

Por su parte, el director ejecutivo de OpenAI, Sam Altman, señaló que "podríamos perder el control del futuro ante la IA".

"El riesgo es que avance tan rápido que la gente ya no pueda seguir lo que está sucediendo ni intervenir cuando sea necesario. Esto, obviamente, sería terrible.

"La industria no debe aceptar un riesgo tecnológico excesivo solo porque los beneficios sean muy grandes o porque sientan que es demasiado importante como para bajar el ritmo. Ganar a otras empresas en una carrera competitiva no es razón para tomar decisiones precipitadas, ni creemos que estemos atrapados en una carrera en la que no podamos evitar hacerlo.

"Unilateralmente hemos desacelerado en el pasado y lo haremos en el futuro. No queremos construir sistemas —y creemos que es importante que todos eviten construir sistemas— donde no podamos ofrecer las garantías necesarias de alineación, supervisión y seguridad.

"Necesitamos comprender qué están haciendo estos sistemas y contar con pruebas sólidas de que harán lo que las personas pretenden, incluso cuando se vuelvan muy, muy inteligentes; de hecho, especialmente a medida que se vuelvan muy, muy inteligentes", puntualizó.

Cabe destacar que la sesión de este miércoles constituye la primera vez que se habla en el Consejo de la ONU de las amenazas de los ciberataques autónomos o el riesgo de que los humanos pierdan el control sobre los modelos de IA más avanzados.

imagen-cuerpo