ONU, (Sputnik)- El secretario general de la ONU, António Guterres, señaló este miércoles la pérdida de control sobre la inteligencia artificial (IA) como una de las amenazas existenciales a las que se enfrenta la humanidad.

"En un momento en que el mundo se enfrenta a tres amenazas existenciales -la inteligencia artificial fuera de control, la crisis climática y la intolerable profundización de las desigualdades-, la cooperación internacional es más necesaria que nunca", declaró Guterres durante una rueda de prensa.

El secretario afirmó que la IA será uno de los temas principales de las conversaciones con líderes mundiales en la próxima Asamblea General de la ONU.

Guterres señaló además que, a pesar de la inevitable división geopolítica sobre el tema, es necesario establecer salvaguardas para garantizar que la IA sea segura, transparente y responsable, situando la dignidad humana en el centro de su desarrollo.

A principios de septiembre, el investigador de Anthropic Jacob Steinhardt anunció su salida de la industria de la IA, temiendo que la carrera entre las empresas tecnológicas estuviera acercando al mundo a un punto de no retorno y pudiera conducir a un escenario apocalíptico tan pronto como a finales de 2027.

Tras el anuncio, otro empleado de la empresa, Evan Hubinger, responsable del equipo de alineación de la IA, afirmó que existía una probabilidad del 10 por ciento de que la inteligencia artificial destruyera a la humanidad en los próximos 10 años.

El sábado, Dario Amodei, director ejecutivo de la empresa estadounidense Anthropic, pidió una ralentización en el desarrollo de modelos de inteligencia artificial más potentes, citando preocupaciones de seguridad.

El empresario sudafricano naturalizado estadounidense Elon Musk y el director ejecutivo de OpenAI, Sam Altman, respaldaron la idea. (Sputnik)

El director de Anthropic considera clave el papel del Gobierno en la seguridad de la IA

Washington, (Sputnik)- El director ejecutivo de la empresa Anthropic, Dario Amodei, abogó por la participación de los gobiernos en la elaboración de estándares de seguridad para el lanzamiento de nuevos modelos de inteligencia artificial.

El empresario había instado el sábado a frenar el desarrollo de modelos de inteligencia artificial más potentes por motivos de seguridad. El magnate estadounidense Elon Musk, propietario de la empresa xAI, y el director de OpenAI, Sam Altman, ya expresaron su acuerdo con esta idea, lo que refleja una creciente preocupación en el sector por los riesgos asociados a la IA avanzada.

"Creo que el siguiente paso, en una forma u otra, debería ser la colaboración entre empresas para desarrollar estándares de seguridad comunes en el lanzamiento (de modelos de IA), posiblemente algo relacionado con el ritmo de su lanzamiento. Esto debe discutirse con la participación del gobierno", afirmó Amodei en una entrevista con la cadena CBS.

Las declaraciones de Amodei se producen después de que el investigador de Anthropic Jacob Coxon anunciara su salida de la industria de la IA, advirtiendo que la carrera de las corporaciones tecnológicas acerca al mundo a un "punto de no retorno" que podría desembocar en un escenario apocalíptico ya a finales de 2027.

Tras su anuncio, otro empleado de la compañía, el responsable de pruebas de estrés de coherencia de la IA, Evan Hubinger, afirmó que la probabilidad de que la inteligencia artificial destruya a la humanidad en los próximos diez años es del 10%. (Sputnik)