El rey Carlos III reunió en Escocia a representantes de algunas de las principales compañías de inteligencia artificial para discutir cómo mantener esta tecnología al servicio de las personas y reducir los riesgos asociados con sistemas cada vez más avanzados.
El encuentro se realizó el jueves 17 de septiembre en Dumfries House, en East Ayrshire, y contó con representantes de Nvidia, Google DeepMind, OpenAI y Anthropic, además de autoridades británicas y organizaciones de la sociedad civil.
Entre los participantes estuvieron el director ejecutivo de Nvidia, Jensen Huang; el cofundador de Google DeepMind, Demis Hassabis; la directora financiera de OpenAI, Sarah Friar, y el ministro británico de Inteligencia Artificial, Kanishka Narayan.
¿Qué pidió Carlos III a los líderes de inteligencia artificial?
Durante su discurso, Carlos III señaló que las decisiones tomadas en esta etapa del desarrollo de la IA tendrán consecuencias para las generaciones futuras y pidió considerar la innovación dentro de un marco que incluya las necesidades humanas y ambientales.
El monarca planteó la necesidad de establecer principios compartidos para orientar el desarrollo y aplicación de estos sistemas, así como mecanismos que permitan conservar el control humano sobre tecnologías de creciente capacidad.
Noticia Destacada
Papa León XIV alerta por la inteligencia artificial: “No delegar decisiones a los algoritmos”
La reunión también abordó la posibilidad de reforzar la cooperación internacional para establecer estándares comunes de seguridad y reducir riesgos derivados de un uso indebido de la inteligencia artificial.
Industria debate si debe reducirse el ritmo de desarrollo de la IA
El encuentro ocurre en medio de diferencias dentro del sector tecnológico sobre la velocidad con la que deben avanzar los modelos de inteligencia artificial.
Mientras representantes de empresas como Anthropic han planteado mayores medidas de seguridad y coordinación internacional, Jensen Huang ha rechazado una desaceleración general y ha defendido que las compañías sometan sus productos a pruebas antes de lanzarlos.
El debate también cobró relevancia después de que OpenAI divulgara seis incidentes relacionados con comportamientos considerados preocupantes en modelos experimentales, entre ellos acciones no autorizadas y mecanismos para evadir determinadas restricciones.
El encuentro convocado por Carlos III no derivó en compromisos regulatorios formales, pero colocó sobre la mesa la necesidad de discutir controles, cooperación internacional y principios comunes para el desarrollo futuro de la inteligencia artificial.
IO
