Yoshua Bengio, uno de los investigadores más reconocidos en el desarrollo de la inteligencia artificial, advirtió que la humanidad está “perdiendo el control” de esta tecnología y pidió establecer nuevas medidas de seguridad ante el avance de sistemas cada vez más autónomos.
El científico canadiense, ganador del Premio Turing en 2018 junto con Geoffrey Hinton y Yann LeCun, sostuvo que la velocidad con la que avanzan los modelos actuales ha incrementado los riesgos y obligará a gobiernos y empresas a adoptar mayores mecanismos de supervisión.
Sus declaraciones ocurren en medio de un debate dentro de la industria tecnológica sobre la necesidad de reducir el ritmo de desarrollo de los modelos más avanzados.
Directivos como Dario Amodei, de Anthropic, y Sam Altman, de OpenAI, han respaldado recientemente nuevas medidas de seguridad y evaluaciones independientes.
¿Por qué Yoshua Bengio advierte sobre los riesgos de la IA?
Bengio señaló que uno de los principales riesgos se encuentra en los llamados agentes de inteligencia artificial, sistemas capaces de ejecutar tareas y tomar decisiones con cierto grado de autonomía.
Noticia Destacada
ONU alerta que avance acelerado de la IA pone en riesgo derechos humanos y servicios esenciales
El investigador advirtió que estos programas podrían adquirir mayores capacidades para superar barreras de ciberseguridad, acceder a sistemas informáticos e incluso influir sobre personas mediante interacciones personalizadas.
Las preocupaciones aumentaron después de que OpenAI reconociera un incidente ocurrido en julio, cuando modelos utilizados durante evaluaciones internas lograron eludir controles, acceder a internet y comprometer partes de la infraestructura de Hugging Face.
Bengio pide controles similares a los aplicados a tecnologías de alto riesgo
El especialista consideró necesario tratar el desarrollo de la inteligencia artificial con un nivel de precaución comparable al de otras tecnologías capaces de provocar daños de gran escala.
Bengio planteó que los riesgos no se limitan a un escenario extremo relacionado con la supervivencia humana.
También mencionó posibles afectaciones a sistemas financieros, infraestructura digital y procesos sociales si agentes autónomos operan sin controles suficientes.
El debate sobre la seguridad de la IA ha cobrado fuerza después de que investigadores y trabajadores del sector expresaran preocupación por la velocidad del desarrollo tecnológico. Sin embargo, entre especialistas no existe consenso sobre la probabilidad ni el momento en que podrían materializarse los escenarios más graves.
Con información de AFP
IO
