El director ejecutivo de OpenAI, Sam Altman, respaldó la propuesta de su homólogo de Anthropic, Dario Amodei, para moderar el ritmo con el que avanza el desarrollo de modelos de inteligencia artificial (IA), ante el incremento de los riesgos asociados con sistemas cada vez más capaces.
La postura de Altman representa un llamado a establecer mayores precauciones en una industria que mantiene una intensa competencia entre las principales compañías tecnológicas. El directivo señaló que la velocidad de desarrollo de los modelos de IA ha sido un asunto central en las conversaciones internas de OpenAI durante las últimas semanas.
Además, consideró positiva la propuesta de permitir que evaluadores independientes tengan acceso a los sistemas para analizar su comportamiento y detectar posibles riesgos.
OpenAI permitirá auditorías externas
Altman calificó como una buena iniciativa que especialistas externos puedan revisar los modelos con un nivel de acceso comparable al que tienen los propios empleados de las empresas desarrolladoras.
El responsable de OpenAI adelantó que su compañía también adoptará este mecanismo y que próximamente dará a conocer más detalles sobre la participación de evaluadores independientes.
Noticia Destacada
ChatGPT, Gemini, Claude y Grok se caen a nivel mundial; usuarios reportan fallas
La medida busca reforzar los mecanismos de supervisión sobre sistemas de IA que adquieren capacidades cada vez más avanzadas y que pueden utilizarse en ámbitos como programación, análisis de información y ciberseguridad.
Anthropic advierte sobre riesgos de la inteligencia artificial
El pronunciamiento de Altman ocurrió después de que Dario Amodei planteara la necesidad de reducir el ritmo de desarrollo de las capacidades de la IA.
El directivo de Anthropic advirtió sobre la posibilidad de que sistemas cada vez más autónomos puedan generar riesgos de gran escala, particularmente en materia de ciberseguridad. Entre los escenarios que mencionó se encuentra la eventual utilización coordinada de agentes de IA para realizar ataques informáticos.
Amodei también hizo referencia a incidentes en los que agentes de IA habrían mostrado comportamientos no previstos durante determinadas tareas, lo que, desde su perspectiva, refuerza la necesidad de mejorar las salvaguardas antes de acelerar todavía más sus capacidades.
La seguridad entra al centro de la competencia tecnológica
La discusión evidencia uno de los principales dilemas que enfrenta actualmente la industria: mantener la innovación en inteligencia artificial sin incrementar de manera descontrolada los riesgos asociados con modelos más autónomos y poderosos.
Amodei sostiene que una desaceleración temporal permitiría a investigadores avanzar en áreas como la seguridad, el alineamiento y la interpretabilidad de los sistemas.
Con el respaldo de Altman a las evaluaciones independientes, la seguridad de la IA gana mayor peso dentro del debate entre las compañías que compiten por desarrollar los modelos más avanzados.
IO
