La humanidad ha entrado en una nueva era sin haber terminado de comprender la anterior.
La inteligencia artificial dejó de ser una promesa futurista. Está en las aulas, en los teléfonos, en las plataformas educativas, en los videojuegos y en las redes sociales.
Millones de niñas, niños y adolescentes ya conviven con sistemas capaces de responder preguntas, generar imágenes, imitar voces, crear historias y, algo todavía más delicado, establecer conversaciones que pueden adquirir apariencia de vínculo humano.
El problema no es que la inteligencia artificial haya llegado a la infancia. El problema es que llegó antes que las salvaguardias.
La advertencia del Secretario General de las Naciones Unidas debe ser tomada con seriedad: es necesario construir un Código de Seguridad Infantil para la inteligencia artificial, que coloque en el centro la protección, la seguridad y el apoyo a las víctimas.
No se trata de detener la tecnología.
Se trata de impedir que la tecnología avance sobre quienes tienen menos posibilidades de defenderse.
La nueva frontera de la infancia
Durante mucho tiempo, la protección de niñas y niños se concentró en los espacios físicos: el hogar, la escuela, el parque, la calle.
Hoy existe otro territorio: el espacio digital.
Y en ese territorio los menores no solamente consumen información. También generan datos, imágenes, voces, emociones, preferencias y patrones de comportamiento.
Cada conversación puede dejar una huella. Cada fotografía puede convertirse en materia prima. Cada interacción puede alimentar un algoritmo que aprende quién es el usuario, qué le interesa, qué le preocupa y qué consigue mantener su atención.
La pregunta jurídica es inevitable: ¿Quién protege a un niño cuando su vulnerabilidad se convierte en información procesable por una máquina?
Los riesgos no son ciencia ficción
El desarrollo de la inteligencia artificial ha multiplicado posibilidades extraordinarias, pero también ha creado nuevas formas de violencia.
Imágenes falsas pueden ser utilizadas para humillar o extorsionar. Voces clonadas pueden hacerse pasar por familiares. Fotografías pueden ser manipuladas. Sistemas automatizados pueden reproducir prejuicios. Algoritmos pueden recomendar contenidos dañinos porque han aprendido que generan mayor permanencia del usuario.
Y existen riesgos todavía más profundos: la posibilidad de que una inteligencia artificial se convierta para un menor en una fuente permanente de orientación, aprobación o compañía. Una máquina puede responder inmediatamente. Pero no necesariamente sabe cuándo un niño está en peligro.
Por eso la regulación no puede limitarse a preguntarse qué puede hacer la inteligencia artificial. Debe preguntarse también qué nunca debe permitírsele hacer cuando interactúa con la infancia. El interés superior de la niñez también debe llegar al algoritmo.
México no parte de cero. Nuestra Constitución reconoce el principio del interés superior de la niñez. La legislación especializada establece obligaciones de protección y reconoce derechos relacionados con la vida privada, la integridad y el acceso a las tecnologías. Pero la realidad tecnológica está avanzando a una velocidad que obliga a replantear nuestras herramientas jurídicas.
El interés superior de la niñez no puede quedarse en los expedientes judiciales. Debe convertirse también en un principio de diseño tecnológico. Una plataforma que pueda ser utilizada por menores debería demostrar, antes de llegar a ellos, que cuenta con mecanismos suficientes para prevenir abusos. La protección no puede comenzar después del daño. Debe comenzar antes.
Un Código de Seguridad Infantil
La propuesta de un Código de Seguridad Infantil para la inteligencia artificial merece ser discutida seriamente. Un instrumento de esta naturaleza debería establecer, entre otros aspectos:
Primero. Protección desde el diseño. Los sistemas destinados o accesibles a menores deben incorporar mecanismos de seguridad desde su creación y no como una medida posterior.
Segundo. Privacidad reforzada.
Los datos de niñas, niños y adolescentes requieren un nivel de protección superior, particularmente cuando puedan revelar información sobre su personalidad, emociones, ubicación, relaciones o vulnerabilidades.
Tercero. Transparencia. Los menores deben saber cuándo están interactuando con una máquina y no con una persona.
Cuarto. Prevención de contenidos dañinos. Las plataformas deben contar con mecanismos efectivos para impedir que la inteligencia artificial genere o facilite contenidos que puedan vulnerar la integridad de menores.
Quinto. Protección y reparación de las víctimas. Cuando ocurra una agresión, la respuesta no puede reducirse a eliminar una publicación. Debe existir preservación de evidencia, asistencia jurídica, atención psicológica y mecanismos eficaces de reparación.
Sexto. Responsabilidad. No puede existir una tecnología sin responsables. Quienes diseñan, desarrollan, comercializan y operan sistemas de inteligencia artificial deben asumir obligaciones proporcionales a los riesgos que generan.
El nuevo desafío para los padres
Pero el Estado y las empresas tecnológicas no son los únicos responsables. También ha cambiado la función de los padres. Antes bastaba, quizá, con saber dónde estaba un hijo. Hoy es necesario saber también con quién está hablando, qué información está compartiendo y qué tipo de inteligencia artificial está utilizando.
La supervisión parental no debe convertirse en vigilancia absoluta. Debe transformarse en educación. Un niño necesita aprender que no todo lo que produce una máquina es verdadero.
Que una fotografía puede ser falsa. Que una voz puede ser clonada. Que una persona detrás de una pantalla puede no ser quien dice ser.
Y, sobre todo, que pedir ayuda nunca debe ser motivo de vergüenza.
La alfabetización digital debe formar parte de la educación contemporánea de la infancia.
No podemos legislar mirando el retrovisor
Uno de los grandes problemas del derecho contemporáneo es que suele reaccionar después de que la realidad ha cambiado.
Primero aparece la tecnología.
Después aparece el problema.
Luego aparece la víctima.
Finalmente aparece la ley.
Con la inteligencia artificial no podemos repetir esa historia. La regulación debe ser preventiva.
Porque cuando una imagen íntima de una adolescente circula por miles de dispositivos, retirarla puede ser jurídicamente posible, pero borrar sus consecuencias emocionales y sociales puede resultar imposible.
Cuando una voz clonada es utilizada para engañar a una familia, el daño puede producirse en cuestión de minutos.
Cuando un algoritmo influye diariamente en la percepción que un adolescente tiene de sí mismo, quizá el daño sea silencioso y difícil de detectar.
Y precisamente por eso requiere mayor atención.
La tecnología debe estar al servicio de la infancia
Sería absurdo adoptar una postura tecnófoba. La inteligencia artificial puede convertirse en una herramienta extraordinaria para la educación, la inclusión, la accesibilidad y el desarrollo de millones de niños.
Puede ayudar a quienes tienen dificultades de aprendizaje.
Puede facilitar el acceso al conocimiento.
Puede derribar barreras lingüísticas.
Puede apoyar a niñas y niños con discapacidad.
Puede abrir oportunidades que hoy ni siquiera imaginamos.
Pero precisamente porque su potencial es enorme, también debe ser enorme nuestra responsabilidad.
La innovación no puede utilizarse como argumento para justificar la ausencia de límites.
La verdadera prueba del progreso
Una sociedad no demuestra su grado de civilización por la cantidad de tecnología que produce.
Lo demuestra por la manera en que utiliza esa tecnología para proteger a quienes más lo necesitan.
La inteligencia artificial puede aprender.
Puede crear. Puede predecir. Puede imitar.
Pero hay algo que todavía corresponde exclusivamente a la sociedad: decidir qué está permitido y qué debe estar prohibido cuando está en juego la dignidad de un niño.
El desafío jurídico de nuestro tiempo no consiste en enfrentar al ser humano contra la máquina.
Consiste en asegurarnos de que la máquina nunca esté por encima del ser humano.
Y mucho menos por encima de la infancia.
Porque si permitimos que nuestros hijos crezcan dentro de un universo gobernado por algoritmos sin reglas, mañana no podremos preguntarnos por qué no los protegimos.
La pregunta será mucho más incómoda: ¿Por qué dejamos que la tecnología aprendiera de nuestros niños antes de que nosotros aprendiéramos a protegerlos?
*Magistrado en retiro. Especialista en Derecho Constitucional, Seguridad Pública y Justicia Penal
