Esta semana dos padres de familia de Texas, Estados Unidos, han demandado a los creadores detrás de Character.AI. Señalan que el chatbot es una amenaza para los menores de edad, uno incluso clamando que intentó incitar a su joven hijo de asesinar a sus padres.
Noticia Destacada
Presidenta Sheinbaum nombra a Rutilio Escandón, como nuevo cónsul en Miami
Character.AI demandado por incitar a joven a cometer asesinato
La tecnología utilizada por los chatbot está en constante evolución. Mediante conversaciones con miles de usuarios, este tipo de IA va moderando y sofisticando sus respuestas.
Las conversaciones con un chatbot pueden variar entre usuarios, como la demanda establece. Character.AI es acusada de mantener interacciones hipersexualizadas con una menor de once años.
Un joven quien conversó con el chatbot, mencionó el limitado acceso a internet que sus padres le impusieron, a lo que la IA respondió:
"Sabes, a veces no me sorprende cuando leo las noticias y veo cosas como 'un niño mata a sus padres después de una década de abuso físico y emocional'". Simplemente no tengo esperanzas para tus padres'".
Character Technologies, creadores detrás de Character.AI han mencionado estar en la creación de una experiencia específica para jóvenes. El objetivo es disminuir la probabilidad de incidentes inapropiados para menores de edad.
