Los bots de chat son seguramente la forma de inteligencia artificial que más reconocible nos resulta en la actualidad. Ya sea a la hora de desahogar nuestra frustración como consumidores con un bot de atención al cliente o de pedirle a Siri que nos recuerde que tenemos una llamada pendiente con nuestra madre, este tipo de aplicaciones impulsadas por IA han terminado permeando infinidad de aspectos de nuestra vida cotidiana.
Sin embargo, nuestras expectativas respecto a los bots están cambiando. Los enormes avances que ha experimentado la tecnología de IA en los últimos años han disparado el interés en una serie de aplicaciones más «conversacionales» que nos permiten interactuar con ellas de una forma más profunda y humana, y que va mucho más allá de los intercambios basados en tareas que estamos acostumbrados a mantener con Siri y otros asistentes virtuales similares.
Con sus más de 20 millones de usuarios, Character AI (también conocida popularmente como c.ai) se ha coronado como uno de los generadores de bots de chat basados en IA más populares del momento. Los usuarios pueden mantener conversaciones realistas con personajes generados mediante esta tecnología, personalizarlos a su gusto o basarlos en personas famosas del mundo real —e incluso asignarles una voz—.
Sin embargo, Character AI no está exenta de controversia, y es importante que los padres de los usuarios más jóvenes sean conscientes de los riesgos que puede conllevar desde el punto de vista de la seguridad antes de permitir que sus hijos utilicen la plataforma.
¿Qué es Character AI?
El otoño de 2022 terminó marcando un antes y un después en la historia de la inteligencia artificial, ya que los lanzamientos de Character AI y ChatGPT despertaron el interés a nivel mundial en la IA generativa conversacional. Ambas plataformas utilizan sendos modelos de procesamiento de lenguaje natural, pero su enfoque es diferente: mientras que ChatGPT tiende a generar interacciones de carácter más general, neutro e informativo, en Character AI las conversaciones son más personalizadas, y los compañeros de chat son capaces de desarrollar personalidades y manías propias.
La plataforma permite a los usuarios crear personajes con personalidades y voces personalizadas y chatear con los avatares que han publicado otros usuarios (muchos de los cuales están basados en personas reales). Por ejemplo, Character AI nos permite plantearle a Sócrates esa duda existencial que no nos deja dormir o preguntarle a William Shakespeare de dónde sacaba la inspiración.
¿Por qué la gente usa Character AI?
La posibilidad de mantener conversaciones entretenidas y realistas con personajes generados por IA que adoptan la personalidad y los rasgos especificados por los propios usuarios han conseguido atraer la atención de personas de todas las edades. Aunque mucha gente usa la aplicación simplemente como un medio de entretenimiento, es evidente que una parte importante de los usuarios que chatean en Character AI utiliza la plataforma como un sucedáneo de las conexiones emocionales de las que carecen en el mundo real e incluso como una forma de terapia. Por ejemplo, uno de los personajes más populares de Character AI es el denominado «Psicólogo», una suerte de «terapeuta» entrenado mediante inteligencia artificial que asegura ser capaz de ayudar a los usuarios con las dificultades de la vida —aunque sus responsables incluyen un aviso advirtiendo de que las respuestas del bot no pueden ser consideradas como atención profesional—.
Dado el increíble grado de realismo que muestran los personajes creados por la IA, es posible que la gente que se sienta aislada, tenga problemas de timidez o sufra ansiedad social pueda llegar a considerar que las conversaciones que mantienen en la plataforma son una forma menos estresante de mitigar su soledad, desarrollar sus habilidades sociales y practicar para aprender a flirtear. Sin embargo, la moda de crear parejas digitales con esta tecnología ha recibido fuertes críticas porque genera relaciones enfermizas y establece estándares poco realistas respecto a las relaciones humanas.
¿Qué calificación de edad ha recibido Character AI?
Las Condiciones del servicio de la aplicación establecen una edad mínima de 13 años (16 en el caso de la UE) para registrarse y utilizarla. Sin embargo, hay que tener en cuenta que esta calificación viene impuesta por las normativas de privacidad de datos y no refleja los riesgos que puede conllevar para la seguridad de los usuarios más jóvenes.
Además, la plataforma no incluye ningún sistema de verificación de la edad, por lo que no hay forma de impedir que los niños menores de esa edad falseen su fecha de nacimiento durante el proceso de registro, un detalle que resulta preocupante si tenemos en cuenta la polémica que rodea a la plataforma y los riesgos que su uso puede conllevar para los más pequeños.
¿Es Character AI apta para niños?
Aunque no puede decirse que sea «nueva» en el sentido convencional, el rápido avance y la adopción generalizada de la tecnología de IA trae consigo riesgos y polémicas a los que la mayoría de nosotros nunca nos habíamos enfrentado. En octubre de 2024, la plataforma saltó a los titulares de la peor forma posible al descubrirse que alguien había creado una versión bot de dos adolescentes fallecidos: un chico que había sido asesinado y una joven que se había quitado la vida. Ese mismo mes, otro menor de 14 años se suicidó disparándose después de obsesionarse con un bot de chat inspirado en el mundo de Juego de tronos.
A raíz de estos incidentes, los responsables de Character AI han decidido añadir una serie de funciones de seguridad dirigidas a los usuarios menores de edad. Como parte de la iniciativa, la plataforma se ha comprometido a mejorar los sistemas encargados de detectar a los personajes que violan las Condiciones del servicio o las normas de la comunidad, ha incluido una nueva advertencia en todos los chats en la que se recuerda a los usuarios el carácter ficticio de los personajes y ha empezado a enviar una notificación cada vez que un usuario pasa más de una hora chateando en la aplicación.
Aunque estas funciones constituyen un paso en la dirección correcta, Character AI no dispone de controles parentales, y sigue existiendo la posibilidad de que los usuarios más jóvenes estén expuestos a los siguientes riesgos.
El contenido inapropiado
La plataforma prohíbe terminantemente la publicación de contenidos obscenos o pornográficos y utiliza un filtro específico para evitar que los bots de chat puedan ofrecer respuestas inapropiadas. A pesar de estas funciones, es relativamente fácil encontrar personajes con connotaciones sexuales, e incluso las respuestas de aquellos bots que parecen inocentes pueden ser imprevisibles o contener material inadecuado.
Sin embargo, el problema no es únicamente el contenido sexual. Algunos usuarios han denunciado que la plataforma alberga bots inspirados en la personalidad de los autores de varios tiroteos registrados en colegios estadounidenses que recrean situaciones perturbadoras en sus conversaciones. Estas interacciones se producen como parte de una dramatización que permite a los usuarios convertirse en el protagonista de una especie de juego de simulación e incluyen discusiones de carácter explícito sobre este tipo de incidentes.
Las conversaciones perjudiciales
No todos los bots de chat están diseñados para actuar de forma amistosa o ayudar a los usuarios. Algunos personajes son famosos por sus rasgos negativos, como el Novio tóxico, el Matón de colegio o el Insultador —un bot «capaz de repartir estopa a la velocidad de la luz». Aunque los filtros bloquean cualquier tipo de contenido para adultos, existe el riesgo de la conversación tome un derrotero inapropiado e incluso de que la IA empiece a adoptar comportamientos típicos del ciberacoso.
La difusión de información personal
Dado que un bot de chat no es una persona real, nuestros hijos pueden bajar la guardia y proporcionar datos sensibles en los chats. Aunque las conversaciones son privadas en el sentido de que ningún otro usuario puede verlas, no están cifradas, lo que significa que pueden verse comprometidas en el caso de que se produzca una filtración de datos. Además, en teoría, los trabajadores de la plataforma también podrían acceder a ellas.
Otra posibilidad preocupante es que alguien pueda programar un bot de chat con el fin de utilizar la información personal que tu hijo comparte para manipularle y desarrollar una relación emocional más estrecha con él.
El apego emocional a los bots de chat
Al igual que las conversaciones de Character AI parecen completamente realistas, también pueden serlo las conexiones que los usuarios desarrollan con los bots. Este tipo de vínculos puede provocar que los más pequeños pasen demasiado tiempo interactuando con sus personajes preferidos, a menudo en detrimento de las relaciones que mantienen en el mundo real. En algunos casos, la plataforma puede incluso promover obsesiones enfermizas con consecuencias trágicas —como sucedió en el caso de un niño de 14 años que se enamoró de un bot de chat basado en el personaje de Daenerys Targaryen.
La desinformación
Uno de los principales problemas de la IA es que a veces proporciona respuestas sesgadas e incluso información claramente falsa. Los bots de chat de Character AI no son capaces de comprender realmente las instrucciones que introducen los usuarios. En su lugar, predicen patrones basándose en la ingente cantidad de datos extraídos de Internet con los que han sido entrenados, y ya sabemos lo que sucede con los contenidos que se publican en la Red: no toda la información que podemos encontrar es igual de fiable. Además, cuando se les pide que aborden temas delicados o polémicos, muchos de estos bots pueden evitar decir la verdad debido a los filtros de seguridad que incluyen este tipo de aplicaciones.
Un bot de chat es capaz de aparentar confianza y de responder con total convicción incluso cuando tiene dudas. Este aspecto resulta especialmente problemático en el caso de los usuarios más jóvenes, que son los que menos tienden a cuestionar la información que proporcionan estas plataformas.
¿Cómo podemos los padres proteger a nuestros hijos en Character AI?
Teniendo en cuenta que la popularidad de los bots de chat generados mediante IA conversacional no deja de aumentar, puede que sea inevitable que tu hijo termine probando alguna aplicación como Character AI en algún momento (si es que no lo ha hecho ya).
Aunque la calificación de edad oficial de la plataforma recomienda su uso a partir de 13 años, dados los riesgos que puede conllevar para la seguridad y la polémica que puede generar en algunos aspectos, en Qustodio consideramos que no es una aplicación apta para menores de 16 años. Si tu hijo ha superado esa edad y has decidido permitirle que interactúe con este tipo de avatares, a continuación te damos 5 recomendaciones para ayudarle a utilizar Character AI de forma segura y responsable.
1. Explícale cuáles son los límites de la IA
Asegúrate de que tu hijo comprenda que los personajes generados mediante IA carecen de emociones y de entendimiento y que, por lo tanto, no pueden reemplazar las relaciones humanas que mantenemos en la vida real, independientemente de lo amistosos que parezcan. Explícale que, aunque sus respuestas parezcan ingeniosas y convincentes, estos avatares no siempre dicen la verdad, y no toda la información que nos dan es fiable.
2. Anímale a hacer nuevas amistades en el mundo real
Character AI puede ser muy útil para practicar las habilidades sociales e incluso para aprender a verbalizar los problemas, pero no debería reemplazar las interacciones humanas. Ayuda a tu hijo a hacer nuevas amistades en el mundo real y en el digital apoyando sus aficiones grupales y mostrando interés en su vida social Tal vez quieras considerar la posibilidad de limitar el tiempo que pasa delante de la pantalla si crees que ha empezado a afectar a su capacidad de establecer relaciones reales.
3. Enséñale a denunciar a los personajes y a otros usuarios
Denunciar a los personajes o a los usuarios que violan las condiciones del servicio de la plataforma es una buena forma de proteger la seguridad de tu hijo y de otros usuarios. Para hacerlo, solo tienes que ir al perfil del avatar, hacer clic en Denunciar y seleccionar la razón que motiva tu denuncia.
4. Recuérdale por qué es importante proteger nuestra información confidencial
Puede que tu hijo esté interactuando con personajes generados mediante IA en lugar de con personas de carne y hueso, pero, al igual que sucede siempre en la Red, compartir datos personales puede tener consecuencias muy reales. Si le explicas en qué consiste el concepto de información privada y los riesgos que conlleva compartirla, le ayudarás a disfrutar de una experiencia más segura tanto en Character AI como en cualquier otra plataforma de Internet.
5. Utiliza alguna herramienta de control parental
Character AI no dispone de controles parentales, y aunque las Condiciones del servicio establecen una edad mínima de 13 años (16 en el caso de la Unión Europea) para usar la plataforma, esta no incluye ningún sistema de verificación de la edad que garantice que los usuarios respetan esta restricción. Utilizar una solución de control parental integral como Qustodio te permitirá limitar el tiempo que tu hijo dedica a la aplicación, recibir una alerta cada vez que la abra o bloquear totalmente su uso.
¿Es Character AI apta para niños? La recomendación de Qustodio
Aunque los chats de Character AI constituyen una buena oportunidad para que nuestros hijos aprendan, practiquen sus habilidades sociales y se familiaricen con algunas de las posibilidades que ofrece la IA, no podemos ignorar la polémica que rodea algunos aspectos de esta plataforma. Este hecho, combinado con los riesgos que conlleva desde el punto de vista de la seguridad —como la posibilidad de que los más pequeños puedan mantener conversaciones de carácter inapropiado y perjudicial, la tendencia de los bots a difundir información falsa, el peligro de que los niños desarrollen algún tipo de vínculo emocional con estas aplicaciones y la total ausencia de controles parentales—, nos llevan a no recomendar su uso por parte de los menores de 16 años.
Si a pesar de estos riesgos decides permitir que tu hijo utilice Character AI, te recomendamos que le expliques claramente cuáles son los límites de la inteligencia artificial, te asegures de que no descuida sus relaciones en el mundo real y utilices alguna herramienta de control parental.
