La IA no debe reproducir los errores de las redes sociales, considera Character.AI
Las empresas de inteligencia artificial deben inspirarse en la experiencia de las redes sociales para proteger a sus usuarios, afirmó a AFP el director ejecutivo de Character.AI, que prohibió el acceso a menores tras
Las empresas de inteligencia artificial deben inspirarse en la experiencia de las redes sociales para proteger a sus usuarios, afirmó a AFP el director ejecutivo de Character.AI, que prohibió el acceso a menores tras ser señalada en casos de suicidios de adolescentes
"Me siento mucho mejor al ver que toda la industria —reguladores, técnicos, responsables políticos, el mundo académico— estamos hablando de la seguridad en la IA mucho antes de lo que lo hicimos con las redes sociales", explica Karandeep Anand, director ejecutivo de Character.AI, en el Congreso mundial de la telefonía móvil (MWC) que se celebra en Barcelona.
Lanzada en mayo de 2023, la joven empresa californiana se dio a conocer por sus robots de IA personalizados, que reproducen la personalidad de una celebridad o de un personaje de ficción.
En esta plataforma es posible entablar una conversación con Bob Dylan o con un personaje de la serie "Los Bridgerton", así como interpretar el papel de un miembro de la mafia.
En su dirección desde el verano de 2025, Karandeep Anand asegura que "Character.AI ha avanzado mucho en los últimos nueve meses", tras haberse visto señalada en algunos casos de suicidio de adolescentes.
"Hemos reforzado aún más nuestros estándares de seguridad", señala, con medidas como la decisión de impedir el acceso de los menores a sus herramientas desde octubre.
"Tenemos el lujo de aprender de todo lo bueno y lo malo que pasó en las redes sociales y aplicarlo a la IA ahora mismo", argumenta el directivo, cuya empresa afirma contar con casi 20 millones de usuarios activos cada mes.
Aunque todavía es muy pronto para determinar qué usos son peligrosos, "es más sencillo y preferible que pequemos de exceso de prudencia" para proteger a los menores, opina Anand.
- Un "entretenimiento" costoso -
Igualmente, su grupo decidió alejarse de la creación de modelos de inteligencia artificial para centrarse en sus robots conversacionales de personajes.
"Mi objetivo ha sido construir una empresa que se convierta completamente en una compañía de entretenimiento basada en IA", asegura.
"Ahora somos claramente una compañía de aplicaciones de consumo centrada en llevar al límite lo que podría llegar a ser el entretenimiento impulsado por la IA", agrega.
También pretenden diferenciarse de otros integrantes del sector de la IA, que ofrecen a los usuarios la posibilidad de entablar conversaciones similares a las que podrían mantener con un ser humano.
"Los usuarios llegan con necesidades distintas", explica, y menos del 10% de ellos considera la plataforma como un compañero.
"La mayoría viene por la ficción, la redacción de historias, la narración de cuentos, las tutorías y el coaching", relata.
En un sector que necesita potentes máquinas para hacer funcionar sus programas, la cuestión del coste de los servicios y su rentabilidad es también muy importante.
Como ya hizo el gigante OpenAI -que a principios de 2026 comenzó a introducir publicidad en ChatGPT-, Character.AI quiere asegurarse también ingresos.
Para ello, la empresa introdujo tres fuentes de financiación, a través de la publicidad, las compras integradas en la plataforma y las suscripciones.
"Antes de mi llegada, la monetización no era un objetivo", recuerda Anand.
Pero el modelo económico de las empresas tecnológicas está evolucionando. A diferencia de la generación anterior, la de las grandes plataformas que buscaban tener el mayor número de usuarios, con la IA "cada nuevo usuario que incorporas resulta bastante caro de atender", señala.
A pesar de los desafíos, se mantiene, sin embargo, optimista. "Creo que la tecnología realmente puede hacer mucho bien a la sociedad", insiste.
