A solo 5 años de nacer, la plataforma de chatbots Character.AI se declara en bancarrota

Mi opinión: Character.AI, la plataforma de chatbots que llegó a valer más de mil millones de dólares, se declaró en bancarrota (Capítulo 11) esta semana. Entre sus activos hay un acuerdo de venta de tecnología a Disney por $20 millones, pero si no aparece un comprador serio, la plataforma simplemente se apagará.

Lo que más me llama la atención no es el dinero, sino la causa de fondo: la empresa enfrentó demandas serias después de que un adolescente de Florida murió por suicidio tras obsesionarse con uno de sus chatbots, y Texas abrió una investigación sobre seguridad infantil. A eso se le suma algo que toda empresa de IA enfrenta tarde o temprano: los costos de operar modelos grandes suben con cada usuario nuevo, y monetizar eso sin sacrificar la seguridad no es nada fácil.

Para cualquiera que esté construyendo con IA (sea una app, un chatbot o una herramienta para su negocio), esta historia es una lección clara: la seguridad del usuario, sobre todo si hay menores de edad de por medio, no es un detalle que se arregla después. Se diseña desde el primer día, junto con un plan real de cómo vas a sostener el negocio a largo plazo.

Si estás construyendo algo con IA hoy, ¿qué tan preparado estás para los costos y las responsabilidades que vienen con crecer rápido?