El uso de inteligencia artificial ha transformado la forma en que los emprendedores y pequeñas empresas operan. Sin embargo, recientes incidentes de ciberseguridad han puesto de relieve los riesgos asociados con estas tecnologías, especialmente en plataformas de IA como Claude de Anthropic. Un caso significativo involucra a Grant De Swardt, un consultor independiente de IA en East Sussex, Reino Unido, quien se enfrentó a un sorpresivo aumento en el consumo de tokens de su cuenta sin haber realizado actividad alguna.
De Swardt notó por primera vez este comportamiento anómalo el 4 de agosto, cuando su cuenta mostró un uso de tokens inusual, a pesar de no haber trabajado ese día. Al día siguiente, decidió desactivar por completo todos los servicios asociados a su cuenta, pero el problema persistió. Durante un intervalo controlado de tiempo, el uso de tokens subió del 45% al 55% sin que él realizara ninguna tarea a través de la plataforma.
Buscando respuestas, contactó a Anthropic para obtener un desglose detallado de la actividad de su cuenta. Aunque la empresa no proporcionó esta información, reconoció que había algo inusual y suspendió su cuenta, invalidando todas las sesiones y tokens asociados, además de ofrecerle un reembolso parcial de £44.49 por el tiempo restante en su suscripción mensual de $200.
Este suceso tuvo un impacto severo en su negocio, que se basa en la implementación de agentes automatizados para ayudar a empresas pequeñas y medianas con tareas administrativas. En su caso, ya que opera como propietario único, depende de la inteligencia artificial para una variedad de actividades, desde diseño web hasta programación.
Después de más investigaciones, Anthropic identificó la causa del problema: una clave de sesión comprometida de Claude estaba siendo utilizada para generar tokens OAuth no autorizados. Esto significaba que un tercero no autorizado había obtenido acceso a su cuenta, consumiendo de forma indiscriminada sus tokens. Según Anthropic, la evidencia sugiere que los datos de sesión fueron robados o que su cuenta estuvo vinculada a un servicio externo que no era seguro. Este tipo de robo de tokens podría haber pasado desapercibido durante meses, ya que la plataforma solo rastrea el uso total sin ofrecer un desglose detallado.
De Swardt compartió su experiencia en redes sociales, donde descubrió que no estaba solo. Otros usuarios relataron situaciones similares, como cargos inesperados y un consumo desmedido de tokens sin intervención de su parte. Algunos incluso recibieron correos electrónicos de Anthropic advirtiendo sobre la posible presencia de malware en sus dispositivos, lo que podría haber facilitado el acceso no autorizado.
Anthropic reveló que un software malicioso, conocido como infostealer, tenía la capacidad de robar credenciales y datos de sesión desde los ordenadores de los usuarios. Aunque la empresa inició acciones para proteger a los afectados, parece que la fuente del malware no era la propia plataforma de Claude, sino la vulnerabilidad de los usuarios ante software dañino descargado o publicidad infectada.
A pesar de que la cuenta de De Swardt fue restaurada tras dos semanas, la falta de soporte eficaz y la imposibilidad de identificar el uso de sus tokens lo llevaron a cancelar su suscripción. Actualmente, ha optado por Cursor, que le ofrece la opción de trabajar con múltiples modelos, incluyendo alternativas más económicas de código abierto, y asegura que estas soluciones funcionan de manera similar a Claude.
La experiencia de De Swardt resalta la necesidad urgente de que las plataformas de inteligencia artificial implementen herramientas que permitan a los usuarios monitorizar su actividad de forma más efectiva. La falta de transparencia en el uso de tokens es un riesgo que podría comprometer la seguridad y confianza de los emprendedores en estas tecnologías emergentes.