Un grupo de usuarios ha informado de que ha podido acceder de manera no autorizada en el modelo Claude Mythos, que Anthropic ha lanzado de manera privada dentro de una iniciativa de ciberseguridad llamada Proyecto Glasswing.
Los usuarios, que no han sido identificados, son miembros de un canal de Discord dedicado a la búsqueda de información sobre modelos de inteligencia artificial que todavía no han sido lanzados.
Según han asegurado a Bloomberg, consiguieron acceder a Mythos a través de un tercero, y para demostrarlo, facilitaron al medio citado capturas de pantallas y un vídeo en los que supuestamente se ve cómo lo hicieron.
El medio también indica que estos usuarios han utilizado Mythos desde el primer momento, pero que su intención es experimentar con él, no causar daños, como señaló la fuente.
Claude Mythos es un modelo recientemente anunciado por Anthropic, diseñado para proteger el ‘software’ crítico, a partir de su capacidad para identificar vulnerabilidades de alta gravedad en todos los principales sistemas operativos y navegadores web.
Sin embargo, y para que estas capacidades no se aprovechen de manera malintencionada, Anthropic anunció un lanzamiento en vista anticipada -no se ha publicado- dentro del Proyecto Glasswing, que reúne a compañías relevantes del sector tecnológico como Amazon Web Services, Apple, Google, Microsoft y Nvidia, quienes sí pueden usarlo.
También tiene acceso el Instituto de Seguridad de la IA (AISI, por sus siglas en inglés), perteneciente al Departamento de Ciencia, Innovación y Tecnología del gobierno del Reino Unido, que pudo poner a prueba las capacidades de este modelo con evaluaciones controladas.
Con ellas descubrieron que Claude Mythos tiene la capacidad de atacar de manera autónoma a empresas pequeñas que cuentan con protecciones débiles.
Descubre más desde TEKIOS
Suscríbete y recibe las últimas entradas en tu correo electrónico.
