👓 Tiempo de lectura: 90 segundos
Este pasado fin de semana, el último modelo (y más avanzado) de Anthropic, Claude Mythos, fue retirado del mercado a petición del gobierno de los Estados Unidos.
Un poco de contexto.
Hará cosa de 2 meses, Anthropic anunció que tenía un modelo turbo potente pero que no podían sacarlo al mercado porque era un riesgo para la seguridad mundial, pues era muy bueno en encontrar vulnerabilidades en los sistemas informáticos.
Bien.
Anthropic siempre ha pedido al gobierno que intermedie ante empresas de IA para garantizar la seguridad humana.
Bien.
El pasado 9 de junio, Anthropic lanzó Mythos en dos versiones:
Mythos Fable: abierto a todos los mortales. Es Mythos con guardarraíles.
Mythos: solo para empresas privadas seleccionadas.
El 12 de junio, tras una directiva de seguridad nacional del gobierno de Estados Unidos, Mythos se cerró.
¿Razón que han dado?
Habían encontrado un jailbreak (o vulnerabilidad) que convertía a Fable en Mythos, algo que al parecer no es bueno que pase por los hackers maliciosos.
¿Quién reportó este jailbreak?
El CEO de Amazon. Dato curioso, pues Amazon es un gran inversor de Anthropic.
Andy Jassy comunicó al departamento de seguridad del gobierno que su equipo había encontrado una vulnerabilidad. El gobierno avisó a Anthropic de que lo parchease en hora y media. Se negaron, pues dijeron que no era tan peligroso y que ya existían ese tipo de jailbreaks en modelos de la competencia. El gobierno obligó a cerrar Mythos.
¿Recuerdas que te dije que Anthropic había dicho que este modelo era demasiado peligroso para hacerlo público? Entonces, ¿le hacen el jailbreak y ya no te parece tan importante? ¿Era todo una estrategia de marketing?
Sea como fuere, y por las razones que nunca sabremos, si en tus comunicados dices que el gobierno debe actuar ante la seguridad humana y ahora tu modelo “peligroso” es susceptible de serlo de verdad, se consecuente con tus palabras o el marketing se te puede dar la vuelta.
Cosa que está pasando. Cosa que no hubiese pasado si tuviesen a YAMATO como su consultora de marketing.
¿Qué ha pasado de verdad?
Eso lo saben el pelo risketo, el de Amazon y los de Anthropic. Supongo.
Nos leemos mañana.
