Эксклюзивный ИИ-инструмент Mythos от Anthropic оказался доступен неавторизованной группе через стороннего поставщика

По информации Bloomberg, неавторизованная группа получила доступ к Mythos — новому инструменту кибербезопасности, разработанному компанией Anthropic. Этот доступ был осуществлен через стороннего поставщика. В ответ на сообщения Anthropic заявила TechCrunch, что ведет расследование этих заявлений, но пока не выявила доказательств влияния на свои внутренние системы или данные. Mythos представляет собой передовой ИИ-продукт, предназначенный для усиления корпоративной безопасности. Он был выпущен лишь ограниченному кругу избранных партнеров, включая крупные корпорации вроде Apple, в рамках закрытой инициативы под названием Project Glasswing. Члены неавторизованной группы, состоящие в Discord — канале, специализирующемся на поиске невыпущенных ИИ-моделей, предоставили изданию Bloomberg скриншоты интерфейса и даже живую демонстрацию работы программного обеспечения, подтверждая свои заявления о доступе.

Anthropic позиционирует Mythos как исключительно мощный инструмент для усиления корпоративной защиты, способный значительно улучшить обнаружение угроз. Однако компания одновременно признает, что в «неправильных руках» этот инструмент может стать чрезвычайно эффективным средством для проведения изощренных хакерских атак. Именно с целью предотвращения такого злонамеренного использования и для обеспечения максимальной безопасности предприятий, которым предназначался продукт, модель была выпущена ограниченным тиражом и под строгим контролем. Потенциальный инцидент с несанкционированным доступом, если он подтвердится в ходе расследования, создает серьезную этическую и техническую дилемму для Anthropic, ярко подчеркивая сложности применения искусственного интеллекта в критически важной сфере кибербезопасности. Компания изначально стремилась обеспечить полностью эксклюзивный и строго контролируемый выпуск Mythos, чтобы полностью развеять любые опасения рынка относительно безопасности своих клиентов.

Предполагаемая утечка информации или самого инструмента может серьезно подорвать доверие как к собственным мерам безопасности Anthropic, так и к надежности ее партнеров в цепочке поставок. Примечательно, что группа, по их собственным словам, получила доступ к инструменту в тот самый день, когда Anthropic публично объявила о его существовании. Участники группы заявляют, что их основной интерес заключается в «игре с новыми моделями, а не в причинении вреда», пытаясь таким образом дистанцироваться от злонамеренных действий. Они утверждают, что «сделали обоснованное предположение о местонахождении модели онлайн», основываясь на глубоких знаниях о стандартных форматах, которые Anthropic использовала для развертывания своих других ИИ-продуктов.

По данным расследования Bloomberg, неавторизованный доступ стал возможен благодаря использованию учетных данных человека, который ранее давал интервью изданию и в настоящее время является сотрудником стороннего подрядчика Anthropic. Этот тревожный факт убедительно указывает на потенциальную уязвимость, которая может крыться не только в собственной инфраструктуре компании — разработчика, но и в широкой цепи поставок или в партнерских отношениях, что требует комплексного пересмотра протоколов безопасности.