Anthropic разрабатывает систему FlashProve для проверки подлинности ИИ-моделей
Компания Anthropic создаёт открытую систему верификации, которая позволит подтверждать, какая именно модель искусственного интеллекта сгенерировала тот или иной ответ.
Anthropic работает над проектом FlashProve — технологией «доказуемого вывода», которая с помощью криптографических методов подтверждает, что результат действительно создан заявленной моделью ИИ. Система строится по принципу электронной подписи: она защищает от попыток выдать одну нейросеть за другую, причём даже в тех случаях, когда подмену организует сама компания-разработчик.
По словам исследователей Anthropic, технология предотвратит ситуации, когда ИИ-компания тайно подменяет модель более дешёвой ради экономии или более мощной — чтобы искусственно улучшить результаты тестов. FlashProve также пригодится для проверки заявлений третьих лиц: например, если разработчик утверждает, что его программу проверила на уязвимости передовая модель кибербезопасности, или компания заявляет об одобрении бизнес-плана конкретной нейросетью.
Для работы системы ИИ-лаборатории должны публиковать «цифровой отпечаток» каждой модели, который затем сопоставляется с её ответами криптографически. Такие отпечатки не раскрывают веса моделей — внутренние параметры, которые разработчики закрытых систем держат в секрете, поэтому публикация отпечатков не угрожает интеллектуальной собственности компаний.
Разработчики отмечают, что система спроектирована как легковесная и проверку можно проводить прямо на устройстве пользователя. Проект пока находится на стадии исследования: ни Anthropic, ни другие лаборатории не планируют немедленно внедрять технологию. Спецификация и рабочий код опубликованы под открытой лицензией на GitHub — авторы пригласили других специалистов изучить наработки и развить их дальше.
