Anthropic, FlashProve adlı yeni bir araştırma prototipini duyurdu. Bu araç, üçüncü taraf yapay zeka hizmeti kullanıcılarının, modelin özel ağırlıklarını ifşa etmeden bir yanıtın belirli bir model tarafından üretildiğini doğrulamasına olanak tanıyor. 2 Kasım tarihli bir araştırma bülteninde detaylandırılan araç, Ethereum katman-2 ölçeklendirme çözümlerinde kullanılanlara benzer sıfır bilgi kanıtı tekniklerini kullanıyor. Konsept daha güçlü tüketici korumaları vaat etse de, kanıt üretimi aşamasının standart model çıkarımına kıyasla 70-95 kat daha fazla GPU yoğunluğuna sahip olduğu bildiriliyor; bu da yakın vadeli uygulanabilirliği konusunda soru işaretleri yaratıyor.

FlashProve nasıl çalışıyor

CryptoSlate'e göre, doğrulama süreci bir sağlayıcının model ağırlıklarının kriptografik bir taahhüdünü (parmak izini) yayımlamasıyla başlıyor. Bir kullanıcı girdi gönderdiğinde, sağlayıcı, taahhüt edilen modelin o girdiyle gözlemlenen çıktıyı ürettiğine dair bir kanıt üretiyor. Bir doğrulayıcı, modeli indirmeden veya çıkarımı yeniden çalıştırmadan kanıtı bir CPU üzerinde kontrol edebilir. Demo, Meta'nın 400 milyar parametreli Llama 4 Maverick modelinin 4-bit temsiline dönüştürülmesiyle yapıldı ve istek başına yaklaşık 19 MB'lık kanıtlar üretti. 24 işlekli bir CPU'da doğrulama yaklaşık 17 saniye sürerken, tek işlek için yaklaşık 21 saniye gerekti.

Performans ve sınırlamalar

Raporun vurguladığı temel dezavantaj, ağır hesaplama yüküdür. NVIDIA H100 GPU'sunda bir kanıt üretmek, aynı model çıkarımını sekiz H100 GPU'sunda vLLM motoruyla çalıştırmaya kıyasla 70-95 kat daha fazla GPU süresi gerektirdi. Benchmark, saniyede 110 token'lık bir işlem hızı ölçtü, ancak bu rakam yeni doğrulanmış token'ların hızını değil, 1.024 token'lık bir istekte işlenen toplam token'ları yansıtıyor. FlashProve ayrıca şu anda maksimum 1.024 token'lık bir bağlam penceresi destekliyor ve örneklemeli veya kayan noktalı çıktılar yerine yalnızca deterministik açgözlü token seçimlerini kanıtlıyor. Ek olarak, kanıt sistemi "bakımı yapılmayan bir araştırma ürünü" olarak etiketleniyor ve resmi güvenlik beyanları Lean kanıt asistanında sağlanıyor, ancak çalıştırılabilir kod bu beyanlara resmi olarak bağlanmadı.

Sonraki adımlarda neler izlenecek

Gözlemciler, Anthropic veya diğer yapay zeka sağlayıcılarının gerçek zamanlı doğrulamayı mümkün kılmak için kanıt üretim maliyetini azaltıp azaltamayacaklarını ve güvenilir ağırlık taahhütleri için endüstri standartlarının nasıl evrileceğini izleyecek. Mevcut yapay zeka hizmeti sözleşmeleriyle entegrasyon ve doğrulanabilir yapay zeka çıktılarında olası düzenleyici ilgi, FlashProve gibi araçların benimsenme yolunu da şekillendirebilir.

Kaynaklar

  • CryptoSlate: