Anthropic, AI güvenliği için Accenture ekibini şirket içine alıyor

Anthropic, 18 Eylül 2026'da Accenture'ın AI birimi Faculty ile şirket içine yerleşen değerlendirme ekipleri kurulacağını duyurdu. Yaklaşım, bitmiş modelin dışarıdan sınanmasının ötesine geçerek eğitim, uyum ve koruma süreçlerinin içeriden incelenmesini hedefliyor. Başlangıç çalışmalarının Anthropic tarafından finanse edileceği de açıklamada belirtiliyor.

İki şirket, beş yıl içinde bu alana ayrı ayrı en az 1 milyar dolar yatırım yapmayı beklediklerini söylüyor. Bu, ileriye dönük bir beklenti; bugün harcanmış para veya tamamlanmış bir denetim olarak sunulmamalı. Çalışmanın standartları ve finansman yapısının bazı ayrıntıları da geliştirilme aşamasında bulunuyor.

Anthropic CEO'su Dario Amodei'nin Eylül tarihli yazısı, değerlendiricilere ilgili çalışanlara benzer erişim verilmesini ve temel bulguların yayımlanabilmesini savunuyor. METR'nin çalışma tanımı ise bağımsız model değerlendirmelerinin yetenekleri ve değerlendirme bütünlüğünü inceleyebildiğini gösteriyor. Bunlar duyurunun bağlamını açıklıyor; yeni düzenin başarısını peşinen kanıtlamıyor.

Denetçinin erişimi ve bağımsızlığı

Editoryal değerlendirmemize göre haberin en önemli noktası, bir güvenlik iddiasının hangi kanıtlarla sınanacağı. Denetçi yalnızca şirketin seçtiği birkaç gösterimi görüyorsa, süreçteki sorunları anlaması zorlaşır. Daha geniş erişim, eğitim sırasında ortaya çıkan olayların ve alınan kararların birlikte incelenmesine imkân sağlayabilir.

Bununla birlikte içeride bulunmak, bağımsızlığın kendiliğinden sağlandığı anlamına gelmez. İncelenen şirketin çalışmayı finanse etmesi, raporlama haklarının açık tanımlanmasını önemli kılıyor. Hangi bulguların yayımlanabileceği, erişimin hangi durumlarda sınırlandığı ve anlaşmazlıkların nasıl kaydedildiği, modelin gerçek değerini belirleyecek sorular arasında. Denetçinin hangi ham kayıtlara erişebildiği ve bir olayın kök nedenini yeniden kurup kuramadığı da izlenmeli.

Amodei'nin önerisindeki yayımlama hakkı, bu nedenle teknik erişim kadar dikkat çekici. Şirket sırrının korunması ile kamuoyunun riskleri öğrenmesi arasında uygulamada zor kararlar çıkabilir. Bir raporun yalnızca olumlu bölümlerinin görünmesi, denetimin amacını zayıflatır; kısıtlamaların da raporda anlaşılabilmesi güven açısından değerlidir.

Kurumlar açısından bu gelişme, AI tedarikçisine sorulacak soruları genişletebilir. Sadece bir güvenlik sertifikasının bulunup bulunmadığını öğrenmek yerine, incelemenin kapsamı ve zamanı sorulabilir. Eğitim süreçleri, yayın öncesi testler ve kullanım sırasında gözlenen olaylar farklı kanıt türleri üretir; tek bir sonuç belgesi hepsini temsil etmeyebilir.

Anthropic ve Accenture'ın planı, gelişmiş AI sistemlerinde denetimin nasıl örgütleneceğine dair somut bir girişim. Bizce sonuç, ilan edilen yatırım büyüklüğünden çok denetçilerin neyi görebildiği ve neyi açıklayabildiğiyle ölçülmeli. Henüz kurulmakta olan bu düzenin güvenilirliği, sonraki raporların ayrıntı düzeyiyle değerlendirilebilecek.

■ MİZAN HABER