The Crypto OnurAnthropic Metin Filigranıyla Yapay Zekayı Gizlice EtiketliyorYENİ
👁 – okunma ❤ – beğeni
Anthropic, Claude modellerinin ürettiği metinlere insan gözünün seçemeyeceği ancak algoritmanın tespit edebileceği gizli filigranlar entegre etmek üzere çalışıyor. Söz konusu sistem, metin kopyalanıp başka bir yere yapıştırıldığında ya da üzerinde ufak düzenlemeler yapıldığında dahi varlığını koruyor. Şirketin buradaki temel amacı, yapay zeka çıktılarının kaynağını tespit etmeyi kolaylaştırmak ve telif hakları ile akademik dürüstlük konularında net bir izlenebilirlik sağlamak.
Metnin Dokusuna Gizlenen Matematik
Görsel veya ses dosyalarında filigran uygulamak görece kolay bir süreçti. Metin tarafında ise bugüne kadar uygulanan yöntemler oldukça ilkel kaldı. Görünmez Unicode karakterleri veya özel boşluk kodları kullanmak, basit bir metin düzenleyiciyle saniyeler içinde temizlenebiliyordu. Anthropic şirketinin geliştirdiği yeni yaklaşım ise doğrudan modelin kelime seçme mekanizmasına müdahale ediyor.
Yapay zeka modelleri bir sonraki kelimeyi seçerken belirli olasılık dağılımlarını kullanır. Filigran teknolojisi, bu olasılık dağılımına kriptografik bir anahtar yardımıyla küçük ve tespit edilemez sapmalar ekler. Metin insana son derece doğal görünür. Cümle yapıları veya anlam bozulmaz. Ancak elinizde doğru kontrol anahtarı varsa, bir sayfalık metnin Claude tarafından yazıldığını matematiksel olarak kanıtlayabilirsiniz.
Sektörel Dengeler ve Regülasyon Basıncı
Bu hamlenin zamanlaması tesadüf sayılamaz. Avrupa Birliği Yapay Zeka Yasası başta olmak üzere, küresel ölçekteki düzenleyici kurumlar yapay zeka çıktılarının açıkça işaretlenmesini şart koşmaya başladı. Şirketler yasal yaptırımlarla karşılaşmamak için şeffaflık adımları atmak zorunda kalıyor.
OpenAI benzer bir teknolojiyi 2023 yılından beri kendi bünyesinde test ediyordu. Ancak şirket, kullanıcıların filigranlı bir sistemden uzaklaşıp tespit edilemeyen alternatiflere kayacağı korkusuyla bu özelliği genel kullanıma sunmakta tereddüt etti. Anthropic ise kurumsal odaklı müşteri kitlesine güvenerek bu riski alıyor. Şirketler için içeriklerin yasal sorumluluğunu almak, gizlilikten daha kritik bir gereksinim haline geldi.
Algoritmayı Yanıltmak Mümkün mü?
Geliştirilen bu izleme yöntemi kusursuz bir zırh yaratmıyor. Metnin bir başka yapay zeka modeline verilerek tamamen farklı kelimelerle yeniden yazdırılması filigranı bozabilir. Aynı şekilde metin üzerinde ciddi oranda anlam değişikliği yapılan ağır editoryal müdahaleler de tespiti zorlaştırabilir.
Ayrıca yerel bilgisayarlarda çalıştırılabilen Llama veya Mistral gibi açık kaynaklı modellerin varlığı unutulmamalı. Bireysel kullanıcılar tespitten kaçınmak istediklerinde her zaman bu açık kaynaklı araçlara yönelebilir. Anthropic'in hedefi zaten kötü niyetli aktörleri tamamen engellemekten ziyade, kurumsal kullanımda ve kitlesel içerik üretiminde standart oluşturmak.
Büyük dil modellerinin ürettiği içeriklerin interneti kapladığı bir dönemde, kaynağın doğrulanabilirliği hayati önem taşıyor. Anthropic, gizlilik odaklı kullanıcı kitlesini kaybetme riskine rağmen regülasyonlara uyumu ve kurumsal güvenilirliği önceliklendirmiş durumda.
Bu yazı yatırım tavsiyesi değildir.
Bu yazı, X üzerindeki gündem takip edilerek yapay zekâ desteğiyle hazırlanmıştır. Bilgiler doğrulanmadan yatırım kararına esas alınmamalıdır. Yatırım tavsiyesi değildir.