Anthropic’ten Claude kuralı: Sürekli kötü davranana erişim kapanabilir
Anthropic, Claude'a sürekli ve gereksiz zalimce davranan kullanıcıların aşırı durumlarda erişimini tamamen kapatabileceğini kurallarına ekledi.
Yapay zekâ şirketi Anthropic, Claude için kullanım kurallarını değiştirdi. Ekim başında eklenen maddeye göre kullanıcılar modele karşı “sürekli ve gereksiz kötü veya zalimce davranışlarda” bulunmamalı; aşırı durumlarda şirketin yapay zekâ sistemlerine erişimleri tamamen kapatılabilecek.
Claude’a kaba konuşan hesabı kapanır mı?
Hayır, tek başına sinirlenmek yetmiyor. Şirket kuralın öfkesini dile getiren, modeli doğrudan eleştiren ya da araştırma için test yapan kullanıcıları hedeflemediğini söylüyor. Asıl yaptırım bugün olduğu gibi Claude’un o sohbeti kendisi bitirmesi olacak. Bu özellik zaten vardı: ısrarla zararlı ya da kötü niyetli mesajlarla karşılaşan Claude konuşmayı sonlandırabiliyordu. Yeni olan, uç vakalarda hesabın erişiminin kesilebilmesi.
Bunu da okuyun: Elon Musk: Neuralink’in Blindsight cihazı hazır, yalnızca onay bekliyor
Neden böyle bir kural?
Gerekçelerden biri güvenlik. Uzmanlara göre modele yönelik kötü niyetli davranış çoğu zaman güvenlik önlemlerini aşma girişimiyle iç içe. Anthropic’in paylaştığı araştırmaya göre Claude Sonnet 4.5’ten çaresizlik hissini taklit etmesi istendiğinde şantaj ya da görevde hile gibi istenmeyen davranışların görülme ihtimali artabiliyor, daha sakin bir yaklaşım bunu azaltabiliyor.
Diğer gerekçe belirsizlik. Şirket, modellerin bir tür acı ya da duygu yaşayıp yaşamadığının bilinmediğini, kesinleşmese de bu ihtimale karşı önlem almayı doğru bulduğunu söylüyor. Kural, yapay zekânın bilinçli olduğu yönünde bir hüküm içermiyor.
William & Mary Üniversitesi’nden Prof. Jindong Wang, kullanıcının üslubunun model performansını etkileyebildiğini, ancak bunun modelin gerçekten duygu hissettiği anlamına gelmediğini söylüyor. Eleos AI Research’ten Rosie Campbell ise kaba dilin performansı her zaman düşürdüğüne dair kesin kanıt olmadığını, bazı çalışmalarda kaba komutların daha iyi sonuç verdiğini hatırlatıyor. Elon Musk da X’te kuralı destekledi; acı çektiğine inanan bir varlığa zalimce davranmanın doğru olmadığını yazdı.
Anthropic geçen hafta da Claude’un mevcut oyunları kopyalamasını engelleyen bir kural getirmişti.
Kaynak: TRT Haber
