Anthropic’ten çarpıcı uyarı: Kendini geliştiren yapay zekâya çok yakınız
Anthropic, halka arz belgesinde kendini geliştiren yapay zekâ (RSI) eşiğine yaklaşabileceğini yazdı. Şirket, insan denetiminin süreceğini söylüyor.
Claude’un geliştiricisi Anthropic, ABD’de halka arz için sunduğu güncellenmiş S-1 belgesine yeni bir risk maddesi ekledi. Şirket, yapay zekânın kendi kendini geliştirdiği aşamaya, yani İngilizce kısaltmasıyla RSI’a (recursive self-improvement) yakın olabileceğini yazdı.
Belgenin dikkat çeken kısmını TechCrunch fark etti. Pazartesi günü açıklanan belgede çoğu kişi gelir ve gider rakamlarına odaklanırken, risk faktörleri bölümünün dipnot gibi duran satırları teknoloji dünyasında asıl konuşulan yer oldu.
Bunu da okuyun: Anthropic, Claude Code ile var olan oyunların kopyalanmasını engelledi
Belgede tam olarak ne yazıyor?
Anthropic, kendi araştırmalarını hızlandırmak için yapay zekâyı giderek daha çok kullandığını kabul ediyor. Buna göre modellerin yetenekleri, şirketin güvenlik önlemlerini geliştirip test etme hızından daha hızlı artabilir. Şirket, geçmişte bazı büyük ilerlemeleri ancak olup bittikten sonra fark ettiğini de yazıyor.
En çok alıntılanan cümle şu: Şirketin iç tahminleri, gelecekteki modellerin Sorumlu Ölçeklendirme Politikası’ndaki “yapay zekâya bağlı çarpıcı biçimde hızlanmış ilerleme” tanımına “yakında” ulaşabileceğini gösteriyor. Anthropic, şu anki modellerinden hiçbirinin bu eşiği aştığını düşünmüyor ve verileri incelemeyi sürdürdüğünü belirtiyor.
RSI neden bu kadar tartışılıyor?
RSI, yapay zekânın kendini eğitmekte o kadar iyileşmesi ki gelişim hızının birden katlanması anlamına geliyor. Kötümser kesime göre bu, kontrolün insandan çıktığı nokta. İyimserler ise bilimsel keşifte eşi görülmemiş bir verimlilik bekliyor. Anthropic belgede iki ihtimali de dile getiriyor: Yapay zekâyla daha güçlü yapay zekâ üretmenin, özellikle ilerlemeyi sert biçimde hızlandırırsa, “ciddi bir güvenlik riski” taşıyabileceğini yazıyor.
Şirket, Claude’u sınır modellerin sonraki kuşaklarını anlamlı bir insan denetimi olmadan tümüyle kendi başına tasarlamak için güvenle kullanabileceğini öngörmediğini de ekliyor. Politikasını, sınır model geliştirmede kontrolün insanda kalacağı şekilde güncellemeyi düşünüyor.
Şüpheci bir not da var: Halka arz belgeleri hem bilgilendirme hem tanıtım işlevi görüyor, bu yüzden “kendini kurabilecek kadar güçlü modele yakınız” demek yatırımcıya da bir mesaj. Anthropic’in Claude kullanımına getirdiği son kurallar için bu haberimize bakabilirsiniz.
Kaynak: TechCrunch, Anthropic S-1 belgesi
