OpenAI, Anthropic ve Microsoft yapay zekâ güvenlik bildirisini imzaladı

Altı ülkenin liderleri ile OpenAI, Anthropic ve Microsoft’un da aralarında olduğu on yapay zekâ şirketinin yöneticileri, 9 Kasım’da yapay zekâ güvenliği üzerine ortak bir bildiriye imza attı. Metnin adı “Paris Yapay Zekâ Emniyeti ve Güvenliği Çağrısı”; ayrıntıları Kanada Başbakanlığı duyurdu.

İmzacı ülkeler Bahreyn, Kanada, Finlandiya, Fransa, Norveç ve Hollanda. Şirket tarafında OpenAI, Anthropic ve Microsoft’un yanında Fransız Mistral AI, Kanadalı Cohere, Japon Sakana AI, Hugging Face, Black Forest Labs, Domyn ve Synthesia var. LawZero, SaferAI, AI Safety Connect ve Fransız düşünce kuruluşu Ifri de listeye adını yazdıranlar arasında. Bildiri yeni katılımlara açık bırakıldı, zamanla güncellenecek.

Bunu da okuyun: Avustralya, OpenAI’ın Medicare sızıntısı sonrası yapay zekâya bildirim zorunluluğu getiriyor

Bildiride hangi sözler verildi?

Metin, riskleri ne devletlerin ne de şirketlerin tek başına yönetebileceği fikrine dayanıyor. Taraflar üç noktada anlaştıklarını söylüyor: açık ve öngörülebilir bir düzenleme çerçevesi, şeffaflık ile olay bildirimi ve risk yönetiminde somut adımlar, bir de modeller için sıkı değerlendirme standartları.

Bunu kâğıt üstünde bırakmamak için üç taahhüt de eklenmiş:

• Gelişmiş yapay zekâ modellerini değerlendirmek ve risklerini yönetmek için ortak bir çerçeve kurulacak.
• Ekosistemdeki herkes sorumluluk ve hesap verebilirlik ilkelerine bağlı kalacak.
• Bilgi paylaşımı ve erken uyarı sistemleri geliştirilecek.

Neler eksik?

Listede ABD, Çin ve İngiltere gibi yapay zekâda başı çeken ülkeler yok; Google ve Meta da imzacılar arasında görünmüyor. Bildiri bağlayıcı bir anlaşma değil, bir niyet beyanı niteliğinde. Ortak değerlendirme çerçevesinin nasıl işleyeceği, kimin denetleyeceği henüz açıklanmadı.

Yapay zekâ şirketlerinin güvenlik tarafındaki son tartışmaları için: OpenAI, veri merkezlerinde yetkililerle gizlilik sözleşmesi imzalamayacak.

Kaynak: NTV