Yapay Zeka 10 Yıl İçinde İnsanlığı Yok Edebilir. Dünyanın en önde gelen yapay zeka şirketlerinden Anthropic’in kıdemli güvenlik araştırmacısı Mrinank Sharma, görevinden istifa ettiğini duyurdu. Sharma, yayınladığı ayrılık mesajında yapay zeka teknolojisinin kontrolsüz ilerleyişine dikkat çekerek önümüzdeki 10 yıl içinde insanlığın varoluşsal bir tehditle (yok oluş riski) karşı karşıya kalabileceği uyarısında bulundu.
Claude yapay zeka modelinin geliştiricisi olan Anthropic’teki bu istifa, teknoloji dünyasında güvenlik kaygılarının ne denli ciddi bir seviyeye ulaştığını bir kez daha gözler önüne serdi.
“Aşırı Güven ve Hızlı İlerleme Büyük Risk Yaşatıyor”
Görevi süresince yapay zekanın güvenliği ve etik standartları üzerine çalışan Mrinank Sharma, istifa kararının ardından yaptığı açıklamalarda şu kritik noktalara değindi:
- Sorumsuz Rekabet: Yapay zeka şirketleri arasındaki “daha güçlü model geliştirme” yarışının, güvenlik ve kontrol protokollerinin önüne geçtiğini belirtti.
- 10 Yıllık Kritik Eşik: Mevcut ilerleme hızıyla yapay zekanın insan kontrolünden çıkma riskinin %10 ila %20 arasında olduğunu ve önümüzdeki 10 yılın insanlığın kaderini belirleyeceğini vurguladı.
- Şirket İçi Kaygılar: Teknoloji devlerinin “Yapay Zeka Güvenliği” vaatlerinin kağıt üzerinde kaldığını ve kâr/rekabet odaklı kararların güvenlik önlemlerini gölgede bıraktığını ifade etti.
Yapay Zeka Dünyası Neden Alarm Veriyor?
Son yıllarda OpenAI, Google ve Anthropic gibi dev şirketlerden üst düzey güvenlik uzmanlarının arka arkaya istifa etmesi rastlantı değil. Araştırmacılar, İnsan Hizmetindeki Genel Yapay Zeka (AGI) seviyesine ulaşılmadan önce yasal düzenlemelerin ve “hizalama” (alignment) çalışmalarının zorunlu hale getirilmesi gerektiğini savunuyor.
Aksi takdirde, insan zekasını aşan sistemlerin kontrolden çıkması, siber güvenlik krizleri ve biyolojik tehditlerin önünü açma riski taşıyor.
Teknoloji devlerinde çalışan kilit isimlerin konfor alanlarını bırakarak tası toprağı toplaması ve insanlığı uyarması hafife alınacak bir durum değil. Yapay zekanın sunduğu muazzam imkanların yanında, etik ve güvenlik sınırlarının yasal çerçevelerle acilen çizilmesi gerekiyor.
