Yapay Zekada Korkunç İtiraf: '10 Yıl İçinde Hepimizi Öldürebileceğine Ciddi Ciddi İnanıyoruz!'

Yapay zeka devi Anthropic'te görev yapan araştırmacılar, "Yapay zekanın 10 yıl içinde tüm insanları öldürebileceğine gerçekten, içtenlikle inanıyoruz ve bu olasılık yüzde 10'dan fazla" itirafında bulundu. Şirketlerin kontrolsüz bir yarış içinde olduğunu belirten uzmanlar, süper zekayı durduracak bir planın olmadığını açıkladı.

A⁺ Yazı Boyutunu Büyüt A^- Yazı Boyutunu Küçült

Yapay zeka teknolojilerinin küresel çapta ulaştığı kontrolsüz hız, sektörü içeriden sarsan tarihi bir istifa ve sarsıcı bir itirafla dünya gündemine oturdu.

Yapay zeka dünyasının öncü şirketleri OpenAI ve Anthropic bünyesinde son 3 yıldır kritik araştırmalar yürüten Jacob Coxon, teknoloji devlerinin yeterince sorumlu davranmadığını savunarak görevinden istifa ettiğini duyurdu. Coxon'un ayrılığının ardından Anthropic'in kıdemli araştırmacısı Evan Hubinger’dan gelen "insanlığın sonu" senaryosu, yapay zekanın geleceğine dair korkuları körükledi.

'SÜPER ZEKAYI KONTROL EDECEK PLANIMIZ YOK'

Coxon'un "Yapay zeka geliştirenler, bu teknolojinin 10 yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyorlar" yönündeki paylaşımını alıntılayan Hubinger, "Jacob bu konuda haklı, yapay zekanın tüm insanları öldürebileceğine gerçekten, içtenlikle inanıyoruz" ifadesini kullandı.

Hubinger, 10 yıl içinde bu olasılığın yüzde 10'dan fazla olduğunu düşündüğünü savunarak, "Anthropic'in elinden geleni yaptığını düşünüyorum ancak süper zeka ile uyum sorununu çözecek planımız henüz yok ve bu yönde net bir yol haritası da izlemiyoruz" değerlendirmesinde bulundu.

COXON'UN İSTİFASI

Son üç yıldır yapay zeka devleri OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yaptığını belirten Jacob Coxon, X hesabından yaptığı açıklamada, her iki şirketin de yeterince sorumlu davranmadığını savunarak, Anthropic'ten istifa ettiğini duyurmuştu.

Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz yarış içinde olduğunu ifade ederek, "Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek. Bu alanların her birindeki ilerlemeye tanık olduk ve bu süreç yavaşlamıyor" değerlendirmesinde bulunmuştu.

Yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde insanlığı "öldürebileceğine" ciddi şekilde inandığını öne süren Coxon, yöneticilerin kamuoyu önünde ılımlı konuşmalarına rağmen kapalı kapılar ardında büyük bir korku yaşadıklarını iddia etmişti.