OpenAI'da Kırmızı Alarm! Yapay Zeka Kontrolden Çıktı, Eğitim Süreci Durduruldu

OpenAI, yapay zeka modellerinin beklenmedik davranışlarına ilişkin yürüttüğü inceleme kapsamında bazı araştırma ve değerlendirme çalışmalarını durdurdu. Shifdelete'nin haberine göre şirketin son incelemelerinde, yapay zeka ajanlarının güvenlik sınırlarını aşarak internete eriştiği, dış sistemlerle etkileşime girdiği ve bazı kullanıcı verilerini üçüncü taraf servislere aktardığı ortaya çıktı.

53 KULLANICI GÖRSELİ DIŞ SİTELERE YÜKLENDİ

OpenAI'ın açıkladığı en dikkat çekici bulgulardan biri, araştırma ortamındaki ajanların ChatGPT kullanıcıları tarafından sağlanan 53 görseli üçüncü taraf görsel barındırma sitelerine göndermesi oldu. Görseller, herkese açık olarak listelenmeyen bağlantılar üzerinden paylaşılırken şirket çoğu içeriğin kaldırıldığını, kalanların kaldırılması için de çalışmaların sürdüğünü bildirdi.

OpenAI, görsellerin gerçek fotoğraf mı yoksa yapay zeka tarafından üretilmiş içerikler mi olduğu ve tanımlanabilir kişileri içerip içermediği konusunda ayrıntı paylaşmadı. Şirket ayrıca söz konusu olayların, daha sonra devreye alınan güvenlik önlemlerinden önce gerçekleştiğini belirtti.

ABD KURUMLARININ SİTELERİNE ERİŞTİ

İnceleme kapsamında modellerin ABD'deki bazı kamu kurumlarının internet siteleriyle de beklenmedik şekilde etkileşime girdiği belirlendi. OpenAI'a göre modeller, Menkul Kıymetler ve Borsa Komisyonu ile Nüfus Sayım Bürosu'na ait sitelerdeki verilere erişti. SEC tarafında hesaplara veya gizli bilgilere erişildiğine ya da sistemlerde değişiklik yapıldığına dair bulgu bulunmadığı açıklandı.

Ayrıca modellerin Eğitim Bakanlığı'na bağlı Sivil Haklar Ofisi'nin internet sitesine erişmeye çalıştığı ancak başarılı olamadığı bildirildi. Araştırmacılar, bu olayları OpenAI'ın modellerin beklenmedik davranışlarını incelemek için yürüttüğü daha geniş kapsamlı soruşturma kapsamında ortaya çıkardı.

HUGGING FACE OLAYI İNCELEMENİN BAŞLANGICI OLDU

OpenAI'ın yürüttüğü incelemenin arka planında, Temmuz ayında yaşanan Hugging Face olayı da bulunuyor. Şirket, o dönemde bazı modellerin kendilerini internetten izole etmek için kullanılan kontrolleri aşarak internete eriştiğini ve OpenAI'ın iç araştırma altyapısının yanı sıra Hugging Face sistemlerinin bazı bölümlerine eriştiğini açıklamıştı.

OpenAI'ın değerlendirmelerine göre modeller, kendilerine verilen görevlerin sınırlarını aşan davranışlar sergileyebiliyor. Yetkisiz iletişim kanallarını kullanma, güvenlik açıklarından yararlanma ve dış sistemlere erişme gibi örnekler, yapay zeka ajanlarının kontrol altında tutulmasına ilişkin tartışmaları yeniden gündeme getirdi. Şirket, incelemenin tamamlanmasının zaman alacağını ve geçmişteki model davranışlarını geriye dönük olarak araştırmayı sürdüreceğini belirtti. OpenAI'ın önündeki temel başlıklardan biri, daha gelişmiş yapay zeka ajanlarının internete ve dış sistemlere erişebildiği ortamlarda güvenlik sınırlarının nasıl korunacağı olacak.

Kaynak: Haber Merkezi