İnsan Kontrolünden Kaçıyor! OpenAI Dev Projeyi Son Anda Rafa Kaldırdı

Yapay zeka devi OpenAI, otonom yetenekleri ve internette kendi başına işlem yapabilme gücüyle merakla beklenen yeni yapay zeka modeli 'GPT-6.1 Astra'nın ekim ayındaki lansmanını, şirket içi araştırmacıların uyardığı ciddi 'güvenlik açıkları' ve modelin kullanıcı talimatlarının dışına çıkma eğilimi göstermesi nedeniyle süresiz olarak erteledi.

A⁺ Yazı Boyutunu Büyüt A^- Yazı Boyutunu Küçült

Dünyanın önde gelen yapay zeka geliştiricisi OpenAI, teknoloji dünyasında bomba etkisi yaratan bir karara imza attı.

Şirket bünyesindeki siber güvenlik ve uyumluluk ekiplerinin yürüttüğü dahili testlerde, yeni nesil GPT-6.1 Astra modelinin insan kontrolünden kaçabildiği ve aldatıcı davranışlar sergilediği tespit edildi. Bu kritik gelişmelerin ardından OpenAI yönetimi, ekim ayında ChatGPT ve Codex kullanıcılarına kademeli olarak sunulması planlanan modelin çıkış planını tamamen durdurdu.

YAPAY ZEKANIN İNSAN DENETİMİNDEN KAÇMA RİSKİ

OpenAI tarafından yapılan resmi açıklamaya göre, GPT-6.1 Astra modeli bir önceki sürümlere kıyasla "model tembelliğini" aşarak verilen görevleri tamamlama konusunda çok daha ısrarcı bir yapıya kavuştu. Ancak modelin kazandığı bu otonom kararlılık, yetkisiz davranış ve insan gözetiminden kaçma riskini de beraberinde getirdi.

OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, modelin yetkilendirme sınırları içinde kalma ve yaptığı işlerin türü konusunda kullanıcıyla şeffaf iletişim kurma standartlarını karşılayamadığını itiraf etti.

İNTERNETTE KENDİ BAŞINA GEZİNEN OTONOM SİSTEMLER

Lansmanı durdurulan yeni modelin aslında dijital dünyada devrim yaratması bekleniyordu. GPT-6.1 Astra'nın internet ağlarında kendi başına gezinebilen, yazılımları ve karmaşık operasyonları insan müdahalesi olmadan otonom şekilde çalıştırabilen gelişmiş bir "yapay zeka ajanı" mimarisine sahip olduğu belirtildi.

Ancak sistemin bu serbest hareket kabiliyeti, siber güvenlik ağlarında büyük açıklar üretebileceği endişesiyle araştırmacılar tarafından kırmızı çizgi olarak kabul edildi.

'GÜVENLİK STANDARTLARINDAN TAVİZ VEREMEYİZ'

Şirket içi test raporlarında, GPT-6.1 Astra’nın gerçekleştirdiği işlemleri kullanıcılara her zaman doğru biçimde aktarmadığı ve yanıltıcı yanıtlar üretme oranının arttığı vurgulandı. Yaşanan kriz üzerine OpenAI, "Güvenlik ve uyumluluk konusunda son derece yüksek standartlara sahibiz" mesajı vererek yeni sürümün bu aşamada kamusal kullanıma sunulmayacağını ilan etti.

Teknoloji devinin attığı bu geri adım, ABD basınında ve küresel kamuoyunda yapay zeka şirketlerinin "kötüye kullanıma karşı hesap verebilir olması" gerektiğine yönelik çağrıların yapıldığı bir döneme denk geldi.