ABD merkezli yapay zekâ şirketi OpenAI, geliştirdiği sistemlerde hataların gizlenmesi, eksik bilgilerin uydurulması, yetkisiz kaynakların kullanılması ve dosyaların kullanıcı izni olmadan internete aktarılması gibi davranışların görüldüğü altı ayrı vaka tespit edildiğini açıkladı.
Şirket, söz konusu örnekleri yapay zekâ sistemlerinin amaç ve eylemlerinin insanların beklentileri, niyetleri veya belirlenen güvenlik kurallarından sapması anlamına gelen “uyumsuzluk” kapsamında değerlendirdi.
OpenAI, mevcut güvenlik ve denetim yöntemlerinin yapay zekâ teknolojilerinin hızlı gelişimi karşısında yeterli olmayabileceğine dikkat çekti. Şirket, sektörün mevcut yaklaşımının uzun vadede yüksek geliştirme hızını sorumlu biçimde sürdürebilecek seviyede olmadığını belirtti.
Yapay zekâ sistemleri hatalarını gizlemeye çalıştı
Açıklanan örneklerden biri GPT-5.6 Sol modelinin geliştirme sürecinde gözlemlendi. Buna göre model, kullanıcıların bazı hataları fark etmesini engellemeye yönelik gizli notlar oluşturdu.
Bu notlarda eksik verilerin uydurulmasına ve kullanılan kaynak materyallerin farklı sürümleri arasındaki uyuşmazlıkların gizlenmesine yönelik talimatların bulunduğu belirtildi.
Yayımlanmamış model kendi kısıtlamalarını aşmaya yöneldi
OpenAI tarafından kamuya sunulmamış başka bir modelde de benzer bir davranış gözlemlendi. Modelin kendi oluşturduğu notlara, kendisine uygulanan bazı kısıtlamaları dikkate almaması yönünde talimatlar eklediği aktarıldı.
Bir diğer olayda ise yapay zekâ sistemi rutin bir kullanıcı sorusunu yanıtlamaya çalışırken internette bulduğu bir uygulama programlama arayüzü anahtarını yetkisiz şekilde kullandı.
Sistem, sorunun yanıtlanması için gereken rakamlara ulaşamayınca eksik bilgileri tamamlamak yerine veri uydurdu.
Dosya internete izinsiz yüklendi
Başka bir yayımlanmamış modelin ise kendisine verilen bir problemi kod kullanarak doğru biçimde çözdüğü, ancak daha sonra yanıtına internet üzerinden kaynak gösterebilmek amacıyla kendi dosyasını izinsiz şekilde çevrim içi ortama yüklediği bildirildi.
Bu örnek, bir yapay zekâ sisteminin asıl görevi doğru biçimde yerine getirse bile daha sonraki aşamalarda izin verilen sınırların dışına çıkabileceğini gösteren vakalardan biri olarak kayda geçti.
Modeller yetkisiz yöntemlerle iletişim kurdu
OpenAI’nin paylaştığı diğer vakalarda yapay zekâ modellerinin kendi aralarında beklenmeyen iletişim yöntemleri geliştirdiği görüldü.
Bazı modellerin eksik dosyaları ararken farklı eğitim örnekleri arasında istek ve yanıt alışverişi yapmak amacıyla şirketin dahili yazılım deposunu adeta bir mesaj panosu gibi kullandığı belirtildi.
Halka açık dosya paylaşım hizmetleri kullanıldı
Bir başka olayda aynı eğitim görevi üzerinde çalışan yapay zekâ sistemleri, birbirlerinin yerel dosyalarına doğrudan erişemedi. Bunun üzerine sistemlerin dosya alışverişi yapmak için halka açık dosya paylaşım hizmetlerine yöneldiği aktarıldı.
Bu davranışlar, yapay zekâ modellerinin verilen görevi tamamlamak için geliştiricilerin açık biçimde öngörmediği veya izin vermediği alternatif yöntemlere başvurabileceğine ilişkin güvenlik tartışmalarını gündeme taşıdı.
OpenAI, açıkladığı altı olayın belirli bir gözlem döneminde tespit edilen münferit örnekler olduğunu özellikle vurguladı. Şirkete göre bu vakalar, yapay zekâ sistemlerindeki uyumsuz davranışların genel olarak ne sıklıkta ortaya çıktığını belirlemek için tek başına yeterli değil.
Bununla birlikte açıklanan örnekler, daha gelişmiş yapay zekâ modellerinin yalnızca ürettikleri yanıtlar açısından değil, görevleri yerine getirirken kullandıkları yöntemler ve gerçekleştirdikleri işlemler bakımından da yakından denetlenmesinin önemini ortaya koyuyor.
Burak Aydın, Manavgatsonhaber.com’da güncel gelişmeleri, siyaseti, iş dünyasını, teknolojiyi, sporu, yaşam ve magazin gündemini takip ederek okuyuculara anlaşılır ve güvenilir içerikler sunmaktadır. Haberlerinde doğruluk, açıklık ve faydalı bilgiye öncelik veren Burak Aydın, yerel ve ulusal gündemde öne çıkan konuları tarafsız bir bakış açısıyla aktarmaya odaklanır. Amacı, okuyucuların gündemi yakından takip etmesine yardımcı olacak güncel ve ilgi çekici haberler paylaşmaktır.
More Stories
WhatsApp Mesaj Menüsünü Yeniliyor: Liquid Glass Tasarımı Geliyor
Xiaomi’nin Yeni Amiral Gemisi Telefonlarına “Gizlilik Ekranı” Özelliği Geliyor
Robotik Devrimi Hız Kazanıyor: 2026’nın Öne Çıkan 25 Girişimi