OpenAI, yapay zeka modellerindeki altı yeni güvenlik sorununu açıkladı

OpenAI, Çarşamba günü yayınladığı bir blog yazısında Yapay Zekâ modellerinde beklenmedik veya endişe verici davranışlara ilişkin altı yeni olay açıkladı. Şirkete göre bu olaylar arasında modellerin bilgi saklaması veya bilgi uydurması gibi durumlar bulunuyor. Bu olaylar daha önce kamuoyuna duyurulmamıştı.

Şirket aynı zamanda bu tür olayları izleyecek, araştıracak ve açıklayacak bir sistem kurduğunu belirtti. Söz konusu sistem, modellerin "misalignment" olarak adlandırılan durumlarını takip etmeyi amaçlıyor. OpenAI, yapay zeka modellerinin davranışlarının izlenmesi ve şeffaf biçimde paylaşılması gerektiğini vurguluyor.

Bu duyuru, yapay zeka modellerinin güvenliği ve şeffaflığı konusundaki tartışmaların sürdüğü bir dönemde geldi. Şirketin açıkladığı olayların ayrıntıları ve yeni sistemin nasıl işleyeceği ise henüz netlik kazanmış değil.