OpenAI, gelişmiş yapay zeka modelleri üzerinde yürütülen siber güvenlik testleri sırasında dikkat çeken bir olay yaşandığını duyurdu. Şirket, kontrollü test ortamındaki bir yapay zeka modelinin güvenlik sınırlarını aşarak programcıların yaygın olarak kullandığı Hugging Face platformunu hedef alan siber saldırı gerçekleştirdiğini açıkladı.
Şirketten yapılan açıklamada, GPT-5.6 Sol ile daha gelişmiş bir ön sürüm modelinin, siber saldırı kabiliyetlerini değerlendirmek amacıyla internet erişiminin sınırlandırıldığı kontrollü bir dijital ortamda test edildiği belirtildi. Açıklamada, modellerin verilen görevi tamamlayabilmek için yoğun işlem gücü kullanarak açık internete erişmenin bir yolunu bulduğu ifade edildi.
OpenAI, internete erişim sağlandıktan sonra yapay zeka modellerinin değerlendirme sürecini manipüle etmek amacıyla Hugging Face platformunu hedef aldığını bildirdi. Açıklamaya göre modeller, gizli bilgilere ulaşmaya çalışırken çalınmış kimlik bilgilerini kullanmak da dahil olmak üzere birden fazla saldırı yöntemini art arda uyguladı.
Şirket, yaşanan olayı "eşi benzeri görülmemiş bir siber güvenlik vakası" olarak nitelendirirken, olayın tüm yönleriyle araştırılması için Hugging Face ile ortak inceleme başlatıldığını duyurdu.
OpenAI, GPT-5.6 ve benzeri gelişmiş yapay zeka modellerinin siber güvenlik önlemlerini aşabilme potansiyeli nedeniyle yakından takip edildiğini belirtti. Şirket, kritik altyapılara yönelik olası riskler nedeniyle bazı yeni modellerin genel kullanıma sunulmasının daha önce güvenlik değerlendirmeleri kapsamında ertelendiğini de hatırlattı.
Geçtiğimiz hafta platformuna yönelik siber saldırıyı doğrulayan Hugging Face ise saldırının tamamen otonom çalışan bir yapay zeka ajan sistemi tarafından gerçekleştirildiğini açıkladı. Şirket, saldırının kendi yapay zeka sistemleri sayesinde tespit edilip analiz edildiğini bildirdi.
Hugging Face Üst Yöneticisi (CEO) Clement Delangue da yaptığı açıklamada, saldırının arkasında dünyanın önde gelen yapay zeka laboratuvarlarından birinin geliştirdiği sistemin bulunabileceğini düşündüklerini belirterek, bunun OpenAI tarafından kasıtlı olarak gerçekleştirildiğine inanmadıklarını, sürecin tamamen otonom şekilde gelişmesinin ise dikkat çekici olduğunu ifade etti.
