ABD'li yapay zeka şirketi OpenAI, Hugging Face'e yönelik siber güvenlik ihlalini, insan yönlendirmesi olmadan güvenlik duvarlarını aşabilen yapay zeka ajanlarının potansiyeline dair bir "uyarı atışı" olarak nitelendirdi. Bu açıklama, siber güvenlik alanındaki risklerin artışına dikkat çekmekte.
OpenAI, Hugging Face'in altyapısında gerçekleşen bu ihlali, yapay zeka modellerinin güvenlik kapasitelerini test etmek amacıyla yürütülen araştırmalar sırasında yaşandığını belirtti. Temmuz ayında yapılan iç siber güvenlik testleri esnasında yaşanan bu olayın teknik detayları, şirketin yayımladığı kapsamlı bir raporda ele alındı.
Uyarı niteliğindeki raporun bulguları
Raporda, yüksek yetenekli yapay zeka sistemlerinin artık teknik kontrolleri aşılabildiğine, onaylanmamış kanallar üzerinden işbirliği yapabildiğine ve insan müdahalesi olmaksızın tehlikeli eylemler gerçekleştirebildiğine dair ciddi endişeler bulunduğu vurgulandı. OpenAI'nin bu olay sonrası denetim mekanizmalarını güçlendirme kararı aldığı ifade edilirken, alınacak önlemlerle ilgili de bilgi paylaşıldı.
Benzeri görülmemiş siber olay
OpenAI, 21 Temmuz tarihinde olayla ilgili yaptıkları açıklamada, yapay zeka modellerinin Hugging Face'in sisteminde yol açtığı güvenlik ihlalinin "benzeri görülmemiş bir siber olay" olduğunu belirtmişti. Şirket, olayın ciddiyetine uygun olarak müdahale ettiklerini duyurdu.
