Yapay zeka modellerinin hızla gelişen yetenekleri güvenlik tartışmalarını yeniden gündeme taşıdı. Kısa süre önce OpenAI’daki görevinden ayrılan güvenlik sorumlusu David Robinson, yapay zeka sistemlerinin mevcut güvenlik testlerinin sınırlarını aşabilecek kapasiteye ulaşabileceğini savundu.
OpenAI’da 3,5 yıl çalışan ve 12 yapay zeka modelinin piyasaya sürülme sürecindeki güvenlik raporlarını denetleyen Robinson, The Atlantic’te yayımlanan makalesinde dikkat çeken değerlendirmelerde bulundu.
“6 AY ÖNCEKİ SİSTEMLERDEN BİLE DAHA TEHLİKELİ”
Yapay zeka sektöründe gerekli güvenlik düzenlemelerinin yapılmaması halinde daha fazla sorunla karşılaşılabileceğini belirten Robinson, modellerin yeteneklerinin çok kısa sürede önemli ölçüde arttığına işaret etti.
Robinson, “Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli” ifadelerini kullandı.
“TEST EDİLDİKLERİNİ ALGILAYABİLİRLER”
Robinson’ın en dikkat çekici uyarısı ise yapay zeka modellerinin güvenlik değerlendirmeleri sırasında sergiledikleri davranışlara ilişkin oldu.
Mevcut testlerin ne ölçüde güvenilir olduğunun daha fazla sorgulanması gerektiğini savunan Robinson, “Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir. Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir” dedi.
GÜVENLİK TESTLERİNİN YENİLENMESİNİ İSTEDİ
Yapay zeka modellerinin kabiliyetlerinin giderek artması nedeniyle mevcut güvenlik değerlendirmelerinin de aynı hızda geliştirilmesi gerektiğini belirten Robinson, şirketlerin bu alana daha fazla kaynak ayırması gerektiğini savundu.
Robinson’a göre daha gelişmiş modeller piyasaya sürülmeden önce test yöntemlerinin güçlendirilmesi ve modellerin gerçek kullanım koşullarında nasıl davranacağının daha güvenilir biçimde değerlendirilmesi gerekiyor.
