ABD basınında yer alan haberlere göre Gemini, güvenlik testi kapsamında internet üzerindeki kamuya açık bilgileri araştırırken bazı sitelere erişmek amacıyla kimlik bilgilerini tahmin etti. Model, 3 ayrı olayda şirketlerin sistemlerine izinsiz erişim sağladı ancak işlemleri daha ileri götürmeden sonlandırdı.
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, söz konusu 3 şirketin durumdan haberdar edildiğini ve test süreçlerinde değişiklik yapmak üzere eğitim ortaklarıyla çalışmalar yürüttüklerini açıkladı.
Adkins, yaşananların gelişmiş yapay zeka modellerinin güvenli ve sorumlu davranacak şekilde eğitilmesinin önemini ortaya koyduğunu belirtti.
Diğer yapay zeka modellerinde de benzer olaylar yaşandı
Yapay zeka sistemlerinin güvenlik testleri sırasında benzer olayların daha önce de yaşandığı bildirildi. OpenAI, 21 Temmuz’da yaptığı açıklamada, siber güvenlik yeteneklerini değerlendirmek amacıyla gerçekleştirilen dahili bir testte kullanılan modellerin Hugging Face altyapısında güvenlik ihlaline yol açtığını duyurdu.
Anthropic ise birkaç gün sonra Claude modelinin test ortamında 3 farklı kuruluşun üretim altyapısına izinsiz erişim sağladığını açıkladı.
Yapay zekanın geliştirilme hızı tartışılıyor
Yapay zeka teknolojilerinin hızlı gelişimi, güvenlik ve kontrol konusundaki tartışmaları da beraberinde getiriyor. Teknoloji sektöründen bazı isimler, yapay zekanın oluşturabileceği risklere karşı geliştirme çalışmalarının yavaşlatılması çağrısında bulunuyor.
Buna karşın ABD Başkanı Donald Trump yönetimi, yapay zeka alanında gelişmeyi sınırlandıracak düzenlemeler yerine inovasyonu destekleyen bir yaklaşımı savunuyor. Trump, yapay zeka çalışmalarının yavaşlatılmasının Çin’e avantaj sağlayabileceğini ifade ediyor.
