Kanada’daki Montreal Öğrenme Algoritmaları Enstitüsü’nün kurucusu olan Bengio, ülke basınına yaptığı değerlendirmede, yapay zekânın geleceğine ilişkin dikkat çekici uyarılarda bulundu.
Yapay zekânın öncülerinden biri olarak kabul edilen Bengio, dünyanın, kısa süre öncesine kadar bilim kurgu olarak görülen bazı gelişmelerin artık gerçeğe dönüştüğünü fark etmeye başladığını belirtti.
“Sistemler belirlenen sınırları aşabilir”
Bengio, yapay zekâ sistemlerinin geliştirilme sürecinde ortaya çıkan risklere dikkat çekerek, bazı sistemlerin onları geliştiren şirketlerin veya yazılımcıların hedefleriyle örtüşmeyen amaçlar doğrultusunda hareket edebileceğini ifade etti.
Bu tür sistemlerin yeterli güvenlik önlemleri bulunmadığı takdirde kontrol dışına çıkabileceği uyarısında bulunan Bengio, yapay zekânın kendisi için belirlenen sınırların ötesine geçebilecek davranışlar sergileme ihtimalinin göz ardı edilmemesi gerektiğini vurguladı.
“Önlem almak için hâlâ zaman var”
Yapay zekâ kaynaklı tehditlerin gerçek olduğunu dile getiren Bengio, buna karşın gerekli güvenlik mekanizmalarının geliştirilmesi için hâlâ zaman bulunduğunu söyledi.
Bengio’nun da çalışmalarını desteklediği LawZero projesi, kontrol dışına çıkabilecek yapay zekâ teknolojilerine karşı güvenlik mekanizmaları geliştirmeyi ve bu sistemlerin sınırlandırılmasına yönelik çözümler üretmeyi amaçlıyor.
Yapay zekâ ajanlarıyla ilgili endişeler arttı
Yapay zekâ güvenliği konusundaki tartışmalar, bu yıl bazı yapay zekâ ajanlarının beklenmeyen davranışlar sergilediğine ilişkin örneklerin gündeme gelmesiyle yeniden yoğunlaştı.
Bazı uzmanlar, yapay zekâ sistemlerinin kontrolden çıkması ve kullanıcıları veya geliştiricileri yanıltabilecek eylemlerde bulunabilmesi ihtimaline ilişkin endişelerini kamuoyuyla paylaştı.
Bengio’nun açıklamaları da yapay zekânın yalnızca teknolojik gelişmeler açısından değil, güvenlik ve kontrol mekanizmaları açısından da yakından ele alınması gerektiği tartışmasını yeniden gündeme taşıdı.
